大數據架構師的基本職責

大數據架構師的基本職責 篇1

職責：

1.負責整個大數據平台架構的設計和構建;

2.負責構建大數據平台的數據交換、任務調度等通用平台;

3.制定開發、測試、實施、維護的標準和規範，指導和培訓工程師，不斷提升團隊能力。

4.參與系統需求分析、架構設計、技術選型、套用設計與開發以及測試與部署，負責編寫核心部分代碼。

5.持續挑戰新的技術方向，攻克大數據量、高並發、高可用、可擴展等技術難點。

任職要求：

1.3年以上大數據架構經驗，豐富的數據倉庫、數據挖掘、機器學習項目經驗

2.大規模數據處理的架構和設計實戰經驗

3.精通Spark、MR，熟練HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，並具有豐富的大型數據平台工程經驗

4.深刻理解大數據處理(流計算，分散式計算，分散式檔案系統，分散式存儲等)相關技術和實現方法

5.熟悉主數據、元數據、數據質量等企業數據管理相關的體系和方法，熟練Linux/Unix平台上的開發環境

6.本科或以上學歷，計算機軟體或相關專業，豐富的java開發經驗和網際網路背景優先。

7.具有比較強的問題分析和處理能力，有比較優秀的動手能力，熱衷技術，精益求精

大數據架構師的基本職責 篇2

職責：

1、負責公司的大數據處理框架的研發設計工作，梳理可實現方案和技術規範;

2、開發、完善公司大數據平台;參與公司離線、實時大數據處理系統的設計、開發、測試及多個業務模組的自動化集成;

3、負責業務平台數據統計分析模組的設計與規劃;

4、負責公司產品研發過程中的數據及存儲設計;

5、帶領和培養團隊完成組織分解的目標;

任職要求：

1、統招本科及以上學歷，計算機、軟體工程相關專業，至少8年以上工作經驗，5年以上大數據開發經驗;

2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關技術的基礎架構

3、熟悉數據倉庫，數據算法，分散式計算技術理論，具有大數據整體系統架構設計經驗;

4、熟悉Linux系統，熟練使用shell/perl/python腳本處理問題;

5、對深度學習框架(Tensorflow)和機器學習(svm 隨機深林貝葉斯等)有一定了解的優先;

6、能夠組織項目開發組協同工作，包括團隊溝通、計畫、開發環境管理等

大數據架構師的基本職責 篇3

職責:

1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和最佳化、系統測試等相關工作

2、與數據專業委員會一起研究數據建模方案和建模工具，負責產品線產品的數據架構、數據模型設計

3、參與研究資料庫之間的數據轉換方式，參與項目中的數據移植工作，收集在項目中的數據移植經驗，最佳化產品的數據模型

4、負責培訓本部門隊伍的數據模型基礎理論工作，建立數據模型團隊

崗位要求：

1、統招本科學歷，3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗，具備大型數據倉庫邏輯模型和物理模型設計經驗，精通SQL，有較好的SQL性能調優經驗;

2、擁有Python，R等數學建模工具的使用經驗，並具備一定的數據處理和建模經驗，可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法並對其進行完整的解釋和說明;

3、熟悉統計學基本原理，做過實戰的數據建模項目;

4、有分散式數據倉庫建設相關經驗者優先，具備電信行業數據倉庫建設相關經驗者優先;

大數據架構師的基本職責 篇4

職責：

1、負責大數據平台的架構設計、核心代碼開發等任務;根據項目要求編寫相關技術文檔;

2、負責大數據平台的架構評審，代碼評審，上線評審;參與數據套用需求、設計、審核和評審;

3、負責核心模組研發，負責大數據平台的搭建，完成系統調試、集成與實施;

4、負責建立和維護大數據平台技術標準規範，指導開發人員編寫代碼;

任職要求：

1、本科及以上計算機相關專業畢業;

2、精通離線和實時數據處理流程，掌握離線數據處理框架hive、impala、spark-sql等，掌握實時數據處理常用技術工具，包括Storm、SparkStreaming等;

3、熟悉大數據技術生態圈，精通大數據技術架構，有大數據平台構建經驗;

4、掌握常見數據流接入工具，包括Flume、kafka等;

5、熟練掌握基本的Linux作業系統和某種腳本語言編程(如Shell等);

6、掌握一種或以上實時處理語言，如JAVA、SCALA、PYTHON等，有SCALA經驗者優先;

7、有實際大規模數據(TB級以上)處理經驗優先;

大數據架構師的基本職責 篇5

職責：

1. 深刻理解政府行業業務模式，構建政府行業的數據模型，制定公司大數據技術發展路線;

2. 對接業務研究和技術部門，主動蒐集和轉化需求，組織數據中心業務開發，進行數據相關產品需求分析和設計;

3. 搭建數據倉庫，研發資料庫管理系統，蒐集、提取、處理業務積累的海量數據，開展數據分析和挖掘;

4. 根據公司戰略和發展需要，規劃數據中心重點工作和任務;落實部門人員、事務管理，開展跨部門、跨地區協作，協助對外交流與合作。

職位要求：

1. 5年以上相關工作經驗，有團隊管理和項目管理經驗者優先;

2.了解政府運作機制，掌握財政行業知識，有電子政務行業經驗者優先;

3. 熟練掌握使用Java或Python,精通資料庫查詢語言如SQL，Oracle等,在機器學習模型和算法方向有套用經驗者優先;

4. 具備數據中心產品策劃整體思維，有大數據處理、分析、挖掘經驗者優先;

5. 邏輯思維嚴密，具備業務抽象、分解和標準化的能力，口頭和書面表達優秀;

6. 有較強的大局意識和良好的團隊合作意識，富有領導力，具備優秀的人際交往和溝通能力。

大數據架構師的基本職責 篇6

1、負責大數據平台的架構設計、核心代碼開發等任務；根據項目要求編寫相關技術文檔；

2、負責大數據平台的架構評審，代碼評審，上線評審；參與數據套用需求、設計、審核和評審；

3、負責核心模組研發，負責大數據平台的搭建，完成系統調試、集成與實施；

4、負責建立和維護大數據平台技術標準規範，指導開發人員編寫代碼；

大數據架構師的基本職責 篇7

職責：

1、負責大數據開發團隊建設;

2、負責行業大數據產品架構設計與研發;

3、負責帶領團隊進行行業大數據產品關鍵技術攻關。

任職要求：

1、有三年以上大數據套用、開發經驗;具備海量數據加工處理(ETL)相關經驗，對數據挖掘及機器學習有較為深刻的理解;

2、熟悉Hadoop相關技術，對HDFS、MapReduce、Hive、HBase有一定的使用和開發經驗;

3、熟悉Linux，熟練使用Shell或Python，進行腳本編寫;

4、對數據結構和數據統計分析算法有較為深刻理解;

5、掌握至少一種主流關係資料庫開發技術：Oracle、SQL Server、MySQL等;

6、掌握實時流計算技術，有Spark、Storm開發經驗者優先;

7、需要具備2年以上研發團隊管理經驗。

大數據架構師的基本職責 篇8

職責：

1. 負責大數據基礎平台、海量數據存儲/處理分散式平台、數據分析系統架構設計和研發;

2. 負責實時計算平台基礎架構設計、部署、監控、最佳化升級;

3. 制定項目/數據倉庫設計及實現規範，指導設計研發和部署;

4. 協助策略和算法團隊工作，保障數據挖掘建模和工程化;

5. 深入研究大數據相關技術和產品，跟進業界先進技術;

任職要求：

1. 全日制本科及以上學歷，5年以上軟體和分散式系統研發經驗，3年以上大數據系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備良好的系統分析能力、故障診斷能力;

4 有大數據策略、算法、可視化經驗優先。

大數據架構師的基本職責 篇9

職責

1、參與打造數據中內容的規劃、設計、開發和最佳化工作，實現高質量數據的互通與共享;

2、參與數據模型體系構建及數據主題設計和開發，搭建離線、實時數據公共層;

3、參與數據產品與套用的數據研發，發掘數據商業價值，打造極致體驗的數據產品;

4、深入理解數據產品的使用場景，為業務方在可用性、成本上做更好的設計做參考;

5、團隊成員的搭建與培養，任務劃分，進度監控，代碼規範，質量保證。

任職要求

1、熟悉數據倉庫建模理論，3年以上相關領域實踐經驗;

2、Hadoop、Hive、Hbase、Storm、Spark等技術框架;

3、精通Java、Python、Scala、go等開發語言中的1到2種;

4、熟練使用Python/Java/scala或其他語言進行複雜業務邏輯的數據處理工作，具備海量數據處理以及性能最佳化的能力;

5、對MySQL、Redis、HBase等資料庫有一定的了解和使用經驗;

6、對olap，多維分析及kylin熟悉的更好;

7、思路清晰，具備良好的溝通能力和理解能力，較強的學習能力以及快速解決問題的能力;

8、對新技術，新事物有很好的探索和求知慾;

9、熟悉常規的機器學習算法：降維(PCA、SVD)、SVM、邏輯回歸(LogisticsRegression)、決策樹(GBDT、RandomForest)、關聯規則(Apriori、FP-Growth)、聚類(K-Means)等優先。

大數據架構師的基本職責 篇10

職責：

1、負責規劃科技大數據平台及科技數據入庫自動化的方案設計;

2、負責大數據平台的開發和維護，以及對外服務接口的開發;

3、負責大數據平台的最佳化和改進工作。

任職要求

1、計算機相關專業本科及以上學歷，5年以上開發經驗，其中3年以上為網際網路、大數據相關的開發經驗;

2、熟知Hadoop生態圈體系，精通Hadoop/Spark/Storm/Kafka中的一項或幾項，深刻理解MapReduce的運行原理和機制，有MPI經驗者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相關資料庫的構建和操作，尤其是資料庫集群的構建和操作，熟悉Neo4j者尚佳;

4、具有機器學習相關項目經驗者優先。

大數據架構師的基本職責 篇11

職責：

1、負責公司的大數據平台的數倉架構、系統架構設計;

2、負責帶領團隊完成輿情分析相關的挖掘方案設計;

3、負責大數據研發組團隊管理;

4、負責帶領團隊完成輿情平台的方案文檔撰寫、疊代開發;

5、負責研發規範制定，研究行業前沿技術;

6、參與產品規劃及設計討論。

任職要求：

1、本科五年工作經驗及以上，有至少五年的大數據技術實踐經驗，有NLP或AI相關經驗;

2、有很強的架構設計能力和良好的表達能力;

3、有一定的項目管理及團隊管理能力;

4、精通Hadoop、Spark生態圈中的常用組件原理及套用;

6、理解媒體業務，精通數據倉庫的規劃和設計;

5、精通掌握Java或Python編程，有性能調優能力;

4、熟悉NLP算法原理及套用;

6、對新生事物或者新技術有濃厚興趣，學習能力強。

大數據架構師的基本職責 篇12

職責：

1.負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

2.負責統一數據平台項目的整體評估、設計、架構及關鍵模組的開發，不斷提升系統的穩定性和效率;

3.負責架構最佳化及系統關鍵模組的設計開發，協助團隊解決開發過程中的技術難題;

4.建立良好的公司內外的業界技術影響力;有效輔導團隊，提升數據研發能力;

任職要求：

1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力，善於從複雜的數據問題中找到關鍵路徑;

3.熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於：hadoop、storm、spark、等;

4. 良好的邏輯思維能力，良好的業務解讀能力，懂電力或通信業務優先;

5.具有鑽研精神，樂於接受挑戰;

大數據架構師的基本職責 篇13

職責：

1、負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

2、負責公司項目的整體評估、設計、架構及關鍵模組的開發;

3、負責架構最佳化，協助團隊解決開發過程中遇到的技術難題;

4、負責新技術的調研和大數據相關開源組件的研究，並能在團隊進行推廣套用;

5、參與數據分析、數據建模、項目核心模組及核心框架的開發;

6、負責大數據平台的性能條有和問題診斷。

任職要求：

1、計算機相關專業，本科及以上學歷，3-5年以上工作經驗，2-3年大數據相關經驗;

2、具有紮實的大數據和數據倉庫理論功底，負責過大數據平台或數據倉庫設計;

3、對基於Hadoop的大數據體系有深入的認識，具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目套用研發經驗，有Hadoop集群搭建和管理經驗，度過Hadoop和Spark源碼;

4、熟悉Linux和Python語言，了解Scala原理和底層技術;

5、熟悉分散式系統的架構及對其進行設計和最佳化，對海量數據的清晰、分析處理及存儲有相關的實戰經驗;

6、算法基礎紮實，熟悉常見的數據結構，深入理解分散式算法和以上提到的分散式系統，

7、必須有一線coding的能力;

8、有統計學、數學知識，海量數據處理、分析和挖掘，大型網際網路公司從業經歷著優先。

大數據架構師的基本職責 篇14

職責

1、負責公司大數據平台的整體架構設計，包含數據收集、數據存儲、數據挖掘、數據輸出;

2、負責規劃從數據源到數據套用的整體流程，並參與用戶產品和數據產品的決策;

3、負責海量數據分析、用戶行為分析，構建用戶數據模型;

4、負責解決核心技術問題，對技術方案進行決策;

5、技術團隊管理。

6、熟悉手機IOS、安卓系統APP開發

任職資格

1、計算機相關專業畢業，本科以上學歷;

2、5年以上相關工作經驗，具備軟體產品架構設計經驗，熟練掌握高性能、高擴展性架構設計方法;

3、熟練掌握java或c++任意一門語言、熟悉linux作業系統;

4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大數據技術，並能夠基於上述項目開發大數據相關套用;

5、熟悉基本數據挖掘方法和技術;

6、強烈的敬業精神，良好的溝通與協調能力，能有效組織協調團隊完成各類開發工作;

7、熱愛技術，相信數據的價值，對大數據有深刻的理解。

大數據架構師的基本職責 篇15

1)負責大數據平台系統架構設計、核心開發工作(Hadoop&Spark技術方向)，基於業務場景設計最優的系統解決方案。

2)構架支持大數量級的數據的大數據平台系統，及相關監控，拓展系統設計及實現。

3)利用Hadoop、Spark等大數據技術對海量數據進行處理，支持BI和數據科學(建模)的套用實現。

4)對現有系統的進行架構深入分析及系統最佳化，進一步提升系統的性能及數據處理能力。

大數據架構師的基本職責 篇16

職責：

根據大數據業務需求，設計大數據方案及架構，實現相關功能;

搭建和維護大數據集群，保證集群規模持續、穩定、高效平穩運行;

負責大數據業務的設計和指導具體開發工作;

負責公司產品研發過程中的數據及存儲設計;

針對數據分析工作，能夠完成和指導負責業務數據建模。

職位要求：

計算機、自動化或相關專業(如統計學、數學)本科以上學歷，3年以上大數據處理相關工作經驗;

精通大數據主流框架(如 Hadoop、hive、Spark等);

熟悉 MySQL、NoSQL(MongoDB、Redis)等主流資料庫，以及rabbit MQ等佇列技術;

熟悉hadoop/spark生態的原理、特性且有實戰開發經驗;

熟悉常用的數據挖掘算法優先.

大數據架構師的基本職責 篇17

職責：

1.參與公司數據平台系統規劃和架構工作，主導系統的架構設計和項目實施，確保項目質量和關鍵性能指標達成;

2.統籌和推進制造工廠內部數據系統的構建，搭建不同來源數據之間的邏輯關係，能夠為公司運營診斷、運營效率提升提供數據支持;

3.負責數據系統需求對接、各信息化系統數據對接、軟體供應商管理工作

5.根據現狀制定總體的數據治理方案及數據體系建立，包括數據採集、接入、分類、開發標準和規範，制定全鏈路數據治理方案;深入挖掘公司數據業務，超強的數據業務感知力，挖掘數據價值，推動數據變現場景的落地，為決策及業務賦能;

6.定義不同的數據套用場景，推動公司的數據可視化工作，提升公司數據分析效率和數據價值轉化。

任職要求：

1.本科以上學歷，8年以上軟體行業從業經驗，5年以上大數據架構設計經驗，熟悉BI平台、大數據系統相關技術架構及技術標準;

2.熟悉數據倉庫、熟悉數據集市，了解數據挖掘、數據抽取、數據清洗、數據建模相關技術;

3.熟悉大數據相關技術：Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;

4.熟悉製造企業信息化系統及相關資料庫技術;

5.具備大數據平台、計算存儲平台、可視化開發平台經驗，具有製造企業大數據系統項目開發或實施經驗優先;

6.對數據敏感，具備優秀的業務需求分析和報告展示能力，具備製造企業數據分析和數據洞察、大數據系統的架構設計能力，了解主流的報表工具或新興的前端報表工具;

7.有較強的溝通和組織協調能力，具備結果導向思維，有相關項目管理經驗優先。

大數據架構師的基本職責 篇18

職責：

1)負責大數據平台系統架構設計、核心開發工作(Hadoop&Spark技術方向)，基於業務場景設計最優的系統解決方案。

2)構架支持大數量級的數據的大數據平台系統，及相關監控，拓展系統設計及實現。

3)利用Hadoop、Spark等大數據技術對海量數據進行處理，支持BI和數據科學(建模)的套用實現。

4)對現有系統的進行架構深入分析及系統最佳化，進一步提升系統的性能及數據處理能力。

任職資格

1)統招本科或以上學歷，計算機相關專業， 5年以上軟體開發經驗、3年以上大數據項目經驗。

2)具備較豐富的大數據平台相關構建，維護及調優經驗，有大數據量級下的大數據集市相關經驗。

3)具備較豐富的基於Hadoop或Hive或Spark等大數據處理項目經驗，具備一定的數據挖掘經驗。

4) 具有阿里雲的EMR(emapreduce)的經驗者優先考慮。

5)具有良好的業務理解、溝通和協作能力，具有較強的學習和總結能力。

6)優秀的團隊合作精神、誠實、勤奮、嚴謹，敢於接受挑戰。

7)機器學習技術、數據挖掘經驗豐富者優先考慮。

大數據架構師的基本職責 篇19

職責：

1、負責大數據平台架構的評估、規劃和設計 ;負責海量數據採集、處理及存儲、套用方案的技術選型及架構實現;

2、開發大數據平台的核心代碼，負責大數據平台的搭建，完成系統調試、集成與實施，技術難題的解決，保證大數據產品的上線運行 ;

3、根據業務需求持續最佳化數據架構，保證產品的可靠性、穩定性 ;

4、指導開發人員完成數據模型規劃建設，分析模型構建及分析呈現 ，分享技術經驗;

5、負責大數據平台的架構評審，代碼評審，上線評審;參與數據套用需求、設計、審核和評審;

6、深入研究大數據相關技術和產品，跟進業界先進技術;

任職資格：

1.本科及以上學歷，數學或計算機相關專業畢業，不少於5年的工作經驗，具有紮實的計算機基礎理論知識;

2.有3年以上Hadoop、Spark、Hbase平台性能調優經驗;熟悉sparkstreaming等實時計算技術

3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等，具備實際項目設計及開發經驗;

4.熟悉sparkstreaming等相關的實時計算技術;

5.熟悉大規模數據挖掘、機器學習、自然語言處理、分散式計算中一項或多項技術，並具備多年的實際工作經驗;

6.熟悉主流關係型資料庫(Oracle、MySql)、NoSql資料庫，熟悉pl/sql編程;精通Linux作業系統，熟練使用Java;熟悉常用框架.如Spring、MyBatis等;

7.具有較強的執行力，高度的責任感、很強的學習、溝通能力，能夠在高壓下高效工作;

大數據架構師的基本職責 篇20

職責：

1.負責數據倉庫建設，基於數據驅動構建企業級數據模型，根據架構設計進行各層數據模型開發。

2.面向PB級別超大規模數據處理和查詢需求，設計適合業務變化的合理的多維數據分析系統架構，滿足多樣性需求。

3.構建設計良好的數據流、調度系統、查詢引擎、監控系統，保證系統穩定高效運行，以實現數據的最大價值。

4.指導團隊成員開展數據倉庫建設。

5.參與重點項目的評審，參與企業數據管理體系建設。

任職要求：

1.統招本科及以上學歷。

2.從事數據倉庫領域至少5年以上，熟悉數據倉庫模型設計與ETL開發經驗 ，掌握Kimball的維度建模設計方法，具備海量數據加工處理(ETL)相關經驗 。

3.具有一定數據模型和數據架構基礎，熟悉hadoop\hive和常用資料庫。

4. 精通SQL，有一定的SQL性能調優經驗，熟悉hive sql的開發。

5.具有管理團隊開發經驗，具備良好的組織能力、協調能力及項目管理能力。

6.具有較好的文字功底及語言表達能力，能夠快速、準確地理解需求。

7.具有專研、快速學習和創新精神，具備獨立分析問題和解決問題的能力。

8.具有責任心，時間觀念強，工作獨立性強，有良好的團隊合作精神。

9.全日制普通本科畢業。

大數據架構師的基本職責 篇21

職責：

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續最佳化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、資料庫設計以及大數據產品研發工作;

為套用開發團隊提供技術支撐。

任職要求：

本科及以上學歷，3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗，精通JAVA，熟悉Python Scala等程式語言;具備深厚的分散式系統或資料庫系統的理論基礎，熟悉分散式計算系統的工作機制，具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關套用或研究背景;

溝通能力較好，積極主動意識較強，責任心較強。

大數據架構師的基本職責 篇22

職責：

1、 基於公司大數據基礎和數據資產積累，負責大數據套用整體技術架構的設計、最佳化，建設大數據能力開放平台;負責大數據套用產品的架構設計、技術把控工作。

2、 負責制定大數據套用系統的數據安全管控體系和數據使用規範。

3、 作為大數據技術方案到產品實現的技術負責人，負責關鍵技術點攻堅工作，負責內部技術推廣、培訓及知識轉移工作。

4、 負責大數據系統研發項目任務規劃、整體進度、風險把控，有效協同團隊成員並組織跨團隊技術協作，保證項目質量與進度。

5、 負責提升產品技術團隊的技術影響力，針對新人、普通開發人員進行有效輔導，幫助其快速成長。

任職資格：

1、 計算機、數學或相關專業本科以上學歷，5-20xx年工作經驗，具有大型系統的技術架構\套用架構\數據架構相關的實踐工作經驗。

2、 有分散式系統分析及架構設計經驗，熟悉基於計算集群的軟體系統架構和實施經驗。

3、 掌握Hadoop/Spark/Storm生態圈的主流技術及產品，深入了解Hadoop/Spark/Storm生態圈產品的工作原理及套用場景。

4、 掌握Mysql/Oracle等常用關係型資料庫，能夠對SQL進行最佳化。

5、 熟悉分散式系統基礎設施中常用的技術，如快取(Varnish、Memcache、Redis)、訊息中間件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有實踐經驗者優先。

6、 熟悉Linux，Java基礎紮實，至少3-5年以上Java套用開發經驗，熟悉常用的設計模式和開源框架。

大數據架構師的基本職責 篇23

職責:

1、對業務需求深入分析，從而進行大數據平台核心套用的架構設計、開發和技術支持;

2、規劃業務套用系統和基礎平台的技術架構，參與需求分析、建模、架構設計、技術決策以及詳細設計;

3、把握複雜系統的設計，確保系統的架構質量，編寫核心部分代碼;

4、帶領團隊攻克例如大數據量、高並發、高穩定性等帶來的各種挑戰及技術難關;

5、在大數據平台建設路線圖指導下，進行架構實施和交付物投遞，同時確保研發質量和方向的準確性;

6、進行團隊技術的培訓和梯隊建設崗位要求;

任職條件:

1、本科或以上學歷，計算機相關專業，8年以上研發經驗，3年以上大數據平台相關工作經驗;

2、精通Java開發技術，熟悉Shell、Scala語言和PYTHON優先;

3、編程基礎紮實，熟悉I/O、多執行緒、集群等基礎框架和原理，熟悉分散式、快取、訊息等機制;

4、熟悉常用設計模式，代碼評審規則，單元測試，持續集成;

5、熟悉AWS雲服務或阿里雲服務;

6、熟悉容器技術原理、生態系統，熟悉Docker、Mesos、Kubernetes等容器系統、大規模容器資源調度系統、分散式套用生命周期。

大數據架構師的基本職責 篇24

1、負責公司大數據處理框架研發工作，設計與開發分散式存儲、數據處理與分析架構。

2、負責大數據平台與產品和相關技術的追蹤及研究。

3、負責大數據的處理工作，以及業務數據提取、載入、轉換處理流程的開發和最佳化。

4、利用大數據平台工具對數據維護。

5、負責相關項目的技術支持和服務。

6、持續對系統的技術架構進行改進和最佳化。

大數據架構師的基本職責 篇25

1、正確理解業務需求，對需求進行工作量評估；

2、參與項目相關的需求、設計、投產手冊等文檔的編寫；

3、根據進度計畫，完成所承擔功能模組的`設計、開發、單元測試、聯調測試；

4、配合測試組修復代碼缺陷，確保功能實現與代碼質量；

5、負責所承擔功能模組投產、部署，及上線後的日常維護；

6、完成項目經理或者架構師安排的其他工作；

大數據架構師的基本職責 篇26

職責:

1、 負責大數據倉庫、數據集市的規劃及實現，負責大數據中台的設計和核心開發工作;

2、 負責數據基礎架構和數據處理體系的升級和最佳化，不斷提升系統的穩定性和效率，為公司的業務提供大數據底層平台的支持和保證;

3、 大數據平台的數據採集、處理、存儲以及挖掘分析的架構實現;

4、 研究未來數據模型和計算框架的創新與落地，包括但不限於以下領域：大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面,參與制定並實踐團隊的技術發展路線

任職資格:

1、 精通數據建模、數據標準管理、元數據管理、數據質量管理;

2、 有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

3、 熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於：hadoop、flink、spark等;

4、 性格積極樂觀，誠信，能自我驅動，有較強的語言表達能力;具備強烈的進取心、求知慾及團隊合作精神;具有良好的溝通、團隊協作、計畫和創新的能力; 在數據業界有一定的影響力優先，具有風控經驗背景的人優先;

5、 具備獨立的深度思考能力，給出結合實際情況的較為理想的技術解決方案。

大數據架構師的基本職責 篇27

職責：

1.負責公司新業務方向平台大數據基礎架構的搭建及後期數據處理體系的升級和最佳化，不斷提升系統的穩定性和效率。為公司未來方向性產品提供大數據底層平台的支持和保證。

2.負責制定大數據平台調用約束和規範;

3.負責大數據方向技術難題的解決，以及代碼質量的把控;

4.作為大數據開發團隊的leader,負責大數據系統平台開發團隊建設與人才梯隊培養，分享技術經驗，撰寫相關技術文檔指導和培訓工程師。

任職要求：

1.熱衷於大數據技術，並能平衡大數據性能、穩定性、擴展性多重要素進行設計和最佳化;

2.熟悉伺服器基本知識，能夠評估系統硬體性能瓶頸;

3.掌握Linux作業系統的配置，管理及最佳化，能夠獨立排查及解決作業系統層的各類問題，並能提供解決問題的理論依據;

4.精通Java伺服器編程，熟悉JVM原理，對數據結構和算法設計有較為深刻的理解;

5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底層架構，熟悉原理、源碼、集群部署，包括參數最佳化、Bug修復，貢獻過代碼或提交過bug者優先

6.具備數據中心資源管理、監控、調度等系統研發經驗者優先，具備分散式系統研發經驗者優先;

7.具有套用大數據技術處理的項目開發、維護超過兩年的經驗者優先;

8.具有良好的文檔編寫能力，可進行方案設計、架構設計。

大數據架構師的基本職責 篇28

職責：

負責大數據平台架構的規劃和設計，主導系統的架構設計和核心模組開發，確保項目質量和關鍵性能指標達成;

負責大數據平台技術框架的選型與技術難點攻關,指導開發大數據平台的開發，保證大數據產品的上線運行;

負責深入理解業務需求，對業務建模，設計系統架構，滿足業務需求;

負責協助策略和算法工作,保障數據挖掘建模和工程化;

負責根據業務需求整合最佳化數據架構，保證產品的可靠性、穩定性;

負責指導開發人員完成數據模型規劃建設、分析模型構建及分析呈現;

負責研發技術發展方向，新技術領域的探索，將新技術套用到公司大數據平台，提升公司效能

任職要求：

本科及以上學歷，擁有5年以上大數據平台產品或分散式系統設計經驗,6年以上的開發經驗;

精通Hadoop，熟悉大數據生態技術，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等，有大規模集群架構、開發及運維經驗;

熟練掌握java/Scala語言,實現面向對象開發思想OOA,OOD,OOP;

熟悉linux作業系統,熟練掌握腳本言語Shell/Perl/Python等編碼語言;

熟練掌握數據倉庫設計，開發工作。能夠根據業務設計並開發數據倉。

具備源碼級問題解決和集群最佳化改造能力者優先;

能快速的學習新的開源框架和知識體系，並套用到現有架構體系中;

邏輯清晰，快速的學習能力，良好的溝通能力、團隊協調能力。

具備良好的團隊合作精神，較強的溝通交流能力，具備良好的技術領導能力;

具備良好的文檔撰寫能力和技術團隊管理能力

大數據架構師的基本職責 篇29

職責：

1、負責大數據平台的技術選型，基於Spark、Hadoop大數據平台建設和開發;

2、完成包括數據模型設計、數據採集、數據存儲等方面的大數據系統架構的設計和數據層架構設計;

3、構建數據中台，為多種行業套用提供主數據(畫像標籤/關係圖譜)、數據模型、人工智慧業務算法及數據服務。

4、對海量數據處理的業務需求進行評估和方案設計、拆分任務並指導工程師完成開發;

5、帶領大數據技術團隊提供並實現大數據平台上各項數據分析和數據可視化的架構設計，支撐解決方案實施。

任職要求：

1、本科及以上學歷，具有5年及以上大數據架構設計和開發經驗;2年及以上帶領團隊經驗;溝通能力強。在大型網際網路企業從事大數據架構設計者優先考慮;有分散式大型商業軟體系統設計經驗、主導過大型商業軟體的架構設計並取得過市場商業成功者優先考慮;

2、熟悉整個大數據的完整處理流程，包括數據的採集、清洗、預處理、存儲、分析挖據、機器學習和數據可視化;

3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流資料庫的使用，並能進行性能調優;

4、具備優秀的團隊意識和溝通能力，學習能力和主動性強，具有鑽研精神，充滿激情，樂於接受挑戰。

大數據架構師的基本職責 篇30

職責：

(1) 負責公司大數據平台搭建，相關的設計和技術開發工作，負責大數據存儲系統、分散式計算系統、數據集成、挖掘算法等的設計、研發以及維護、最佳化工作;

(2) 通過數據分析技術，挖掘有利於行銷中各業務場景的變數或規則類標籤，以提升模型效果，為文旅、教育業務提供數學模型理論及編程支撐;

(3) 對接溝通業務系統研發團隊和產品部門，提供數據驅動方面的專業諮詢方案，並對業務的大數據套用場景提出建設性意見;

(4) 配合部門領導進行項目需求分析、設計開發工作。

任職要求：

(1) 計算機、統計學，數學等相關專業本科以上學歷，5年以上大數據或文旅、教育數據產品設計開發經驗，高效高質量產出需求和技術文檔;

(2) 精通Hadoop，熟悉大數據生態技術，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等，有大規模集群架構、開發及運維經驗;熟悉HDFS/MapReduce等;

(3) 熟悉Java，能夠獨立套用python、R、SAS或類似分析工具進行數據分析;

(4) 熟悉大數據挖掘、可視化分析，各種BI算法和產品等，在計算廣告、搜尋引擎、推薦系統、用戶畫像等有一個或多個算法領域的研發經驗，能夠運用數據作為產品解決業務方運營及決策問題;

(5) 有網際網路行業工作經驗者優先，有海量數據的機器學習算法實踐經驗優先;

(6) 工作認真、負責，有良好的團隊合作精神，良好的分析能力、溝通技巧。

大數據架構師的基本職責 篇31

1.負責大數據平台的基礎技術規劃，編制相關規範文檔。

2.負責大數據平台的數據採集，處理，存儲以及挖掘分析的架構實現。

3.負責大數據平台的實際規劃建設，包括環境和框架的規劃搭建以及部分核心編碼工作。

4.負責大數據相關技術發展方向的預研。

5.參與業務需求調研，根據需求及行業特點設計大數據解決方案並跟進具體實施項目。

6.制定大數據平台中數據質量，業務質量監控及管理辦法。

大數據架構師的基本職責 篇32

1、負責大數據項目技術架構評估與設計；

2、負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控；

3、負責對使用關鍵技術的預研和選型，完成PoC；

4、指導工程師完成開發工作，並能分享技術經驗。

大數據架構師的基本職責 篇33

職責：

1、大數據平台架構規劃與設計;

2、負責大數據平台技術框架的選型與技術難點攻關;

3、能夠獨立進行行業大數據套用的整體技術框架、業務框架和系統架構設計和調優等工作，根據系統的業務需求，能夠指導開發團隊完成實施工作;

4、負責數據基礎架構和數據處理體系的升級和最佳化，不斷提升系統的穩定性和效率，為相關的業務提供大數據底層平台的支持和保證;

5、培養和建立大數據團隊，對團隊進行技術指導。

任職要求：

1、計算機相關專業的背景專業一類院校畢業本科、碩士學位，8年(碩士5年)以上工作經驗(至少擁有3年以上大數據項目或產品架構經驗);

2、精通Java，J2EE 相關技術，精通常見開源框架的架構，精通關係資料庫系統(Oracle MySQL等)和noSQL數據存儲系統的原理和架構;

3、精通SQL和Mapreduce、Spark處理方法;

4、精通大數據系統架構，熟悉業界數據倉庫建模方法及新的建模方法的發展，有DW，BI架構體系的專項建設經驗;

5、對大數據體系有深入認識，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數據技術，並能設計相關數據模型;

6、很強的學習、分析和解決問題能力，可以迅速掌握業務邏輯並轉化為技術方案，能獨立撰寫項目解決方案、項目技術文檔;

7、具有較強的內外溝通能力，良好的團隊意識和協作精神;

8、機器學習技術、數據挖掘、人工智慧經驗豐富者優先考慮;

9、 具有能源電力行業工作經驗者優先。