大數據架構師工作的崗位職責

大數據架構師工作的崗位職責 篇1

職責

1、負責大數據架構設計，包括定義數據的存儲、集成(ETL)、套用，支撐業務運營和數據分析類需求實現;

2、制定數據治理領域的數據體系化管理措施，包括元數據設計、數據標準、數據質量、數據處理、數據安全等工作，確保數據可信與安全;

3、基於行業數據積累，滿足業務的數據挖掘需求，實現從數據到資產的轉變，根據目標行業建立具有前瞻性的數據模型;

4、對各產品的數據安全負責，主導制定和實施資料庫系統安全策略，保證整體方案數據安全;

崗位要求

業務技能要求：

1、深入理解雲化、數據倉庫，在參與過的系統設計中，必須涉及這兩項關鍵技術;

n2、精通或者熟悉Hadoop體系架構，以及HDFS/HBase/Hive/MapReduce/Spark等技術，了解體系架構各組件的優缺點，有直接的產品設計與開發、部署、調優的經驗;

3、精通或熟悉常見RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜尋引擎(Solr/ElasticSearch)的使用及開發，了解各資料庫優缺點， 熟悉與架構設計相關的數據存儲、性能調優等相關領域知識，有相關項目經驗尤佳;

4、熟悉業界常用的數據採集、集成、數據存儲、計算、數據模型、數據分析的技術方案，具有數據分析或數據挖掘相關經驗者優先;

n5、熟悉數據治理相關流程，包括數據接入、數據處理、數據治理、數據組織、數據服務等。

專業知識要求：

1、具備數據治理的知識與體系方案，包含政策、組織、角色、流程、規範等，以及規劃相應的支撐方案。了解業界的數據管理方法論;

2、具備數據用例設計和開發能力。能夠基於業務相關數據進行業務需求分析和痛點識別，將業務需求轉化為數據的需求，完成數據用例的設計和開發;

3、精通海量數據(日增量百億)級別數據倉庫、數據集市的構建流程。熟悉公安、政務、工業、交通、醫療等多行業業務者優先。

大數據架構師工作的崗位職責 篇2

職責：

1、負責大數據平台技術框架的技術選型和搭建;

2、負責核心技術問題公關，建設高可靠性，擴展性及高性能大數據/數據套用平台;

3、負責規劃數據挖掘的整體流程，負責大數據開發團隊業務需求開發;

4、與其他團隊密切配合，尋求數據層面的業務價值，利用數據分析結論推動產品最佳化;

5、研究和分享大數據架構領域新技術。

任職要求：

1、計算機相關專業全日制統招本科及以上;

2、5年以上工作經驗，至少3年以上大數據項目相關工作經驗，能夠設計大型大數據系統的架構和技術方案;

3、精通Hadoop/Spark/Hbase/Hive等大數據技術,精通ETL技術;

4、熟悉數據挖掘，了解典型大數據算法和策略;

5、熟悉主流Java技術框架，精通關係型資料庫及SQL語言，熟悉NoSQL/JSON/XML;

6、有較強的學習能力和問題解決能力，邏輯嚴密、思路清晰;

7、有數據倉庫經驗者優先，有金融行業項目經驗者優先。

大數據架構師工作的崗位職責 篇3

職責：

1. 負責大數據平台的基礎技術規劃，編制相關規範文檔。

2. 負責大數據平台的數據採集，處理，存儲以及挖掘分析的架構實現。

3. 負責大數據平台的實際規劃建設，包括環境和框架的規劃搭建以及部分核心編碼工作。

4. 負責大數據相關技術發展方向的預研。

5. 參與業務需求調研，根據需求及行業特點設計大數據解決方案並跟進具體實施項目。

6. 制定大數據平台中數據質量，業務質量監控及管理辦法。

崗位要求：

1. 全日制本科及以上學歷，5年以上工作經驗，4年及以上大數據架構設計經驗，熟悉大數據解決方案，包括Hadoop平台、Spark、storm、機器學習、深度學習等大數據解決方案。

2. 深刻理解大數據處理(流計算、分散式計算、分散式檔案系統、分散式存儲等相關技術)實現方法。有架構和設計實踐經驗。

3. 精通大型資料庫Oracle、SqlServer等的開發。

4. 精通java，Python中的一種或多種語言。

5. 熟悉容器、虛擬化、微服務框架等相關技術。

6. 對數據敏感，有嚴謹的工作思路，良好的溝通能力和團隊合作精神。

7. 熟悉R，Python，SAS、SPSS等數據挖掘經驗者優先。

8. 高寬展性，高性能，和分散式系統的實踐及運維經驗者優先。

9. 有大型數據倉庫實施、大數據平台數據開發經驗，熟悉運營商業務者優先。

大數據架構師工作的崗位職責 篇4

職責：

1、負責spark, hadoop, flink等開發和最佳化。

2、參與前期需求溝通和分析，以產品化開發的思維，完成需求分解和數據架構設計。

3、與研發和數據科學家合作保證產品定義清晰，按時完成產品上線。

4、能夠洞察市場狀況，與各部門合作轉化為基於大數據挖掘的新策略或方案.

5、主動創造和發掘新的基於大數據挖掘產品商業模式.

任職要求：

1、全日制本科及以上學歷，計算機軟體相關專業，5年以上開發經驗，3年以上架構經驗

2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分散式數據存儲和分散式計算平台原理，流式計算開發，有開源二次開發經驗者優先。

3、精通大數據挖掘、機器學習.熟練掌握Java/Perl/Python至少一種程式語言。

4、具有數據挖掘和分析、機器學習等項目實施相關經驗者優先;

5、良好的跨部門溝通合作能力，解決不同觀點能力並取得結果。具備敏銳的網際網路產品理解力，學習能力和邏輯思維能力強;

6、較強的自我驅動力、推動和協調能力，強烈的責任心和團隊合作精神;

大數據架構師工作的崗位職責 篇5

職責：

1、負責DMP技術架構設計與構建，根據業務規劃及技術規劃制定套用架構方案;

2、負責設計構建DMP數據採集、存儲及分析框架，設計數據處理的技術流程和規範;

3、負責核心功能的架構與代碼模板編寫，開發與維護系統公用核心模組;

4、負責基於大數據技術的海量數據的自動化分析處理和統計工作。

崗位要求：

1、計算機或相關專業本科以上學歷，三年以上的開發經驗，二年以上大數據相關軟體架構的實際經驗;

2、精通大數據處理技術，熟悉Hadoop/Storm技術體系，有Hadoop、Hive、Hbase項目經驗;

3、具有較強的架構能力，具有分散式計算、實時計算、數據倉庫、數據挖掘系統的架構經歷優先;

4、對數據敏感，洞察力強，了解國內外廣告發展趨勢;

5.、擅長系統分析與設計，精通常用的設計模式，擅長性能調優;

6、熟悉DMP/RTB技術原理，了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業從業經歷。

大數據架構師工作的崗位職責 篇6

職責：

1. 負責大數據基礎和套用平台的整體規劃和架構設計，參與需求分析，架構設計，詳細設計以及技術選型決策

2. 參與數據挖掘和建模相關核心算法的代碼實現

3. 負責大數據算法平台的技術把關，性能調優，控制架構質量，解決項目技術難題;對研發項目和任務需求進行評估和方案設計、拆分任務並指導工程師完成開發

4. 帶領團隊提供並實現大數據算法平台上各項數據接入、數據挖掘分析及數據可視化的架構設計與能力，支持解決方案實施

5. 負責資料庫設計、套用架構設計、核心技術選型等工作

6. 協調解決開發中的技術問題、設計和監控運營指標，保障系統穩定運行

7. 培養，指導有能力的員工，指導工程師進行技術驗證實現，核心技術攻關，解決開發過程中的技術難題

任職要求：

1. 熟悉大數據和數據倉庫的系統架構設計方法

2. 熟練使用並理解HadoopSpark架構及生態。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)

3. 熟悉分散式系統架構，有分散式實時、離線和機器學習平台的架構和開發經驗，具備海量數據清洗、分析處理及存儲的實踐經驗

4. 熟練使用JAVA，具有大規模分散式系統調優經驗

5. 熟悉AI相關算法，熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優先;

6. 具備良好的團隊合作精神，對工作充滿激情。

7. 熟悉FusionInsight平台開發經驗者優先

大數據架構師工作的崗位職責 篇7

職責：

1、負責企業大數據平台的基礎建設、管理及制定拓展規劃;

2、負責大數據平台相關自動化服務工具的設計、開發;

3、參與Hadoop、Hbase、Spark等核心平台組件的開發、最佳化;

4、對平台特殊場景化的數據套用制定相關實踐方案;

5、大數據團隊的搭建。

任職資格:

1、統招本科以上學歷，計算機等相關專業，5年以上工作經驗;

2、具有Hadoop等大規模集群管理經驗、海量(PB)數據處理經驗;

3、精通Hadoop、Hive、Hbase等離線平台相關組件的原理機制;

4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分散式系統;

5、熟悉高並發、分散式開發等相關知識，具有後端服務最佳化相關經驗;

6、熟悉爬蟲常用框架以及反爬技術;

7、具有良好的溝通能力、分析問題與攻關問題的能力;

8、有責任心，工作積極，對新領域新技術有熱情。

大數據架構師工作的崗位職責 篇8

職責：

1.負責數據倉庫建設，基於數據驅動構建企業級數據模型，根據架構設計進行各層數據模型開發。

2.面向PB級別超大規模數據處理和查詢需求，設計適合業務變化的合理的多維數據分析系統架構，滿足多樣性需求。

3.構建設計良好的數據流、調度系統、查詢引擎、監控系統，保證系統穩定高效運行，以實現數據的最大價值。

4.指導團隊成員開展數據倉庫建設。

5.參與重點項目的評審，參與企業數據管理體系建設。

任職要求：

1.統招本科及以上學歷。

2.從事數據倉庫領域至少5年以上，熟悉數據倉庫模型設計與ETL開發經驗 ，掌握Kimball的維度建模設計方法，具備海量數據加工處理(ETL)相關經驗 。

3.具有一定數據模型和數據架構基礎，熟悉hadoop\hive和常用資料庫。

4. 精通SQL，有一定的SQL性能調優經驗，熟悉hive sql的開發。

5.具有管理團隊開發經驗，具備良好的組織能力、協調能力及項目管理能力。

6.具有較好的文字功底及語言表達能力，能夠快速、準確地理解需求。

7.具有專研、快速學習和創新精神，具備獨立分析問題和解決問題的能力。

8.具有責任心，時間觀念強，工作獨立性強，有良好的團隊合作精神。

9.全日制普通本科畢業。

大數據架構師工作的崗位職責 篇9

職責：

1、 基於公司大數據基礎和數據資產積累，負責大數據套用整體技術架構的設計、最佳化，建設大數據能力開放平台;負責大數據套用產品的架構設計、技術把控工作。

2、 負責制定大數據套用系統的數據安全管控體系和數據使用規範。

3、 作為大數據技術方案到產品實現的技術負責人，負責關鍵技術點攻堅工作，負責內部技術推廣、培訓及知識轉移工作。

4、 負責大數據系統研發項目任務規劃、整體進度、風險把控，有效協同團隊成員並組織跨團隊技術協作，保證項目質量與進度。

5、 負責提升產品技術團隊的技術影響力，針對新人、普通開發人員進行有效輔導，幫助其快速成長。

任職資格：

1、 計算機、數學或相關專業本科以上學歷，5-20xx年工作經驗，具有大型系統的技術架構\套用架構\數據架構相關的實踐工作經驗。

2、 有分散式系統分析及架構設計經驗，熟悉基於計算集群的軟體系統架構和實施經驗。

3、 掌握Hadoop/Spark/Storm生態圈的主流技術及產品，深入了解Hadoop/Spark/Storm生態圈產品的工作原理及套用場景。

4、 掌握Mysql/Oracle等常用關係型資料庫，能夠對SQL進行最佳化。

5、 熟悉分散式系統基礎設施中常用的技術，如快取(Varnish、Memcache、Redis)、訊息中間件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有實踐經驗者優先。

6、 熟悉Linux，Java基礎紮實，至少3-5年以上Java套用開發經驗，熟悉常用的設計模式和開源框架。

大數據架構師工作的崗位職責 篇10

職責：

1.負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

2.負責統一數據平台項目的整體評估、設計、架構及關鍵模組的開發，不斷提升系統的穩定性和效率;

3.負責架構最佳化及系統關鍵模組的設計開發，協助團隊解決開發過程中的技術難題;

4.建立良好的公司內外的業界技術影響力;有效輔導團隊，提升數據研發能力;

任職要求：

1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力，善於從複雜的數據問題中找到關鍵路徑;

3.熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於：hadoop、storm、spark、等;

4. 良好的邏輯思維能力，良好的業務解讀能力，懂電力或通信業務優先;

5.具有鑽研精神，樂於接受挑戰;

大數據架構師工作的崗位職責 篇11

職責：

1、負責公司的大數據平台的數倉架構、系統架構設計;

2、負責帶領團隊完成輿情分析相關的挖掘方案設計;

3、負責大數據研發組團隊管理;

4、負責帶領團隊完成輿情平台的方案文檔撰寫、疊代開發;

5、負責研發規範制定，研究行業前沿技術;

6、參與產品規劃及設計討論。

任職要求：

1、本科五年工作經驗及以上，有至少五年的大數據技術實踐經驗，有NLP或AI相關經驗;

2、有很強的架構設計能力和良好的表達能力;

3、有一定的項目管理及團隊管理能力;

4、精通Hadoop、Spark生態圈中的常用組件原理及套用;

6、理解媒體業務，精通數據倉庫的規劃和設計;

5、精通掌握Java或Python編程，有性能調優能力;

4、熟悉NLP算法原理及套用;

6、對新生事物或者新技術有濃厚興趣，學習能力強。

大數據架構師工作的崗位職責 篇12

職責：

1、負責公司大數據平台架構的技術選型和技術難點攻關工作;

2、依據行業數據現狀和客戶需求，完成行業大數據的特定技術方案設計與撰寫;

3、負責研究跟進大數據架構領域新興技術並在公司內部進行分享;

4、參與公司大數據項目的技術交流、解決方案定製以及項目的招投標工作;

5、參與公司大數據項目前期的架構設計工作;

任職要求：

1、計算機及相關專業本科以上，5年以上數據類項目(數據倉庫、商務智慧型)實施經驗，至少2年以上大數據架構設計和開發經驗，至少主導過一個大數據平台項目架構設計;

2、精通大數據生態圈的技術，包括但不限於MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具備數據統計查詢性能最佳化能力。熟悉星環大數據產品線及有過產品項目實施經驗者優先;

3、優秀的方案撰寫能力，思路清晰，邏輯思維強，能夠根據業務需求設計合理的解決方案;

4、精通ORACLE、DB2、mySql等主流關係型資料庫，熟悉數據倉庫建設思路和數據分層架構思想;

5. 熟練掌握java、R、python等1-2門數據挖掘開發語言;

6. 熟悉雲服務平台及微服務相關架構思想和技術路線，熟悉阿里雲或騰訊雲產品者優先;

7、有菸草或製造行業大數據解決方案售前經驗者優先;

8、能適應售前支持和項目實施需要的短期出差;

大數據架構師工作的崗位職責 篇13

職責：

1.負責公司新業務方向平台大數據基礎架構的搭建及後期數據處理體系的升級和最佳化，不斷提升系統的穩定性和效率。為公司未來方向性產品提供大數據底層平台的支持和保證。

2.負責制定大數據平台調用約束和規範;

3.負責大數據方向技術難題的解決，以及代碼質量的把控;

4.作為大數據開發團隊的leader,負責大數據系統平台開發團隊建設與人才梯隊培養，分享技術經驗，撰寫相關技術文檔指導和培訓工程師。

任職要求：

1.熱衷於大數據技術，並能平衡大數據性能、穩定性、擴展性多重要素進行設計和最佳化;

2.熟悉伺服器基本知識，能夠評估系統硬體性能瓶頸;

3.掌握Linux作業系統的配置，管理及最佳化，能夠獨立排查及解決作業系統層的各類問題，並能提供解決問題的理論依據;

4.精通Java伺服器編程，熟悉JVM原理，對數據結構和算法設計有較為深刻的理解;

5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底層架構，熟悉原理、源碼、集群部署，包括參數最佳化、Bug修復，貢獻過代碼或提交過bug者優先

6.具備數據中心資源管理、監控、調度等系統研發經驗者優先，具備分散式系統研發經驗者優先;

7.具有套用大數據技術處理的項目開發、維護超過兩年的經驗者優先;

8.具有良好的文檔編寫能力，可進行方案設計、架構設計。

大數據架構師工作的崗位職責 篇14

職責：

負責大數據平台的規劃和搭建、完成大數據平台的日常運營工作，為數據分析和展現提供支持;

對系統框架相關技術和業務進行培訓，並負責核心代碼編寫，指導團隊開發及解決出現的系統問題;

參與基於大數據平台的創新業務場景進行數據產品的架構設計，負責數據產品的研發交付;

負責處理大數據平台的疑難問題，為數據團隊提供可靠的技術支持;

負責數據質量、穩定性等數據管理，數據內部共享融通的數據平台，讓數據標準更規範、數據獲取更高效;

及時跟進大數據領域新技術並分享，提升團隊技術能力。

任職要求：

本科或以上學歷，5年以上數據系統建設經驗，3年以上大數據架構設計經驗;

精通 java，python，scala 等一種大數據開發語言，熟悉Hadoop生態圈，包括但不限於hdfs，hive，spark， 有豐富的大數據項目的實踐經驗;

具備創新精神，條理清晰，溝通表達和邏輯思維能力強;

熟悉數據倉庫的設計和開發，對數據架構有深入的了解和具備相關的項目實踐經驗優先;

對SQL on Hadoop 的開源查詢引擎(如Presto、 Apache Drill ) 原理有深入研究優先;

有敏捷大數據和數據可視化實踐經驗優先。

大數據架構師工作的崗位職責 篇15

職責:

1、 負責大數據倉庫、數據集市的規劃及實現，負責大數據中台的設計和核心開發工作;

2、 負責數據基礎架構和數據處理體系的升級和最佳化，不斷提升系統的穩定性和效率，為公司的業務提供大數據底層平台的支持和保證;

3、 大數據平台的數據採集、處理、存儲以及挖掘分析的架構實現;

4、 研究未來數據模型和計算框架的創新與落地，包括但不限於以下領域：大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面,參與制定並實踐團隊的技術發展路線

任職資格:

1、 精通數據建模、數據標準管理、元數據管理、數據質量管理;

2、 有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

3、 熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於：hadoop、flink、spark等;

4、 性格積極樂觀，誠信，能自我驅動，有較強的語言表達能力;具備強烈的進取心、求知慾及團隊合作精神;具有良好的溝通、團隊協作、計畫和創新的能力; 在數據業界有一定的影響力優先，具有風控經驗背景的人優先;

5、 具備獨立的深度思考能力，給出結合實際情況的較為理想的技術解決方案。

大數據架構師工作的崗位職責 篇16

1. 負責數瀾大數據平台的架構設計和研發，建立數據生態服務，解決海量數據面臨的挑戰;

2. 管理和最佳化Hadoop、Spark等集群，計算作業的調優，保證集群和平台的高效和穩定;

3. 負責Hadoop、Spark、Flink的功能、性能和擴展，解決並實現業務需求;

4. 負責大數據產品的自動化、離線與實時計算、即席計算、數據質量、數據安全、機器學習等平台的設計和開發;

5. 調研和把握當前的最新技術，將其中的先進技術引入到自己的平台中，改善產品，提升競爭力;

大數據架構師工作的崗位職責 篇17

職責

1、負責企業級大數據平台、數據云服務的設計與開發;

2、基於大數據生態圈，支持智慧交通等大數據場景套用實現;

3、負責公司大數據產品的設計、封裝與落地;

4、負責學習大數據相關算法研究、實現與套用

任職要求

1、統招本科及以上學歷;2年以上智慧城市建設或交通行業信息化相關工作經驗，3年以上大數據架構設計、開發經驗;

2、精通大數據生態圈的技術，包括但不限於MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具備源碼級問題解決和集群最佳化改造能力;

3、熟悉常用程式語言，包括Java、Python、Scala等;

4、具有很強的技術研發和創新能力，能有效把握技術發展方向，有較強的執行能力、學習能力、溝通能力、適應能力，責任心強;

大數據架構師工作的崗位職責 篇18

職責：

1、負責大數據平台的技術選型，基於Spark、Hadoop大數據平台建設和開發;

2、完成包括數據模型設計、數據採集、數據存儲等方面的大數據系統架構的設計和數據層架構設計;

3、構建數據中台，為多種行業套用提供主數據(畫像標籤/關係圖譜)、數據模型、人工智慧業務算法及數據服務。

4、對海量數據處理的業務需求進行評估和方案設計、拆分任務並指導工程師完成開發;

5、帶領大數據技術團隊提供並實現大數據平台上各項數據分析和數據可視化的架構設計，支撐解決方案實施。

任職要求：

1、本科及以上學歷，具有5年及以上大數據架構設計和開發經驗;2年及以上帶領團隊經驗;溝通能力強。在大型網際網路企業從事大數據架構設計者優先考慮;有分散式大型商業軟體系統設計經驗、主導過大型商業軟體的架構設計並取得過市場商業成功者優先考慮;

2、熟悉整個大數據的完整處理流程，包括數據的採集、清洗、預處理、存儲、分析挖據、機器學習和數據可視化;

3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流資料庫的使用，並能進行性能調優;

4、具備優秀的團隊意識和溝通能力，學習能力和主動性強，具有鑽研精神，充滿激情，樂於接受挑戰。

大數據架構師工作的崗位職責 篇19

職責：

1、大數據平台的規劃、設計、實施，並最佳化資料庫;

2、對資料庫進行管理，負責資料庫套用系統的運營及監控;

3、對資料庫性能分析與調優，排錯，保證數據正確率;

4、配合其他部門進行的數據處理、查詢，統計和分析工作;

5、完成公司下達的項目開發任務。

任職要求：

1、計算機及相關專業本科以上學歷，5年以上軟體開發從業經驗，其中包括至少2年以上的大數據開發工作經驗;

2、熟悉hive,hadoop/spark,hbase等大數據相關技術架構，有管理或最佳化大型分散式集群經驗;

3、熟悉linux基本命令，精通SQL腳本的編寫，有豐富的資料庫管理、運維調優經驗;

4、熟悉C++、Java、C#等開發語言;

5、有網際網路電商行業大數據分析處理和大型數據倉庫的設計和實施經驗;

6、有分散式系統分析及架構設計經驗和大型計算集群的基礎設施開發維護經驗;

7、快速處理系統突發事件的能力，較強的學習和創新能力;

8、良好的溝通能力和團隊合作精神。

大數據架構師工作的崗位職責 篇20

職責：

1)負責大數據平台系統架構設計、核心開發工作(Hadoop&Spark技術方向)，基於業務場景設計最優的系統解決方案。

2)構架支持大數量級的數據的大數據平台系統，及相關監控，拓展系統設計及實現。

3)利用Hadoop、Spark等大數據技術對海量數據進行處理，支持BI和數據科學(建模)的套用實現。

4)對現有系統的進行架構深入分析及系統最佳化，進一步提升系統的性能及數據處理能力。

任職資格

1)統招本科或以上學歷，計算機相關專業， 5年以上軟體開發經驗、3年以上大數據項目經驗。

2)具備較豐富的大數據平台相關構建，維護及調優經驗，有大數據量級下的大數據集市相關經驗。

3)具備較豐富的基於Hadoop或Hive或Spark等大數據處理項目經驗，具備一定的數據挖掘經驗。

4) 具有阿里雲的EMR(emapreduce)的經驗者優先考慮。

5)具有良好的業務理解、溝通和協作能力，具有較強的學習和總結能力。

6)優秀的團隊合作精神、誠實、勤奮、嚴謹，敢於接受挑戰。

7)機器學習技術、數據挖掘經驗豐富者優先考慮。

大數據架構師工作的崗位職責 篇21

職責：

1.能夠帶領技術人員基於hadoop平台進行海量數據套用系統開發;

2.負責結構化和非結構化數據的解析和清洗,海量數據查詢和報表展現;

3.負責超大規模數據平台的搭建、維護和最佳化;

4.負責大數據採集、存儲框架研究，參與線上或離線數據存儲模型設計;

5.負責大數據平台新技術的開發使用和性能最佳化，測試。

任職資格：

1.計算機相關專業本科及以上學歷;

2. 熟悉hadoop相關各種開源項目，比如HDFS/Hive/Hbase等有實際套用。(5年以上開發經驗者優先);

3.兩年以上熟練編寫mapreduce代碼經驗，有三年以上網路日誌分析、ETL經驗。熟悉日誌分析框架chukwa,flume,scribe者優先;

4.兩年以上海量數據存儲的安裝部署、最佳化、二次開發經驗，對大規模數據存儲、傳輸、處理等有豐富的經驗;

5.在數據挖掘、數據密集型處理、分散式計算、格線計算領域有深入理論基礎;

6.具有較強的文檔撰寫能力，較強的團隊精神和合作精神，對工作有熱情，能承受壓力。

大數據架構師工作的崗位職責 篇22

職責：

1. 負責設計企業級大數據平台的整體架構，從技術層面制定清晰的大數據產品與系統技術架構，並負責實現關鍵技術和產品。

2. 負責設計具有創新價值的大數據底層平台、大數據上層套用系統等，帶領團隊完成有質變的技術解決方案。

3. 負責組織同事研究行內最前沿的技術發展方向，突破現有的技術難題。

4. 負責研究院對外項目合作協調與支持，編寫項目建設方案及後期項目建設支持。

任職要求：

1. 碩士及以上學歷，計算機相關專業。

2. JAVA基礎紮實,不少於8年的一線開發經驗，精通Spring boot/MyBatis/Restful API的開發與管理. 熟悉ReactJS/Angular/Vue之一前端開發技術，熟悉Maven或Ant.，熟悉Python語言開發加分。

3. 不少於4年大數據的直接研發經驗，精通Hadoop/Spark系統，有hands-on的架構設計、性能調優、開發經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統的開發經驗。

4. 掌握分散式系統原理，對分散式存儲、流式計算、訊息佇列中的一項或多項有深入的理解和認識。

5. 熟悉分散式系統的監控、運維、故障恢復，高可用原理和設計理念。

6. 算法基礎紮實，熟悉常見的數據結構，掌握大規模高並發訪問、大數據開發等處理經驗;熟練的Linux系統, 網路, 記憶體和存儲等方面知識。

7. 必須要有千萬級別的項目管理經驗，包括但不限於前期需求溝通，建設方案編寫，中期項目實施，進度匯報，後期項目維護。

大數據架構師工作的崗位職責 篇23

職責：

1、搭建基於Hadoop/Spark的數據挖掘體系和大數據分析系統架構;

2、研究大數據領域前沿數據挖掘技術，並引入相應技術在數據中心的使用;

3、進行大數據系統框架設計、模型算法開發;

4、負責大型數據挖掘項目方案制定、項目實施落地及最佳化等 ;

5、開展數據爬取、聚類分析、輿情分析、魚骨圖分析、定價策略等領域數據挖掘工作;

任職資格：

1、本科以上學歷(持有學士學位)(985，211優先)，計算機相關專業，五年工作經驗;

2、二年以上數據挖掘項目經驗，完整參與過數據挖掘大數據平台的架構開發過程，具備網際網路行業背景優先;

3、精通分散式計算框架(hadoop、spark、Storm等)及相關經驗，熟練掌握Hive/SQL，Python，熟悉Python、R相關數值科學計算庫(NumPy,SciPy等);

4、了解傳統的BI/DW 理論，能結合傳統BI實踐設計大數據平台;

5、熟悉常用機器學習算法(如分類、回歸、聚類、關聯規則等)及其原理，具備套用場景經驗，如用戶畫像、商品關聯度分析、輿情分析;

6、熟悉主數據、元數據、數據質量、和數據建模等數據治理相關的體系和方法;

7、具備較強的邏輯思維能力、數據敏感度，擅於利用數據發現問題及解決問題;

大數據架構師工作的崗位職責 篇24

職責:

1、對業務需求深入分析，從而進行大數據平台核心套用的架構設計、開發和技術支持;

2、規劃業務套用系統和基礎平台的技術架構，參與需求分析、建模、架構設計、技術決策以及詳細設計;

3、把握複雜系統的設計，確保系統的架構質量，編寫核心部分代碼;

4、帶領團隊攻克例如大數據量、高並發、高穩定性等帶來的各種挑戰及技術難關;

5、在大數據平台建設路線圖指導下，進行架構實施和交付物投遞，同時確保研發質量和方向的準確性;

6、進行團隊技術的培訓和梯隊建設崗位要求;

任職條件:

1、本科或以上學歷，計算機相關專業，8年以上研發經驗，3年以上大數據平台相關工作經驗;

2、精通Java開發技術，熟悉Shell、Scala語言和PYTHON優先;

3、編程基礎紮實，熟悉I/O、多執行緒、集群等基礎框架和原理，熟悉分散式、快取、訊息等機制;

4、熟悉常用設計模式，代碼評審規則，單元測試，持續集成;

5、熟悉AWS雲服務或阿里雲服務;

6、熟悉容器技術原理、生態系統，熟悉Docker、Mesos、Kubernetes等容器系統、大規模容器資源調度系統、分散式套用生命周期。

大數據架構師工作的崗位職責 篇25

職責：

1、負責規劃大數據平台及套用產品的需求和技術方案設計;

2、負責數據對接和對外服務設計、開發和維護，並能保證質量和性能;

3、負責基於大數據平台的套用設計、開發和維護;

4、能從系統全局和各子系統的角度思考可能存在的問題，並提出改進方案建議;

任職要求：

1、大學本科6年以上工作經驗，計算機相關專業。

2、至少4年以上的Java開發經驗，3年以上大數據套用系統的開發和設計經驗。

3、熟悉Hadoop生態圈技術體系， 對離線計算、記憶體計算和流式計算均有深刻理解， 如Hadoop、Storm、Spark三個中的任意二個， 能進行平台和組件最佳化。

4、精通Hive、HBase倉庫設計，深刻理解MR運行原理和機制，能進行以提供高任務執行效率的最佳化。

5、精通Java開發，熟悉JVM調優， 對GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關技術， 能進行hbase可靠性診斷和維護。

7、快速研究和學習技術能力。

大數據架構師工作的崗位職責 篇26

職責：

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續最佳化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、資料庫設計以及大數據產品研發工作;

為套用開發團隊提供技術支撐。

任職要求：

本科及以上學歷，3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗，精通JAVA，熟悉Python Scala等程式語言;具備深厚的分散式系統或資料庫系統的理論基礎，熟悉分散式計算系統的工作機制，具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關套用或研究背景;

溝通能力較好，積極主動意識較強，責任心較強。

大數據架構師工作的崗位職責 篇27

職責：

1、負責大數據項目技術架構評估與設計;

2、負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;

3、負責對使用關鍵技術的預研和選型，完成PoC;

4、指導工程師完成開發工作，並能分享技術經驗。

任職要求：

1、3年以上相關工作經驗，其中具有1年以上架構設計經驗

2、熟悉商業智慧型系統相關技術，如 ETL、數據倉庫、OLAP開發;

3、精通設計模式，熟悉面向服務架構(SOA)以及其它常用軟體架構思想，有SOA方案設計、開發實施的實際經驗，要具備實際的服務規劃、服務粒度劃分經驗;並且要善於設計可重用組件和可定製化產品。

4、相關技術棧：Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;

5、有紮實的計算機基礎，熟悉Java等程式語言;