大數據架構師的工作職責描述

大數據架構師的工作職責描述 篇1

職責：

1、負責規劃大數據平台及套用產品的需求和技術方案設計;

2、負責數據對接和對外服務設計、開發和維護，並能保證質量和性能;

3、負責基於大數據平台的套用設計、開發和維護;

4、能從系統全局和各子系統的角度思考可能存在的問題，並提出改進方案建議;

任職要求：

1、大學本科6年以上工作經驗，計算機相關專業。

2、至少4年以上的Java開發經驗，3年以上大數據套用系統的開發和設計經驗。

3、熟悉Hadoop生態圈技術體系， 對離線計算、記憶體計算和流式計算均有深刻理解， 如Hadoop、Storm、Spark三個中的任意二個， 能進行平台和組件最佳化。

4、精通Hive、HBase倉庫設計，深刻理解MR運行原理和機制，能進行以提供高任務執行效率的最佳化。

5、精通Java開發，熟悉JVM調優， 對GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關技術， 能進行hbase可靠性診斷和維護。

7、快速研究和學習技術能力。

大數據架構師的工作職責描述 篇2

職責：

1、 基於公司大數據基礎和數據資產積累，負責大數據套用整體技術架構的設計、最佳化，建設大數據能力開放平台;負責大數據套用產品的架構設計、技術把控工作。

2、 負責制定大數據套用系統的數據安全管控體系和數據使用規範。

3、 作為大數據技術方案到產品實現的技術負責人，負責關鍵技術點攻堅工作，負責內部技術推廣、培訓及知識轉移工作。

4、 負責大數據系統研發項目任務規劃、整體進度、風險把控，有效協同團隊成員並組織跨團隊技術協作，保證項目質量與進度。

5、 負責提升產品技術團隊的技術影響力，針對新人、普通開發人員進行有效輔導，幫助其快速成長。

任職資格：

1、 計算機、數學或相關專業本科以上學歷，5-20xx年工作經驗，具有大型系統的技術架構\套用架構\數據架構相關的實踐工作經驗。

2、 有分散式系統分析及架構設計經驗，熟悉基於計算集群的軟體系統架構和實施經驗。

3、 掌握Hadoop/Spark/Storm生態圈的主流技術及產品，深入了解Hadoop/Spark/Storm生態圈產品的工作原理及套用場景。

4、 掌握Mysql/Oracle等常用關係型資料庫，能夠對SQL進行最佳化。

5、 熟悉分散式系統基礎設施中常用的技術，如快取(Varnish、Memcache、Redis)、訊息中間件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有實踐經驗者優先。

6、 熟悉Linux，Java基礎紮實，至少3-5年以上Java套用開發經驗，熟悉常用的設計模式和開源框架。

大數據架構師的工作職責描述 篇3

職責：

1、負責面向政府信領域的企業(不限於)大數據平台、大數據套用等系統的架構設計、技術規劃、技術選型

2、跟進業界大數據技術發展動態，匹配行業套用訴求，制定大數據策略，提前識別關鍵技術並完成技術驗證;

3、支撐售前完成項目解決方案技術架構的設計及重要客戶的交流;

4、負責指導研發完成大數據產品的開發

5、帶領團隊進行產品核心技術的創新和積累

崗位要求：

1、熟悉BI和大數據領域的解決方案，具備該領域全面的技術積累，包括報表平台，OLAP引擎和DB，ETL，數據倉庫建模和設計，海量分散式數據處理分析架構;

2、在大數據處理和分析領域具有3年或者以上的技術規劃、架構設計經驗，並有成功的項目實踐;

3、4年以上Hadoop實戰經驗，熟悉Hadoop底層檔案系統及分散式計算框架，具備傳統數據倉庫、MPP、Hadoop等混搭平台架構的設計能力和數據建模能力，對大規模數據並行計算、傳輸、處理等有豐富的經驗;

4、有實際套用storm、spark、flume、kafka等項目經驗優先;

5、卓越的技術領導力，善於溝通、發現和解決產品需求階段、開發階段和測試階段的問題，並能提供合理解決方案，有大中型網際網路企業工作背景優先。

大數據架構師的工作職責描述 篇4

職責：

1、負責公司大數據平台架構的技術選型和技術難點攻關工作;

2、依據行業數據現狀和客戶需求，完成行業大數據的特定技術方案設計與撰寫;

3、負責研究跟進大數據架構領域新興技術並在公司內部進行分享;

4、參與公司大數據項目的技術交流、解決方案定製以及項目的招投標工作;

5、參與公司大數據項目前期的架構設計工作;

任職要求：

1、計算機及相關專業本科以上，5年以上數據類項目(數據倉庫、商務智慧型)實施經驗，至少2年以上大數據架構設計和開發經驗，至少主導過一個大數據平台項目架構設計;

2、精通大數據生態圈的技術，包括但不限於MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具備數據統計查詢性能最佳化能力。熟悉星環大數據產品線及有過產品項目實施經驗者優先;

3、優秀的方案撰寫能力，思路清晰，邏輯思維強，能夠根據業務需求設計合理的解決方案;

4、精通ORACLE、DB2、mySql等主流關係型資料庫，熟悉數據倉庫建設思路和數據分層架構思想;

5. 熟練掌握java、R、python等1-2門數據挖掘開發語言;

6. 熟悉雲服務平台及微服務相關架構思想和技術路線，熟悉阿里雲或騰訊雲產品者優先;

7、有菸草或製造行業大數據解決方案售前經驗者優先;

8、能適應售前支持和項目實施需要的短期出差;

大數據架構師的工作職責描述 篇5

職責：

1、負責相關開源系統/組件的性能、穩定性、可靠性等方面的深度最佳化;

2、負責解決項目上線後生產環境的各種實際問題，保障大數據平台在生產上的安全、平穩運行;

3、推動最佳化跨部門的業務流程， 參與業務部門的技術方案設計、評審、指導;

4、負責技術團隊人員培訓、人員成長指導。

5、應項目要求本月辦公地址在錦江區金石路316號新希望中鼎國際辦公，月底項目結束後在總部公司辦公

任職要求：

1、熟悉linux、JVM底層原理，能作為技術擔當，解決核心技術問題;

2、3年以上大數據平台項目架構或開發經驗，對大數據生態技術體系有全面了解，如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;

3、掌握git、maven、gradle、junit等工具和實踐， 注重文檔管理、注重工程規範優先;

4、熟悉Java後台開發體系，具備微服務架構的項目實施經驗，有Dubbo/Spring cloud微服務架構設計經驗優先;

5、性格開朗、善於溝通，有極強的技術敏感性和自我驅動學習能力，注重團隊意識。

大數據架構師的工作職責描述 篇6

職責:

1、對業務需求深入分析，從而進行大數據平台核心套用的架構設計、開發和技術支持;

2、規劃業務套用系統和基礎平台的技術架構，參與需求分析、建模、架構設計、技術決策以及詳細設計;

3、把握複雜系統的設計，確保系統的架構質量，編寫核心部分代碼;

4、帶領團隊攻克例如大數據量、高並發、高穩定性等帶來的各種挑戰及技術難關;

5、在大數據平台建設路線圖指導下，進行架構實施和交付物投遞，同時確保研發質量和方向的準確性;

6、進行團隊技術的培訓和梯隊建設崗位要求;

任職條件:

1、本科或以上學歷，計算機相關專業，8年以上研發經驗，3年以上大數據平台相關工作經驗;

2、精通Java開發技術，熟悉Shell、Scala語言和PYTHON優先;

3、編程基礎紮實，熟悉I/O、多執行緒、集群等基礎框架和原理，熟悉分散式、快取、訊息等機制;

4、熟悉常用設計模式，代碼評審規則，單元測試，持續集成;

5、熟悉AWS雲服務或阿里雲服務;

6、熟悉容器技術原理、生態系統，熟悉Docker、Mesos、Kubernetes等容器系統、大規模容器資源調度系統、分散式套用生命周期。

大數據架構師的工作職責描述 篇7

職責：

1. 負責大數據基礎平台、海量數據存儲/處理分散式平台、數據分析系統架構設計和研發;

2. 負責實時計算平台基礎架構設計、部署、監控、最佳化升級;

3. 制定項目/數據倉庫設計及實現規範，指導設計研發和部署;

4. 協助策略和算法團隊工作，保障數據挖掘建模和工程化;

5. 深入研究大數據相關技術和產品，跟進業界先進技術。

任職要求：

1. 全日制本科及以上學歷，5年以上軟體和分散式系統研發經驗，3年以上大數據系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備Java/C++/Scala等開發經驗，熟悉數據挖掘和分析的策略與算法;

4. 具備良好的系統分析能力、故障診斷能力;

5. 有大數據策略、算法、可視化經驗優先;

6、211/985 重點學校畢業優先。

大數據架構師的工作職責描述 篇8

1、負責大數據平台資源規劃、許可權控制、運維架構設計，為各產品業務提供穩定、高效、安全的運行環境;

2、負責實時，離線數據分析處理及實時平台的建設和搭建

3、熟悉 Flink 流式計算引擎的使用以及源碼原理，並且有相關的流式處理平台的經驗。

4、Java基礎紮實，熟練掌握垃圾回收，網路，多執行緒編程，了解 python 或 scala

5、負責大數據平台技術架構、數據架構的分析與設計;

大數據架構師的工作職責描述 篇9

職責：

1、正確理解業務需求，對需求進行工作量評估;

2、參與項目相關的需求、設計、投產手冊等文檔的編寫;

3、根據進度計畫，完成所承擔功能模組的設計、開發、單元測試、聯調測試;

4、配合測試組修復代碼缺陷，確保功能實現與代碼質量;

5、負責所承擔功能模組投產、部署，及上線後的日常維護;

6、完成項目經理或者架構師安排的其他工作;

任職資格：

1、本科以上學歷，計算機相關專業，兩年以上大數據開發經驗;

2、熟悉Linux 環境，掌握shell或python;

3、熟練使用hadoop，hive，HBase，YARN，kafka，spark等大數據開發組件;

4、精通 ETL，數據倉庫的設計和開發;

5、有大數據處理實戰經驗，熟悉整個大數據的完整處理流程，包括數據的採集、清洗、存儲;

6、較強的動手能力和學習能力，良好的溝通能力、團隊協調能力;

7、具有銀行、金融行業從業背景者優先。

大數據架構師的工作職責描述 篇10

職責：

1、負責大數據開發團隊建設;

2、負責行業大數據產品架構設計與研發;

3、負責帶領團隊進行行業大數據產品關鍵技術攻關。

任職要求：

1、有三年以上大數據套用、開發經驗;具備海量數據加工處理(ETL)相關經驗，對數據挖掘及機器學習有較為深刻的理解;

2、熟悉Hadoop相關技術，對HDFS、MapReduce、Hive、HBase有一定的使用和開發經驗;

3、熟悉Linux，熟練使用Shell或Python，進行腳本編寫;

4、對數據結構和數據統計分析算法有較為深刻理解;

5、掌握至少一種主流關係資料庫開發技術：Oracle、SQL Server、MySQL等;

6、掌握實時流計算技術，有Spark、Storm開發經驗者優先;

7、需要具備2年以上研發團隊管理經驗。

大數據架構師的工作職責描述 篇11

職責：

1、負責公司的大數據平台的數倉架構、系統架構設計;

2、負責帶領團隊完成輿情分析相關的挖掘方案設計;

3、負責大數據研發組團隊管理;

4、負責帶領團隊完成輿情平台的方案文檔撰寫、疊代開發;

5、負責研發規範制定，研究行業前沿技術;

6、參與產品規劃及設計討論。

任職要求：

1、本科五年工作經驗及以上，有至少五年的大數據技術實踐經驗，有NLP或AI相關經驗;

2、有很強的架構設計能力和良好的表達能力;

3、有一定的項目管理及團隊管理能力;

4、精通Hadoop、Spark生態圈中的常用組件原理及套用;

6、理解媒體業務，精通數據倉庫的規劃和設計;

5、精通掌握Java或Python編程，有性能調優能力;

4、熟悉NLP算法原理及套用;

6、對新生事物或者新技術有濃厚興趣，學習能力強。

大數據架構師的工作職責描述 篇12

職責：

1.負責企業數據中心建設，設計數據邏輯模型和物理模型，並完成相關開發

2.梳理公司各業務線常用的指標和維度，統一指標定義口徑

3.根據數據套用開發和數據分析需求，設計數據倉庫信息層模型，提高數據開發的效率

4.負責數據模型的運營和最佳化，及時回響業務邏輯變更，保證模型的數據質量和穩定性

5.負責公司數據標籤體系的建設，並推動標籤體系在實際業務場景中落地

崗位要求：

1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

2.有較強的數據分析能力，精通數據倉庫架構，熟悉Erwin或PowerDesigner建模工具

3.精通一種主流關係資料庫(如mysql等)，熟悉Hive開發

4.有電商業務經驗，元數據管理，數據質量管理或標籤體系搭建經驗者優先

5.優秀的協調溝通與團隊協作能力，極強的責任心，能承受一定的工作壓力，認同企業文化和團隊價值

大數據架構師的工作職責描述 篇13

1. 負責大數據項目整體架構規劃，包括套用架構、技術架構、物理架構和數據架構等;

2. 負責指導工程師進行技術驗證與實現，核心技術問題的攻關，解決項目開發過程中的技術難題;

3. 負責項目對外技術溝通，具有較強的溝通，表達和文檔撰寫能力;

4. 根據公司項目和業務發展特點，負責研究相關大數據前沿技術;

5. 推動技術能力的沉澱。

大數據架構師的工作職責描述 篇14

職責

1、負責大數據架構設計，包括定義數據的存儲、集成(ETL)、套用，支撐業務運營和數據分析類需求實現;

2、制定數據治理領域的數據體系化管理措施，包括元數據設計、數據標準、數據質量、數據處理、數據安全等工作，確保數據可信與安全;

3、基於行業數據積累，滿足業務的數據挖掘需求，實現從數據到資產的轉變，根據目標行業建立具有前瞻性的數據模型;

4、對各產品的數據安全負責，主導制定和實施資料庫系統安全策略，保證整體方案數據安全;

崗位要求

業務技能要求：

1、深入理解雲化、數據倉庫，在參與過的系統設計中，必須涉及這兩項關鍵技術;

n2、精通或者熟悉Hadoop體系架構，以及HDFS/HBase/Hive/MapReduce/Spark等技術，了解體系架構各組件的優缺點，有直接的產品設計與開發、部署、調優的經驗;

3、精通或熟悉常見RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜尋引擎(Solr/ElasticSearch)的使用及開發，了解各資料庫優缺點， 熟悉與架構設計相關的數據存儲、性能調優等相關領域知識，有相關項目經驗尤佳;

4、熟悉業界常用的數據採集、集成、數據存儲、計算、數據模型、數據分析的技術方案，具有數據分析或數據挖掘相關經驗者優先;

n5、熟悉數據治理相關流程，包括數據接入、數據處理、數據治理、數據組織、數據服務等。

專業知識要求：

1、具備數據治理的知識與體系方案，包含政策、組織、角色、流程、規範等，以及規劃相應的支撐方案。了解業界的數據管理方法論;

2、具備數據用例設計和開發能力。能夠基於業務相關數據進行業務需求分析和痛點識別，將業務需求轉化為數據的需求，完成數據用例的設計和開發;

3、精通海量數據(日增量百億)級別數據倉庫、數據集市的構建流程。熟悉公安、政務、工業、交通、醫療等多行業業務者優先。

大數據架構師的工作職責描述 篇15

職責：

1、數據分析軟體平台架構搭建

2、負責深度學習核心框架或高性能後台服務系統的架構設計工作，包括系統總體規劃、架構設計、系統分析、軟體實現、性能最佳化;

3、指導開發人員開發，並解決系統出現的問題，理解物業需求;

4、制定開發計畫和控制開發進度，負責指導研發團隊開展設計工作;

任職要求：

1、碩士以上，計算機或先關專業;

2、5年左右軟體開發經驗，含3年以上系統分析、設計經驗，有大型軟體項目大型軟體項目;有中大型網際網路企業資料庫架構設計及管理經驗，

3、 具備良好的組件級建模能力，熟悉HTTP、TCP等協定

4、熟練使用UML進行軟體架構設計，至少精通EA，RATIONAL， VISIO等一種設計工具.

5、精通至少一種程式語言，熟悉 Linux 相關技術，能獨立在上面進行開發、測試和部署

6、深入理解資料庫、數據倉庫、大數據、分散式體系架構和關鍵技術

大數據架構師的工作職責描述 篇16

職責：

1、負責企業大數據平台的基礎建設、管理及制定拓展規劃;

2、負責大數據平台相關自動化服務工具的設計、開發;

3、參與Hadoop、Hbase、Spark等核心平台組件的開發、最佳化;

4、對平台特殊場景化的數據套用制定相關實踐方案;

5、大數據團隊的搭建。

任職資格:

1、統招本科以上學歷，計算機等相關專業，5年以上工作經驗;

2、具有Hadoop等大規模集群管理經驗、海量(PB)數據處理經驗;

3、精通Hadoop、Hive、Hbase等離線平台相關組件的原理機制;

4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分散式系統;

5、熟悉高並發、分散式開發等相關知識，具有後端服務最佳化相關經驗;

6、熟悉爬蟲常用框架以及反爬技術;

7、具有良好的溝通能力、分析問題與攻關問題的能力;

8、有責任心，工作積極，對新領域新技術有熱情。

大數據架構師的工作職責描述 篇17

職責：

1)負責大數據平台系統架構設計、核心開發工作(Hadoop&Spark技術方向)，基於業務場景設計最優的系統解決方案。

2)構架支持大數量級的數據的大數據平台系統，及相關監控，拓展系統設計及實現。

3)利用Hadoop、Spark等大數據技術對海量數據進行處理，支持BI和數據科學(建模)的套用實現。

4)對現有系統的進行架構深入分析及系統最佳化，進一步提升系統的性能及數據處理能力。

任職資格

1)統招本科或以上學歷，計算機相關專業， 5年以上軟體開發經驗、3年以上大數據項目經驗。

2)具備較豐富的大數據平台相關構建，維護及調優經驗，有大數據量級下的大數據集市相關經驗。

3)具備較豐富的基於Hadoop或Hive或Spark等大數據處理項目經驗，具備一定的數據挖掘經驗。

4) 具有阿里雲的EMR(emapreduce)的經驗者優先考慮。

5)具有良好的業務理解、溝通和協作能力，具有較強的學習和總結能力。

6)優秀的團隊合作精神、誠實、勤奮、嚴謹，敢於接受挑戰。

7)機器學習技術、數據挖掘經驗豐富者優先考慮。