大數據架構師工作的崗位職責

大數據架構師工作的崗位職責 篇1

職責:

1、負責spark, hadoop, flink等開發和最佳化。

2、參與前期需求溝通和分析,以產品化開發的思維,完成需求分解和數據架構設計。

3、與研發和數據科學家合作保證產品定義清晰,按時完成產品上線。

4、能夠洞察市場狀況,與各部門合作轉化為基於大數據挖掘的新策略或方案.

5、主動創造和發掘新的基於大數據挖掘產品商業模式.

任職要求:

1、全日制本科及以上學歷,計算機軟體相關專業,5年以上開發經驗,3年以上架構經驗

2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分散式數據存儲和分散式計算平台原理,流式計算開發,有開源二次開發經驗者優先。

3、精通大數據挖掘、機器學習.熟練掌握Java/Perl/Python至少一種程式語言。

4、具有數據挖掘和分析、機器學習等項目實施相關經驗者優先;

5、良好的跨部門溝通合作能力,解決不同觀點能力並取得結果。具備敏銳的網際網路產品理解力,學習能力和邏輯思維能力強;

6、較強的自我驅動力、推動和協調能力,強烈的責任心和團隊合作精神;

大數據架構師工作的崗位職責 篇2

職責:

1、負責大數據平台技術框架的技術選型和搭建;

2、負責核心技術問題公關,建設高可靠性,擴展性及高性能大數據/數據套用平台;

3、負責規劃數據挖掘的整體流程,負責大數據開發團隊業務需求開發;

4、與其他團隊密切配合,尋求數據層面的業務價值,利用數據分析結論推動產品最佳化;

5、研究和分享大數據架構領域新技術。

任職要求:

1、計算機相關專業全日制統招本科及以上;

2、5年以上工作經驗,至少3年以上大數據項目相關工作經驗,能夠設計大型大數據系統的架構和技術方案;

3、精通Hadoop/Spark/Hbase/Hive等大數據技術,精通ETL技術;

4、熟悉數據挖掘,了解典型大數據算法和策略;

5、熟悉主流Java技術框架,精通關係型資料庫及SQL語言,熟悉NoSQL/JSON/XML;

6、有較強的學習能力和問題解決能力,邏輯嚴密、思路清晰;

7、有數據倉庫經驗者優先,有金融行業項目經驗者優先。

大數據架構師工作的崗位職責 篇3

職責:

1. 負責大數據平台的基礎技術規劃,編制相關規範文檔。

2. 負責大數據平台的數據採集,處理,存儲以及挖掘分析的架構實現。

3. 負責大數據平台的實際規劃建設,包括環境和框架的規劃搭建以及部分核心編碼工作。

4. 負責大數據相關技術發展方向的預研。

5. 參與業務需求調研,根據需求及行業特點設計大數據解決方案並跟進具體實施項目。

6. 制定大數據平台中數據質量,業務質量監控及管理辦法。

崗位要求:

1. 全日制本科及以上學歷,5年以上工作經驗,4年及以上大數據架構設計經驗,熟悉大數據解決方案,包括Hadoop平台、Spark、storm、機器學習、深度學習等大數據解決方案。

2. 深刻理解大數據處理(流計算、分散式計算、分散式檔案系統、分散式存儲等相關技術)實現方法。有架構和設計實踐經驗。

3. 精通大型資料庫Oracle、SqlServer等的開發。

4. 精通java,Python中的一種或多種語言。

5. 熟悉容器、虛擬化、微服務框架等相關技術。

6. 對數據敏感,有嚴謹的工作思路,良好的溝通能力和團隊合作精神。

7. 熟悉R,Python,SAS、SPSS等數據挖掘經驗者優先。

8. 高寬展性,高性能,和分散式系統的實踐及運維經驗者優先。

9. 有大型數據倉庫實施、大數據平台數據開發經驗,熟悉運營商業務者優先。

大數據架構師工作的崗位職責 篇4

職責

1、負責大數據架構設計,包括定義數據的存儲、集成(ETL)、套用,支撐業務運營和數據分析類需求實現;

2、制定數據治理領域的數據體系化管理措施,包括元數據設計、數據標準、數據質量、數據處理、數據安全等工作,確保數據可信與安全;

3、基於行業數據積累,滿足業務的數據挖掘需求,實現從數據到資產的轉變,根據目標行業建立具有前瞻性的數據模型;

4、對各產品的數據安全負責,主導制定和實施資料庫系統安全策略,保證整體方案數據安全;

崗位要求

業務技能要求:

1、深入理解雲化、數據倉庫,在參與過的系統設計中,必須涉及這兩項關鍵技術;

n2、精通或者熟悉Hadoop體系架構,以及HDFS/HBase/Hive/MapReduce/Spark等技術,了解體系架構各組件的優缺點,有直接的產品設計與開發、部署、調優的經驗;

3、精通或熟悉常見RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜尋引擎(Solr/ElasticSearch)的使用及開發,了解各資料庫優缺點, 熟悉與架構設計相關的數據存儲、性能調優等相關領域知識,有相關項目經驗尤佳;

4、熟悉業界常用的數據採集、集成、數據存儲、計算、數據模型、數據分析的技術方案,具有數據分析或數據挖掘相關經驗者優先;

n5、熟悉數據治理相關流程,包括數據接入、數據處理、數據治理、數據組織、數據服務等。

專業知識要求:

1、具備數據治理的知識與體系方案,包含政策、組織、角色、流程、規範等,以及規劃相應的支撐方案。了解業界的數據管理方法論;

2、具備數據用例設計和開發能力。能夠基於業務相關數據進行業務需求分析和痛點識別,將業務需求轉化為數據的需求,完成數據用例的設計和開發;

3、精通海量數據(日增量百億)級別數據倉庫、數據集市的構建流程。熟悉公安、政務、工業、交通、醫療等多行業業務者優先。

大數據架構師工作的崗位職責 篇5

職責:

1、負責DMP技術架構設計與構建,根據業務規劃及技術規劃制定套用架構方案;

2、負責設計構建DMP數據採集、存儲及分析框架,設計數據處理的技術流程和規範;

3、負責核心功能的架構與代碼模板編寫,開發與維護系統公用核心模組;

4、負責基於大數據技術的海量數據的自動化分析處理和統計工作。

崗位要求:

1、計算機或相關專業本科以上學歷,三年以上的開發經驗,二年以上大數據相關軟體架構的實際經驗;

2、精通大數據處理技術,熟悉Hadoop/Storm技術體系,有Hadoop、Hive、Hbase項目經驗;

3、具有較強的架構能力,具有分散式計算、實時計算、數據倉庫、數據挖掘系統的架構經歷優先;

4、對數據敏感,洞察力強,了解國內外廣告發展趨勢;

5.、擅長系統分析與設計,精通常用的設計模式,擅長性能調優;

6、熟悉DMP/RTB技術原理,了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業從業經歷。

大數據架構師工作的崗位職責 篇6

職責:

1、負責大數據基礎平台的整體規劃和架構設計,參與需求分析、技術決策以及詳細設計;

2、為現有大數據集群Hadoop、hive平台提供性能調優、架構最佳化重組,解決系統中的關鍵問題和技術難題;

3、把握基礎業務複雜系統的設計,確保系統的架構質量,編寫核心部分代碼;

4、持續挑戰新的技術方向,攻克大數據量,高並發,穩定性等各種技術難點。

任職資格:

1、計算機或相關專業本科及以上學歷;

2、5年以上hadoop的套用開發經驗,5年以上數據倉庫開發實踐經驗,至少一個企業級數據倉庫項目開發經驗或者大數據處理項目經驗;

3、良好的編程開發能力,精通PHP及其他開發語言;

4、熟悉mysql等資料庫經驗,具備優秀的SQL編寫、調優能力;

5、熟練掌握Linux常規命令與工具,精通shell, perl, python等腳本語言至少一種;

6、軟體基礎理論知識紮實,具有良好的數據結構、算法功底;

7、對新技術敏感,學習能力強,樂於接受挑戰,具有良好的團隊合作精神;

大數據架構師工作的崗位職責 篇7

職責:

1、負責公司大數據平台架構的技術選型和技術難點攻關工作;

2、依據行業數據現狀和客戶需求,完成行業大數據的特定技術方案設計與撰寫;

3、負責研究跟進大數據架構領域新興技術並在公司內部進行分享;

4、參與公司大數據項目的技術交流、解決方案定製以及項目的招投標工作;

5、參與公司大數據項目前期的架構設計工作;

任職要求:

1、計算機及相關專業本科以上,5年以上數據類項目(數據倉庫、商務智慧型)實施經驗,至少2年以上大數據架構設計和開發經驗,至少主導過一個大數據平台項目架構設計;

2、精通大數據生態圈的技術,包括但不限於MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具備數據統計查詢性能最佳化能力。熟悉星環大數據產品線及有過產品項目實施經驗者優先;

3、優秀的方案撰寫能力,思路清晰,邏輯思維強,能夠根據業務需求設計合理的解決方案;

4、精通ORACLE、DB2、mySql等主流關係型資料庫,熟悉數據倉庫建設思路和數據分層架構思想;

5. 熟練掌握java、R、python等1-2門數據挖掘開發語言;

6. 熟悉雲服務平台及微服務相關架構思想和技術路線,熟悉阿里雲或騰訊雲產品者優先;

7、有菸草或製造行業大數據解決方案售前經驗者優先;

8、能適應售前支持和項目實施需要的短期出差;

大數據架構師工作的崗位職責 篇8

職責:

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續最佳化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、資料庫設計以及大數據產品研發工作;

為套用開發團隊提供技術支撐。

任職要求:

本科及以上學歷,3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗,精通JAVA,熟悉Python Scala等程式語言;具備深厚的分散式系統或資料庫系統的理論基礎,熟悉分散式計算系統的工作機制,具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關套用或研究背景;

溝通能力較好,積極主動意識較強,責任心較強。

大數據架構師工作的崗位職責 篇9

職責:

1、數據分析軟體平台架構搭建

2、負責深度學習核心框架或高性能後台服務系統的架構設計工作,包括系統總體規劃、架構設計、系統分析、軟體實現、性能最佳化;

3、指導開發人員開發,並解決系統出現的問題,理解物業需求;

4、制定開發計畫和控制開發進度,負責指導研發團隊開展設計工作;

任職要求:

1、碩士以上,計算機或先關專業;

2、5年左右軟體開發經驗,含3年以上系統分析、設計經驗,有大型軟體項目大型軟體項目;有中大型網際網路企業資料庫架構設計及管理經驗,

3、 具備良好的組件級建模能力,熟悉HTTP、TCP等協定

4、熟練使用UML進行軟體架構設計,至少精通EA,RATIONAL, VISIO等一種設計工具.

5、精通至少一種程式語言,熟悉 Linux 相關技術,能獨立在上面進行開發、測試和部署

6、深入理解資料庫、數據倉庫、大數據、分散式體系架構和關鍵技術

大數據架構師工作的崗位職責 篇10

職責:

1、負責自然語音互動、IOT家電物聯控制、知識圖譜等相關模組和系統的開發;

2、負責掌握第三方接口的調用和功能實現,持續最佳化服務性能和容量,並保證產品的兼容性和執行效率;

3、根據設計文檔和需求說明完成代碼編寫、調試、單元測試與維護,確保項目進度和質量;

4、協助制定測試計畫,及時發現並修復BUG,實現服務端的性能最佳化。

任職資格:

1、大學本科3年以上工作經驗,計算機相關專業;

2、熟悉軟體項目開發流程,具有良好編碼風格及文檔編寫能力;

3、熟悉Linux伺服器相關技術,能夠獨立完成伺服器部署,具有相關經驗;

4、熟悉Hadoop/Spark框架,JAVA基礎紮實;

5、熟練使用Mysql資料庫,了解MongoDB或neo4j等分散式資料庫;

6、熟悉SpringCloud,SSM,Docker,redis開發者優先;

7、熟悉前端(包括但不限於Html5、css、Angularjs、ajax、jquery等)開發技術優先;

8、了解Socket網路編程、MQTT等,有相應實踐經驗者優先;

9、有智慧型語音語義、知識圖譜服務端開發經驗者優先。

大數據架構師工作的崗位職責 篇11

職責:

1.負責企業數據中心建設,設計數據邏輯模型和物理模型,並完成相關開發

2.梳理公司各業務線常用的指標和維度,統一指標定義口徑

3.根據數據套用開發和數據分析需求,設計數據倉庫信息層模型,提高數據開發的效率

4.負責數據模型的運營和最佳化,及時回響業務邏輯變更,保證模型的數據質量和穩定性

5.負責公司數據標籤體系的建設,並推動標籤體系在實際業務場景中落地

崗位要求:

1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

2.有較強的數據分析能力,精通數據倉庫架構,熟悉Erwin或PowerDesigner建模工具

3.精通一種主流關係資料庫(如mysql等),熟悉Hive開發

4.有電商業務經驗,元數據管理,數據質量管理或標籤體系搭建經驗者優先

5.優秀的協調溝通與團隊協作能力,極強的責任心,能承受一定的工作壓力,認同企業文化和團隊價值

大數據架構師工作的崗位職責 篇12

職責:

1、負責大數據平台的架構設計、核心代碼開發等任務;根據項目要求編寫相關技術文檔;

2、負責大數據平台的架構評審,代碼評審,上線評審;參與數據套用需求、設計、審核和評審;

3、負責核心模組研發,負責大數據平台的搭建,完成系統調試、集成與實施;

4、負責建立和維護大數據平台技術標準規範,指導開發人員編寫代碼;

任職要求:

1、本科及以上計算機相關專業畢業;

2、精通離線和實時數據處理流程,掌握離線數據處理框架hive、impala、spark-sql等,掌握實時數據處理常用技術工具,包括Storm、SparkStreaming等;

3、熟悉大數據技術生態圈,精通大數據技術架構,有大數據平台構建經驗;

4、掌握常見數據流接入工具,包括Flume、kafka等;

5、熟練掌握基本的Linux作業系統和某種腳本語言編程(如Shell等);

6、掌握一種或以上實時處理語言,如JAVA、SCALA、PYTHON等,有SCALA經驗者優先;

7、有實際大規模數據(TB級以上)處理經驗優先;