大數據平台架構師崗位職責

大數據平台架構師崗位職責 篇1

1. 負責數瀾大數據平台的架構設計和研發，建立數據生態服務，解決海量數據面臨的挑戰;

2. 管理和最佳化Hadoop、Spark等集群，計算作業的調優，保證集群和平台的高效和穩定;

3. 負責Hadoop、Spark、Flink的功能、性能和擴展，解決並實現業務需求;

4. 負責大數據產品的自動化、離線與實時計算、即席計算、數據質量、數據安全、機器學習等平台的設計和開發;

5. 調研和把握當前的最新技術，將其中的先進技術引入到自己的平台中，改善產品，提升競爭力;

大數據平台架構師崗位職責 篇2

1、建設大數據平台，主要技術為k8s, docker;

2、跟進開源社區的更新，閱讀文檔，驗證feature;

3、閱讀容器生態圈各組件的開源項目代碼，開發新功能;

4、持續提昇平台的性能和穩定性。

大數據平台架構師崗位職責 篇3

1. 負責大數據項目整體架構規劃，包括套用架構、技術架構、物理架構和數據架構等;

2. 負責指導工程師進行技術驗證與實現，核心技術問題的攻關，解決項目開發過程中的技術難題;

3. 負責項目對外技術溝通，具有較強的溝通，表達和文檔撰寫能力;

4. 根據公司項目和業務發展特點，負責研究相關大數據前沿技術;

5. 推動技術能力的沉澱。

大數據平台架構師崗位職責 篇4

1、負責公司大數據處理框架研發工作，設計與開發分散式存儲、數據處理與分析架構。

2、負責大數據平台與產品和相關技術的追蹤及研究。

3、負責大數據的處理工作，以及業務數據提取、載入、轉換處理流程的開發和最佳化。

4、利用大數據平台工具對數據維護。

5、負責相關項目的技術支持和服務。

6、持續對系統的技術架構進行改進和最佳化。

大數據平台架構師崗位職責 篇5

1、負責大數據平台資源規劃、許可權控制、運維架構設計，為各產品業務提供穩定、高效、安全的運行環境;

2、負責實時，離線數據分析處理及實時平台的建設和搭建

3、熟悉 Flink 流式計算引擎的使用以及源碼原理，並且有相關的流式處理平台的經驗。

4、Java基礎紮實，熟練掌握垃圾回收，網路，多執行緒編程，了解 python 或 scala

5、負責大數據平台技術架構、數據架構的分析與設計;

大數據平台架構師崗位職責 篇6

職責：

1、負責大數據項目或產品中架構設計、數據倉庫公共層與套用層建模;

2、負責大數據項目或產品中業務需求的需求理解、數據指標維度需求梳理、數據探查和分析，指導技術團隊進行工作;

3、負責大數據項目中的具體技術管理工作，完成驗收目標。

4、發現並解決數據質量問題，推動整體數據質量提升。

任職要求：

1、計算機相關專業，3年以上數據研發與數據倉庫相關開發經驗;

2、熟練掌握維度建模方法，有大型數倉構建經驗優先;

3、精通Oracle/DB2/Teradata等主流資料庫編程，有較好的SQL性能調優經驗;

4、紮實的編程基礎和動手能力，精通至少一門程式語言，有大數據、分散式開發經驗尤佳;

5、有良好溝通協調能力，有帶領小團隊或項目管理工作經驗;

6、具備很強的責任心，做事細緻、嚴謹，同時需要具備較強的溝通和學習能力，能快速理解行業的需求，對農業等行業數據套用有經驗者優先;

7、能夠接受出差。

大數據平台架構師崗位職責 篇7

職責：

1、負責DMP技術架構設計與構建，根據業務規劃及技術規劃制定套用架構方案;

2、負責設計構建DMP數據採集、存儲及分析框架，設計數據處理的技術流程和規範;

3、負責核心功能的架構與代碼模板編寫，開發與維護系統公用核心模組;

4、負責基於大數據技術的海量數據的自動化分析處理和統計工作。

崗位要求：

1、計算機或相關專業本科以上學歷，三年以上的開發經驗，二年以上大數據相關軟體架構的實際經驗;

2、精通大數據處理技術，熟悉Hadoop/Storm技術體系，有Hadoop、Hive、Hbase項目經驗;

3、具有較強的架構能力，具有分散式計算、實時計算、數據倉庫、數據挖掘系統的架構經歷優先;

4、對數據敏感，洞察力強，了解國內外廣告發展趨勢;

5.、擅長系統分析與設計，精通常用的設計模式，擅長性能調優;

6、熟悉DMP/RTB技術原理，了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業從業經歷。

大數據平台架構師崗位職責 篇8

職責：

1. 規劃設計大數據平台整體架構，規劃各種組件，並且指導技術團隊完成相關係統驗證、安裝、部署、配置;

2. 負責制定大數據平台技術規範和接口規範，指導研發團隊按照規範進行系統開發;

3. 配合商務人員完成售前技術支持工作;

4. 完成其他與數據套用有關的技術工作;

任職要求：

1. 計算機相關專業本科學歷，5年以上工作經驗;

2. 對大數據技術棧有非常深刻的了解;具備架構設計的實際經驗;

3. 對信息安全架構設計及實施有一定的經驗;

4. 熟悉Linux、Windows等作業系統的安裝配置;

5. 熟悉網際網路套用的安裝配置;熟悉常見大數據技術棧組件的安裝配置;熟悉Visio等繪圖工具的使用;

6. 有衛生信息化建設經驗者優先;有容器安裝部署經驗者優先。

大數據平台架構師崗位職責 篇9

職責

1、參與打造數據中內容的規劃、設計、開發和最佳化工作，實現高質量數據的互通與共享;

2、參與數據模型體系構建及數據主題設計和開發，搭建離線、實時數據公共層;

3、參與數據產品與套用的數據研發，發掘數據商業價值，打造極致體驗的數據產品;

4、深入理解數據產品的使用場景，為業務方在可用性、成本上做更好的設計做參考;

5、團隊成員的搭建與培養，任務劃分，進度監控，代碼規範，質量保證。

任職要求

1、熟悉數據倉庫建模理論，3年以上相關領域實踐經驗;

2、Hadoop、Hive、Hbase、Storm、Spark等技術框架;

3、精通Java、Python、Scala、go等開發語言中的1到2種;

4、熟練使用Python/Java/scala或其他語言進行複雜業務邏輯的數據處理工作，具備海量數據處理以及性能最佳化的能力;

5、對MySQL、Redis、HBase等資料庫有一定的了解和使用經驗;

6、對olap，多維分析及kylin熟悉的更好;

7、思路清晰，具備良好的溝通能力和理解能力，較強的學習能力以及快速解決問題的能力;

8、對新技術，新事物有很好的探索和求知慾;

9、熟悉常規的機器學習算法：降維(PCA、SVD)、SVM、邏輯回歸(LogisticsRegression)、決策樹(GBDT、RandomForest)、關聯規則(Apriori、FP-Growth)、聚類(K-Means)等優先。

大數據平台架構師崗位職責 篇10

職責：

1、 基於公司大數據基礎和數據資產積累，負責大數據套用整體技術架構的設計、最佳化，建設大數據能力開放平台;負責大數據套用產品的架構設計、技術把控工作。

2、 負責制定大數據套用系統的數據安全管控體系和數據使用規範。

3、 作為大數據技術方案到產品實現的技術負責人，負責關鍵技術點攻堅工作，負責內部技術推廣、培訓及知識轉移工作。

4、 負責大數據系統研發項目任務規劃、整體進度、風險把控，有效協同團隊成員並組織跨團隊技術協作，保證項目質量與進度。

5、 負責提升產品技術團隊的技術影響力，針對新人、普通開發人員進行有效輔導，幫助其快速成長。

任職資格：

1、 計算機、數學或相關專業本科以上學歷，5-20xx年工作經驗，具有大型系統的技術架構\套用架構\數據架構相關的實踐工作經驗。

2、 有分散式系統分析及架構設計經驗，熟悉基於計算集群的軟體系統架構和實施經驗。

3、 掌握Hadoop/Spark/Storm生態圈的主流技術及產品，深入了解Hadoop/Spark/Storm生態圈產品的工作原理及套用場景。

4、 掌握Mysql/Oracle等常用關係型資料庫，能夠對SQL進行最佳化。

5、 熟悉分散式系統基礎設施中常用的技術，如快取(Varnish、Memcache、Redis)、訊息中間件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有實踐經驗者優先。

6、 熟悉Linux，Java基礎紮實，至少3-5年以上Java套用開發經驗，熟悉常用的設計模式和開源框架。

大數據平台架構師崗位職責 篇11

職責：

1、搭建基於Hadoop/Spark的數據挖掘體系和大數據分析系統架構;

2、研究大數據領域前沿數據挖掘技術，並引入相應技術在數據中心的使用;

3、進行大數據系統框架設計、模型算法開發;

4、負責大型數據挖掘項目方案制定、項目實施落地及最佳化等 ;

5、開展數據爬取、聚類分析、輿情分析、魚骨圖分析、定價策略等領域數據挖掘工作;

任職資格：

1、本科以上學歷(持有學士學位)(985，211優先)，計算機相關專業，五年工作經驗;

2、二年以上數據挖掘項目經驗，完整參與過數據挖掘大數據平台的架構開發過程，具備網際網路行業背景優先;

3、精通分散式計算框架(hadoop、spark、Storm等)及相關經驗，熟練掌握Hive/SQL，Python，熟悉Python、R相關數值科學計算庫(NumPy,SciPy等);

4、了解傳統的BI/DW 理論，能結合傳統BI實踐設計大數據平台;

5、熟悉常用機器學習算法(如分類、回歸、聚類、關聯規則等)及其原理，具備套用場景經驗，如用戶畫像、商品關聯度分析、輿情分析;

6、熟悉主數據、元數據、數據質量、和數據建模等數據治理相關的體系和方法;

7、具備較強的邏輯思維能力、數據敏感度，擅於利用數據發現問題及解決問題;

大數據平台架構師崗位職責 篇12

職責：

1、負責公司大數據平台架構的技術選型和技術難點攻關工作;

2、依據行業數據現狀和客戶需求，完成行業大數據的特定技術方案設計與撰寫;

3、負責研究跟進大數據架構領域新興技術並在公司內部進行分享;

4、參與公司大數據項目的技術交流、解決方案定製以及項目的招投標工作;

5、參與公司大數據項目前期的架構設計工作;

任職要求：

1、計算機及相關專業本科以上，5年以上數據類項目(數據倉庫、商務智慧型)實施經驗，至少2年以上大數據架構設計和開發經驗，至少主導過一個大數據平台項目架構設計;

2、精通大數據生態圈的技術，包括但不限於MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具備數據統計查詢性能最佳化能力。熟悉星環大數據產品線及有過產品項目實施經驗者優先;

3、優秀的方案撰寫能力，思路清晰，邏輯思維強，能夠根據業務需求設計合理的解決方案;

4、精通ORACLE、DB2、mySql等主流關係型資料庫，熟悉數據倉庫建設思路和數據分層架構思想;

5. 熟練掌握java、R、python等1-2門數據挖掘開發語言;

6. 熟悉雲服務平台及微服務相關架構思想和技術路線，熟悉阿里雲或騰訊雲產品者優先;

7、有菸草或製造行業大數據解決方案售前經驗者優先;

8、能適應售前支持和項目實施需要的短期出差;

大數據平台架構師崗位職責 篇13

職責：

1、負責公司的大數據平台的數倉架構、系統架構設計;

2、負責帶領團隊完成輿情分析相關的挖掘方案設計;

3、負責大數據研發組團隊管理;

4、負責帶領團隊完成輿情平台的方案文檔撰寫、疊代開發;

5、負責研發規範制定，研究行業前沿技術;

6、參與產品規劃及設計討論。

任職要求：

1、本科五年工作經驗及以上，有至少五年的大數據技術實踐經驗，有NLP或AI相關經驗;

2、有很強的架構設計能力和良好的表達能力;

3、有一定的項目管理及團隊管理能力;

4、精通Hadoop、Spark生態圈中的常用組件原理及套用;

6、理解媒體業務，精通數據倉庫的規劃和設計;

5、精通掌握Java或Python編程，有性能調優能力;

4、熟悉NLP算法原理及套用;

6、對新生事物或者新技術有濃厚興趣，學習能力強。

大數據平台架構師崗位職責 篇14

職責：

1.負責整個大數據平台架構的設計和構建;

2.負責構建大數據平台的數據交換、任務調度等通用平台;

3.制定開發、測試、實施、維護的標準和規範，指導和培訓工程師，不斷提升團隊能力。

4.參與系統需求分析、架構設計、技術選型、套用設計與開發以及測試與部署，負責編寫核心部分代碼。

5.持續挑戰新的技術方向，攻克大數據量、高並發、高可用、可擴展等技術難點。

任職要求：

1.3年以上大數據架構經驗，豐富的數據倉庫、數據挖掘、機器學習項目經驗

2.大規模數據處理的架構和設計實戰經驗

3.精通Spark、MR，熟練HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，並具有豐富的大型數據平台工程經驗

4.深刻理解大數據處理(流計算，分散式計算，分散式檔案系統，分散式存儲等)相關技術和實現方法

5.熟悉主數據、元數據、數據質量等企業數據管理相關的體系和方法，熟練Linux/Unix平台上的開發環境

6.本科或以上學歷，計算機軟體或相關專業，豐富的java開發經驗和網際網路背景優先。

7.具有比較強的問題分析和處理能力，有比較優秀的動手能力，熱衷技術，精益求精

大數據平台架構師崗位職責 篇15

職責：

1、負責規劃科技大數據平台及科技數據入庫自動化的方案設計;

2、負責大數據平台的開發和維護，以及對外服務接口的開發;

3、負責大數據平台的最佳化和改進工作。

任職要求

1、計算機相關專業本科及以上學歷，5年以上開發經驗，其中3年以上為網際網路、大數據相關的開發經驗;

2、熟知Hadoop生態圈體系，精通Hadoop/Spark/Storm/Kafka中的一項或幾項，深刻理解MapReduce的運行原理和機制，有MPI經驗者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相關資料庫的構建和操作，尤其是資料庫集群的構建和操作，熟悉Neo4j者尚佳;

4、具有機器學習相關項目經驗者優先。

大數據平台架構師崗位職責 篇16

職責：

1、負責相關開源系統/組件的性能、穩定性、可靠性等方面的深度最佳化;

2、負責解決項目上線後生產環境的各種實際問題，保障大數據平台在生產上的安全、平穩運行;

3、推動最佳化跨部門的業務流程， 參與業務部門的技術方案設計、評審、指導;

4、負責技術團隊人員培訓、人員成長指導。

5、應項目要求本月辦公地址在錦江區金石路316號新希望中鼎國際辦公，月底項目結束後在總部公司辦公

任職要求：

1、熟悉linux、JVM底層原理，能作為技術擔當，解決核心技術問題;

2、3年以上大數據平台項目架構或開發經驗，對大數據生態技術體系有全面了解，如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;

3、掌握git、maven、gradle、junit等工具和實踐， 注重文檔管理、注重工程規範優先;

4、熟悉Java後台開發體系，具備微服務架構的項目實施經驗，有Dubbo/Spring cloud微服務架構設計經驗優先;

5、性格開朗、善於溝通，有極強的技術敏感性和自我驅動學習能力，注重團隊意識。

大數據平台架構師崗位職責 篇17

職責：

1、負責大數據平台及BI系統框架設計、規劃、技術選型，架構設計並完成系統基礎服務的開發;

2、負責海量埋點規則、SDK標準化、埋點數據採集、處理及存儲，業務數據分布存儲、流式/實時計算等套用層架構搭建及核心代碼實現;

3、開發大數據平台的核心代碼，項目敏捷開發流程管理，完成系統調試、集成與實施，對每個項目周期技術難題的解決，保證大數據產品的上線運行;

4、負責大數據平台的架構最佳化，代碼評審，並根據業務需求持續最佳化數據架構，保證產品的可靠性、穩定性;

5、指導開發人員完成數據模型規劃建設,分析模型構建及分析呈現，分享技術經驗;

6、有效制定各種突發性研發技術故障的應對預案，有清晰的隱患意識;

7、深入研究大數據相關技術和產品，跟進業界先進技術;

【任職要求】

1、統計學、套用數學或計算機相關專業大學本科以上學歷;

2、熟悉網際網路移動端埋點方法(點擊和瀏覽等行為埋點)，無埋點方案等，有埋點SDK獨立開發經驗者優選;

3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等，具備實際項目設計及開發經驗;

4、熟悉數據採集、數據清洗、分析和建模工作相關技術細節及流程

5、熟悉Liunx/Unix作業系統，能熟練使用shell/perl等腳本語言，熟練掌握java/python/go/C++中一種或多種程式語言

6、具備一定的算法能力，了解機器學習/深度學習算法工具使用，有主流大數據計算組件開發和使用經驗者優先

7、熟悉大數據可視化工具Tableau/echarts

8、具有較強的執行力，高度的責任感、很強的學習、溝通能力，能夠在高壓下高效工作;

大數據平台架構師崗位職責 篇18

職責：

1、負責大數據平台架構的評估、規劃和設計 ;負責海量數據採集、處理及存儲、套用方案的技術選型及架構實現;

2、開發大數據平台的核心代碼，負責大數據平台的搭建，完成系統調試、集成與實施，技術難題的解決，保證大數據產品的上線運行 ;

3、根據業務需求持續最佳化數據架構，保證產品的可靠性、穩定性 ;

4、指導開發人員完成數據模型規劃建設，分析模型構建及分析呈現 ，分享技術經驗;

5、負責大數據平台的架構評審，代碼評審，上線評審;參與數據套用需求、設計、審核和評審;

6、深入研究大數據相關技術和產品，跟進業界先進技術;

任職資格：

1.本科及以上學歷，數學或計算機相關專業畢業，不少於5年的工作經驗，具有紮實的計算機基礎理論知識;

2.有3年以上Hadoop、Spark、Hbase平台性能調優經驗;熟悉sparkstreaming等實時計算技術

3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等，具備實際項目設計及開發經驗;

4.熟悉sparkstreaming等相關的實時計算技術;

5.熟悉大規模數據挖掘、機器學習、自然語言處理、分散式計算中一項或多項技術，並具備多年的實際工作經驗;

6.熟悉主流關係型資料庫(Oracle、MySql)、NoSql資料庫，熟悉pl/sql編程;精通Linux作業系統，熟練使用Java;熟悉常用框架.如Spring、MyBatis等;

7.具有較強的執行力，高度的責任感、很強的學習、溝通能力，能夠在高壓下高效工作;

大數據平台架構師崗位職責 篇19

職責：

1、負責公司的大數據處理框架的研發設計工作，梳理可實現方案和技術規範;

2、開發、完善公司大數據平台;參與公司離線、實時大數據處理系統的設計、開發、測試及多個業務模組的自動化集成;

3、負責業務平台數據統計分析模組的設計與規劃;

4、負責公司產品研發過程中的數據及存儲設計;

5、帶領和培養團隊完成組織分解的目標;

任職要求：

1、統招本科及以上學歷，計算機、軟體工程相關專業，至少8年以上工作經驗，5年以上大數據開發經驗;

2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關技術的基礎架構

3、熟悉數據倉庫，數據算法，分散式計算技術理論，具有大數據整體系統架構設計經驗;

4、熟悉Linux系統，熟練使用shell/perl/python腳本處理問題;

5、對深度學習框架(Tensorflow)和機器學習(svm 隨機深林貝葉斯等)有一定了解的優先;

6、能夠組織項目開發組協同工作，包括團隊溝通、計畫、開發環境管理等

大數據平台架構師崗位職責 篇20

職責：

1、負責大數據平台技術框架的技術選型和搭建;

2、負責核心技術問題公關，建設高可靠性，擴展性及高性能大數據/數據套用平台;

3、負責規劃數據挖掘的整體流程，負責大數據開發團隊業務需求開發;

4、與其他團隊密切配合，尋求數據層面的業務價值，利用數據分析結論推動產品最佳化;

5、研究和分享大數據架構領域新技術。

任職要求：

1、計算機相關專業全日制統招本科及以上;

2、5年以上工作經驗，至少3年以上大數據項目相關工作經驗，能夠設計大型大數據系統的架構和技術方案;

3、精通Hadoop/Spark/Hbase/Hive等大數據技術,精通ETL技術;

4、熟悉數據挖掘，了解典型大數據算法和策略;

5、熟悉主流Java技術框架，精通關係型資料庫及SQL語言，熟悉NoSQL/JSON/XML;

6、有較強的學習能力和問題解決能力，邏輯嚴密、思路清晰;

7、有數據倉庫經驗者優先，有金融行業項目經驗者優先。

大數據平台架構師崗位職責 篇21

職責：

1. 負責大數據平台的基礎技術規劃，編制相關規範文檔。

2. 負責大數據平台的數據採集，處理，存儲以及挖掘分析的架構實現。

3. 負責大數據平台的實際規劃建設，包括環境和框架的規劃搭建以及部分核心編碼工作。

4. 負責大數據相關技術發展方向的預研。

5. 參與業務需求調研，根據需求及行業特點設計大數據解決方案並跟進具體實施項目。

6. 制定大數據平台中數據質量，業務質量監控及管理辦法。

崗位要求：

1. 全日制本科及以上學歷，5年以上工作經驗，4年及以上大數據架構設計經驗，熟悉大數據解決方案，包括Hadoop平台、Spark、storm、機器學習、深度學習等大數據解決方案。

2. 深刻理解大數據處理(流計算、分散式計算、分散式檔案系統、分散式存儲等相關技術)實現方法。有架構和設計實踐經驗。

3. 精通大型資料庫Oracle、SqlServer等的開發。

4. 精通java，Python中的一種或多種語言。

5. 熟悉容器、虛擬化、微服務框架等相關技術。

6. 對數據敏感，有嚴謹的工作思路，良好的溝通能力和團隊合作精神。

7. 熟悉R，Python，SAS、SPSS等數據挖掘經驗者優先。

8. 高寬展性，高性能，和分散式系統的實踐及運維經驗者優先。

9. 有大型數據倉庫實施、大數據平台數據開發經驗，熟悉運營商業務者優先。

大數據平台架構師崗位職責 篇22

職責:

1)負責公司軟體產品整體架構的設計和關鍵功能實現

2)負責公司架構長期看護以及最佳化;

3)負責軟體部門各模組間的協調配合;

4)提高鞏固軟體代碼質量;

5)負責大數據流式框架的設計、最佳化及部署;

6)規劃研發部門員工的技術發展路線並提供必要的幫助和指導

任職資格:

1)本科及以上學歷，計算機相關專業，5年以上工作經驗;

2)頻繁換工作，比如一年一個公司，請繞路;

3)3年以上產品架構經驗，主導過產品的成功上線;

4)對底層設備通訊協定，B/S系統，手機APP開發等都有一定的了解;

5)對各種主流語言C#\Java\Pathon有一定的了解

5)精通各種大數據架構，並深入研究過其中一種，有storm\kafka等流式實時處理經驗為佳

6)能夠承擔較強的工作壓力，有良好的自我驅動能力和責任感;

7)具備優秀的邏輯思維能力、表達能力、溝通協調能力。

大數據平台架構師崗位職責 篇23

職責:

1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和最佳化、系統測試等相關工作

2、與數據專業委員會一起研究數據建模方案和建模工具，負責產品線產品的數據架構、數據模型設計

3、參與研究資料庫之間的數據轉換方式，參與項目中的數據移植工作，收集在項目中的數據移植經驗，最佳化產品的數據模型

4、負責培訓本部門隊伍的數據模型基礎理論工作，建立數據模型團隊

崗位要求：

1、統招本科學歷，3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗，具備大型數據倉庫邏輯模型和物理模型設計經驗，精通SQL，有較好的SQL性能調優經驗;

2、擁有Python，R等數學建模工具的使用經驗，並具備一定的數據處理和建模經驗，可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法並對其進行完整的解釋和說明;

3、熟悉統計學基本原理，做過實戰的數據建模項目;

4、有分散式數據倉庫建設相關經驗者優先，具備電信行業數據倉庫建設相關經驗者優先;

大數據平台架構師崗位職責 篇24

職責

1、負責公司大數據平台的整體架構設計，包含數據收集、數據存儲、數據挖掘、數據輸出;

2、負責規劃從數據源到數據套用的整體流程，並參與用戶產品和數據產品的決策;

3、負責海量數據分析、用戶行為分析，構建用戶數據模型;

4、負責解決核心技術問題，對技術方案進行決策;

5、技術團隊管理。

6、熟悉手機IOS、安卓系統APP開發

任職資格

1、計算機相關專業畢業，本科以上學歷;

2、5年以上相關工作經驗，具備軟體產品架構設計經驗，熟練掌握高性能、高擴展性架構設計方法;

3、熟練掌握java或c++任意一門語言、熟悉linux作業系統;

4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大數據技術，並能夠基於上述項目開發大數據相關套用;

5、熟悉基本數據挖掘方法和技術;

6、強烈的敬業精神，良好的溝通與協調能力，能有效組織協調團隊完成各類開發工作;

7、熱愛技術，相信數據的價值，對大數據有深刻的理解。

大數據平台架構師崗位職責 篇25

職責：

1. 負責設計企業級大數據平台的整體架構，從技術層面制定清晰的大數據產品與系統技術架構，並負責實現關鍵技術和產品。

2. 負責設計具有創新價值的大數據底層平台、大數據上層套用系統等，帶領團隊完成有質變的技術解決方案。

3. 負責組織同事研究行內最前沿的技術發展方向，突破現有的技術難題。

4. 負責研究院對外項目合作協調與支持，編寫項目建設方案及後期項目建設支持。

任職要求：

1. 碩士及以上學歷，計算機相關專業。

2. JAVA基礎紮實,不少於8年的一線開發經驗，精通Spring boot/MyBatis/Restful API的開發與管理. 熟悉ReactJS/Angular/Vue之一前端開發技術，熟悉Maven或Ant.，熟悉Python語言開發加分。

3. 不少於4年大數據的直接研發經驗，精通Hadoop/Spark系統，有hands-on的架構設計、性能調優、開發經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統的開發經驗。

4. 掌握分散式系統原理，對分散式存儲、流式計算、訊息佇列中的一項或多項有深入的理解和認識。

5. 熟悉分散式系統的監控、運維、故障恢復，高可用原理和設計理念。

6. 算法基礎紮實，熟悉常見的數據結構，掌握大規模高並發訪問、大數據開發等處理經驗;熟練的Linux系統, 網路, 記憶體和存儲等方面知識。

7. 必須要有千萬級別的項目管理經驗，包括但不限於前期需求溝通，建設方案編寫，中期項目實施，進度匯報，後期項目維護。

大數據平台架構師崗位職責 篇26

職責：

1、負責spark, hadoop, flink等開發和最佳化。

2、參與前期需求溝通和分析，以產品化開發的思維，完成需求分解和數據架構設計。

3、與研發和數據科學家合作保證產品定義清晰，按時完成產品上線。

4、能夠洞察市場狀況，與各部門合作轉化為基於大數據挖掘的新策略或方案.

5、主動創造和發掘新的基於大數據挖掘產品商業模式.

任職要求：

1、全日制本科及以上學歷，計算機軟體相關專業，5年以上開發經驗，3年以上架構經驗

2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分散式數據存儲和分散式計算平台原理，流式計算開發，有開源二次開發經驗者優先。

3、精通大數據挖掘、機器學習.熟練掌握Java/Perl/Python至少一種程式語言。

4、具有數據挖掘和分析、機器學習等項目實施相關經驗者優先;

5、良好的跨部門溝通合作能力，解決不同觀點能力並取得結果。具備敏銳的網際網路產品理解力，學習能力和邏輯思維能力強;

6、較強的自我驅動力、推動和協調能力，強烈的責任心和團隊合作精神;

大數據平台架構師崗位職責 篇27

職責：

1.負責過多個大數據項目的架構;

2.精通Hadoop、Spark, HBase等主流的大數據平台、精通各組件最佳化設計原理;

3.精通大數據實時流式處理的設計和套用;

3.熟悉大數據平台調優，具備大數據生產平台調優經驗;

4.金融行業，運營商行業大數據架構經驗更優;

5.研究大數據技術的最新發展，並引入到公司技術架構;

6.指導大數據工程師的日常工作，並培養技術骨幹。

任職資格：

1.計算機相關專業本科或以上學歷;

2.具有5年以上大數據相關開發經驗;

3.具有2年以上帶團隊經驗

4.對Hadoop/Hive/Spark/HBase/ES等等大數據常用技術有深刻理解，能夠帶領團隊進行技術攻堅，完成中間件的實施、改造、調優;

5.精通海量數據和實時數據的分析處理，能對線上的數據處理性能問題做調優;

6.精通數據倉庫以及維度建模原理，有大型數據倉庫建設經驗;

7.精通關係型資料庫和NoSQL資料庫的使用，熟悉相關理論;

8.溝通順暢，重點突出，高效。

大數據平台架構師崗位職責 篇28

職責：

1. 負責公司大數據平台的設計和開發，負責spark, hadoop, flink等雲計算平台的開發和最佳化;制定數據架構規範，進行核心代碼編寫，指導團隊落地;

2. 負責數據基礎架構和數據處理體系的升級和最佳化，技術難題攻關，持續提升核心繫統性能，保證系統的安全、穩定、高效運行

3. 設計並實現對BI分析、數據產品開發、算法開發的系統性支持

4. 研究未來數據模型和計算框架的創新與落地，包括但不限於以下領域：大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面參與制定並實踐團隊的技術發展路線

5. 建立良好的公司內外的業界技術影響力;參與培養未來數據人才;有效輔導團隊，提升數據研發能力

任職要求：

1. 有很強的數據設計抽象能力，善於從複雜的數據問題中找到關鍵路徑，能夠開發創新而實際的分析方法以解決複雜的商業問題

2. 有作為技術負責人系統化解決問題的成功案例;有海量數據建模實踐經驗優先

3. 熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景，精通流式計算開發，有開源二次開發經驗者優先，有NLP數據處理經驗者優先

4. 性格積極樂觀，誠信，能自我驅動，有較強的語言表達能力;具備強烈的進取心、求知慾及團隊合作精神;具有良好的溝通、團隊協作、計畫和創新的能力

5. 本科以上學歷，紮實的計算機專業基礎，有5年以上大數據平台開發經驗;

大數據平台架構師崗位職責 篇29

職責：

1、正確理解業務需求，對需求進行工作量評估;

2、參與項目相關的需求、設計、投產手冊等文檔的編寫;

3、根據進度計畫，完成所承擔功能模組的設計、開發、單元測試、聯調測試;

4、配合測試組修復代碼缺陷，確保功能實現與代碼質量;

5、負責所承擔功能模組投產、部署，及上線後的日常維護;

6、完成項目經理或者架構師安排的其他工作;

任職資格：

1、本科以上學歷，計算機相關專業，兩年以上大數據開發經驗;

2、熟悉Linux 環境，掌握shell或python;

3、熟練使用hadoop，hive，HBase，YARN，kafka，spark等大數據開發組件;

4、精通 ETL，數據倉庫的設計和開發;

5、有大數據處理實戰經驗，熟悉整個大數據的完整處理流程，包括數據的採集、清洗、存儲;

6、較強的動手能力和學習能力，良好的溝通能力、團隊協調能力;

7、具有銀行、金融行業從業背景者優先。

大數據平台架構師崗位職責 篇30

職責：

1、負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

2、負責公司項目的整體評估、設計、架構及關鍵模組的開發;

3、負責架構最佳化，協助團隊解決開發過程中遇到的技術難題;

4、負責新技術的調研和大數據相關開源組件的研究，並能在團隊進行推廣套用;

5、參與數據分析、數據建模、項目核心模組及核心框架的開發;

6、負責大數據平台的性能條有和問題診斷。

任職要求：

1、計算機相關專業，本科及以上學歷，3-5年以上工作經驗，2-3年大數據相關經驗;

2、具有紮實的大數據和數據倉庫理論功底，負責過大數據平台或數據倉庫設計;

3、對基於Hadoop的大數據體系有深入的認識，具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目套用研發經驗，有Hadoop集群搭建和管理經驗，度過Hadoop和Spark源碼;

4、熟悉Linux和Python語言，了解Scala原理和底層技術;

5、熟悉分散式系統的架構及對其進行設計和最佳化，對海量數據的清晰、分析處理及存儲有相關的實戰經驗;

6、算法基礎紮實，熟悉常見的數據結構，深入理解分散式算法和以上提到的分散式系統，

7、必須有一線coding的能力;

8、有統計學、數學知識，海量數據處理、分析和挖掘，大型網際網路公司從業經歷著優先。