大數據平台架構師崗位職責

大數據平台架構師崗位職責 篇1

1、負責公司大數據處理框架研發工作，設計與開發分散式存儲、數據處理與分析架構。

2、負責大數據平台與產品和相關技術的追蹤及研究。

3、負責大數據的處理工作，以及業務數據提取、載入、轉換處理流程的開發和最佳化。

4、利用大數據平台工具對數據維護。

5、負責相關項目的技術支持和服務。

6、持續對系統的技術架構進行改進和最佳化。

大數據平台架構師崗位職責 篇2

1、建設大數據平台，主要技術為k8s, docker;

2、跟進開源社區的更新，閱讀文檔，驗證feature;

3、閱讀容器生態圈各組件的開源項目代碼，開發新功能;

4、持續提昇平台的性能和穩定性。

大數據平台架構師崗位職責 篇3

1. 負責數瀾大數據平台的架構設計和研發，建立數據生態服務，解決海量數據面臨的挑戰;

2. 管理和最佳化Hadoop、Spark等集群，計算作業的調優，保證集群和平台的高效和穩定;

3. 負責Hadoop、Spark、Flink的功能、性能和擴展，解決並實現業務需求;

4. 負責大數據產品的自動化、離線與實時計算、即席計算、數據質量、數據安全、機器學習等平台的設計和開發;

5. 調研和把握當前的最新技術，將其中的先進技術引入到自己的平台中，改善產品，提升競爭力;

大數據平台架構師崗位職責 篇4

1、負責大數據平台資源規劃、許可權控制、運維架構設計，為各產品業務提供穩定、高效、安全的運行環境;

2、負責實時，離線數據分析處理及實時平台的建設和搭建

3、熟悉 Flink 流式計算引擎的使用以及源碼原理，並且有相關的流式處理平台的經驗。

4、Java基礎紮實，熟練掌握垃圾回收，網路，多執行緒編程，了解 python 或 scala

5、負責大數據平台技術架構、數據架構的分析與設計;

大數據平台架構師崗位職責 篇5

1. 負責大數據項目整體架構規劃，包括套用架構、技術架構、物理架構和數據架構等;

2. 負責指導工程師進行技術驗證與實現，核心技術問題的攻關，解決項目開發過程中的技術難題;

3. 負責項目對外技術溝通，具有較強的溝通，表達和文檔撰寫能力;

4. 根據公司項目和業務發展特點，負責研究相關大數據前沿技術;

5. 推動技術能力的沉澱。

大數據平台架構師崗位職責 篇6

職責：

1.負責過多個大數據項目的架構;

2.精通Hadoop、Spark, HBase等主流的大數據平台、精通各組件最佳化設計原理;

3.精通大數據實時流式處理的設計和套用;

3.熟悉大數據平台調優，具備大數據生產平台調優經驗;

4.金融行業，運營商行業大數據架構經驗更優;

5.研究大數據技術的最新發展，並引入到公司技術架構;

6.指導大數據工程師的日常工作，並培養技術骨幹。

任職資格：

1.計算機相關專業本科或以上學歷;

2.具有5年以上大數據相關開發經驗;

3.具有2年以上帶團隊經驗

4.對Hadoop/Hive/Spark/HBase/ES等等大數據常用技術有深刻理解，能夠帶領團隊進行技術攻堅，完成中間件的實施、改造、調優;

5.精通海量數據和實時數據的分析處理，能對線上的數據處理性能問題做調優;

6.精通數據倉庫以及維度建模原理，有大型數據倉庫建設經驗;

7.精通關係型資料庫和NoSQL資料庫的使用，熟悉相關理論;

8.溝通順暢，重點突出，高效。

大數據平台架構師崗位職責 篇7

職責：

1、負責相關開源系統/組件的性能、穩定性、可靠性等方面的深度最佳化;

2、負責解決項目上線後生產環境的各種實際問題，保障大數據平台在生產上的安全、平穩運行;

3、推動最佳化跨部門的業務流程， 參與業務部門的技術方案設計、評審、指導;

4、負責技術團隊人員培訓、人員成長指導。

5、應項目要求本月辦公地址在錦江區金石路316號新希望中鼎國際辦公，月底項目結束後在總部公司辦公

任職要求：

1、熟悉linux、JVM底層原理，能作為技術擔當，解決核心技術問題;

2、3年以上大數據平台項目架構或開發經驗，對大數據生態技術體系有全面了解，如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;

3、掌握git、maven、gradle、junit等工具和實踐， 注重文檔管理、注重工程規範優先;

4、熟悉Java後台開發體系，具備微服務架構的項目實施經驗，有Dubbo/Spring cloud微服務架構設計經驗優先;

5、性格開朗、善於溝通，有極強的技術敏感性和自我驅動學習能力，注重團隊意識。

大數據平台架構師崗位職責 篇8

職責：

1.參與公司數據平台系統規劃和架構工作，主導系統的架構設計和項目實施，確保項目質量和關鍵性能指標達成;

2.統籌和推進制造工廠內部數據系統的構建，搭建不同來源數據之間的邏輯關係，能夠為公司運營診斷、運營效率提升提供數據支持;

3.負責數據系統需求對接、各信息化系統數據對接、軟體供應商管理工作

5.根據現狀制定總體的數據治理方案及數據體系建立，包括數據採集、接入、分類、開發標準和規範，制定全鏈路數據治理方案;深入挖掘公司數據業務，超強的數據業務感知力，挖掘數據價值，推動數據變現場景的落地，為決策及業務賦能;

6.定義不同的數據套用場景，推動公司的數據可視化工作，提升公司數據分析效率和數據價值轉化。

任職要求：

1.本科以上學歷，8年以上軟體行業從業經驗，5年以上大數據架構設計經驗，熟悉BI平台、大數據系統相關技術架構及技術標準;

2.熟悉數據倉庫、熟悉數據集市，了解數據挖掘、數據抽取、數據清洗、數據建模相關技術;

3.熟悉大數據相關技術：Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;

4.熟悉製造企業信息化系統及相關資料庫技術;

5.具備大數據平台、計算存儲平台、可視化開發平台經驗，具有製造企業大數據系統項目開發或實施經驗優先;

6.對數據敏感，具備優秀的業務需求分析和報告展示能力，具備製造企業數據分析和數據洞察、大數據系統的架構設計能力，了解主流的報表工具或新興的前端報表工具;

7.有較強的溝通和組織協調能力，具備結果導向思維，有相關項目管理經驗優先。

大數據平台架構師崗位職責 篇9

職責：

1. 負責大數據基礎和套用平台的整體規劃和架構設計，參與需求分析，架構設計，詳細設計以及技術選型決策

2. 參與數據挖掘和建模相關核心算法的代碼實現

3. 負責大數據算法平台的技術把關，性能調優，控制架構質量，解決項目技術難題;對研發項目和任務需求進行評估和方案設計、拆分任務並指導工程師完成開發

4. 帶領團隊提供並實現大數據算法平台上各項數據接入、數據挖掘分析及數據可視化的架構設計與能力，支持解決方案實施

5. 負責資料庫設計、套用架構設計、核心技術選型等工作

6. 協調解決開發中的技術問題、設計和監控運營指標，保障系統穩定運行

7. 培養，指導有能力的員工，指導工程師進行技術驗證實現，核心技術攻關，解決開發過程中的技術難題

任職要求：

1. 熟悉大數據和數據倉庫的系統架構設計方法

2. 熟練使用並理解HadoopSpark架構及生態。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)

3. 熟悉分散式系統架構，有分散式實時、離線和機器學習平台的架構和開發經驗，具備海量數據清洗、分析處理及存儲的實踐經驗

4. 熟練使用JAVA，具有大規模分散式系統調優經驗

5. 熟悉AI相關算法，熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優先;

6. 具備良好的團隊合作精神，對工作充滿激情。

7. 熟悉FusionInsight平台開發經驗者優先

大數據平台架構師崗位職責 篇10

職責：

負責大數據平台的規劃和搭建、完成大數據平台的日常運營工作，為數據分析和展現提供支持;

對系統框架相關技術和業務進行培訓，並負責核心代碼編寫，指導團隊開發及解決出現的系統問題;

參與基於大數據平台的創新業務場景進行數據產品的架構設計，負責數據產品的研發交付;

負責處理大數據平台的疑難問題，為數據團隊提供可靠的技術支持;

負責數據質量、穩定性等數據管理，數據內部共享融通的數據平台，讓數據標準更規範、數據獲取更高效;

及時跟進大數據領域新技術並分享，提升團隊技術能力。

任職要求：

本科或以上學歷，5年以上數據系統建設經驗，3年以上大數據架構設計經驗;

精通 java，python，scala 等一種大數據開發語言，熟悉Hadoop生態圈，包括但不限於hdfs，hive，spark， 有豐富的大數據項目的實踐經驗;

具備創新精神，條理清晰，溝通表達和邏輯思維能力強;

熟悉數據倉庫的設計和開發，對數據架構有深入的了解和具備相關的項目實踐經驗優先;

對SQL on Hadoop 的開源查詢引擎(如Presto、 Apache Drill ) 原理有深入研究優先;

有敏捷大數據和數據可視化實踐經驗優先。

大數據平台架構師崗位職責 篇11

職責：

1、大數據平台架構規劃與設計;

2、負責大數據平台技術框架的選型與技術難點攻關;

3、能夠獨立進行行業大數據套用的整體技術框架、業務框架和系統架構設計和調優等工作，根據系統的業務需求，能夠指導開發團隊完成實施工作;

4、負責數據基礎架構和數據處理體系的升級和最佳化，不斷提升系統的穩定性和效率，為相關的業務提供大數據底層平台的支持和保證;

5、培養和建立大數據團隊，對團隊進行技術指導。

任職要求：

1、計算機相關專業的背景專業一類院校畢業本科、碩士學位，8年(碩士5年)以上工作經驗(至少擁有3年以上大數據項目或產品架構經驗);

2、精通Java，J2EE 相關技術，精通常見開源框架的架構，精通關係資料庫系統(Oracle MySQL等)和noSQL數據存儲系統的原理和架構;

3、精通SQL和Mapreduce、Spark處理方法;

4、精通大數據系統架構，熟悉業界數據倉庫建模方法及新的建模方法的發展，有DW，BI架構體系的專項建設經驗;

5、對大數據體系有深入認識，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數據技術，並能設計相關數據模型;

6、很強的學習、分析和解決問題能力，可以迅速掌握業務邏輯並轉化為技術方案，能獨立撰寫項目解決方案、項目技術文檔;

7、具有較強的內外溝通能力，良好的團隊意識和協作精神;

8、機器學習技術、數據挖掘、人工智慧經驗豐富者優先考慮;

9、 具有能源電力行業工作經驗者優先。

大數據平台架構師崗位職責 篇12

職責：

1. 規劃設計大數據平台整體架構，規劃各種組件，並且指導技術團隊完成相關係統驗證、安裝、部署、配置;

2. 負責制定大數據平台技術規範和接口規範，指導研發團隊按照規範進行系統開發;

3. 配合商務人員完成售前技術支持工作;

4. 完成其他與數據套用有關的技術工作;

任職要求：

1. 計算機相關專業本科學歷，5年以上工作經驗;

2. 對大數據技術棧有非常深刻的了解;具備架構設計的實際經驗;

3. 對信息安全架構設計及實施有一定的經驗;

4. 熟悉Linux、Windows等作業系統的安裝配置;

5. 熟悉網際網路套用的安裝配置;熟悉常見大數據技術棧組件的安裝配置;熟悉Visio等繪圖工具的使用;

6. 有衛生信息化建設經驗者優先;有容器安裝部署經驗者優先。