大數據架構師的主要職責說明

大數據架構師的主要職責說明 篇1

職責：

(1) 負責公司大數據平台搭建，相關的設計和技術開發工作，負責大數據存儲系統、分散式計算系統、數據集成、挖掘算法等的設計、研發以及維護、最佳化工作;

(2) 通過數據分析技術，挖掘有利於行銷中各業務場景的變數或規則類標籤，以提升模型效果，為文旅、教育業務提供數學模型理論及編程支撐;

(3) 對接溝通業務系統研發團隊和產品部門，提供數據驅動方面的專業諮詢方案，並對業務的大數據套用場景提出建設性意見;

(4) 配合部門領導進行項目需求分析、設計開發工作。

任職要求：

(1) 計算機、統計學，數學等相關專業本科以上學歷，5年以上大數據或文旅、教育數據產品設計開發經驗，高效高質量產出需求和技術文檔;

(2) 精通Hadoop，熟悉大數據生態技術，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等，有大規模集群架構、開發及運維經驗;熟悉HDFS/MapReduce等;

(3) 熟悉Java，能夠獨立套用python、R、SAS或類似分析工具進行數據分析;

(4) 熟悉大數據挖掘、可視化分析，各種BI算法和產品等，在計算廣告、搜尋引擎、推薦系統、用戶畫像等有一個或多個算法領域的研發經驗，能夠運用數據作為產品解決業務方運營及決策問題;

(5) 有網際網路行業工作經驗者優先，有海量數據的機器學習算法實踐經驗優先;

(6) 工作認真、負責，有良好的團隊合作精神，良好的分析能力、溝通技巧。

大數據架構師的主要職責說明 篇2

職責：

1、負責大數據平台的技術選型，基於Spark、Hadoop大數據平台建設和開發;

2、完成包括數據模型設計、數據採集、數據存儲等方面的大數據系統架構的設計和數據層架構設計;

3、構建數據中台，為多種行業套用提供主數據(畫像標籤/關係圖譜)、數據模型、人工智慧業務算法及數據服務。

4、對海量數據處理的業務需求進行評估和方案設計、拆分任務並指導工程師完成開發;

5、帶領大數據技術團隊提供並實現大數據平台上各項數據分析和數據可視化的架構設計，支撐解決方案實施。

任職要求：

1、本科及以上學歷，具有5年及以上大數據架構設計和開發經驗;2年及以上帶領團隊經驗;溝通能力強。在大型網際網路企業從事大數據架構設計者優先考慮;有分散式大型商業軟體系統設計經驗、主導過大型商業軟體的架構設計並取得過市場商業成功者優先考慮;

2、熟悉整個大數據的完整處理流程，包括數據的採集、清洗、預處理、存儲、分析挖據、機器學習和數據可視化;

3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流資料庫的使用，並能進行性能調優;

4、具備優秀的團隊意識和溝通能力，學習能力和主動性強，具有鑽研精神，充滿激情，樂於接受挑戰。

大數據架構師的主要職責說明 篇3

職責：

1. 負責大數據基礎和套用平台的整體規劃和架構設計，參與需求分析，架構設計，詳細設計以及技術選型決策

2. 參與數據挖掘和建模相關核心算法的代碼實現

3. 負責大數據算法平台的技術把關，性能調優，控制架構質量，解決項目技術難題;對研發項目和任務需求進行評估和方案設計、拆分任務並指導工程師完成開發

4. 帶領團隊提供並實現大數據算法平台上各項數據接入、數據挖掘分析及數據可視化的架構設計與能力，支持解決方案實施

5. 負責資料庫設計、套用架構設計、核心技術選型等工作

6. 協調解決開發中的技術問題、設計和監控運營指標，保障系統穩定運行

7. 培養，指導有能力的員工，指導工程師進行技術驗證實現，核心技術攻關，解決開發過程中的技術難題

任職要求：

1. 熟悉大數據和數據倉庫的系統架構設計方法

2. 熟練使用並理解HadoopSpark架構及生態。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)

3. 熟悉分散式系統架構，有分散式實時、離線和機器學習平台的架構和開發經驗，具備海量數據清洗、分析處理及存儲的實踐經驗

4. 熟練使用JAVA，具有大規模分散式系統調優經驗

5. 熟悉AI相關算法，熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優先;

6. 具備良好的團隊合作精神，對工作充滿激情。

7. 熟悉FusionInsight平台開發經驗者優先

大數據架構師的主要職責說明 篇4

職責：

1、負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

2、負責公司項目的整體評估、設計、架構及關鍵模組的開發;

3、負責架構最佳化，協助團隊解決開發過程中遇到的技術難題;

4、負責新技術的調研和大數據相關開源組件的研究，並能在團隊進行推廣套用;

5、參與數據分析、數據建模、項目核心模組及核心框架的開發;

6、負責大數據平台的性能條有和問題診斷。

任職要求：

1、計算機相關專業，本科及以上學歷，3-5年以上工作經驗，2-3年大數據相關經驗;

2、具有紮實的大數據和數據倉庫理論功底，負責過大數據平台或數據倉庫設計;

3、對基於Hadoop的大數據體系有深入的認識，具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目套用研發經驗，有Hadoop集群搭建和管理經驗，度過Hadoop和Spark源碼;

4、熟悉Linux和Python語言，了解Scala原理和底層技術;

5、熟悉分散式系統的架構及對其進行設計和最佳化，對海量數據的清晰、分析處理及存儲有相關的實戰經驗;

6、算法基礎紮實，熟悉常見的數據結構，深入理解分散式算法和以上提到的分散式系統，

7、必須有一線coding的能力;

8、有統計學、數學知識，海量數據處理、分析和挖掘，大型網際網路公司從業經歷著優先。

大數據架構師的主要職責說明 篇5

職責：

1. 負責公司大數據平台的設計和開發，負責spark, hadoop, flink等雲計算平台的開發和最佳化;制定數據架構規範，進行核心代碼編寫，指導團隊落地;

2. 負責數據基礎架構和數據處理體系的升級和最佳化，技術難題攻關，持續提升核心繫統性能，保證系統的安全、穩定、高效運行

3. 設計並實現對BI分析、數據產品開發、算法開發的系統性支持

4. 研究未來數據模型和計算框架的創新與落地，包括但不限於以下領域：大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面參與制定並實踐團隊的技術發展路線

5. 建立良好的公司內外的業界技術影響力;參與培養未來數據人才;有效輔導團隊，提升數據研發能力

任職要求：

1. 有很強的數據設計抽象能力，善於從複雜的數據問題中找到關鍵路徑，能夠開發創新而實際的分析方法以解決複雜的商業問題

2. 有作為技術負責人系統化解決問題的成功案例;有海量數據建模實踐經驗優先

3. 熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景，精通流式計算開發，有開源二次開發經驗者優先，有NLP數據處理經驗者優先

4. 性格積極樂觀，誠信，能自我驅動，有較強的語言表達能力;具備強烈的進取心、求知慾及團隊合作精神;具有良好的溝通、團隊協作、計畫和創新的能力

5. 本科以上學歷，紮實的計算機專業基礎，有5年以上大數據平台開發經驗;

大數據架構師的主要職責說明 篇6

職責：

1、負責DMP技術架構設計與構建，根據業務規劃及技術規劃制定套用架構方案;

2、負責設計構建DMP數據採集、存儲及分析框架，設計數據處理的技術流程和規範;

3、負責核心功能的架構與代碼模板編寫，開發與維護系統公用核心模組;

4、負責基於大數據技術的海量數據的自動化分析處理和統計工作。

崗位要求：

1、計算機或相關專業本科以上學歷，三年以上的開發經驗，二年以上大數據相關軟體架構的實際經驗;

2、精通大數據處理技術，熟悉Hadoop/Storm技術體系，有Hadoop、Hive、Hbase項目經驗;

3、具有較強的架構能力，具有分散式計算、實時計算、數據倉庫、數據挖掘系統的架構經歷優先;

4、對數據敏感，洞察力強，了解國內外廣告發展趨勢;

5.、擅長系統分析與設計，精通常用的設計模式，擅長性能調優;

6、熟悉DMP/RTB技術原理，了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業從業經歷。

大數據架構師的主要職責說明 篇7

職責：

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續最佳化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、資料庫設計以及大數據產品研發工作;

為套用開發團隊提供技術支撐。

及時向上級反饋工作進度、遇到的問題或者對現有工作的建議等;

完成上級領導交辦的其它各項工作。

任職資格：

985/211本科及以上學歷，3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗，精通JAVA，熟悉Python Scala等程式語言;具備深厚的分散式系統或資料庫系統的理論基礎，熟悉分散式計算系統的工作機制，具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關套用或研究背景;

溝通能力較好，積極主動意識較強，責任心較強。

具備優秀的邏輯思維能力，對解決挑戰性問題充滿熱情，善於解決問題和分析問題;

良好的團隊合作精神，較強的溝通能力和學習能力 ;

大數據架構師的主要職責說明 篇8

職責：

1. 規劃設計大數據平台整體架構，規劃各種組件，並且指導技術團隊完成相關係統驗證、安裝、部署、配置;

2. 負責制定大數據平台技術規範和接口規範，指導研發團隊按照規範進行系統開發;

3. 配合商務人員完成售前技術支持工作;

4. 完成其他與數據套用有關的技術工作;

任職要求：

1. 計算機相關專業本科學歷，5年以上工作經驗;

2. 對大數據技術棧有非常深刻的了解;具備架構設計的實際經驗;

3. 對信息安全架構設計及實施有一定的經驗;

4. 熟悉Linux、Windows等作業系統的安裝配置;

5. 熟悉網際網路套用的安裝配置;熟悉常見大數據技術棧組件的安裝配置;熟悉Visio等繪圖工具的使用;

6. 有衛生信息化建設經驗者優先;有容器安裝部署經驗者優先。

大數據架構師的主要職責說明 篇9

職責：

1.負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

2.負責統一數據平台項目的整體評估、設計、架構及關鍵模組的開發，不斷提升系統的穩定性和效率;

3.負責架構最佳化及系統關鍵模組的設計開發，協助團隊解決開發過程中的技術難題;

4.建立良好的公司內外的業界技術影響力;有效輔導團隊，提升數據研發能力;

任職要求：

1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力，善於從複雜的數據問題中找到關鍵路徑;

3.熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於：hadoop、storm、spark、等;

4. 良好的邏輯思維能力，良好的業務解讀能力，懂電力或通信業務優先;

5.具有鑽研精神，樂於接受挑戰;

大數據架構師的主要職責說明 篇10

職責:

1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和最佳化、系統測試等相關工作

2、與數據專業委員會一起研究數據建模方案和建模工具，負責產品線產品的數據架構、數據模型設計

3、參與研究資料庫之間的數據轉換方式，參與項目中的數據移植工作，收集在項目中的數據移植經驗，最佳化產品的數據模型

4、負責培訓本部門隊伍的數據模型基礎理論工作，建立數據模型團隊

崗位要求：

1、統招本科學歷，3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗，具備大型數據倉庫邏輯模型和物理模型設計經驗，精通SQL，有較好的SQL性能調優經驗;

2、擁有Python，R等數學建模工具的使用經驗，並具備一定的數據處理和建模經驗，可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法並對其進行完整的解釋和說明;

3、熟悉統計學基本原理，做過實戰的數據建模項目;

4、有分散式數據倉庫建設相關經驗者優先，具備電信行業數據倉庫建設相關經驗者優先;

大數據架構師的主要職責說明 篇11

職責:

1、 負責大數據倉庫、數據集市的規劃及實現，負責大數據中台的設計和核心開發工作;

2、 負責數據基礎架構和數據處理體系的升級和最佳化，不斷提升系統的穩定性和效率，為公司的業務提供大數據底層平台的支持和保證;

3、 大數據平台的數據採集、處理、存儲以及挖掘分析的架構實現;

4、 研究未來數據模型和計算框架的創新與落地，包括但不限於以下領域：大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面,參與制定並實踐團隊的技術發展路線

任職資格:

1、 精通數據建模、數據標準管理、元數據管理、數據質量管理;

2、 有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

3、 熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於：hadoop、flink、spark等;

4、 性格積極樂觀，誠信，能自我驅動，有較強的語言表達能力;具備強烈的進取心、求知慾及團隊合作精神;具有良好的溝通、團隊協作、計畫和創新的能力; 在數據業界有一定的影響力優先，具有風控經驗背景的人優先;

5、 具備獨立的深度思考能力，給出結合實際情況的較為理想的技術解決方案。

大數據架構師的主要職責說明 篇12

職責：

1、負責大數據項目平台架構的評估、規劃和設計

2、開發大數據平台的核心模組代碼，負責大數據平台的搭建，完成系統調試、集成與實施，保證大數據產品的上線運行

3、根據業務需求整合最佳化數據架構，保證產品的可靠性、穩定性

4、指導開發人員完成數據模型規劃建設，分析模型構建及分析呈現

5、深入研究大數據相關技術和產品，跟進業界先進技術;

6、根據項目要求編寫相關技術文檔;

7、負責大數據平台的架構評審，代碼評審，上線評審;參與數據套用需求、設計、審核和評審;

8、負責核心模組研發，負責大數據平台的搭建，完成系統調試、集成與實施;

9. 負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;

10. 負責對使用關鍵技術的預研和選型，完成 PoC ;

11. 指導工程師完成開發工作，並能分享技術經驗。

任職資格:

1、精通Linux作業系統，熟練使用Java;

2、3年以上大數據項目實戰經驗，兩個項目的架構設計經驗，熟悉Hadoop、Hbase、Storm、Spark、Pig等開源框架，並熟悉其工作原理;

3、有Hadoop、Spark、Hbase平台性能調優經驗;

4、熟悉其它分散式存儲相關技術，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

5、熟悉Java開發常用框架.如Spring、MyBatis等;

6、熟悉關係型資料庫如oracle及資料庫編程。

7、能夠根據項目情況安排人力、分配任務，具有較強的團隊管理能力。

8、碩士以上學歷，20xx年以上的工作經驗。

大數據架構師的主要職責說明 篇13

職責：

1、負責大數據項目技術架構評估與設計;

2、負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;

3、負責對使用關鍵技術的預研和選型，完成PoC;

4、指導工程師完成開發工作，並能分享技術經驗。

任職要求：

1、3年以上相關工作經驗，其中具有1年以上架構設計經驗

2、熟悉商業智慧型系統相關技術，如 ETL、數據倉庫、OLAP開發;

3、精通設計模式，熟悉面向服務架構(SOA)以及其它常用軟體架構思想，有SOA方案設計、開發實施的實際經驗，要具備實際的服務規劃、服務粒度劃分經驗;並且要善於設計可重用組件和可定製化產品。

4、相關技術棧：Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;

5、有紮實的計算機基礎，熟悉Java等程式語言;