大數據架構師的崗位職責

大數據架構師的崗位職責 篇1

職責：

1、搭建基於Hadoop/Spark的數據挖掘體系和大數據分析系統架構;

2、研究大數據領域前沿數據挖掘技術，並引入相應技術在數據中心的使用;

3、進行大數據系統框架設計、模型算法開發;

4、負責大型數據挖掘項目方案制定、項目實施落地及最佳化等 ;

5、開展數據爬取、聚類分析、輿情分析、魚骨圖分析、定價策略等領域數據挖掘工作;

任職資格：

1、本科以上學歷(持有學士學位)(985，211優先)，計算機相關專業，五年工作經驗;

2、二年以上數據挖掘項目經驗，完整參與過數據挖掘大數據平台的架構開發過程，具備網際網路行業背景優先;

3、精通分散式計算框架(hadoop、spark、Storm等)及相關經驗，熟練掌握Hive/SQL，Python，熟悉Python、R相關數值科學計算庫(NumPy,SciPy等);

4、了解傳統的BI/DW 理論，能結合傳統BI實踐設計大數據平台;

5、熟悉常用機器學習算法(如分類、回歸、聚類、關聯規則等)及其原理，具備套用場景經驗，如用戶畫像、商品關聯度分析、輿情分析;

6、熟悉主數據、元數據、數據質量、和數據建模等數據治理相關的體系和方法;

7、具備較強的邏輯思維能力、數據敏感度，擅於利用數據發現問題及解決問題;

大數據架構師的崗位職責 篇2

職責：

1、負責大數據開發團隊建設;

2、負責行業大數據產品架構設計與研發;

3、負責帶領團隊進行行業大數據產品關鍵技術攻關。

任職要求：

1、有三年以上大數據套用、開發經驗;具備海量數據加工處理(ETL)相關經驗，對數據挖掘及機器學習有較為深刻的理解;

2、熟悉Hadoop相關技術，對HDFS、MapReduce、Hive、HBase有一定的使用和開發經驗;

3、熟悉Linux，熟練使用Shell或Python，進行腳本編寫;

4、對數據結構和數據統計分析算法有較為深刻理解;

5、掌握至少一種主流關係資料庫開發技術：Oracle、SQL Server、MySQL等;

6、掌握實時流計算技術，有Spark、Storm開發經驗者優先;

7、需要具備2年以上研發團隊管理經驗。

大數據架構師的崗位職責 篇3

職責：

1.負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

2.負責統一數據平台項目的整體評估、設計、架構及關鍵模組的開發，不斷提升系統的穩定性和效率;

3.負責架構最佳化及系統關鍵模組的設計開發，協助團隊解決開發過程中的技術難題;

4.建立良好的公司內外的業界技術影響力;有效輔導團隊，提升數據研發能力;

任職要求：

1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力，善於從複雜的數據問題中找到關鍵路徑;

3.熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於：hadoop、storm、spark、等;

4. 良好的邏輯思維能力，良好的業務解讀能力，懂電力或通信業務優先;

5.具有鑽研精神，樂於接受挑戰;

大數據架構師的崗位職責 篇4

職責:

1)負責公司軟體產品整體架構的設計和關鍵功能實現

2)負責公司架構長期看護以及最佳化;

3)負責軟體部門各模組間的協調配合;

4)提高鞏固軟體代碼質量;

5)負責大數據流式框架的設計、最佳化及部署;

6)規劃研發部門員工的技術發展路線並提供必要的幫助和指導

任職資格:

1)本科及以上學歷，計算機相關專業，5年以上工作經驗;

2)頻繁換工作，比如一年一個公司，請繞路;

3)3年以上產品架構經驗，主導過產品的成功上線;

4)對底層設備通訊協定，B/S系統，手機APP開發等都有一定的了解;

5)對各種主流語言C#\Java\Pathon有一定的了解

5)精通各種大數據架構，並深入研究過其中一種，有storm\kafka等流式實時處理經驗為佳

6)能夠承擔較強的工作壓力，有良好的自我驅動能力和責任感;

7)具備優秀的邏輯思維能力、表達能力、溝通協調能力。

大數據架構師的崗位職責 篇5

職責：

1、負責公司大數據產品的架構設計，包含數據收集、數據存儲、數據套用，並完成相關架構設計文檔的撰寫;

2、參與規劃從數據源到數據套用的整體流程，並參與相關產品的決策;

3、負責解決核心技術問題，對技術方案進行決策;

4、負責大數據研發團隊建設、人才梯隊培養和技術團隊管理;

5、積極了解業界發展，研究與跟蹤大數據新技術發展方向。

任職要求：

1、精通GoldenGate For BigData相關理論，具備大型數據利用的生產實戰經驗;

2、精通數據驅動的理論，設計並生產上線相關數據驅動的產品;

3、精通常用訊息中間件的使用，例如kafka/RocketMQ/Apache Pulsar，有解讀相關源碼者優先;

4、掌握hadoop、spark生態體系相關產品的使用，掌握MapReduce編程或Spark編程;

5、了解傳統數據倉庫理論及相關ETL工具，例如kettle/datastage;

6、熟悉Oracle、Mongodb、Mysql資料庫的使用;

7、紮實的Java語言基礎，熟悉Java開發工具和調試工具的使用;

8、良好的團隊協作精神，有能力對團隊在軟體設計、實現和測試方面進行指導;

9、良好的邏輯分析能力和溝通能力，執行力強、對待工作認真嚴謹、責任心強、具備出色的學習能力和團隊合作精神，有一定的推動能力;

10、計算機科學、信息技術或相關領域本科以上學歷，具有5年以上數據平台項目開發經驗，3年以上的架構設計經驗，具有大數據平台套用大型項目架構設計經驗優先;

大數據架構師的崗位職責 篇6

職責：

1. 負責大數據基礎平台、海量數據存儲/處理分散式平台、數據分析系統架構設計和研發;

2. 負責實時計算平台基礎架構設計、部署、監控、最佳化升級;

3. 制定項目/數據倉庫設計及實現規範，指導設計研發和部署;

4. 協助策略和算法團隊工作，保障數據挖掘建模和工程化;

5. 深入研究大數據相關技術和產品，跟進業界先進技術。

任職要求：

1. 全日制本科及以上學歷，5年以上軟體和分散式系統研發經驗，3年以上大數據系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備Java/C++/Scala等開發經驗，熟悉數據挖掘和分析的策略與算法;

4. 具備良好的系統分析能力、故障診斷能力;

5. 有大數據策略、算法、可視化經驗優先;

6、211/985 重點學校畢業優先。

大數據架構師的崗位職責 篇7

職責：

1、負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

2、負責公司項目的整體評估、設計、架構及關鍵模組的開發;

3、負責架構最佳化，協助團隊解決開發過程中遇到的技術難題;

4、負責新技術的調研和大數據相關開源組件的研究，並能在團隊進行推廣套用;

5、參與數據分析、數據建模、項目核心模組及核心框架的開發;

6、負責大數據平台的性能條有和問題診斷。

任職要求：

1、計算機相關專業，本科及以上學歷，3-5年以上工作經驗，2-3年大數據相關經驗;

2、具有紮實的大數據和數據倉庫理論功底，負責過大數據平台或數據倉庫設計;

3、對基於Hadoop的大數據體系有深入的認識，具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目套用研發經驗，有Hadoop集群搭建和管理經驗，度過Hadoop和Spark源碼;

4、熟悉Linux和Python語言，了解Scala原理和底層技術;

5、熟悉分散式系統的架構及對其進行設計和最佳化，對海量數據的清晰、分析處理及存儲有相關的實戰經驗;

6、算法基礎紮實，熟悉常見的數據結構，深入理解分散式算法和以上提到的分散式系統，

7、必須有一線coding的能力;

8、有統計學、數學知識，海量數據處理、分析和挖掘，大型網際網路公司從業經歷著優先。

大數據架構師的崗位職責 篇8

職責：

1、負責企業大數據平台的基礎建設、管理及制定拓展規劃;

2、負責大數據平台相關自動化服務工具的設計、開發;

3、參與Hadoop、Hbase、Spark等核心平台組件的開發、最佳化;

4、對平台特殊場景化的數據套用制定相關實踐方案;

5、大數據團隊的搭建。

任職資格:

1、統招本科以上學歷，計算機等相關專業，5年以上工作經驗;

2、具有Hadoop等大規模集群管理經驗、海量(PB)數據處理經驗;

3、精通Hadoop、Hive、Hbase等離線平台相關組件的原理機制;

4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分散式系統;

5、熟悉高並發、分散式開發等相關知識，具有後端服務最佳化相關經驗;

6、熟悉爬蟲常用框架以及反爬技術;

7、具有良好的溝通能力、分析問題與攻關問題的能力;

8、有責任心，工作積極，對新領域新技術有熱情。

大數據架構師的崗位職責 篇9

職責：

1. 負責大數據基礎平台、海量數據存儲/處理分散式平台、數據分析系統架構設計和研發;

2. 負責實時計算平台基礎架構設計、部署、監控、最佳化升級;

3. 制定項目/數據倉庫設計及實現規範，指導設計研發和部署;

4. 協助策略和算法團隊工作，保障數據挖掘建模和工程化;

5. 深入研究大數據相關技術和產品，跟進業界先進技術;

任職要求：

1. 全日制本科及以上學歷，5年以上軟體和分散式系統研發經驗，3年以上大數據系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備良好的系統分析能力、故障診斷能力;

4 有大數據策略、算法、可視化經驗優先。

大數據架構師的崗位職責 篇10

職責:

1、對業務需求深入分析，從而進行大數據平台核心套用的架構設計、開發和技術支持;

2、規劃業務套用系統和基礎平台的技術架構，參與需求分析、建模、架構設計、技術決策以及詳細設計;

3、把握複雜系統的設計，確保系統的架構質量，編寫核心部分代碼;

4、帶領團隊攻克例如大數據量、高並發、高穩定性等帶來的各種挑戰及技術難關;

5、在大數據平台建設路線圖指導下，進行架構實施和交付物投遞，同時確保研發質量和方向的準確性;

6、進行團隊技術的培訓和梯隊建設崗位要求;

任職條件:

1、本科或以上學歷，計算機相關專業，8年以上研發經驗，3年以上大數據平台相關工作經驗;

2、精通Java開發技術，熟悉Shell、Scala語言和PYTHON優先;

3、編程基礎紮實，熟悉I/O、多執行緒、集群等基礎框架和原理，熟悉分散式、快取、訊息等機制;

4、熟悉常用設計模式，代碼評審規則，單元測試，持續集成;

5、熟悉AWS雲服務或阿里雲服務;

6、熟悉容器技術原理、生態系統，熟悉Docker、Mesos、Kubernetes等容器系統、大規模容器資源調度系統、分散式套用生命周期。

大數據架構師的崗位職責 篇11

1. 負責數瀾大數據平台的架構設計和研發，建立數據生態服務，解決海量數據面臨的挑戰;

2. 管理和最佳化Hadoop、Spark等集群，計算作業的調優，保證集群和平台的高效和穩定;

3. 負責Hadoop、Spark、Flink的功能、性能和擴展，解決並實現業務需求;

4. 負責大數據產品的自動化、離線與實時計算、即席計算、數據質量、數據安全、機器學習等平台的設計和開發;

5. 調研和把握當前的最新技術，將其中的先進技術引入到自己的平台中，改善產品，提升競爭力;

大數據架構師的崗位職責 篇12

職責:

1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和最佳化、系統測試等相關工作

2、與數據專業委員會一起研究數據建模方案和建模工具，負責產品線產品的數據架構、數據模型設計

3、參與研究資料庫之間的數據轉換方式，參與項目中的數據移植工作，收集在項目中的數據移植經驗，最佳化產品的數據模型

4、負責培訓本部門隊伍的數據模型基礎理論工作，建立數據模型團隊

崗位要求：

1、統招本科學歷，3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗，具備大型數據倉庫邏輯模型和物理模型設計經驗，精通SQL，有較好的SQL性能調優經驗;

2、擁有Python，R等數學建模工具的使用經驗，並具備一定的數據處理和建模經驗，可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法並對其進行完整的解釋和說明;

3、熟悉統計學基本原理，做過實戰的數據建模項目;

4、有分散式數據倉庫建設相關經驗者優先，具備電信行業數據倉庫建設相關經驗者優先;

大數據架構師的崗位職責 篇13

職責：

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續最佳化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、資料庫設計以及大數據產品研發工作;

為套用開發團隊提供技術支撐。

任職要求：

本科及以上學歷，3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗，精通JAVA，熟悉Python Scala等程式語言;具備深厚的分散式系統或資料庫系統的理論基礎，熟悉分散式計算系統的工作機制，具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關套用或研究背景;

溝通能力較好，積極主動意識較強，責任心較強。

大數據架構師的崗位職責 篇14

職責：

1、負責大數據平台的技術選型，基於Spark、Hadoop大數據平台建設和開發;

2、完成包括數據模型設計、數據採集、數據存儲等方面的大數據系統架構的設計和數據層架構設計;

3、構建數據中台，為多種行業套用提供主數據(畫像標籤/關係圖譜)、數據模型、人工智慧業務算法及數據服務。

4、對海量數據處理的業務需求進行評估和方案設計、拆分任務並指導工程師完成開發;

5、帶領大數據技術團隊提供並實現大數據平台上各項數據分析和數據可視化的架構設計，支撐解決方案實施。

任職要求：

1、本科及以上學歷，具有5年及以上大數據架構設計和開發經驗;2年及以上帶領團隊經驗;溝通能力強。在大型網際網路企業從事大數據架構設計者優先考慮;有分散式大型商業軟體系統設計經驗、主導過大型商業軟體的架構設計並取得過市場商業成功者優先考慮;

2、熟悉整個大數據的完整處理流程，包括數據的採集、清洗、預處理、存儲、分析挖據、機器學習和數據可視化;

3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流資料庫的使用，並能進行性能調優;

4、具備優秀的團隊意識和溝通能力，學習能力和主動性強，具有鑽研精神，充滿激情，樂於接受挑戰。

大數據架構師的崗位職責 篇15

職責：

1、負責大數據平台架構的規劃與設計;

2、負責大數據平台技術框架的選型與技術難點攻關;

3、參與企業級大數據產品和套用規劃;

4、研究跟進大數據架構領域新技術並分享;

5、大數據處理和分析套用平台的設計指導。

任職資格：

1、 具備深厚的分散式系統或資料庫系統的理論基礎，熟悉分散式計算系統的工作機制，具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

2、熟悉BI平台架構及相關項目標準，大數據解決方案包括Hadoop、Spark、Storm、機器學習等大數據平台解決方案;

3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流數據資料庫;

4、 精通Linux/Unix環境，精通J java、scala、python、R中的一種或多種語言;

5、 具備優秀的團隊意識和溝通能力，學習能力和主動性強，具有鑽研精神，充滿激情，樂於接受挑戰;

6、大專及以上學歷，3年及以上工作經驗。