大數據架構師的職責

大數據架構師的職責 篇1

職責:

1、負責規劃科技大數據平台及科技數據入庫自動化的方案設計;

2、負責大數據平台的開發和維護,以及對外服務接口的開發;

3、負責大數據平台的最佳化和改進工作。

任職要求

1、計算機相關專業本科及以上學歷,5年以上開發經驗,其中3年以上為網際網路、大數據相關的開發經驗;

2、熟知Hadoop生態圈體系,精通Hadoop/Spark/Storm/Kafka中的一項或幾項,深刻理解MapReduce的運行原理和機制,有MPI經驗者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相關資料庫的構建和操作,尤其是資料庫集群的構建和操作,熟悉Neo4j者尚佳;

4、具有機器學習相關項目經驗者優先。

大數據架構師的職責 篇2

職責

1、負責公司大數據平台的整體架構設計,包含數據收集、數據存儲、數據挖掘、數據輸出;

2、負責規劃從數據源到數據套用的整體流程,並參與用戶產品和數據產品的決策;

3、負責海量數據分析、用戶行為分析,構建用戶數據模型;

4、負責解決核心技術問題,對技術方案進行決策;

5、技術團隊管理。

6、熟悉手機IOS、安卓系統APP開發

任職資格

1、計算機相關專業畢業,本科以上學歷;

2、5年以上相關工作經驗,具備軟體產品架構設計經驗,熟練掌握高性能、高擴展性架構設計方法;

3、熟練掌握java或c++任意一門語言、熟悉linux作業系統;

4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大數據技術,並能夠基於上述項目開發大數據相關套用;

5、熟悉基本數據挖掘方法和技術;

6、強烈的敬業精神,良好的溝通與協調能力,能有效組織協調團隊完成各類開發工作;

7、熱愛技術,相信數據的價值,對大數據有深刻的理解。

大數據架構師的職責 篇3

職責:

1、負責大數據基礎平台、海量數據存儲處理分散式平台、數據分析系統架構設計和研發;

2、負責實時計算平台基礎架構設計、部署、監控、最佳化升級;

3、制定項目數據倉庫設計及實現規範,指導設計研發和部署;

4、協助策略和算法團隊工作,保障數據挖掘建模和工程化;

5、深入研究大數據相關技術和產品,跟進業界先進技術。

任職要求:

1、3年以上大數據系統架構經驗;

2、精通Hadoop HBase Hive Spark Flink Kafka Redis技術及其生態圈;

3、具備Java Scala Python等開發經驗,熟悉數據挖掘和分析的策略與算法;

4、精通數據抽取,海量數據傳輸,數據清洗的常用方法和工具。

5、具備良好的系統分析能力、故障診斷能力;

6、有大數據策略、算法、可視化經驗優先;

7、有在華為雲存儲產品和大數據產品的開發使用經驗優先。

大數據架構師的職責 篇4

職責:

1、負責公司的大數據平台的數倉架構、系統架構設計;

2、負責帶領團隊完成輿情分析相關的挖掘方案設計;

3、負責大數據研發組團隊管理;

4、負責帶領團隊完成輿情平台的方案文檔撰寫、疊代開發;

5、負責研發規範制定,研究行業前沿技術;

6、參與產品規劃及設計討論。

任職要求:

1、本科五年工作經驗及以上,有至少五年的大數據技術實踐經驗,有NLP或AI相關經驗;

2、有很強的架構設計能力和良好的表達能力;

3、有一定的項目管理及團隊管理能力;

4、精通Hadoop、Spark生態圈中的常用組件原理及套用;

6、理解媒體業務,精通數據倉庫的規劃和設計;

5、精通掌握Java或Python編程,有性能調優能力;

4、熟悉NLP算法原理及套用;

6、對新生事物或者新技術有濃厚興趣,學習能力強。

大數據架構師的職責 篇5

職責

1、參與打造數據中內容的規劃、設計、開發和最佳化工作,實現高質量數據的互通與共享;

2、參與數據模型體系構建及數據主題設計和開發,搭建離線、實時數據公共層;

3、參與數據產品與套用的數據研發,發掘數據商業價值,打造極致體驗的數據產品;

4、深入理解數據產品的使用場景,為業務方在可用性、成本上做更好的設計做參考;

5、團隊成員的搭建與培養,任務劃分,進度監控,代碼規範,質量保證。

任職要求

1、熟悉數據倉庫建模理論,3年以上相關領域實踐經驗;

2、Hadoop、Hive、Hbase、Storm、Spark等技術框架;

3、精通Java、Python、Scala、go等開發語言中的1到2種;

4、熟練使用Python/Java/scala或其他語言進行複雜業務邏輯的數據處理工作,具備海量數據處理以及性能最佳化的能力;

5、對MySQL、Redis、HBase等資料庫有一定的了解和使用經驗;

6、對olap,多維分析及kylin熟悉的更好;

7、思路清晰,具備良好的溝通能力和理解能力,較強的學習能力以及快速解決問題的能力;

8、對新技術,新事物有很好的探索和求知慾;

9、熟悉常規的機器學習算法:降維(PCA、SVD)、SVM、邏輯回歸(LogisticsRegression)、決策樹(GBDT、RandomForest)、關聯規則(Apriori、FP-Growth)、聚類(K-Means)等優先。

大數據架構師的職責 篇6

職責:

1. 規劃設計大數據平台整體架構,規劃各種組件,並且指導技術團隊完成相關係統驗證、安裝、部署、配置;

2. 負責制定大數據平台技術規範和接口規範,指導研發團隊按照規範進行系統開發;

3. 配合商務人員完成售前技術支持工作;

4. 完成其他與數據套用有關的技術工作;

任職要求:

1. 計算機相關專業本科學歷,5年以上工作經驗;

2. 對大數據技術棧有非常深刻的了解;具備架構設計的實際經驗;

3. 對信息安全架構設計及實施有一定的經驗;

4. 熟悉Linux、Windows等作業系統的安裝配置;

5. 熟悉網際網路套用的安裝配置;熟悉常見大數據技術棧組件的安裝配置;熟悉Visio等繪圖工具的使用;

6. 有衛生信息化建設經驗者優先;有容器安裝部署經驗者優先。

大數據架構師的職責 篇7

職責:

1.負責數據倉庫建設,基於數據驅動構建企業級數據模型,根據架構設計進行各層數據模型開發。

2.面向PB級別超大規模數據處理和查詢需求,設計適合業務變化的合理的多維數據分析系統架構,滿足多樣性需求。

3.構建設計良好的數據流、調度系統、查詢引擎、監控系統,保證系統穩定高效運行,以實現數據的最大價值。

4.指導團隊成員開展數據倉庫建設。

5.參與重點項目的評審,參與企業數據管理體系建設。

任職要求:

1.統招本科及以上學歷。

2.從事數據倉庫領域至少5年以上,熟悉數據倉庫模型設計與ETL開發經驗 ,掌握Kimball的維度建模設計方法,具備海量數據加工處理(ETL)相關經驗 。

3.具有一定數據模型和數據架構基礎,熟悉hadoop\hive和常用資料庫。

4. 精通SQL,有一定的SQL性能調優經驗,熟悉hive sql的開發。

5.具有管理團隊開發經驗,具備良好的組織能力、協調能力及項目管理能力。

6.具有較好的文字功底及語言表達能力,能夠快速、準確地理解需求。

7.具有專研、快速學習和創新精神,具備獨立分析問題和解決問題的能力。

8.具有責任心,時間觀念強,工作獨立性強,有良好的團隊合作精神。

9.全日制普通本科畢業。

大數據架構師的職責 篇8

職責:

1、負責公司大數據底層框架的整體架構設計,結合公司實際業務情況進行技術選型及大數據戰略規劃;

2、負責公司項目的整體評估、設計、架構及關鍵模組的開發;

3、負責架構最佳化,協助團隊解決開發過程中遇到的技術難題;

4、負責新技術的調研和大數據相關開源組件的研究,並能在團隊進行推廣套用;

5、參與數據分析、數據建模、項目核心模組及核心框架的開發;

6、負責大數據平台的性能條有和問題診斷。

任職要求:

1、計算機相關專業,本科及以上學歷,3-5年以上工作經驗,2-3年大數據相關經驗;

2、具有紮實的大數據和數據倉庫理論功底,負責過大數據平台或數據倉庫設計;

3、對基於Hadoop的大數據體系有深入的認識,具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目套用研發經驗,有Hadoop集群搭建和管理經驗,度過Hadoop和Spark源碼;

4、熟悉Linux和Python語言,了解Scala原理和底層技術;

5、熟悉分散式系統的架構及對其進行設計和最佳化,對海量數據的清晰、分析處理及存儲有相關的實戰經驗;

6、算法基礎紮實,熟悉常見的數據結構,深入理解分散式算法和以上提到的分散式系統,

7、必須有一線coding的能力;

8、有統計學、數學知識,海量數據處理、分析和挖掘,大型網際網路公司從業經歷著優先。

大數據架構師的職責 篇9

職責:

1、搭建基於Hadoop/Spark的數據挖掘體系和大數據分析系統架構;

2、研究大數據領域前沿數據挖掘技術,並引入相應技術在數據中心的使用;

3、進行大數據系統框架設計、模型算法開發;

4、負責大型數據挖掘項目方案制定、項目實施落地及最佳化等 ;

5、開展數據爬取、聚類分析、輿情分析、魚骨圖分析、定價策略等領域數據挖掘工作;

任職資格:

1、本科以上學歷(持有學士學位)(985,211優先),計算機相關專業,五年工作經驗;

2、二年以上數據挖掘項目經驗,完整參與過數據挖掘大數據平台的架構開發過程,具備網際網路行業背景優先;

3、精通分散式計算框架(hadoop、spark、Storm等)及相關經驗,熟練掌握Hive/SQL,Python,熟悉Python、R相關數值科學計算庫(NumPy,SciPy等);

4、了解傳統的BI/DW 理論,能結合傳統BI實踐設計大數據平台;

5、熟悉常用機器學習算法(如分類、回歸、聚類、關聯規則等)及其原理,具備套用場景經驗,如用戶畫像、商品關聯度分析、輿情分析;

6、熟悉主數據、元數據、數據質量、和數據建模等數據治理相關的體系和方法;

7、具備較強的邏輯思維能力、數據敏感度,擅於利用數據發現問題及解決問題;

大數據架構師的職責 篇10

職責:

1.負責企業數據中心建設,設計數據邏輯模型和物理模型,並完成相關開發

2.梳理公司各業務線常用的指標和維度,統一指標定義口徑

3.根據數據套用開發和數據分析需求,設計數據倉庫信息層模型,提高數據開發的效率

4.負責數據模型的運營和最佳化,及時回響業務邏輯變更,保證模型的數據質量和穩定性

5.負責公司數據標籤體系的建設,並推動標籤體系在實際業務場景中落地

崗位要求:

1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

2.有較強的數據分析能力,精通數據倉庫架構,熟悉Erwin或PowerDesigner建模工具

3.精通一種主流關係資料庫(如mysql等),熟悉Hive開發

4.有電商業務經驗,元數據管理,數據質量管理或標籤體系搭建經驗者優先

5.優秀的協調溝通與團隊協作能力,極強的責任心,能承受一定的工作壓力,認同企業文化和團隊價值

大數據架構師的職責 篇11

職責:

1、大數據平台的規劃、設計、實施,並最佳化資料庫;

2、對資料庫進行管理,負責資料庫套用系統的運營及監控;

3、對資料庫性能分析與調優,排錯,保證數據正確率;

4、配合其他部門進行的數據處理、查詢,統計和分析工作;

5、完成公司下達的項目開發任務。

任職要求:

1、計算機及相關專業本科以上學歷,5年以上軟體開發從業經驗,其中包括至少2年以上的大數據開發工作經驗;

2、熟悉hive,hadoop/spark,hbase等大數據相關技術架構,有管理或最佳化大型分散式集群經驗;

3、熟悉linux基本命令,精通SQL腳本的編寫,有豐富的資料庫管理、運維調優經驗;

4、熟悉C++、Java、C#等開發語言;

5、有網際網路電商行業大數據分析處理和大型數據倉庫的設計和實施經驗;

6、有分散式系統分析及架構設計經驗和大型計算集群的基礎設施開發維護經驗;

7、快速處理系統突發事件的能力,較強的學習和創新能力;

8、良好的溝通能力和團隊合作精神。

大數據架構師的職責 篇12

職責:

1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和最佳化、系統測試等相關工作

2、與數據專業委員會一起研究數據建模方案和建模工具,負責產品線產品的數據架構、數據模型設計

3、參與研究資料庫之間的數據轉換方式,參與項目中的數據移植工作,收集在項目中的數據移植經驗,最佳化產品的數據模型

4、負責培訓本部門隊伍的數據模型基礎理論工作,建立數據模型團隊

崗位要求:

1、統招本科學歷,3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗,具備大型數據倉庫邏輯模型和物理模型設計經驗,精通SQL,有較好的SQL性能調優經驗;

2、擁有Python,R等數學建模工具的使用經驗,並具備一定的數據處理和建模經驗,可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法並對其進行完整的解釋和說明;

3、熟悉統計學基本原理,做過實戰的數據建模項目;

4、有分散式數據倉庫建設相關經驗者優先,具備電信行業數據倉庫建設相關經驗者優先;

大數據架構師的職責 篇13

職責:

1、負責大數據基礎平台的整體規劃和架構設計,參與需求分析、技術決策以及詳細設計;

2、為現有大數據集群Hadoop、hive平台提供性能調優、架構最佳化重組,解決系統中的關鍵問題和技術難題;

3、把握基礎業務複雜系統的設計,確保系統的架構質量,編寫核心部分代碼;

4、持續挑戰新的技術方向,攻克大數據量,高並發,穩定性等各種技術難點。

任職資格:

1、計算機或相關專業本科及以上學歷;

2、5年以上hadoop的套用開發經驗,5年以上數據倉庫開發實踐經驗,至少一個企業級數據倉庫項目開發經驗或者大數據處理項目經驗;

3、良好的編程開發能力,精通PHP及其他開發語言;

4、熟悉mysql等資料庫經驗,具備優秀的SQL編寫、調優能力;

5、熟練掌握Linux常規命令與工具,精通shell, perl, python等腳本語言至少一種;

6、軟體基礎理論知識紮實,具有良好的數據結構、算法功底;

7、對新技術敏感,學習能力強,樂於接受挑戰,具有良好的團隊合作精神;

大數據架構師的職責 篇14

職責:

1. 負責產品級業務系統架構(如業務數據對象識別,數據實體、數據屬性分析,數據標準、端到端數據流等)的設計與最佳化。協助推動跨領域重大數據問題的分析、定位、解決方案設計,從架構設計上保障系統高性能、高可用性、高安全性、高時效性、分散式擴展性,並對系統質量負責。

2.負責雲數據平台的架構設計和數據處理體系的最佳化,推動雲數據平台建設和持續升級,並制定雲數據平台調用約束和規範。

3. 結合行業套用的需求負責數據流各環節上的方案選型,主導雲數據平台建設,參與核心代碼編寫、審查;數據的統計邏輯回歸算法、實時互動分析;數據可視化方案等等的選型、部署、集成融合等等。

4. 對雲數據平台的關注業內技術動態,持續推動平台技術架構升級,以滿足公司不同階段的數據需求。

任職要求:

1. 熟悉雲計算基礎平台,包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎環境,熟悉控制、計算、存儲和網路;

2. 掌握大型分散式系統的技術棧,如:CDN、負載均衡、服務化/異步化、分散式快取、NoSQL、資料庫垂直及水平擴容;熟悉大數據套用端到端的相關高性能產品。

3. 精通 Java,Python,Shell 程式語言,精通 SQL、NoSQL 等資料庫增刪改查的操作最佳化;

4. PB 級別實戰數據平台和生產環境的實施、開發和管理經驗;

5. 熟悉 Docker 等容器的編排封裝,熟悉微服務的開發和日常調度;

6.計算機、軟體、電子信息及通信等相關專業本科以上學歷,5 年以上軟體工程開發經驗,2 年以上大數據架構師工作經驗。

大數據架構師的職責 篇15

1、負責公司大數據處理框架研發工作,設計與開發分散式存儲、數據處理與分析架構。

2、負責大數據平台與產品和相關技術的追蹤及研究。

3、負責大數據的處理工作,以及業務數據提取、載入、轉換處理流程的開發和最佳化。

4、利用大數據平台工具對數據維護。

5、負責相關項目的技術支持和服務。

6、持續對系統的技術架構進行改進和最佳化。

大數據架構師的職責 篇16

職責:

1、負責公司大數據平台架構的技術選型和技術難點攻關工作;

2、依據行業數據現狀和客戶需求,完成行業大數據的特定技術方案設計與撰寫;

3、負責研究跟進大數據架構領域新興技術並在公司內部進行分享;

4、參與公司大數據項目的技術交流、解決方案定製以及項目的招投標工作;

5、參與公司大數據項目前期的架構設計工作;

任職要求:

1、計算機及相關專業本科以上,5年以上數據類項目(數據倉庫、商務智慧型)實施經驗,至少2年以上大數據架構設計和開發經驗,至少主導過一個大數據平台項目架構設計;

2、精通大數據生態圈的技術,包括但不限於MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具備數據統計查詢性能最佳化能力。熟悉星環大數據產品線及有過產品項目實施經驗者優先;

3、優秀的方案撰寫能力,思路清晰,邏輯思維強,能夠根據業務需求設計合理的解決方案;

4、精通ORACLE、DB2、mySql等主流關係型資料庫,熟悉數據倉庫建設思路和數據分層架構思想;

5. 熟練掌握java、R、python等1-2門數據挖掘開發語言;

6. 熟悉雲服務平台及微服務相關架構思想和技術路線,熟悉阿里雲或騰訊雲產品者優先;

7、有菸草或製造行業大數據解決方案售前經驗者優先;

8、能適應售前支持和項目實施需要的短期出差;

大數據架構師的職責 篇17

職責:

1.負責整個大數據平台架構的設計和構建;

2.負責構建大數據平台的數據交換、任務調度等通用平台;

3.制定開發、測試、實施、維護的標準和規範,指導和培訓工程師,不斷提升團隊能力。

4.參與系統需求分析、架構設計、技術選型、套用設計與開發以及測試與部署,負責編寫核心部分代碼。

5.持續挑戰新的技術方向,攻克大數據量、高並發、高可用、可擴展等技術難點。

任職要求:

1.3年以上大數據架構經驗,豐富的數據倉庫、數據挖掘、機器學習項目經驗

2.大規模數據處理的架構和設計實戰經驗

3.精通Spark、MR,熟練HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等,並具有豐富的大型數據平台工程經驗

4.深刻理解大數據處理(流計算,分散式計算,分散式檔案系統,分散式存儲等)相關技術和實現方法

5.熟悉主數據、元數據、數據質量等企業數據管理相關的體系和方法,熟練Linux/Unix平台上的開發環境

6.本科或以上學歷,計算機軟體或相關專業,豐富的java開發經驗和網際網路背景優先。

7.具有比較強的問題分析和處理能力,有比較優秀的動手能力,熱衷技術,精益求精

大數據架構師的職責 篇18

職責:

1、 負責大數據倉庫、數據集市的規劃及實現,負責大數據中台的設計和核心開發工作;

2、 負責數據基礎架構和數據處理體系的升級和最佳化,不斷提升系統的穩定性和效率,為公司的業務提供大數據底層平台的支持和保證;

3、 大數據平台的數據採集、處理、存儲以及挖掘分析的架構實現;

4、 研究未來數據模型和計算框架的創新與落地,包括但不限於以下領域:大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面,參與制定並實踐團隊的技術發展路線

任職資格:

1、 精通數據建模、數據標準管理、元數據管理、數據質量管理;

2、 有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

3、 熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於:hadoop、flink、spark等;

4、 性格積極樂觀,誠信,能自我驅動,有較強的語言表達能力;具備強烈的進取心、求知慾及團隊合作精神;具有良好的溝通、團隊協作、計畫和創新的能力; 在數據業界有一定的影響力優先,具有風控經驗背景的人優先;

5、 具備獨立的深度思考能力,給出結合實際情況的較為理想的技術解決方案。

大數據架構師的職責 篇19

職責:

1、負責自然語音互動、IOT家電物聯控制、知識圖譜等相關模組和系統的開發;

2、負責掌握第三方接口的調用和功能實現,持續最佳化服務性能和容量,並保證產品的兼容性和執行效率;

3、根據設計文檔和需求說明完成代碼編寫、調試、單元測試與維護,確保項目進度和質量;

4、協助制定測試計畫,及時發現並修復BUG,實現服務端的性能最佳化。

任職資格:

1、大學本科3年以上工作經驗,計算機相關專業;

2、熟悉軟體項目開發流程,具有良好編碼風格及文檔編寫能力;

3、熟悉Linux伺服器相關技術,能夠獨立完成伺服器部署,具有相關經驗;

4、熟悉Hadoop/Spark框架,JAVA基礎紮實;

5、熟練使用Mysql資料庫,了解MongoDB或neo4j等分散式資料庫;

6、熟悉SpringCloud,SSM,Docker,redis開發者優先;

7、熟悉前端(包括但不限於Html5、css、Angularjs、ajax、jquery等)開發技術優先;

8、了解Socket網路編程、MQTT等,有相應實踐經驗者優先;

9、有智慧型語音語義、知識圖譜服務端開發經驗者優先。

大數據架構師的職責 篇20

職責:

1)負責大數據平台系統架構設計、核心開發工作(Hadoop&Spark技術方向),基於業務場景設計最優的系統解決方案。

2)構架支持大數量級的數據的大數據平台系統,及相關監控,拓展系統設計及實現。

3)利用Hadoop、Spark等大數據技術對海量數據進行處理,支持BI和數據科學(建模)的套用實現。

4)對現有系統的進行架構深入分析及系統最佳化,進一步提升系統的性能及數據處理能力。

任職資格

1)統招本科或以上學歷,計算機相關專業, 5年以上軟體開發經驗、3年以上大數據項目經驗。

2)具備較豐富的大數據平台相關構建,維護及調優經驗,有大數據量級下的大數據集市相關經驗。

3)具備較豐富的基於Hadoop或Hive或Spark等大數據處理項目經驗,具備一定的數據挖掘經驗。

4) 具有阿里雲的EMR(emapreduce)的經驗者優先考慮。

5)具有良好的業務理解、溝通和協作能力,具有較強的學習和總結能力。

6)優秀的團隊合作精神、誠實、勤奮、嚴謹,敢於接受挑戰。

7)機器學習技術、數據挖掘經驗豐富者優先考慮。

大數據架構師的職責 篇21

職責:

負責公司大數據產品架構的設計與實現;

配合大數據產品經理完成產品的快速研發與交付;

負責大數據產品架構的持續最佳化設計;

負責大數據產品核心組件設計;

負責大數據相關數據架構規劃、數據建模、資料庫設計以及大數據產品研發工作;

為套用開發團隊提供技術支撐。

及時向上級反饋工作進度、遇到的問題或者對現有工作的建議等;

完成上級領導交辦的其它各項工作。

任職資格:

985/211本科及以上學歷,3年以上的大數據開發經驗、

2年以上大數據架構設計經驗;

豐富的JAVA研發經驗,精通JAVA,熟悉Python Scala等程式語言;具備深厚的分散式系統或資料庫系統的理論基礎,熟悉分散式計算系統的工作機制,具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

熟悉整個大數據的完整處理流程(數據的採集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

精通各種大數據相關技術體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;

有數據挖掘、機器學習相關套用或研究背景;

溝通能力較好,積極主動意識較強,責任心較強。

具備優秀的邏輯思維能力,對解決挑戰性問題充滿熱情,善於解決問題和分析問題;

良好的團隊合作精神,較強的溝通能力和學習能力 ;

大數據架構師的職責 篇22

職責:

1.負責公司大數據底層框架的整體架構設計,結合公司實際業務情況進行技術選型及大數據戰略規劃;

2.負責統一數據平台項目的整體評估、設計、架構及關鍵模組的開發,不斷提升系統的穩定性和效率;

3.負責架構最佳化及系統關鍵模組的設計開發,協助團隊解決開發過程中的技術難題;

4.建立良好的公司內外的業界技術影響力;有效輔導團隊,提升數據研發能力;

任職要求:

1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力,善於從複雜的數據問題中找到關鍵路徑;

3.熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於:hadoop、storm、spark、等;

4. 良好的邏輯思維能力,良好的業務解讀能力,懂電力或通信業務優先;

5.具有鑽研精神,樂於接受挑戰;

大數據架構師的職責 篇23

職責:

1. 負責設計企業級大數據平台的整體架構,從技術層面制定清晰的大數據產品與系統技術架構,並負責實現關鍵技術和產品。

2. 負責設計具有創新價值的大數據底層平台、大數據上層套用系統等,帶領團隊完成有質變的技術解決方案。

3. 負責組織同事研究行內最前沿的技術發展方向,突破現有的技術難題。

4. 負責研究院對外項目合作協調與支持,編寫項目建設方案及後期項目建設支持。

任職要求:

1. 碩士及以上學歷,計算機相關專業。

2. JAVA基礎紮實,不少於8年的一線開發經驗,精通Spring boot/MyBatis/Restful API的開發與管理. 熟悉ReactJS/Angular/Vue之一前端開發技術,熟悉Maven或Ant.,熟悉Python語言開發加分。

3. 不少於4年大數據的直接研發經驗,精通Hadoop/Spark系統,有hands-on的架構設計、性能調優、開發經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統的開發經驗。

4. 掌握分散式系統原理,對分散式存儲、流式計算、訊息佇列中的一項或多項有深入的理解和認識。

5. 熟悉分散式系統的監控、運維、故障恢復,高可用原理和設計理念。

6. 算法基礎紮實,熟悉常見的數據結構,掌握大規模高並發訪問、大數據開發等處理經驗;熟練的Linux系統, 網路, 記憶體和存儲等方面知識。

7. 必須要有千萬級別的項目管理經驗,包括但不限於前期需求溝通,建設方案編寫,中期項目實施,進度匯報,後期項目維護。

大數據架構師的職責 篇24

職責:

1、負責規劃大數據平台及套用產品的需求和技術方案設計;

2、負責數據對接和對外服務設計、開發和維護,並能保證質量和性能;

3、負責基於大數據平台的套用設計、開發和維護;

4、能從系統全局和各子系統的角度思考可能存在的問題,並提出改進方案建議;

任職要求:

1、大學本科6年以上工作經驗,計算機相關專業。

2、至少4年以上的Java開發經驗,3年以上大數據套用系統的開發和設計經驗。

3、熟悉Hadoop生態圈技術體系, 對離線計算、記憶體計算和流式計算均有深刻理解, 如Hadoop、Storm、Spark三個中的任意二個, 能進行平台和組件最佳化。

4、精通Hive、HBase倉庫設計,深刻理解MR運行原理和機制,能進行以提供高任務執行效率的最佳化。

5、精通Java開發,熟悉JVM調優, 對GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關技術, 能進行hbase可靠性診斷和維護。

7、快速研究和學習技術能力。

大數據架構師的職責 篇25

職責:

1. 負責大數據基礎平台、海量數據存儲/處理分散式平台、數據分析系統架構設計和研發;

2. 負責實時計算平台基礎架構設計、部署、監控、最佳化升級;

3. 制定項目/數據倉庫設計及實現規範,指導設計研發和部署;

4. 協助策略和算法團隊工作,保障數據挖掘建模和工程化;

5. 深入研究大數據相關技術和產品,跟進業界先進技術;

任職要求:

1. 全日制本科及以上學歷,5年以上軟體和分散式系統研發經驗,3年以上大數據系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備良好的系統分析能力、故障診斷能力;

4 有大數據策略、算法、可視化經驗優先。

大數據架構師的職責 篇26

職責:

1、負責大數據平台架構的規劃與設計;

2、負責大數據平台技術框架的選型與技術難點攻關;

3、參與企業級大數據產品和套用規劃;

4、研究跟進大數據架構領域新技術並分享;

5、大數據處理和分析套用平台的設計指導。

任職資格:

1、 具備深厚的分散式系統或資料庫系統的理論基礎,熟悉分散式計算系統的工作機制,具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

2、熟悉BI平台架構及相關項目標準,大數據解決方案包括Hadoop、Spark、Storm、機器學習等大數據平台解決方案;

3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流數據資料庫;

4、 精通Linux/Unix環境,精通J java、scala、python、R中的一種或多種語言;

5、 具備優秀的團隊意識和溝通能力,學習能力和主動性強,具有鑽研精神,充滿激情,樂於接受挑戰;

6、大專及以上學歷,3年及以上工作經驗。