大數據架構師崗位的主要職責概述

大數據架構師崗位的主要職責概述 篇1

職責:

1、負責大數據平台及BI系統框架設計、規劃、技術選型,架構設計並完成系統基礎服務的開發;

2、負責海量埋點規則、SDK標準化、埋點數據採集、處理及存儲,業務數據分布存儲、流式/實時計算等套用層架構搭建及核心代碼實現;

3、開發大數據平台的核心代碼,項目敏捷開發流程管理,完成系統調試、集成與實施,對每個項目周期技術難題的解決,保證大數據產品的上線運行;

4、負責大數據平台的架構最佳化,代碼評審,並根據業務需求持續最佳化數據架構,保證產品的可靠性、穩定性;

5、指導開發人員完成數據模型規劃建設,分析模型構建及分析呈現,分享技術經驗;

6、有效制定各種突發性研發技術故障的應對預案,有清晰的隱患意識;

7、深入研究大數據相關技術和產品,跟進業界先進技術;

【任職要求】

1、統計學、套用數學或計算機相關專業大學本科以上學歷;

2、熟悉網際網路移動端埋點方法(點擊和瀏覽等行為埋點),無埋點方案等,有埋點SDK獨立開發經驗者優選;

3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等,具備實際項目設計及開發經驗;

4、熟悉數據採集、數據清洗、分析和建模工作相關技術細節及流程

5、熟悉Liunx/Unix作業系統,能熟練使用shell/perl等腳本語言,熟練掌握java/python/go/C++中一種或多種程式語言

6、具備一定的算法能力,了解機器學習/深度學習算法工具使用,有主流大數據計算組件開發和使用經驗者優先

7、熟悉大數據可視化工具Tableau/echarts

8、具有較強的執行力,高度的責任感、很強的學習、溝通能力,能夠在高壓下高效工作;

大數據架構師崗位的主要職責概述 篇2

職責:

1. 負責產品級業務系統架構(如業務數據對象識別,數據實體、數據屬性分析,數據標準、端到端數據流等)的設計與最佳化。協助推動跨領域重大數據問題的分析、定位、解決方案設計,從架構設計上保障系統高性能、高可用性、高安全性、高時效性、分散式擴展性,並對系統質量負責。

2.負責雲數據平台的架構設計和數據處理體系的最佳化,推動雲數據平台建設和持續升級,並制定雲數據平台調用約束和規範。

3. 結合行業套用的需求負責數據流各環節上的方案選型,主導雲數據平台建設,參與核心代碼編寫、審查;數據的統計邏輯回歸算法、實時互動分析;數據可視化方案等等的選型、部署、集成融合等等。

4. 對雲數據平台的關注業內技術動態,持續推動平台技術架構升級,以滿足公司不同階段的數據需求。

任職要求:

1. 熟悉雲計算基礎平台,包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎環境,熟悉控制、計算、存儲和網路;

2. 掌握大型分散式系統的技術棧,如:CDN、負載均衡、服務化/異步化、分散式快取、NoSQL、資料庫垂直及水平擴容;熟悉大數據套用端到端的相關高性能產品。

3. 精通 Java,Python,Shell 程式語言,精通 SQL、NoSQL 等資料庫增刪改查的操作最佳化;

4. PB 級別實戰數據平台和生產環境的實施、開發和管理經驗;

5. 熟悉 Docker 等容器的編排封裝,熟悉微服務的開發和日常調度;

6.計算機、軟體、電子信息及通信等相關專業本科以上學歷,5 年以上軟體工程開發經驗,2 年以上大數據架構師工作經驗。

大數據架構師崗位的主要職責概述 篇3

職責:

1、大數據平台架構規劃與設計;

2、負責大數據平台技術框架的選型與技術難點攻關;

3、能夠獨立進行行業大數據套用的整體技術框架、業務框架和系統架構設計和調優等工作,根據系統的業務需求,能夠指導開發團隊完成實施工作;

4、負責數據基礎架構和數據處理體系的升級和最佳化,不斷提升系統的穩定性和效率,為相關的業務提供大數據底層平台的支持和保證;

5、培養和建立大數據團隊,對團隊進行技術指導。

任職要求:

1、計算機相關專業的背景專業一類院校畢業本科、碩士學位,8年(碩士5年)以上工作經驗(至少擁有3年以上大數據項目或產品架構經驗);

2、精通Java,J2EE 相關技術,精通常見開源框架的架構,精通關係資料庫系統(Oracle MySQL等)和noSQL數據存儲系統的原理和架構;

3、精通SQL和Mapreduce、Spark處理方法;

4、精通大數據系統架構,熟悉業界數據倉庫建模方法及新的建模方法的發展,有DW,BI架構體系的專項建設經驗;

5、對大數據體系有深入認識,熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數據技術,並能設計相關數據模型;

6、很強的學習、分析和解決問題能力,可以迅速掌握業務邏輯並轉化為技術方案,能獨立撰寫項目解決方案、項目技術文檔;

7、具有較強的內外溝通能力,良好的團隊意識和協作精神;

8、機器學習技術、數據挖掘、人工智慧經驗豐富者優先考慮;

9、 具有能源電力行業工作經驗者優先。

大數據架構師崗位的主要職責概述 篇4

職責:

根據大數據業務需求,設計大數據方案及架構,實現相關功能;

搭建和維護大數據集群,保證集群規模持續、穩定、高效平穩運行;

負責大數據業務的設計和指導具體開發工作;

負責公司產品研發過程中的數據及存儲設計;

針對數據分析工作,能夠完成和指導負責業務數據建模。

職位要求:

計算機、自動化或相關專業(如統計學、數學)本科以上學歷,3年以上大數據處理相關工作經驗;

精通大數據主流框架(如 Hadoop、hive、Spark等);

熟悉 MySQL、NoSQL(MongoDB、Redis)等主流資料庫,以及rabbit MQ等佇列技術;

熟悉hadoop/spark生態的原理、特性且有實戰開發經驗;

熟悉常用的數據挖掘算法優先.

大數據架構師崗位的主要職責概述 篇5

職責:

1.參與公司數據平台系統規劃和架構工作,主導系統的架構設計和項目實施,確保項目質量和關鍵性能指標達成;

2.統籌和推進制造工廠內部數據系統的構建,搭建不同來源數據之間的邏輯關係,能夠為公司運營診斷、運營效率提升提供數據支持;

3.負責數據系統需求對接、各信息化系統數據對接、軟體供應商管理工作

5.根據現狀制定總體的數據治理方案及數據體系建立,包括數據採集、接入、分類、開發標準和規範,制定全鏈路數據治理方案;深入挖掘公司數據業務,超強的數據業務感知力,挖掘數據價值,推動數據變現場景的落地,為決策及業務賦能;

6.定義不同的數據套用場景,推動公司的數據可視化工作,提升公司數據分析效率和數據價值轉化。

任職要求:

1.本科以上學歷,8年以上軟體行業從業經驗,5年以上大數據架構設計經驗,熟悉BI平台、大數據系統相關技術架構及技術標準;

2.熟悉數據倉庫、熟悉數據集市,了解數據挖掘、數據抽取、數據清洗、數據建模相關技術;

3.熟悉大數據相關技術:Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;

4.熟悉製造企業信息化系統及相關資料庫技術;

5.具備大數據平台、計算存儲平台、可視化開發平台經驗,具有製造企業大數據系統項目開發或實施經驗優先;

6.對數據敏感,具備優秀的業務需求分析和報告展示能力,具備製造企業數據分析和數據洞察、大數據系統的架構設計能力,了解主流的報表工具或新興的前端報表工具;

7.有較強的溝通和組織協調能力,具備結果導向思維,有相關項目管理經驗優先。

大數據架構師崗位的主要職責概述 篇6

職責:

1.負責公司新業務方向平台大數據基礎架構的搭建及後期數據處理體系的升級和最佳化,不斷提升系統的穩定性和效率。為公司未來方向性產品提供大數據底層平台的支持和保證。

2.負責制定大數據平台調用約束和規範;

3.負責大數據方向技術難題的解決,以及代碼質量的把控;

4.作為大數據開發團隊的leader,負責大數據系統平台開發團隊建設與人才梯隊培養,分享技術經驗,撰寫相關技術文檔指導和培訓工程師。

任職要求:

1.熱衷於大數據技術,並能平衡大數據性能、穩定性、擴展性多重要素進行設計和最佳化;

2.熟悉伺服器基本知識,能夠評估系統硬體性能瓶頸;

3.掌握Linux作業系統的配置,管理及最佳化,能夠獨立排查及解決作業系統層的各類問題,並能提供解決問題的理論依據;

4.精通Java伺服器編程,熟悉JVM原理,對數據結構和算法設計有較為深刻的理解;

5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底層架構,熟悉原理、源碼、集群部署,包括參數最佳化、Bug修復,貢獻過代碼或提交過bug者優先

6.具備數據中心資源管理、監控、調度等系統研發經驗者優先,具備分散式系統研發經驗者優先;

7.具有套用大數據技術處理的項目開發、維護超過兩年的經驗者優先;

8.具有良好的文檔編寫能力,可進行方案設計、架構設計。

大數據架構師崗位的主要職責概述 篇7

職責

1、參與打造數據中內容的規劃、設計、開發和最佳化工作,實現高質量數據的互通與共享;

2、參與數據模型體系構建及數據主題設計和開發,搭建離線、實時數據公共層;

3、參與數據產品與套用的數據研發,發掘數據商業價值,打造極致體驗的數據產品;

4、深入理解數據產品的使用場景,為業務方在可用性、成本上做更好的設計做參考;

5、團隊成員的搭建與培養,任務劃分,進度監控,代碼規範,質量保證。

任職要求

1、熟悉數據倉庫建模理論,3年以上相關領域實踐經驗;

2、Hadoop、Hive、Hbase、Storm、Spark等技術框架;

3、精通Java、Python、Scala、go等開發語言中的1到2種;

4、熟練使用Python/Java/scala或其他語言進行複雜業務邏輯的數據處理工作,具備海量數據處理以及性能最佳化的能力;

5、對MySQL、Redis、HBase等資料庫有一定的了解和使用經驗;

6、對olap,多維分析及kylin熟悉的更好;

7、思路清晰,具備良好的溝通能力和理解能力,較強的學習能力以及快速解決問題的能力;

8、對新技術,新事物有很好的探索和求知慾;

9、熟悉常規的機器學習算法:降維(PCA、SVD)、SVM、邏輯回歸(LogisticsRegression)、決策樹(GBDT、RandomForest)、關聯規則(Apriori、FP-Growth)、聚類(K-Means)等優先。

大數據架構師崗位的主要職責概述 篇8

職責:

1、對業務需求深入分析,從而進行大數據平台核心套用的架構設計、開發和技術支持;

2、規劃業務套用系統和基礎平台的技術架構,參與需求分析、建模、架構設計、技術決策以及詳細設計;

3、把握複雜系統的設計,確保系統的架構質量,編寫核心部分代碼;

4、帶領團隊攻克例如大數據量、高並發、高穩定性等帶來的各種挑戰及技術難關;

5、在大數據平台建設路線圖指導下,進行架構實施和交付物投遞,同時確保研發質量和方向的準確性;

6、進行團隊技術的培訓和梯隊建設崗位要求;

任職條件:

1、本科或以上學歷,計算機相關專業,8年以上研發經驗,3年以上大數據平台相關工作經驗;

2、精通Java開發技術,熟悉Shell、Scala語言和PYTHON優先;

3、編程基礎紮實,熟悉I/O、多執行緒、集群等基礎框架和原理,熟悉分散式、快取、訊息等機制;

4、熟悉常用設計模式,代碼評審規則,單元測試,持續集成;

5、熟悉AWS雲服務或阿里雲服務;

6、熟悉容器技術原理、生態系統,熟悉Docker、Mesos、Kubernetes等容器系統、大規模容器資源調度系統、分散式套用生命周期。

大數據架構師崗位的主要職責概述 篇9

職責:

1. 負責大數據基礎平台、海量數據存儲/處理分散式平台、數據分析系統架構設計和研發;

2. 負責實時計算平台基礎架構設計、部署、監控、最佳化升級;

3. 制定項目/數據倉庫設計及實現規範,指導設計研發和部署;

4. 協助策略和算法團隊工作,保障數據挖掘建模和工程化;

5. 深入研究大數據相關技術和產品,跟進業界先進技術。

任職要求:

1. 全日制本科及以上學歷,5年以上軟體和分散式系統研發經驗,3年以上大數據系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備Java/C++/Scala等開發經驗,熟悉數據挖掘和分析的策略與算法;

4. 具備良好的系統分析能力、故障診斷能力;

5. 有大數據策略、算法、可視化經驗優先;

6、211/985 重點學校畢業優先。

大數據架構師崗位的主要職責概述 篇10

職責:

1、負責大數據平台架構的規劃與設計;

2、負責大數據平台技術框架的選型與技術難點攻關;

3、參與企業級大數據產品和套用規劃;

4、研究跟進大數據架構領域新技術並分享;

5、大數據處理和分析套用平台的設計指導。

任職資格:

1、 具備深厚的分散式系統或資料庫系統的理論基礎,熟悉分散式計算系統的工作機制,具有分散式檔案系統、分散式資料庫系統、集群存儲系統等架構設計經驗;

2、熟悉BI平台架構及相關項目標準,大數據解決方案包括Hadoop、Spark、Storm、機器學習等大數據平台解決方案;

3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流數據資料庫;

4、 精通Linux/Unix環境,精通J java、scala、python、R中的一種或多種語言;

5、 具備優秀的團隊意識和溝通能力,學習能力和主動性強,具有鑽研精神,充滿激情,樂於接受挑戰;

6、大專及以上學歷,3年及以上工作經驗。

大數據架構師崗位的主要職責概述 篇11

職責:

1、負責公司大數據底層框架的整體架構設計,結合公司實際業務情況進行技術選型及大數據戰略規劃;

2、負責公司項目的整體評估、設計、架構及關鍵模組的開發;

3、負責架構最佳化,協助團隊解決開發過程中遇到的技術難題;

4、負責新技術的調研和大數據相關開源組件的研究,並能在團隊進行推廣套用;

5、參與數據分析、數據建模、項目核心模組及核心框架的開發;

6、負責大數據平台的性能條有和問題診斷。

任職要求:

1、計算機相關專業,本科及以上學歷,3-5年以上工作經驗,2-3年大數據相關經驗;

2、具有紮實的大數據和數據倉庫理論功底,負責過大數據平台或數據倉庫設計;

3、對基於Hadoop的大數據體系有深入的認識,具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目套用研發經驗,有Hadoop集群搭建和管理經驗,度過Hadoop和Spark源碼;

4、熟悉Linux和Python語言,了解Scala原理和底層技術;

5、熟悉分散式系統的架構及對其進行設計和最佳化,對海量數據的清晰、分析處理及存儲有相關的實戰經驗;

6、算法基礎紮實,熟悉常見的數據結構,深入理解分散式算法和以上提到的分散式系統,

7、必須有一線coding的能力;

8、有統計學、數學知識,海量數據處理、分析和挖掘,大型網際網路公司從業經歷著優先。

大數據架構師崗位的主要職責概述 篇12

職責:

1.負責企業數據中心建設,設計數據邏輯模型和物理模型,並完成相關開發

2.梳理公司各業務線常用的指標和維度,統一指標定義口徑

3.根據數據套用開發和數據分析需求,設計數據倉庫信息層模型,提高數據開發的效率

4.負責數據模型的運營和最佳化,及時回響業務邏輯變更,保證模型的數據質量和穩定性

5.負責公司數據標籤體系的建設,並推動標籤體系在實際業務場景中落地

崗位要求:

1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

2.有較強的數據分析能力,精通數據倉庫架構,熟悉Erwin或PowerDesigner建模工具

3.精通一種主流關係資料庫(如mysql等),熟悉Hive開發

4.有電商業務經驗,元數據管理,數據質量管理或標籤體系搭建經驗者優先

5.優秀的協調溝通與團隊協作能力,極強的責任心,能承受一定的工作壓力,認同企業文化和團隊價值

大數據架構師崗位的主要職責概述 篇13

職責:

1. 負責大數據基礎平台、海量數據存儲/處理分散式平台、數據分析系統架構設計和研發;

2. 負責實時計算平台基礎架構設計、部署、監控、最佳化升級;

3. 制定項目/數據倉庫設計及實現規範,指導設計研發和部署;

4. 協助策略和算法團隊工作,保障數據挖掘建模和工程化;

5. 深入研究大數據相關技術和產品,跟進業界先進技術;

任職要求:

1. 全日制本科及以上學歷,5年以上軟體和分散式系統研發經驗,3年以上大數據系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備良好的系統分析能力、故障診斷能力;

4 有大數據策略、算法、可視化經驗優先。

大數據架構師崗位的主要職責概述 篇14

職責:

1. 負責大數據平台的基礎技術規劃,編制相關規範文檔。

2. 負責大數據平台的數據採集,處理,存儲以及挖掘分析的架構實現。

3. 負責大數據平台的實際規劃建設,包括環境和框架的規劃搭建以及部分核心編碼工作。

4. 負責大數據相關技術發展方向的預研。

5. 參與業務需求調研,根據需求及行業特點設計大數據解決方案並跟進具體實施項目。

6. 制定大數據平台中數據質量,業務質量監控及管理辦法。

崗位要求:

1. 全日制本科及以上學歷,5年以上工作經驗,4年及以上大數據架構設計經驗,熟悉大數據解決方案,包括Hadoop平台、Spark、storm、機器學習、深度學習等大數據解決方案。

2. 深刻理解大數據處理(流計算、分散式計算、分散式檔案系統、分散式存儲等相關技術)實現方法。有架構和設計實踐經驗。

3. 精通大型資料庫Oracle、SqlServer等的開發。

4. 精通java,Python中的一種或多種語言。

5. 熟悉容器、虛擬化、微服務框架等相關技術。

6. 對數據敏感,有嚴謹的工作思路,良好的溝通能力和團隊合作精神。

7. 熟悉R,Python,SAS、SPSS等數據挖掘經驗者優先。

8. 高寬展性,高性能,和分散式系統的實踐及運維經驗者優先。

9. 有大型數據倉庫實施、大數據平台數據開發經驗,熟悉運營商業務者優先。

大數據架構師崗位的主要職責概述 篇15

1、建設大數據平台,主要技術為k8s, docker;

2、跟進開源社區的更新,閱讀文檔,驗證feature;

3、閱讀容器生態圈各組件的開源項目代碼,開發新功能;

4、持續提昇平台的性能和穩定性。

大數據架構師崗位的主要職責概述 篇16

職責:

1、負責公司的大數據處理框架的研發設計工作,梳理可實現方案和技術規範;

2、開發、完善公司大數據平台;參與公司離線、實時大數據處理系統的設計、開發、測試及多個業務模組的自動化集成;

3、負責業務平台數據統計分析模組的設計與規劃;

4、負責公司產品研發過程中的數據及存儲設計;

5、帶領和培養團隊完成組織分解的目標;

任職要求:

1、統招本科及以上學歷,計算機、軟體工程相關專業,至少8年以上工作經驗,5年以上大數據開發經驗;

2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關技術的基礎架構

3、熟悉數據倉庫,數據算法,分散式計算技術理論,具有大數據整體系統架構設計經驗;

4、熟悉Linux系統,熟練使用shell/perl/python腳本處理問題;

5、對深度學習框架(Tensorflow)和機器學習(svm 隨機深林貝葉斯等)有一定了解的優先;

6、能夠組織項目開發組協同工作,包括團隊溝通、計畫、開發環境管理等

大數據架構師崗位的主要職責概述 篇17

職責:

1.負責公司大數據底層框架的整體架構設計,結合公司實際業務情況進行技術選型及大數據戰略規劃;

2.負責統一數據平台項目的整體評估、設計、架構及關鍵模組的開發,不斷提升系統的穩定性和效率;

3.負責架構最佳化及系統關鍵模組的設計開發,協助團隊解決開發過程中的技術難題;

4.建立良好的公司內外的業界技術影響力;有效輔導團隊,提升數據研發能力;

任職要求:

1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力,善於從複雜的數據問題中找到關鍵路徑;

3.熟悉目前正在發展的大數據分散式平台前沿技術的套用;包括但不僅僅限於:hadoop、storm、spark、等;

4. 良好的邏輯思維能力,良好的業務解讀能力,懂電力或通信業務優先;

5.具有鑽研精神,樂於接受挑戰;

大數據架構師崗位的主要職責概述 篇18

職責:

1、負責自然語音互動、IOT家電物聯控制、知識圖譜等相關模組和系統的開發;

2、負責掌握第三方接口的調用和功能實現,持續最佳化服務性能和容量,並保證產品的兼容性和執行效率;

3、根據設計文檔和需求說明完成代碼編寫、調試、單元測試與維護,確保項目進度和質量;

4、協助制定測試計畫,及時發現並修復BUG,實現服務端的性能最佳化。

任職資格:

1、大學本科3年以上工作經驗,計算機相關專業;

2、熟悉軟體項目開發流程,具有良好編碼風格及文檔編寫能力;

3、熟悉Linux伺服器相關技術,能夠獨立完成伺服器部署,具有相關經驗;

4、熟悉Hadoop/Spark框架,JAVA基礎紮實;

5、熟練使用Mysql資料庫,了解MongoDB或neo4j等分散式資料庫;

6、熟悉SpringCloud,SSM,Docker,redis開發者優先;

7、熟悉前端(包括但不限於Html5、css、Angularjs、ajax、jquery等)開發技術優先;

8、了解Socket網路編程、MQTT等,有相應實踐經驗者優先;

9、有智慧型語音語義、知識圖譜服務端開發經驗者優先。

大數據架構師崗位的主要職責概述 篇19

職責:

1、負責規劃科技大數據平台及科技數據入庫自動化的方案設計;

2、負責大數據平台的開發和維護,以及對外服務接口的開發;

3、負責大數據平台的最佳化和改進工作。

任職要求

1、計算機相關專業本科及以上學歷,5年以上開發經驗,其中3年以上為網際網路、大數據相關的開發經驗;

2、熟知Hadoop生態圈體系,精通Hadoop/Spark/Storm/Kafka中的一項或幾項,深刻理解MapReduce的運行原理和機制,有MPI經驗者尚佳;

3、熟悉Elasticsearch、Redis、Hbased等相關資料庫的構建和操作,尤其是資料庫集群的構建和操作,熟悉Neo4j者尚佳;

4、具有機器學習相關項目經驗者優先。

大數據架構師崗位的主要職責概述 篇20

職責:

1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和最佳化、系統測試等相關工作

2、與數據專業委員會一起研究數據建模方案和建模工具,負責產品線產品的數據架構、數據模型設計

3、參與研究資料庫之間的數據轉換方式,參與項目中的數據移植工作,收集在項目中的數據移植經驗,最佳化產品的數據模型

4、負責培訓本部門隊伍的數據模型基礎理論工作,建立數據模型團隊

崗位要求:

1、統招本科學歷,3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗,具備大型數據倉庫邏輯模型和物理模型設計經驗,精通SQL,有較好的SQL性能調優經驗;

2、擁有Python,R等數學建模工具的使用經驗,並具備一定的數據處理和建模經驗,可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法並對其進行完整的解釋和說明;

3、熟悉統計學基本原理,做過實戰的數據建模項目;

4、有分散式數據倉庫建設相關經驗者優先,具備電信行業數據倉庫建設相關經驗者優先;

大數據架構師崗位的主要職責概述 篇21

職責:

1、負責spark, hadoop, flink等開發和最佳化。

2、參與前期需求溝通和分析,以產品化開發的思維,完成需求分解和數據架構設計。

3、與研發和數據科學家合作保證產品定義清晰,按時完成產品上線。

4、能夠洞察市場狀況,與各部門合作轉化為基於大數據挖掘的新策略或方案.

5、主動創造和發掘新的基於大數據挖掘產品商業模式.

任職要求:

1、全日制本科及以上學歷,計算機軟體相關專業,5年以上開發經驗,3年以上架構經驗

2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分散式數據存儲和分散式計算平台原理,流式計算開發,有開源二次開發經驗者優先。

3、精通大數據挖掘、機器學習.熟練掌握Java/Perl/Python至少一種程式語言。

4、具有數據挖掘和分析、機器學習等項目實施相關經驗者優先;

5、良好的跨部門溝通合作能力,解決不同觀點能力並取得結果。具備敏銳的網際網路產品理解力,學習能力和邏輯思維能力強;

6、較強的自我驅動力、推動和協調能力,強烈的責任心和團隊合作精神;

大數據架構師崗位的主要職責概述 篇22

職責:

1、負責相關開源系統/組件的性能、穩定性、可靠性等方面的深度最佳化;

2、負責解決項目上線後生產環境的各種實際問題,保障大數據平台在生產上的安全、平穩運行;

3、推動最佳化跨部門的業務流程, 參與業務部門的技術方案設計、評審、指導;

4、負責技術團隊人員培訓、人員成長指導。

5、應項目要求本月辦公地址在錦江區金石路316號新希望中鼎國際辦公,月底項目結束後在總部公司辦公

任職要求:

1、熟悉linux、JVM底層原理,能作為技術擔當,解決核心技術問題;

2、3年以上大數據平台項目架構或開發經驗,對大數據生態技術體系有全面了解,如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;

3、掌握git、maven、gradle、junit等工具和實踐, 注重文檔管理、注重工程規範優先;

4、熟悉Java後台開發體系,具備微服務架構的項目實施經驗,有Dubbo/Spring cloud微服務架構設計經驗優先;

5、性格開朗、善於溝通,有極強的技術敏感性和自我驅動學習能力,注重團隊意識。

大數據架構師崗位的主要職責概述 篇23

職責:

負責大數據平台架構的規劃和設計,主導系統的架構設計和核心模組開發,確保項目質量和關鍵性能指標達成;

負責大數據平台技術框架的選型與技術難點攻關,指導開發大數據平台的開發,保證大數據產品的上線運行;

負責深入理解業務需求,對業務建模,設計系統架構,滿足業務需求;

負責協助策略和算法工作,保障數據挖掘建模和工程化;

負責根據業務需求整合最佳化數據架構,保證產品的可靠性、穩定性;

負責指導開發人員完成數據模型規劃建設、分析模型構建及分析呈現;

負責研發技術發展方向,新技術領域的探索,將新技術套用到公司大數據平台,提升公司效能

任職要求:

本科及以上學歷,擁有5年以上大數據平台產品或分散式系統設計經驗,6年以上的開發經驗;

精通Hadoop,熟悉大數據生態技術,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等,有大規模集群架構、開發及運維經驗;

熟練掌握java/Scala語言,實現面向對象開發思想OOA,OOD,OOP;

熟悉linux作業系統,熟練掌握腳本言語Shell/Perl/Python等編碼語言;

熟練掌握數據倉庫設計,開發工作。能夠根據業務設計並開發數據倉。

具備源碼級問題解決和集群最佳化改造能力者優先;

能快速的學習新的開源框架和知識體系,並套用到現有架構體系中;

邏輯清晰,快速的學習能力,良好的溝通能力、團隊協調能力。

具備良好的團隊合作精神,較強的溝通交流能力,具備良好的技術領導能力;

具備良好的文檔撰寫能力和技術團隊管理能力

大數據架構師崗位的主要職責概述 篇24

職責:

1、負責規劃大數據平台及套用產品的需求和技術方案設計;

2、負責數據對接和對外服務設計、開發和維護,並能保證質量和性能;

3、負責基於大數據平台的套用設計、開發和維護;

4、能從系統全局和各子系統的角度思考可能存在的問題,並提出改進方案建議;

任職要求:

1、大學本科6年以上工作經驗,計算機相關專業。

2、至少4年以上的Java開發經驗,3年以上大數據套用系統的開發和設計經驗。

3、熟悉Hadoop生態圈技術體系, 對離線計算、記憶體計算和流式計算均有深刻理解, 如Hadoop、Storm、Spark三個中的任意二個, 能進行平台和組件最佳化。

4、精通Hive、HBase倉庫設計,深刻理解MR運行原理和機制,能進行以提供高任務執行效率的最佳化。

5、精通Java開發,熟悉JVM調優, 對GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關技術, 能進行hbase可靠性診斷和維護。

7、快速研究和學習技術能力。

大數據架構師崗位的主要職責概述 篇25

職責:

1、負責公司的大數據平台的數倉架構、系統架構設計;

2、負責帶領團隊完成輿情分析相關的挖掘方案設計;

3、負責大數據研發組團隊管理;

4、負責帶領團隊完成輿情平台的方案文檔撰寫、疊代開發;

5、負責研發規範制定,研究行業前沿技術;

6、參與產品規劃及設計討論。

任職要求:

1、本科五年工作經驗及以上,有至少五年的大數據技術實踐經驗,有NLP或AI相關經驗;

2、有很強的架構設計能力和良好的表達能力;

3、有一定的項目管理及團隊管理能力;

4、精通Hadoop、Spark生態圈中的常用組件原理及套用;

6、理解媒體業務,精通數據倉庫的規劃和設計;

5、精通掌握Java或Python編程,有性能調優能力;

4、熟悉NLP算法原理及套用;

6、對新生事物或者新技術有濃厚興趣,學習能力強。

大數據架構師崗位的主要職責概述 篇26

職責:

1)負責公司軟體產品整體架構的設計和關鍵功能實現

2)負責公司架構長期看護以及最佳化;

3)負責軟體部門各模組間的協調配合;

4)提高鞏固軟體代碼質量;

5)負責大數據流式框架的設計、最佳化及部署;

6)規劃研發部門員工的技術發展路線並提供必要的幫助和指導

任職資格:

1)本科及以上學歷,計算機相關專業,5年以上工作經驗;

2)頻繁換工作,比如一年一個公司,請繞路;

3)3年以上產品架構經驗,主導過產品的成功上線;

4)對底層設備通訊協定,B/S系統,手機APP開發等都有一定的了解;

5)對各種主流語言C#\Java\Pathon有一定的了解

5)精通各種大數據架構,並深入研究過其中一種,有storm\kafka等流式實時處理經驗為佳

6)能夠承擔較強的工作壓力,有良好的自我驅動能力和責任感;

7)具備優秀的邏輯思維能力、表達能力、溝通協調能力。

大數據架構師崗位的主要職責概述 篇27

職責:

1. 負責公司大數據平台的設計和開發,負責spark, hadoop, flink等雲計算平台的開發和最佳化;制定數據架構規範,進行核心代碼編寫,指導團隊落地;

2. 負責數據基礎架構和數據處理體系的升級和最佳化,技術難題攻關,持續提升核心繫統性能,保證系統的安全、穩定、高效運行

3. 設計並實現對BI分析、數據產品開發、算法開發的系統性支持

4. 研究未來數據模型和計算框架的創新與落地,包括但不限於以下領域:大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面參與制定並實踐團隊的技術發展路線

5. 建立良好的公司內外的業界技術影響力;參與培養未來數據人才;有效輔導團隊,提升數據研發能力

任職要求:

1. 有很強的數據設計抽象能力,善於從複雜的數據問題中找到關鍵路徑,能夠開發創新而實際的分析方法以解決複雜的商業問題

2. 有作為技術負責人系統化解決問題的成功案例;有海量數據建模實踐經驗優先

3. 熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景,精通流式計算開發,有開源二次開發經驗者優先,有NLP數據處理經驗者優先

4. 性格積極樂觀,誠信,能自我驅動,有較強的語言表達能力;具備強烈的進取心、求知慾及團隊合作精神;具有良好的溝通、團隊協作、計畫和創新的能力

5. 本科以上學歷,紮實的計算機專業基礎,有5年以上大數據平台開發經驗;

大數據架構師崗位的主要職責概述 篇28

職責:

1、大數據平台的規劃、設計、實施,並最佳化資料庫;

2、對資料庫進行管理,負責資料庫套用系統的運營及監控;

3、對資料庫性能分析與調優,排錯,保證數據正確率;

4、配合其他部門進行的數據處理、查詢,統計和分析工作;

5、完成公司下達的項目開發任務。

任職要求:

1、計算機及相關專業本科以上學歷,5年以上軟體開發從業經驗,其中包括至少2年以上的大數據開發工作經驗;

2、熟悉hive,hadoop/spark,hbase等大數據相關技術架構,有管理或最佳化大型分散式集群經驗;

3、熟悉linux基本命令,精通SQL腳本的編寫,有豐富的資料庫管理、運維調優經驗;

4、熟悉C++、Java、C#等開發語言;

5、有網際網路電商行業大數據分析處理和大型數據倉庫的設計和實施經驗;

6、有分散式系統分析及架構設計經驗和大型計算集群的基礎設施開發維護經驗;

7、快速處理系統突發事件的能力,較強的學習和創新能力;

8、良好的溝通能力和團隊合作精神。