大數據架構師工作的職責

大數據架構師工作的職責（通用24篇）

大數據架構師工作的職責 篇1

　　職責：

　　1、正確理解業務需求，對需求進行工作量評估;

　　2、參與項目相關的需求、設計、投產手冊等文檔的編寫;

　　3、根據進度計劃，完成所承擔功能模塊的設計、開發、單元測試、聯調測試;

　　4、配合測試組修復代碼缺陷，確保功能實現與代碼質量;

　　5、負責所承擔功能模塊投產、部署，及上線后的日常維護;

　　6、完成項目經理或者架構師安排的其他工作;

　　任職資格：

　　1、本科以上學歷，計算機相關專業，兩年以上大數據開發經驗;

　　2、熟悉Linux 環境，掌握shell或python;

　　3、熟練使用hadoop，hive，HBase，YARN，kafka，spark等大數據開發組件;

　　4、精通 ETL，數據倉庫的設計和開發;

　　5、有大數據處理實戰經驗，熟悉整個大數據的完整處理流程，包括數據的采集、清洗、存儲;

　　6、較強的動手能力和學習能力，良好的溝通能力、團隊協調能力;

　　7、具有銀行、金融行業從業背景者優先。

大數據架構師工作的職責 篇2

　　職責：

　　1. 負責設計企業級大數據平臺的整體架構，從技術層面制定清晰的大數據產品與系統技術架構，并負責實現關鍵技術和產品。

　　2. 負責設計具有創新價值的大數據底層平臺、大數據上層應用系統等，帶領團隊完成有質變的技術解決方案。

　　3. 負責組織同事研究行內最前沿的技術發展方向，突破現有的技術難題。

　　4. 負責研究院對外項目合作協調與支持，編寫項目建設方案及后期項目建設支持。

　　任職要求：

　　1. 碩士及以上學歷，計算機相關專業。

　　2. JAVA基礎扎實,不少于8年的一線開發經驗，精通Spring boot/MyBatis/Restful API的開發與管理. 熟悉ReactJS/Angular/Vue之一前端開發技術，熟悉Maven或Ant.，熟悉Python語言開發加分。

　　3. 不少于4年大數據的直接研發經驗，精通Hadoop/Spark系統，有hands-on的架構設計、性能調優、開發經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統的開發經驗。

　　4. 掌握分布式系統原理，對分布式存儲、流式計算、消息隊列中的一項或多項有深入的理解和認識。

　　5. 熟悉分布式系統的監控、運維、故障恢復，高可用原理和設計理念。

　　6. 算法基礎扎實，熟悉常見的數據結構，掌握大規模高并發訪問、大數據開發等處理經驗;熟練的Linux系統, 網絡, 內存和存儲等方面知識。

　　7. 必須要有千萬級別的項目管理經驗，包括但不限于前期需求溝通，建設方案編寫，中期項目實施，進度匯報，后期項目維護。

大數據架構師工作的職責 篇3

　　職責：

　　1、負責大數據項目平臺架構的評估、規劃和設計

　　2、開發大數據平臺的核心模塊代碼，負責大數據平臺的搭建，完成系統調試、集成與實施，保證大數據產品的上線運行

　　3、根據業務需求整合優化數據架構，保證產品的可靠性、穩定性

　　4、指導開發人員完成數據模型規劃建設，分析模型構建及分析呈現

　　5、深入研究大數據相關技術和產品，跟進業界先進技術;

　　6、根據項目要求編寫相關技術文檔;

　　7、負責大數據平臺的架構評審，代碼評審，上線評審;參與數據應用需求、設計、審核和評審;

　　8、負責核心模塊研發，負責大數據平臺的搭建，完成系統調試、集成與實施;

　　9. 負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;

　　10. 負責對使用關鍵技術的預研和選型，完成 PoC ;

　　11. 指導工程師完成開發工作，并能分享技術經驗。

　　任職資格:

　　1、精通Linux操作系統，熟練使用Java;

　　2、3年以上大數據項目實戰經驗，兩個項目的架構設計經驗，熟悉Hadoop、Hbase、Storm、Spark、Pig等開源框架，并熟悉其工作原理;

　　3、有Hadoop、Spark、Hbase平臺性能調優經驗;

　　4、熟悉其它分布式存儲相關技術，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

　　5、熟悉Java開發常用框架.如Spring、MyBatis等;

　　6、熟悉關系型數據庫如oracle及數據庫編程。

　　7、能夠根據項目情況安排人力、分配任務，具有較強的團隊管理能力。

　　8、碩士以上學歷，20xx年以上的工作經驗。

大數據架構師工作的職責 篇4

　　職責：

　　1. 負責大數據基礎平臺、海量數據存儲/處理分布式平臺、數據分析系統架構設計和研發;

　　2. 負責實時計算平臺基礎架構設計、部署、監控、優化升級;

　　3. 制定項目/數據倉庫設計及實現規范，指導設計研發和部署;

　　4. 協助策略和算法團隊工作，保障數據挖掘建模和工程化;

　　5. 深入研究大數據相關技術和產品，跟進業界先進技術。

　　任職要求：

　　1. 全日制本科及以上學歷，5年以上軟件和分布式系統研發經驗，3年以上大數據系統架構經驗;

　　2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

　　3. 具備Java/C++/Scala等開發經驗，熟悉數據挖掘和分析的策略與算法;

　　4. 具備良好的系統分析能力、故障診斷能力;

　　5. 有大數據策略、算法、可視化經驗優先;

　　6、211/985 重點學校畢業優先。

大數據架構師工作的職責 篇5

　　職責：

　　1、負責規劃大數據平臺及應用產品的需求和技術方案設計;

　　2、負責數據對接和對外服務設計、開發和維護，并能保證質量和性能;

　　3、負責基于大數據平臺的應用設計、開發和維護;

　　4、能從系統全局和各子系統的角度思考可能存在的問題，并提出改進方案建議;

　　任職要求：

　　1、大學本科6年以上工作經驗，計算機相關專業。

　　2、至少4年以上的Java開發經驗，3年以上大數據應用系統的開發和設計經驗。

　　3、熟悉Hadoop生態圈技術體系， 對離線計算、內存計算和流式計算均有深刻理解， 如Hadoop、Storm、Spark三個中的任意二個， 能進行平臺和組件優化。

　　4、精通Hive、HBase倉庫設計，深刻理解MR運行原理和機制，能進行以提供高任務執行效率的優化。

　　5、精通Java開發，熟悉JVM調優， 對GC有深刻理解。

　　6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關技術， 能進行hbase可靠性診斷和維護。

　　7、快速研究和學習技術能力。

大數據架構師工作的職責 篇6

　　1. 負責數瀾大數據平臺的架構設計和研發，建立數據生態服務，解決海量數據面臨的挑戰;

　　2. 管理和優化Hadoop、Spark等集群，計算作業的調優，保證集群和平臺的高效和穩定;

　　3. 負責Hadoop、Spark、Flink的功能、性能和擴展，解決并實現業務需求;

　　4. 負責大數據產品的自動化、離線與實時計算、即席計算、數據質量、數據安全、機器學習等平臺的設計和開發;

　　5. 調研和把握當前的最新技術，將其中的先進技術引入到自己的平臺中，改善產品，提升競爭力;

大數據架構師工作的職責 篇7

　　1、建設大數據平臺，主要技術為k8s, docker;

　　2、跟進開源社區的更新，閱讀文檔，驗證feature;

　　3、閱讀容器生態圈各組件的開源項目代碼，開發新功能;

　　4、持續提升平臺的性能和穩定性。

大數據架構師工作的職責 篇8

　　職責:

　　1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和優化、系統測試等相關工作

　　2、與數據專業委員會一起研究數據建模方案和建模工具，負責產品線產品的數據架構、數據模型設計

　　3、參與研究數據庫之間的數據轉換方式，參與項目中的數據移植工作，收集在項目中的數據移植經驗，優化產品的數據模型

　　4、負責培訓本部門隊伍的數據模型基礎理論工作，建立數據模型團隊

　　崗位要求：

　　1、統招本科學歷，3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗，具備大型數據倉庫邏輯模型和物理模型設計經驗，精通SQL，有較好的SQL性能調優經驗;

　　2、擁有Python，R等數學建模工具的使用經驗，并具備一定的數據處理和建模經驗，可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法并對其進行完整的解釋和說明;

　　3、熟悉統計學基本原理，做過實戰的數據建模項目;

　　4、有分布式數據倉庫建設相關經驗者優先，具備電信行業數據倉庫建設相關經驗者優先;

大數據架構師工作的職責 篇9

　　職責：

　　1. 規劃設計大數據平臺整體架構，規劃各種組件，并且指導技術團隊完成相關系統驗證、安裝、部署、配置;

　　2. 負責制定大數據平臺技術規范和接口規范，指導研發團隊按照規范進行系統開發;

　　3. 配合商務人員完成售前技術支持工作;

　　4. 完成其他與數據應用有關的技術工作;

　　任職要求：

　　1. 計算機相關專業本科學歷，5年以上工作經驗;

　　2. 對大數據技術棧有非常深刻的了解;具備架構設計的實際經驗;

　　3. 對信息安全架構設計及實施有一定的經驗;

　　4. 熟悉Linux、Windows等操作系統的安裝配置;

　　5. 熟悉互聯網應用的安裝配置;熟悉常見大數據技術棧組件的安裝配置;熟悉Visio等繪圖工具的使用;

　　6. 有衛生信息化建設經驗者優先;有容器安裝部署經驗者優先。

大數據架構師工作的職責 篇10

　　職責：

　　根據大數據業務需求，設計大數據方案及架構，實現相關功能;

　　搭建和維護大數據集群，保證集群規模持續、穩定、高效平穩運行;

　　負責大數據業務的設計和指導具體開發工作;

　　負責公司產品研發過程中的數據及存儲設計;

　　針對數據分析工作，能夠完成和指導負責業務數據建模。

　　職位要求：

　　計算機、自動化或相關專業(如統計學、數學)本科以上學歷，3年以上大數據處理相關工作經驗;

　　精通大數據主流框架(如 Hadoop、hive、Spark等);

　　熟悉 MySQL、NoSQL(MongoDB、Redis)等主流數據庫，以及rabbit MQ等隊列技術;

　　熟悉hadoop/spark生態的原理、特性且有實戰開發經驗;

　　熟悉常用的數據挖掘算法優先.

大數據架構師工作的職責 篇11

　　職責：

　　1、負責公司的大數據處理框架的研發設計工作，梳理可實現方案和技術規范;

　　2、開發、完善公司大數據平臺;參與公司離線、實時大數據處理系統的設計、開發、測試及多個業務模塊的自動化集成;

　　3、負責業務平臺數據統計分析模塊的設計與規劃;

　　4、負責公司產品研發過程中的數據及存儲設計;

　　5、帶領和培養團隊完成組織分解的目標;

　　任職要求：

　　1、統招本科及以上學歷，計算機、軟件工程相關專業，至少8年以上工作經驗，5年以上大數據開發經驗;

　　2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關技術的基礎架構

　　3、熟悉數據倉庫，數據算法，分布式計算技術理論，具有大數據整體系統架構設計經驗;

　　4、熟悉Linux系統，熟練使用shell/perl/python腳本處理問題;

　　5、對深度學習框架(Tensorflow)和機器學習(svm 隨機深林貝葉斯等)有一定了解的優先;

　　6、能夠組織項目開發組協同工作，包括團隊溝通、計劃、開發環境管理等

大數據架構師工作的職責 篇12

　　職責：

　　負責公司大數據產品架構的設計與實現;

　　配合大數據產品經理完成產品的快速研發與交付;

　　負責大數據產品架構的持續優化設計;

　　負責大數據產品核心組件設計;

　　負責大數據相關數據架構規劃、數據建模、數據庫設計以及大數據產品研發工作;

　　為應用開發團隊提供技術支撐。

　　任職要求：

　　本科及以上學歷，3年以上的大數據開發經驗、

　　2年以上大數據架構設計經驗;

　　豐富的JAVA研發經驗，精通JAVA，熟悉Python Scala等編程語言;具備深厚的分布式系統或數據庫系統的理論基礎，熟悉分布式計算系統的工作機制，具有分布式文件系統、分布式數據庫系統、集群存儲系統等架構設計經驗;

　　熟悉整個大數據的完整處理流程(數據的采集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

　　精通各種大數據相關技術體系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

　　有數據挖掘、機器學習相關應用或研究背景;

　　溝通能力較好，積極主動意識較強，責任心較強。

大數據架構師工作的職責 篇13

　　職責：

　　1.負責過多個大數據項目的架構;

　　2.精通Hadoop、Spark, HBase等主流的大數據平臺、精通各組件優化設計原理;

　　3.精通大數據實時流式處理的設計和應用;

　　3.熟悉大數據平臺調優，具備大數據生產平臺調優經驗;

　　4.金融行業，運營商行業大數據架構經驗更優;

　　5.研究大數據技術的最新發展，并引入到公司技術架構;

　　6.指導大數據工程師的日常工作，并培養技術骨干。

　　任職資格：

　　1.計算機相關專業本科或以上學歷;

　　2.具有5年以上大數據相關開發經驗;

　　3.具有2年以上帶團隊經驗

　　4.對Hadoop/Hive/Spark/HBase/ES等等大數據常用技術有深刻理解，能夠帶領團隊進行技術攻堅，完成中間件的實施、改造、調優;

　　5.精通海量數據和實時數據的分析處理，能對線上的數據處理性能問題做調優;

　　6.精通數據倉庫以及維度建模原理，有大型數據倉庫建設經驗;

　　7.精通關系型數據庫和NoSQL數據庫的使用，熟悉相關理論;

　　8.溝通順暢，重點突出，高效。

大數據架構師工作的職責 篇14

　　職責：

　　1、負責大數據平臺的技術選型，基于Spark、Hadoop大數據平臺建設和開發;

　　2、完成包括數據模型設計、數據采集、數據存儲等方面的大數據系統架構的設計和數據層架構設計;

　　3、構建數據中臺，為多種行業應用提供主數據(畫像標簽/關系圖譜)、數據模型、人工智能業務算法及數據服務。

　　4、對海量數據處理的業務需求進行評估和方案設計、拆分任務并指導工程師完成開發;

　　5、帶領大數據技術團隊提供并實現大數據平臺上各項數據分析和數據可視化的架構設計，支撐解決方案實施。

　　任職要求：

　　1、本科及以上學歷，具有5年及以上大數據架構設計和開發經驗;2年及以上帶領團隊經驗;溝通能力強。在大型互聯網企業從事大數據架構設計者優先考慮;有分布式大型商業軟件系統設計經驗、主導過大型商業軟件的架構設計并取得過市場商業成功者優先考慮;

　　2、熟悉整個大數據的完整處理流程，包括數據的采集、清洗、預處理、存儲、分析挖據、機器學習和數據可視化;

　　3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流數據庫的使用，并能進行性能調優;

　　4、具備優秀的團隊意識和溝通能力，學習能力和主動性強，具有鉆研精神，充滿激情，樂于接受挑戰。

大數據架構師工作的職責 篇15

　　職責：

　　1、負責企業大數據平臺的基礎建設、管理及制定拓展規劃;

　　2、負責大數據平臺相關自動化服務工具的設計、開發;

　　3、參與Hadoop、Hbase、Spark等核心平臺組件的開發、優化;

　　4、對平臺特殊場景化的數據應用制定相關實踐方案;

　　5、大數據團隊的搭建。

　　任職資格:

　　1、統招本科以上學歷，計算機等相關專業，5年以上工作經驗;

　　2、具有Hadoop等大規模集群管理經驗、海量(PB)數據處理經驗;

　　3、精通Hadoop、Hive、Hbase等離線平臺相關組件的原理機制;

　　4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系統;

　　5、熟悉高并發、分布式開發等相關知識，具有后端服務優化相關經驗;

　　6、熟悉爬蟲常用框架以及反爬技術;

　　7、具有良好的溝通能力、分析問題與攻關問題的能力;

　　8、有責任心，工作積極，對新領域新技術有熱情。

大數據架構師工作的職責 篇16

　　職責：

　　1、負責大數據平臺架構的規劃與設計;

　　2、負責大數據平臺技術框架的選型與技術難點攻關;

　　3、參與企業級大數據產品和應用規劃;

　　4、研究跟進大數據架構領域新技術并分享;

　　5、大數據處理和分析應用平臺的設計指導。

　　任職資格：

　　1、 具備深厚的分布式系統或數據庫系統的理論基礎，熟悉分布式計算系統的工作機制，具有分布式文件系統、分布式數據庫系統、集群存儲系統等架構設計經驗;

　　2、熟悉BI平臺架構及相關項目標準，大數據解決方案包括Hadoop、Spark、Storm、機器學習等大數據平臺解決方案;

　　3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流數據數據庫;

　　4、 精通Linux/Unix環境，精通J java、scala、python、R中的一種或多種語言;

　　5、 具備優秀的團隊意識和溝通能力，學習能力和主動性強，具有鉆研精神，充滿激情，樂于接受挑戰;

　　6、大專及以上學歷，3年及以上工作經驗。

大數據架構師工作的職責 篇17

　　職責：

　　1.負責企業數據中心建設，設計數據邏輯模型和物理模型，并完成相關開發

　　2.梳理公司各業務線常用的指標和維度，統一指標定義口徑

　　3.根據數據應用開發和數據分析需求，設計數據倉庫信息層模型，提高數據開發的效率

　　4.負責數據模型的運營和優化，及時響應業務邏輯變更，保證模型的數據質量和穩定性

　　5.負責公司數據標簽體系的建設，并推動標簽體系在實際業務場景中落地

　　崗位要求：

　　1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

　　2.有較強的數據分析能力，精通數據倉庫架構，熟悉Erwin或PowerDesigner建模工具

　　3.精通一種主流關系數據庫(如mysql等)，熟悉Hive開發

　　4.有電商業務經驗，元數據管理，數據質量管理或標簽體系搭建經驗者優先

　　5.優秀的協調溝通與團隊協作能力，極強的責任心，能承受一定的工作壓力，認同企業文化和團隊價值

大數據架構師工作的職責 篇18

　　職責：

　　1、負責大數據項目技術架構評估與設計;

　　2、負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;

　　3、負責對使用關鍵技術的預研和選型，完成PoC;

　　4、指導工程師完成開發工作，并能分享技術經驗。

　　任職要求：

　　1、3年以上相關工作經驗，其中具有1年以上架構設計經驗

　　2、熟悉商業智能系統相關技術，如 ETL、數據倉庫、OLAP開發;

　　3、精通設計模式，熟悉面向服務架構(SOA)以及其它常用軟件架構思想，有SOA方案設計、開發實施的實際經驗，要具備實際的服務規劃、服務粒度劃分經驗;并且要善于設計可重用組件和可定制化產品。

　　4、相關技術棧：Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;

　　5、有扎實的計算機基礎，熟悉Java等編程語言;

大數據架構師工作的職責 篇19

　　1、負責大數據平臺資源規劃、權限控制、運維架構設計，為各產品業務提供穩定、高效、安全的運行環境;

　　2、負責實時，離線數據分析處理及實時平臺的建設和搭建

　　3、熟悉 Flink 流式計算引擎的使用以及源碼原理，并且有相關的流式處理平臺的經驗。

　　4、Java基礎扎實，熟練掌握垃圾回收，網絡，多線程編程，了解 python 或 scala

　　5、負責大數據平臺技術架構、數據架構的分析與設計;

大數據架構師工作的職責 篇20

　　職責：

　　1. 負責產品級業務系統架構(如業務數據對象識別，數據實體、數據屬性分析，數據標準、端到端數據流等)的設計與優化。協助推動跨領域重大數據問題的分析、定位、解決方案設計，從架構設計上保障系統高性能、高可用性、高安全性、高時效性、分布式擴展性，并對系統質量負責。

　　2.負責云數據平臺的架構設計和數據處理體系的優化，推動云數據平臺建設和持續升級，并制定云數據平臺調用約束和規范。

　　3. 結合行業應用的需求負責數據流各環節上的方案選型，主導云數據平臺建設，參與核心代碼編寫、審查;數據的統計邏輯回歸算法、實時交互分析;數據可視化方案等等的選型、部署、集成融合等等。

　　4. 對云數據平臺的關注業內技術動態，持續推動平臺技術架構升級，以滿足公司不同階段的數據需求。

　　任職要求：

　　1. 熟悉云計算基礎平臺，包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎環境，熟悉控制、計算、存儲和網絡;

　　2. 掌握大型分布式系統的技術棧，如：CDN、負載均衡、服務化/異步化、分布式緩存、NoSQL、數據庫垂直及水平擴容;熟悉大數據應用端到端的相關高性能產品。

　　3. 精通 Java，Python，Shell 編程語言，精通 SQL、NoSQL 等數據庫增刪改查的操作優化;

　　4. PB 級別實戰數據平臺和生產環境的實施、開發和管理經驗;

　　5. 熟悉 Docker 等容器的編排封裝，熟悉微服務的開發和日常調度;

　　6.計算機、軟件、電子信息及通信等相關專業本科以上學歷，5 年以上軟件工程開發經驗，2 年以上大數據架構師工作經驗。

大數據架構師工作的職責 篇21

　　職責：

　　1、負責大數據平臺及BI系統框架設計、規劃、技術選型，架構設計并完成系統基礎服務的開發;

　　2、負責海量埋點規則、SDK標準化、埋點數據采集、處理及存儲，業務數據分布存儲、流式/實時計算等應用層架構搭建及核心代碼實現;

　　3、開發大數據平臺的核心代碼，項目敏捷開發流程管理，完成系統調試、集成與實施，對每個項目周期技術難題的解決，保證大數據產品的上線運行;

　　4、負責大數據平臺的架構優化，代碼評審，并根據業務需求持續優化數據架構，保證產品的可靠性、穩定性;

　　5、指導開發人員完成數據模型規劃建設,分析模型構建及分析呈現，分享技術經驗;

　　6、有效制定各種突發性研發技術故障的應對預案，有清晰的隱患意識;

　　7、深入研究大數據相關技術和產品，跟進業界先進技術;

　　【任職要求】

　　1、統計學、應用數學或計算機相關專業大學本科以上學歷;

　　2、熟悉互聯網移動端埋點方法(點擊和瀏覽等行為埋點)，無埋點方案等，有埋點SDK獨立開發經驗者優選;

　　3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等，具備實際項目設計及開發經驗;

　　4、熟悉數據采集、數據清洗、分析和建模工作相關技術細節及流程

　　5、熟悉Liunx/Unix操作系統，能熟練使用shell/perl等腳本語言，熟練掌握java/python/go/C++中一種或多種編程語言

　　6、具備一定的算法能力，了解機器學習/深度學習算法工具使用，有主流大數據計算組件開發和使用經驗者優先

　　7、熟悉大數據可視化工具Tableau/echarts

　　8、具有較強的執行力，高度的責任感、很強的學習、溝通能力，能夠在高壓下高效工作;

大數據架構師工作的職責 篇22

　　職責：

　　1、負責大數據開發團隊建設;

　　2、負責行業大數據產品架構設計與研發;

　　3、負責帶領團隊進行行業大數據產品關鍵技術攻關。

　　任職要求：

　　1、有三年以上大數據應用、開發經驗;具備海量數據加工處理(ETL)相關經驗，對數據挖掘及機器學習有較為深刻的理解;

　　2、熟悉Hadoop相關技術，對HDFS、MapReduce、Hive、HBase有一定的使用和開發經驗;

　　3、熟悉Linux，熟練使用Shell或Python，進行腳本編寫;

　　4、對數據結構和數據統計分析算法有較為深刻理解;

　　5、掌握至少一種主流關系數據庫開發技術：Oracle、SQL Server、MySQL等;

　　6、掌握實時流計算技術，有Spark、Storm開發經驗者優先;

　　7、需要具備2年以上研發團隊管理經驗。

大數據架構師工作的職責 篇23

　　職責：

　　1、大數據平臺的規劃、設計、實施，并優化數據庫;

　　2、對數據庫進行管理，負責數據庫應用系統的運營及監控;

　　3、對數據庫性能分析與調優，排錯，保證數據正確率;

　　4、配合其他部門進行的數據處理、查詢，統計和分析工作;

　　5、完成公司下達的項目開發任務。

　　任職要求：

　　1、計算機及相關專業本科以上學歷，5年以上軟件開發從業經驗，其中包括至少2年以上的大數據開發工作經驗;

　　2、熟悉hive,hadoop/spark,hbase等大數據相關技術架構，有管理或優化大型分布式集群經驗;

　　3、熟悉linux基本命令，精通SQL腳本的編寫，有豐富的數據庫管理、運維調優經驗;

　　4、熟悉C++、Java、C#等開發語言;

　　5、有互聯網電商行業大數據分析處理和大型數據倉庫的設計和實施經驗;

　　6、有分布式系統分析及架構設計經驗和大型計算集群的基礎設施開發維護經驗;

　　7、快速處理系統突發事件的能力，較強的學習和創新能力;

　　8、良好的溝通能力和團隊合作精神。

大數據架構師工作的職責 篇24

　　職責：

　　1)負責大數據平臺系統架構設計、核心開發工作(Hadoop&Spark技術方向)，基于業務場景設計最優的系統解決方案。

　　2)構架支持大數量級的數據的大數據平臺系統，及相關監控，拓展系統設計及實現。

　　3)利用Hadoop、Spark等大數據技術對海量數據進行處理，支持BI和數據科學(建模)的應用實現。

　　4)對現有系統的進行架構深入分析及系統優化，進一步提升系統的性能及數據處理能力。

　　任職資格

　　1)統招本科或以上學歷，計算機相關專業， 5年以上軟件開發經驗、3年以上大數據項目經驗。

　　2)具備較豐富的大數據平臺相關構建，維護及調優經驗，有大數據量級下的大數據集市相關經驗。

　　3)具備較豐富的基于Hadoop或Hive或Spark等大數據處理項目經驗，具備一定的數據挖掘經驗。

　　4) 具有阿里云的EMR(emapreduce)的經驗者優先考慮。

　　5)具有良好的業務理解、溝通和協作能力，具有較強的學習和總結能力。

　　6)優秀的團隊合作精神、誠實、勤奮、嚴謹，敢于接受挑戰。

　　7)機器學習技術、數據挖掘經驗豐富者優先考慮。