大數據架構師的基本職責

大數據架構師的基本職責（精選19篇）

大數據架構師的基本職責 篇1

　　職責：

　　1. 深刻理解政府行業業務模式，構建政府行業的數據模型，制定公司大數據技術發展路線;

　　2. 對接業務研究和技術部門，主動搜集和轉化需求，組織數據中心業務開發，進行數據相關產品需求分析和設計;

　　3. 搭建數據倉庫，研發數據庫管理系統，搜集、提取、處理業務積累的海量數據，開展數據分析和挖掘;

　　4. 根據公司戰略和發展需要，規劃數據中心重點工作和任務;落實部門人員、事務管理，開展跨部門、跨地區協作，協助對外交流與合作。

　　職位要求：

　　1. 5年以上相關工作經驗，有團隊管理和項目管理經驗者優先;

　　2.了解政府運作機制，掌握財政行業知識，有電子政務行業經驗者優先;

　　3. 熟練掌握使用Java或Python,精通數據庫查詢語言如SQL，Oracle等,在機器學習模型和算法方向有應用經驗者優先;

　　4. 具備數據中心產品策劃整體思維，有大數據處理、分析、挖掘經驗者優先;

　　5. 邏輯思維嚴密，具備業務抽象、分解和標準化的能力，口頭和書面表達優秀;

　　6. 有較強的大局意識和良好的團隊合作意識，富有領導力，具備優秀的人際交往和溝通能力。

大數據架構師的基本職責 篇2

　　職責:

　　1、從事電信行業大數據項目相關業務調研、產品標準建設、核心模型設計和優化、系統測試等相關工作

　　2、與數據專業委員會一起研究數據建模方案和建模工具，負責產品線產品的數據架構、數據模型設計

　　3、參與研究數據庫之間的數據轉換方式，參與項目中的數據移植工作，收集在項目中的數據移植經驗，優化產品的數據模型

　　4、負責培訓本部門隊伍的數據模型基礎理論工作，建立數據模型團隊

　　崗位要求：

　　1、統招本科學歷，3年以上主流數據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗，具備大型數據倉庫邏輯模型和物理模型設計經驗，精通SQL，有較好的SQL性能調優經驗;

　　2、擁有Python，R等數學建模工具的使用經驗，并具備一定的數據處理和建模經驗，可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法并對其進行完整的解釋和說明;

　　3、熟悉統計學基本原理，做過實戰的數據建模項目;

　　4、有分布式數據倉庫建設相關經驗者優先，具備電信行業數據倉庫建設相關經驗者優先;

大數據架構師的基本職責 篇3

　　職責：

　　1、負責大數據平臺的架構設計、核心代碼開發等任務;根據項目要求編寫相關技術文檔;

　　2、負責大數據平臺的架構評審，代碼評審，上線評審;參與數據應用需求、設計、審核和評審;

　　3、負責核心模塊研發，負責大數據平臺的搭建，完成系統調試、集成與實施;

　　4、負責建立和維護大數據平臺技術標準規范，指導開發人員編寫代碼;

　　任職要求：

　　1、本科及以上計算機相關專業畢業;

　　2、精通離線和實時數據處理流程，掌握離線數據處理框架hive、impala、spark-sql等，掌握實時數據處理常用技術工具，包括Storm、SparkStreaming等;

　　3、熟悉大數據技術生態圈，精通大數據技術架構，有大數據平臺構建經驗;

　　4、掌握常見數據流接入工具，包括Flume、kafka等;

　　5、熟練掌握基本的Linux操作系統和某種腳本語言編程(如Shell等);

　　6、掌握一種或以上實時處理語言，如JAVA、SCALA、PYTHON等，有SCALA經驗者優先;

　　7、有實際大規模數據(TB級以上)處理經驗優先;

大數據架構師的基本職責 篇4

　　職責：

　　1.負責整個大數據平臺架構的設計和構建;

　　2.負責構建大數據平臺的數據交換、任務調度等通用平臺;

　　3.制定開發、測試、實施、維護的標準和規范，指導和培訓工程師，不斷提升團隊能力。

　　4.參與系統需求分析、架構設計、技術選型、應用設計與開發以及測試與部署，負責編寫核心部分代碼。

　　5.持續挑戰新的技術方向，攻克大數據量、高并發、高可用、可擴展等技術難點。

　　任職要求：

　　1.3年以上大數據架構經驗，豐富的數據倉庫、數據挖掘、機器學習項目經驗

　　2.大規模數據處理的架構和設計實戰經驗

　　3.精通Spark、MR，熟練HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，并具有豐富的大型數據平臺工程經驗

　　4.深刻理解大數據處理(流計算，分布式計算，分布式文件系統，分布式存儲等)相關技術和實現方法

　　5.熟悉主數據、元數據、數據質量等企業數據管理相關的體系和方法，熟練Linux/Unix平臺上的開發環境

　　6.本科或以上學歷，計算機軟件或相關專業，豐富的java開發經驗和互聯網背景優先。

　　7.具有比較強的問題分析和處理能力，有比較優秀的動手能力，熱衷技術，精益求精

大數據架構師的基本職責 篇5

　　職責：

　　1、負責公司的大數據處理框架的研發設計工作，梳理可實現方案和技術規范;

　　2、開發、完善公司大數據平臺;參與公司離線、實時大數據處理系統的設計、開發、測試及多個業務模塊的自動化集成;

　　3、負責業務平臺數據統計分析模塊的設計與規劃;

　　4、負責公司產品研發過程中的數據及存儲設計;

　　5、帶領和培養團隊完成組織分解的目標;

　　任職要求：

　　1、統招本科及以上學歷，計算機、軟件工程相關專業，至少8年以上工作經驗，5年以上大數據開發經驗;

　　2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關技術的基礎架構

　　3、熟悉數據倉庫，數據算法，分布式計算技術理論，具有大數據整體系統架構設計經驗;

　　4、熟悉Linux系統，熟練使用shell/perl/python腳本處理問題;

　　5、對深度學習框架(Tensorflow)和機器學習(svm 隨機深林貝葉斯等)有一定了解的優先;

　　6、能夠組織項目開發組協同工作，包括團隊溝通、計劃、開發環境管理等

大數據架構師的基本職責 篇6

　　職責：

　　1、負責公司的大數據平臺的數倉架構、系統架構設計;

　　2、負責帶領團隊完成輿情分析相關的挖掘方案設計;

　　3、負責大數據研發組團隊管理;

　　4、負責帶領團隊完成輿情平臺的方案文檔撰寫、迭代開發;

　　5、負責研發規范制定，研究行業前沿技術;

　　6、參與產品規劃及設計討論。

　　任職要求：

　　1、本科五年工作經驗及以上，有至少五年的大數據技術實踐經驗，有NLP或AI相關經驗;

　　2、有很強的架構設計能力和良好的表達能力;

　　3、有一定的項目管理及團隊管理能力;

　　4、精通Hadoop、Spark生態圈中的常用組件原理及應用;

　　6、理解媒體業務，精通數據倉庫的規劃和設計;

　　5、精通掌握Java或Python編程，有性能調優能力;

　　4、熟悉NLP算法原理及應用;

　　6、對新生事物或者新技術有濃厚興趣，學習能力強。

大數據架構師的基本職責 篇7

　　職責：

　　1、負責DMP技術架構設計與構建，根據業務規劃及技術規劃制定應用架構方案;

　　2、負責設計構建DMP數據采集、存儲及分析框架，設計數據處理的技術流程和規范;

　　3、負責核心功能的架構與代碼模板編寫，開發與維護系統公用核心模塊;

　　4、負責基于大數據技術的海量數據的自動化分析處理和統計工作。

　　崗位要求：

　　1、計算機或相關專業本科以上學歷，三年以上的開發經驗，二年以上大數據相關軟件架構的實際經驗;

　　2、精通大數據處理技術，熟悉Hadoop/Storm技術體系，有Hadoop、Hive、Hbase項目經驗;

　　3、具有較強的架構能力，具有分布式計算、實時計算、數據倉庫、數據挖掘系統的架構經歷優先;

　　4、對數據敏感，洞察力強，了解國內外廣告發展趨勢;

　　5.、擅長系統分析與設計，精通常用的設計模式，擅長性能調優;

　　6、熟悉DMP/RTB技術原理，了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業從業經歷。

大數據架構師的基本職責 篇8

　　職責：

　　1、負責相關開源系統/組件的性能、穩定性、可靠性等方面的深度優化;

　　2、負責解決項目上線后生產環境的各種實際問題，保障大數據平臺在生產上的安全、平穩運行;

　　3、推動優化跨部門的業務流程， 參與業務部門的技術方案設計、評審、指導;

　　4、負責技術團隊人員培訓、人員成長指導。

　　5、應項目要求本月辦公地址在錦江區金石路316號新希望中鼎國際辦公，月底項目結束后在總部公司辦公

　　任職要求：

　　1、熟悉linux、JVM底層原理，能作為技術擔當，解決核心技術問題;

　　2、3年以上大數據平臺項目架構或開發經驗，對大數據生態技術體系有全面了解，如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;

　　3、掌握git、maven、gradle、junit等工具和實踐， 注重文檔管理、注重工程規范優先;

　　4、熟悉Java后臺開發體系，具備微服務架構的項目實施經驗，有Dubbo/Spring cloud微服務架構設計經驗優先;

　　5、性格開朗、善于溝通，有極強的技術敏感性和自我驅動學習能力，注重團隊意識。

大數據架構師的基本職責 篇9

　　職責：

　　1.負責企業數據中心建設，設計數據邏輯模型和物理模型，并完成相關開發

　　2.梳理公司各業務線常用的指標和維度，統一指標定義口徑

　　3.根據數據應用開發和數據分析需求，設計數據倉庫信息層模型，提高數據開發的效率

　　4.負責數據模型的運營和優化，及時響應業務邏輯變更，保證模型的數據質量和穩定性

　　5.負責公司數據標簽體系的建設，并推動標簽體系在實際業務場景中落地

　　崗位要求：

　　1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

　　2.有較強的數據分析能力，精通數據倉庫架構，熟悉Erwin或PowerDesigner建模工具

　　3.精通一種主流關系數據庫(如mysql等)，熟悉Hive開發

　　4.有電商業務經驗，元數據管理，數據質量管理或標簽體系搭建經驗者優先

　　5.優秀的協調溝通與團隊協作能力，極強的責任心，能承受一定的工作壓力，認同企業文化和團隊價值

大數據架構師的基本職責 篇10

　　職責：

　　1、大數據平臺的規劃、設計、實施，并優化數據庫;

　　2、對數據庫進行管理，負責數據庫應用系統的運營及監控;

　　3、對數據庫性能分析與調優，排錯，保證數據正確率;

　　4、配合其他部門進行的數據處理、查詢，統計和分析工作;

　　5、完成公司下達的項目開發任務。

　　任職要求：

　　1、計算機及相關專業本科以上學歷，5年以上軟件開發從業經驗，其中包括至少2年以上的大數據開發工作經驗;

　　2、熟悉hive,hadoop/spark,hbase等大數據相關技術架構，有管理或優化大型分布式集群經驗;

　　3、熟悉linux基本命令，精通SQL腳本的編寫，有豐富的數據庫管理、運維調優經驗;

　　4、熟悉C++、Java、C#等開發語言;

　　5、有互聯網電商行業大數據分析處理和大型數據倉庫的設計和實施經驗;

　　6、有分布式系統分析及架構設計經驗和大型計算集群的基礎設施開發維護經驗;

　　7、快速處理系統突發事件的能力，較強的學習和創新能力;

　　8、良好的溝通能力和團隊合作精神。

大數據架構師的基本職責 篇11

　　職責：

　　1. 負責公司大數據平臺的設計和開發，負責spark, hadoop, flink等云計算平臺的開發和優化;制定數據架構規范，進行核心代碼編寫，指導團隊落地;

　　2. 負責數據基礎架構和數據處理體系的升級和優化，技術難題攻關，持續提升核心系統性能，保證系統的安全、穩定、高效運行

　　3. 設計并實現對BI分析、數據產品開發、算法開發的系統性支持

　　4. 研究未來數據模型和計算框架的創新與落地，包括但不限于以下領域：大規模數據實時化、研發模式敏捷化、數據計算框架輕量化、數據模型組織方式業務化等方面參與制定并實踐團隊的技術發展路線

　　5. 建立良好的公司內外的業界技術影響力;參與培養未來數據人才;有效輔導團隊，提升數據研發能力

　　任職要求：

　　1. 有很強的數據設計抽象能力，善于從復雜的數據問題中找到關鍵路徑，能夠開發創新而實際的分析方法以解決復雜的商業問題

　　2. 有作為技術負責人系統化解決問題的成功案例;有海量數據建模實踐經驗優先

　　3. 熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景，精通流式計算開發，有開源二次開發經驗者優先，有NLP數據處理經驗者優先

　　4. 性格積極樂觀，誠信，能自我驅動，有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協作、計劃和創新的能力

　　5. 本科以上學歷，扎實的計算機專業基礎，有5年以上大數據平臺開發經驗;

大數據架構師的基本職責 篇12

　　1、負責大數據平臺資源規劃、權限控制、運維架構設計，為各產品業務提供穩定、高效、安全的運行環境;

　　2、負責實時，離線數據分析處理及實時平臺的建設和搭建

　　3、熟悉 Flink 流式計算引擎的使用以及源碼原理，并且有相關的流式處理平臺的經驗。

　　4、Java基礎扎實，熟練掌握垃圾回收，網絡，多線程編程，了解 python 或 scala

　　5、負責大數據平臺技術架構、數據架構的分析與設計;

大數據架構師的基本職責 篇13

　　職責：

　　1、負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

　　2、負責公司項目的整體評估、設計、架構及關鍵模塊的開發;

　　3、負責架構優化，協助團隊解決開發過程中遇到的技術難題;

　　4、負責新技術的調研和大數據相關開源組件的研究，并能在團隊進行推廣應用;

　　5、參與數據分析、數據建模、項目核心模塊及核心框架的開發;

　　6、負責大數據平臺的性能條有和問題診斷。

　　任職要求：

　　1、計算機相關專業，本科及以上學歷，3-5年以上工作經驗，2-3年大數據相關經驗;

　　2、具有扎實的大數據和數據倉庫理論功底，負責過大數據平臺或數據倉庫設計;

　　3、對基于Hadoop的大數據體系有深入的認識，具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目應用研發經驗，有Hadoop集群搭建和管理經驗，度過Hadoop和Spark源碼;

　　4、熟悉Linux和Python語言，了解Scala原理和底層技術;

　　5、熟悉分布式系統的架構及對其進行設計和優化，對海量數據的清晰、分析處理及存儲有相關的實戰經驗;

　　6、算法基礎扎實，熟悉常見的數據結構，深入理解分布式算法和以上提到的分布式系統，

　　7、必須有一線coding的能力;

　　8、有統計學、數學知識，海量數據處理、分析和挖掘，大型互聯網公司從業經歷著優先。

大數據架構師的基本職責 篇14

　　職責：

　　1. 負責產品級業務系統架構(如業務數據對象識別，數據實體、數據屬性分析，數據標準、端到端數據流等)的設計與優化。協助推動跨領域重大數據問題的分析、定位、解決方案設計，從架構設計上保障系統高性能、高可用性、高安全性、高時效性、分布式擴展性，并對系統質量負責。

　　2.負責云數據平臺的架構設計和數據處理體系的優化，推動云數據平臺建設和持續升級，并制定云數據平臺調用約束和規范。

　　3. 結合行業應用的需求負責數據流各環節上的方案選型，主導云數據平臺建設，參與核心代碼編寫、審查;數據的統計邏輯回歸算法、實時交互分析;數據可視化方案等等的選型、部署、集成融合等等。

　　4. 對云數據平臺的關注業內技術動態，持續推動平臺技術架構升級，以滿足公司不同階段的數據需求。

　　任職要求：

　　1. 熟悉云計算基礎平臺，包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎環境，熟悉控制、計算、存儲和網絡;

　　2. 掌握大型分布式系統的技術棧，如：CDN、負載均衡、服務化/異步化、分布式緩存、NoSQL、數據庫垂直及水平擴容;熟悉大數據應用端到端的相關高性能產品。

　　3. 精通 Java，Python，Shell 編程語言，精通 SQL、NoSQL 等數據庫增刪改查的操作優化;

　　4. PB 級別實戰數據平臺和生產環境的實施、開發和管理經驗;

　　5. 熟悉 Docker 等容器的編排封裝，熟悉微服務的開發和日常調度;

　　6.計算機、軟件、電子信息及通信等相關專業本科以上學歷，5 年以上軟件工程開發經驗，2 年以上大數據架構師工作經驗。

大數據架構師的基本職責 篇15

　　職責：

　　1、負責規劃科技大數據平臺及科技數據入庫自動化的方案設計;

　　2、負責大數據平臺的開發和維護，以及對外服務接口的開發;

　　3、負責大數據平臺的優化和改進工作。

　　任職要求

　　1、計算機相關專業本科及以上學歷，5年以上開發經驗，其中3年以上為互聯網、大數據相關的開發經驗;

　　2、熟知Hadoop生態圈體系，精通Hadoop/Spark/Storm/Kafka中的一項或幾項，深刻理解MapReduce的運行原理和機制，有MPI經驗者尚佳;

　　3、熟悉Elasticsearch、Redis、Hbased等相關數據庫的構建和操作，尤其是數據庫集群的構建和操作，熟悉Neo4j者尚佳;

　　4、具有機器學習相關項目經驗者優先。

大數據架構師的基本職責 篇16

　　職責：

　　1、負責大數據項目平臺架構的評估、規劃和設計

　　2、開發大數據平臺的核心模塊代碼，負責大數據平臺的搭建，完成系統調試、集成與實施，保證大數據產品的上線運行

　　3、根據業務需求整合優化數據架構，保證產品的可靠性、穩定性

　　4、指導開發人員完成數據模型規劃建設，分析模型構建及分析呈現

　　5、深入研究大數據相關技術和產品，跟進業界先進技術;

　　6、根據項目要求編寫相關技術文檔;

　　7、負責大數據平臺的架構評審，代碼評審，上線評審;參與數據應用需求、設計、審核和評審;

　　8、負責核心模塊研發，負責大數據平臺的搭建，完成系統調試、集成與實施;

　　9. 負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;

　　10. 負責對使用關鍵技術的預研和選型，完成 PoC ;

　　11. 指導工程師完成開發工作，并能分享技術經驗。

　　任職資格:

　　1、精通Linux操作系統，熟練使用Java;

　　2、3年以上大數據項目實戰經驗，兩個項目的架構設計經驗，熟悉Hadoop、Hbase、Storm、Spark、Pig等開源框架，并熟悉其工作原理;

　　3、有Hadoop、Spark、Hbase平臺性能調優經驗;

　　4、熟悉其它分布式存儲相關技術，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

　　5、熟悉Java開發常用框架.如Spring、MyBatis等;

　　6、熟悉關系型數據庫如oracle及數據庫編程。

　　7、能夠根據項目情況安排人力、分配任務，具有較強的團隊管理能力。

　　8、碩士以上學歷，20xx年以上的工作經驗。

大數據架構師的基本職責 篇17

　　職責：

　　1.能夠帶領技術人員基于hadoop平臺進行海量數據應用系統開發;

　　2.負責結構化和非結構化數據的解析和清洗,海量數據查詢和報表展現;

　　3.負責超大規模數據平臺的搭建、維護和優化;

　　4.負責大數據采集、存儲框架研究，參與在線或離線數據存儲模型設計;

　　5.負責大數據平臺新技術的開發使用和性能優化，測試。

　　任職資格：

　　1.計算機相關專業本科及以上學歷;

　　2. 熟悉hadoop相關各種開源項目，比如HDFS/Hive/Hbase等有實際應用。(5年以上開發經驗者優先);

　　3.兩年以上熟練編寫mapreduce代碼經驗，有三年以上網絡日志分析、ETL經驗。熟悉日志分析框架chukwa,flume,scribe者優先;

　　4.兩年以上海量數據存儲的安裝部署、優化、二次開發經驗，對大規模數據存儲、傳輸、處理等有豐富的經驗;

　　5.在數據挖掘、數據密集型處理、分布式計算、網格計算領域有深入理論基礎;

　　6.具有較強的文檔撰寫能力，較強的團隊精神和合作精神，對工作有熱情，能承受壓力。

大數據架構師的基本職責 篇18

　　職責：

　　1、負責大數據基礎平臺、海量數據存儲處理分布式平臺、數據分析系統架構設計和研發;

　　2、負責實時計算平臺基礎架構設計、部署、監控、優化升級;

　　3、制定項目數據倉庫設計及實現規范，指導設計研發和部署;

　　4、協助策略和算法團隊工作，保障數據挖掘建模和工程化;

　　5、深入研究大數據相關技術和產品，跟進業界先進技術。

　　任職要求：

　　1、3年以上大數據系統架構經驗;

　　2、精通Hadoop HBase Hive Spark Flink Kafka Redis技術及其生態圈;

　　3、具備Java Scala Python等開發經驗，熟悉數據挖掘和分析的策略與算法;

　　4、精通數據抽取，海量數據傳輸，數據清洗的常用方法和工具。

　　5、具備良好的系統分析能力、故障診斷能力;

　　6、有大數據策略、算法、可視化經驗優先;

　　7、有在華為云存儲產品和大數據產品的開發使用經驗優先。

大數據架構師的基本職責 篇19

　　職責：

　　1、數據分析軟件平臺架構搭建

　　2、負責深度學習核心框架或高性能后臺服務系統的架構設計工作，包括系統總體規劃、架構設計、系統分析、軟件實現、性能優化;

　　3、指導開發人員開發，并解決系統出現的問題，理解物業需求;

　　4、制定開發計劃和控制開發進度，負責指導研發團隊開展設計工作;

　　任職要求：

　　1、碩士以上，計算機或先關專業;

　　2、5年左右軟件開發經驗，含3年以上系統分析、設計經驗，有大型軟件項目大型軟件項目;有中大型互聯網企業數據庫架構設計及管理經驗，

　　3、 具備良好的組件級建模能力，熟悉HTTP、TCP等協議

　　4、熟練使用UML進行軟件架構設計，至少精通EA，RATIONAL， VISIO等一種設計工具.

　　5、精通至少一種編程語言，熟悉 Linux 相關技術，能獨立在上面進行開發、測試和部署

　　6、深入理解數據庫、數據倉庫、大數據、分布式體系架構和關鍵技術