高級數據工程師崗位職責描述(通用32篇)
高級數據工程師崗位職責描述 篇1
•識別,分析和解決計劃支持問題。
•與BU利益相關者合作,確定并優先考慮數據和統計要求,包括要收集的特定數據元素。
•協助開發和實施數據庫,數據收集系統/工具,數據分析以及其他優化統計效率和質量的策略(包括確定流程改進以更好地滿足業務需求)。
•分析大量數據集,提出有見地的業務建議。
•通過查看報告和績效指標來確定和糾正數據收集問題,從而確保數據的準確性和完整性。
•識別,分析,解釋和建模數據湖中數據的趨勢或模式。
•為各種受眾設計和生成準確有效的統計數據可視化產品和報告。
•通過促進技術和非技術利益相關者之間的溝通,確保技術團隊了解計劃和業務工作的短期和長期目標
•準時交付優質,易懂,明確的產品。
•參與構建機器學習策略平臺。
•對數據驅動業務,關鍵思想家,問題解決者和自我啟動者的熱情
•促進技術和非技術利益相關者之間交流的能力
•出色的書面和口頭交流能力。
高級數據工程師崗位職責描述 篇2
1.高質量地完成集團內外各類數據生產集成、數據分析應用建設工作,涉及投研、市場、ERP、全球金融資訊等四個業務領域方向;
2.需求及源系統數據分析,完成數據倉庫/EDM等系統數據模型及應用模型設計、數據Mapping規則文檔撰寫、開發、自測及上線部署;
3. 數據質量稽核、問題分析及處理,優化數據處理程序;
4. 洞察數據、滿足業務場景需求。
高級數據工程師崗位職責描述 篇3
•在行業擔任數據工程師或后端工程師超過4年
•您將了解數據倉庫的概念(建模,調整,維護)
•您非常精通SQL,并渴望指導和教其他SQL
•您精通Python或任何其他腳本語言和軟件開發
•您在分布式數據處理/傳統RDBMS / MPP / NoSQL系統和數據建模方面有很強的低估/經驗
•您在Spark / Kafka / HBase / Redis / Kettle方面擁有豐富的經驗
•您受到探索數據的好奇心和動力的驅動
•您具有處理數據管道的DevOps問題的經驗
•對數據驅動業務,關鍵思想家,問題解決者和自我啟動者的熱情
•獲得認可大學的相關學科的學士學位
高級數據工程師崗位職責描述 篇4
1、負責每日的數據倉庫運維工作,保障數據的穩定性、一致性等;
2、參與數據倉庫的優化設計,如元數據、數據權限、調度優化;
3、負責數據質量和數據標準化的設計與開發;
4、負責滿足業務部門的日常業務提數與報表需求的開發。
高級數據工程師崗位職責描述 篇5
1. 參加團隊會議與討論,并給予有意義的建議;
2. 協助后端團隊和架構師完成數據庫相關的設計與開發;
3. 協助業務部門抓取、分析數據。
高級數據工程師崗位職責描述 篇6
(1)分析需求,完成相關數據抽取、數據清洗、數據探索、數據建模分析等工作;
(2)按要求完成數據分析報告、建模報告、數據報表等;
(3)對數據進行深度挖掘和建模,做運營和用戶等各方面分析,深度挖掘運營優化和用戶行為特征等,推動分析問題的解決,為業務決策提供日常支持;
(4)與業務部門和技術部門對接,完成設計,編寫,維護和完善公司業務相關的.算法。
(5)參與項目成果匯編,對相關結果進行解讀和匯報。
任職要求:
(1)大專以上學歷,統計、數學、計算機、軟件專業優先;
(2)熟練使用Python,Mysql語言,具有一定的工程能力,完善的文檔和注釋習慣。熟悉JupyterLab遠程代碼編寫環境,Linux常用命令。會使用R,Java,Scala等語言更佳。
(3)熟悉數據分析過程,能夠完成數據抽取、數據處理、數據建模、數據分析報告等任務;
(4)一定的數據挖掘/機器學習理論和技術基礎,了解常用的數據挖掘算法如:聚類模型、線性回歸、邏輯回歸、分類模型、決策樹模型等。
高級數據工程師崗位職責描述 篇7
崗位職責:
1、負責構建公司數據分析與數據挖掘業務分析體系,整體架構設計、規劃,充分發揮數據的價值,提高數據質量,促進公司業務更好的發展;
2、通過建立業務的數據分析模型來指導業務的發展,對數據庫信息進行深度挖掘和有效利用,充分實現數據的商業價值,構建公司核心競爭力;
3、跟蹤并分析用戶行為,為公司廣告業務的發展及產品的設計進行海量數據支持;
4、負責數據管理中心團隊的建設、發展、激勵、培訓等管理工作,有效領導數據分析與挖掘團隊支持和推動業務發展。
任職要求:
1、熱愛數據,對數據及邏輯關系敏感,并對數據體系有深入的認識;
2、本科以上學歷、計算機/統計學/經濟學等相關專業,有一定工作經驗,;
3、具備數據建模(機器學習,數據挖掘,信息檢索背景)和分析理論知識和經驗;
4、熟悉Linux平臺的海量數據分布式存儲、分布式計算;
5、熟悉常用的數據分析工具,有基于Hadoop的云計算平臺,HBase及類似的NoSQL存儲, MySQL,和BI系統等實踐經驗;
6、熟悉互聯網并且對于互聯網常見的業務形態與商業模式有深入的理解,對業務變化有敏銳的洞察力;
7、有較強的對業務理解與分析能力,了解業務規劃與策劃能力以及相應經驗;
8、具備較強的問題定位、分解、解決能力及計劃和組織能力;
9、善于創新、思維敏捷、精力充沛,溝通能力強,能夠承受較大工作壓力;
10、有電子商務或互聯網數據倉庫或商業智能架構設計、開發實施經驗者優先。
高級數據工程師崗位職責描述 篇8
1、3年以上etl開發經驗,熟悉etl開發規范和流程;
2、熟練使用datastage、informatica、kettle、hive、plsql、spark、mapreduce等工具中的一個或多個,有開發、維護經驗;
3、熟練編寫存儲過程,擅長sql優化;
4、熟悉oracle、sqlserver等常用數據庫中的`一個或多個;
5、熟悉perl、shell腳本,linux操作系統;
6、有大型數據倉庫、bi相關項目的開發經驗,精通架構、建模者優先;
7、熟練使用erwin或powerdesigner等進行數據建模;
8、以下經驗優先考慮:流式處理、日志處理、數據倉庫全日制本科以上學歷(985/211),計算機科學與技術/軟件工程/數據相關專業
1、3年以上etl開發經驗,熟悉etl開發規范和流程;
2、熟練使用datastage、informatica、kettle、hive、plsql、spark、mapreduce等工具中的一個或多個,有開發、維護經驗;
3、熟練編寫存儲過程,擅長sql優化;
4、熟悉oracle、sqlserver等常用數據庫中的一個或多個;
5、熟悉perl、shell腳本,linux操作系統;
6、有大型數據倉庫、bi相關項目的開發經驗,精通架構、建模者優先;
7、熟練使用erwin或powerdesigner等進行數據建模;
8、以下經驗優先考慮:流式處理、日志處理、數據倉庫
高級數據工程師崗位職責描述 篇9
數據處理工程師崗位職責
數據處理工程師1)直接面對客戶,參與項目運作中數據處理,了解客戶軟硬件要求;
2)參與、協助數據收集和模型建構;
3)安裝、調試公司軟件在客戶端上線;
4)開發常用數據處理功能,幫助業務團隊提高工作效率;
5)與香港、新加坡和紐約團隊合作,為亞太地區技術服務提供支持。·計算機或軟件相關專業,本科及以上學歷;
·掌握兩門以及常見數據庫設計開發技術,mysql、oracle、sqlserver、hive等;
·具有參加過etl開發項目,處理過(大)數據經驗優先;
·工作細心、認真負責且善于溝通,能快速理解業務,對數據敏感,并能主導項目的進度,保證團隊產出。1)直接面對客戶,參與項目運作中數據處理,了解客戶軟硬件要求;
2)參與、協助數據收集和模型建構;
3)安裝、調試公司軟件在客戶端上線;
4)開發常用數據處理功能,幫助業務團隊提高工作效率;
5)與香港、新加坡和紐約團隊合作,為亞太地區技術服務提供支持。
高級數據工程師崗位職責描述 篇10
崗位職責:
1.從事數學建模及數據挖掘應用方法研究;
2.與開發部門配合實現相應的數據分析模塊的開發;
3.制定公司數據可管理體系,建產研究用數據平臺。
任職要求:
1.應用數學、統計學、計算機等專業碩士以上學歷;
2.具備常用機器學習、數據挖掘相關知識,會spark;
3.具備一種或多種開發語言(如scalapython java等)的.程序和算法開發能力,掌握常用數據結構和算法;
4.有視頻、地圖、文本、社交等大數據分析能力;
5.有工業數據分析工作經驗者優先。
高級數據工程師崗位職責描述 篇11
1、MySQL數據庫規劃、設計、監控維護、升級、備份、鏡像、容災;
2、數據庫服務器的安裝部署、性能優化、可靠性、容災方案制定等;
3、對數據庫性能分析與調優,排錯,保證數據安全;
4、負責對開發工程師的SQL語句進行優化;
5、配合研發制定數據庫技術方案,分庫分表策略,現有表結構優化,數據遷移方案;
6、負責Mysql自動化相關事宜;
高級數據工程師崗位職責描述 篇12
1.負責工業設備組網及數據采集方案設計;
2.負責設計方案所需傳感器、儀表選型,布線圖、數據存儲方式、數據表等詳細設計;
3.負責與設備廠商、數控系統廠商進行業務協議、通信協議及接口協調;
4.負責現場數據采集相關軟硬件安裝調試;
5.負責和用戶現場對口協調、技術指導及現場培訓。
高級數據工程師崗位職責描述 篇13
1.根據項目經理或高級數據挖掘工程師要求獨立完成項目的數據搜集和數據處理;
2.能夠快速根據項目需要學習并理解行業知識,并能在項目經理或高級數據挖掘工程指導下完成部分數據分析工作;
3.能夠使用SAS,SPSS,或R,Python等開源平臺根據用戶需求定制開發相應的算法;
4.理解數據挖掘模型及預測分析結果,撰寫相關分析報告;
5.了解數據倉庫及商務智能背景,熟練掌握一類數據展現分析工具,如:Tableau,Cognos等;
高級數據工程師崗位職責描述 篇14
任職要求:
1、軟件、計算機、通訊等理工科相關專業本科及以上學歷;
2、具有3年配置管理或產品數據管理經驗;
3、熟悉計算機與網絡管理;
4、熟悉配置管理與產品數據管理知識,熟練掌握svn、plm等數據管理平臺的`操作與管理;
5、熟悉系統與信息安全知識;
6、具有較強的邏輯思維能力及良好的溝通能力,良好的主動學習能力及執行力。
高級數據工程師崗位職責描述 篇15
1、針對具體的業務場景需求、定義數據分析及挖掘問題;
2、使用統計學分析方法、挖掘算法、構建有效且通用的數據分析模型,對數據挖掘方案進行驗證、開發、改進和優化,實現數據挖掘的功能應用;
3、搭建高擴展高性能的數據分析模型庫,作為數據分析團隊的基礎工具;
4、完成領導安排的其他工作。
高級數據工程師崗位職責描述 篇16
1.負責數據分析,數據挖掘相關的算法、應用的設計與開發;
2.負責公司產品各階段數據的整理、分析、挖掘及提交數據報告,重點對車輛行為數據進行分析和挖掘,利用數據分析結論推動業務產品的優化;
3.對海量業務數據進行整合、分析挖掘,挖掘產品以及用戶潛在信息,為營銷、運營及決策提供業務分析及數據支持。
高級數據工程師崗位職責描述 篇17
1、負責應用平臺維護,保證其有效運行;
2、負責業務數據的挖掘、整合以及分析模型的建立、優化和評估;為業務人員日常工作提供可靠而明確的數據支撐;
3、負責報表相關功能的設計、開發工作,并負責報表優化、維護、數據采集;
4、負責系統相關文檔的制定和編寫。
5、有實際的MY SQL或Oracle等數據庫開發相關工作經歷,具有高級工程師技術能力;
6、有良好的溝通協調能力,能與客戶及項目組同事有效的溝通;
7、能夠獨立分析客戶需求,并能針對客戶需求編寫需求分析、設計等技術方案;
8、熱愛軟件事業,具有較強的責任感,有快速掌握新技術和獨立解決技術問題的能力;
高級數據工程師崗位職責描述 篇18
1、 日常數據庫的基本安裝,維護,升級,監控的;
2、 配合研發部門進行數據庫設計支持,協助開發、設計和進行SQL語言優化;
3、 配合相關部門數據庫相關的'任務,比如數據導入導出,SQL的編寫;
4、 數據的安全防范,比如備份,容災等;
5、 定期數據庫巡檢、數檢查、狀態分析、優化運行瓶頸及故障診斷排除;
6、 協助數據庫DBA完成數據庫架構設計,安全性、可用性、高性能方案的實施。
高級數據工程師崗位職責描述 篇19
1、負責數據接入、數據提取、數據清洗、底層重構、業務主題建模等工作;
2、參與數據集市開發,用戶畫像標簽開發;
3、負責接口平臺、自助分析平臺等系統的建設和維護;
4、針對具體大數據應用場景,提供有效解決方案,并針對具體模型落地實施;
高級數據工程師崗位職責描述 篇20
1、負責數據倉庫(HADOOP)ETL工作以及數據運營;
2、負責數據產品的業務需求梳理、數據開發以及維護;
3、負責數據倉庫的'維度建模以及設計相關的腳本調度;
4、負責維度模型的數據處理的腳本開發,程序開發以及接口對接。
高級數據工程師崗位職責描述 篇21
1.數據庫軟件安裝、系統搭建、測試環境同步數據等;
2.數據庫日常檢查及維護,并形成文檔登記歸檔;
3.數據庫故障排除與應急處理;
4.數據庫性能分析及優化;
5.為各應用部門提供技術支持。
高級數據工程師崗位職責描述 篇22
1.依據項目需求建構數據萃取與轉換流程
2.挖掘數據特征,進行數據和特征融合
3.搭建數學模型,并對模型進行檢驗評估
職位要求:
1、計算機、數學、統計、人工智能等相關專業的碩士或以上學歷;
2、二年以上數據挖掘、機器學習相關工作經驗,熟悉python、spark、pandas、sklearn等數據分析工具者優先;
3、熟練掌握貝葉斯、隨機森林、深度學習等機器學習算法;
4、突出的分析問題和解決問題能力,自我驅動,并且具備較強的學習能力、創新應用能力及溝通協調能力,有良好的'團隊合作意識;
5、有國際背景或能熟練使用英文溝通者優先
高級數據工程師崗位職責描述 篇23
職責描述:
1、負責poi數據的屬性分析、處理和關系挖掘,構建地圖領域的知識圖譜。
2、負責nlp、數據挖掘、深度學習等方向的前沿算法研發,并結合地圖場景優化。
任職要求:
1、計算機、數學或相關專業,三年以上工作經驗。
2、熟悉數據結構和算法設計,熟練使用c++、python。
3、熟悉nlp、機器學習、數據挖掘領域的常用算法與工具,對前沿技術保持熱情。
4、良好的.分析和解決問題能力,能獨立承擔研發工作。
5、有地圖數據優化工作背景優先。
團隊介紹
主要支持北京崗位
對地圖(無人駕駛)、廣告(廣點通)、快報感興趣的歡迎勾搭
高級數據工程師崗位職責描述 篇24
1、參與部門項目的售前工作,參與現場交流,深入挖掘用戶需求,編寫投標方案,參與投標;
2、完成所負責項目的需求規格說明書的編寫,并向項目組開發人員和測試人員講解需求,如需求發生變化及時調整需求。
3、完成所負責項目的概要設計,并解決項目進展過程中的需求與設計問題;
4、可承擔部分項目經理的職責,組織相關資源對項目工作進行計劃/控制/調整;
高級數據工程師崗位職責描述 篇25
崗位職責:
1.按產品功能需求說明,設計相應數據庫業務邏輯及規則,并完成腳本封裝。
2.根據產品適配計劃,進行新適配數據庫的預研。
3.根據業務需求,提供數據庫元數據創建語句。
4.協助產品內容、數據庫知識體系、業務算法模型等研發。
技能要求:
1.熟悉Oracle、SQL Server、MySQL數據庫架構及原理,并有實際運維經驗。
2.熟悉MySQL、PostgreSQL和MongoDB等開源數據庫架構及原理,并有實際運維經驗。
3.熟悉RDS for MySQL、PostgreSQL等云數據庫架構及原理,并有實際運維經驗。
4.熟悉達夢、人大金倉、南大通用、神州通用、高斯、熱璞、巨杉等國產數據庫架構及原理,并有實際運維經驗。
5.熟悉PolarDB、OceanBase、Tidb等數據庫架構及原理,并有實際運維經驗。
6.深刻理解數據庫原理及架構,有二線dba經驗者優先。
7.熟悉Unix、Linux、Windows等操作系統架構及原理,并能熟練使用。
8.熟悉主流自動化運維、監控產品,有實際開發及使用經驗的優先。
9.熟練使用shells、Python等腳本語言。
10.熟悉腳本開發規范,具有數據庫開發背景的`優先。
11.深入理解數據庫的數據字典,并熟悉對象定義,有自定義對象開發經驗的優先。
12.善于溝通,皮實,良好的學習能力。
13.本科(含)以上學歷,計算機或相關專業的優先。
高級數據工程師崗位職責描述 篇26
職責描述:
1、負責文本數據處理,如格式轉換、分詞處理、實體抽取、專業詞典整理等;
2、自然語言處理相關工具開發;
3、協助訓練nlp模型。
任職要求:
1、計算機相關專業(本科2年以上);
2、精通c/c++或java,熟悉python、bash?shell等腳本語言;
3、熟悉正則表達式,了解常用分類、聚類算法及相應工具;
4、熟悉使用基本分類、聚類算法及相應工具;
5、具備nlp相關工作(特別是數據處理與分析)經驗,了解nlp基本知識;
6、其他:耐心、細致;較強的邏輯思維能力;性格踏實穩定,抗壓能力強。
高級數據工程師崗位職責描述 篇27
1.負責直播業務相關數據倉庫的數據模型設計;
3.參與數據倉庫ETL流程設計、開發和優化,解決ETL過程相關技術問題;
3.參與項目規劃,數據采集設計,數據倉庫開發,模型開發,報表開發等;
4. 總結數據倉庫建模的方法,負責數據產品平臺化和系統化;
高級數據工程師崗位職責描述 篇28
崗位職責:
1、對通信和金融業務數據進行分析和挖掘,滿足研發和運營等部門的業務需求和決策需求;
2、能根據業務特點選擇最合適的數據挖掘算法,并做調優;
3、支持數據分析、挖掘算法平臺的部署和日常運營;
4、撰寫分析類報告。
任職資格:
1、大學本科或本科以上統計學、數學或其他相關專業,對數據結構熟悉;
2、熟練使用python進行數據分析、處理、可視化。熟悉numpy/pandas/matplotlib等常用模塊。熟練使用sql,最好用過hive-sql或spark-sql;
3、對hadoop/spark有一定了解。能夠簡單使用hadoop系列命令;
4、對線性回歸,決策森林,xgboost,評分卡等數據挖掘相關算法有一定了解;
5、做過web接口調試,熟悉json者優先;
6、熟練掌握PPT和EXCEL制作;
7、具備良好的學習、溝通與表達能力,具有較強的團隊合作精神,對工作富有熱情,能承受工作壓力;
8、有運營商或金融類相關數據經驗工作優先考慮;
9、能適應中長期現場出差。
高級數據工程師崗位職責描述 篇29
數據處理工程師(大數據項目)全成通信上海全成通信技術有限公司,全成通信,全成崗位職責:
1、負責大數據平臺的日常維護和監控
2、負責大數據項目日報發布工作
3、負責日報數據的統計
4、負責大數據項目日常數據的計算、分析和維護
任職要求:
1、一年以上相關工作經驗,有電信行業經驗者優先
2、熟悉linux和excel,熟練使用perl或者其他的'腳本語言
3、具有oracledll/dml技術的使用經驗
4、具有良好的團隊合作精神,有較強的學習能力、適應能力、溝通能力
高級數據工程師崗位職責描述 篇30
1.從事GIS數據制作、分析、數據管理等工作;
2.編寫工作總結和作業流程等文件;
3.通過已經完成的矢量化成果和表格數據庫入庫和檢查工作;
4.利用軟件對圖形和屬性進行檢查,并進行錯誤修改;
5.其他數據制作處理工作。
高級數據工程師崗位職責描述 篇31
1、熟悉掌握業務系統功能,靈活制定不同業務的推廣策略,通過活動運營、內容運營等方式策劃并落地項目推廣方案,拓展系統用戶量及影響力。
2、熟悉公文寫作,配合完成工作匯報材料的撰寫及分析報告。
3、與企業及海關關系的協調和維護,強化合作關系,維護好項目參與方的'關系。
4、面向進出口企業開展調研,主動挖掘系統需求,進行需求分析,形成調研報告或業務需求報告。
5、項目管理相關工作,包括組織業務需求論證、項目立項、進度管理等根據項目管理規范開展相關工作。
6、完成領導交辦的其他工作事項。
高級數據工程師崗位職責描述 篇32
1、負責生產環境Mysql數據庫系統高可用、高性能架構方案,分庫分表策略,數據庫擴展方案;
2、排查數據庫故障,分析和解決疑難問題,提出預防方案;
3、制定數據庫監控策略、備份策略、容災策略,探查系統潛在的問題和可能的性能瓶頸并進行優化;
4、對開發工程師的SQL語句進行審核及SQL優化;
5、負責redis、memcache等非關系數據庫的管理和擴展,能夠根據業務需求完成系統設計、架構設計工作;
6、參與前瞻性新技術研究,解決數據庫相關疑難問題。
