大數(shù)據(jù)開發(fā)任職要求15篇

第1篇 中級大數(shù)據(jù)開發(fā)工程師職位描述與崗位職責(zé)任職要求

職位描述：

職責(zé)描述：

1、參與公司商業(yè)智能平臺的研發(fā)工作；

2、參與公司商業(yè)智能平臺的升級改造工作，包括運維工作。

任職要求：

1、正規(guī)院校本科及以上學(xué)歷，軟件、計算機、通信、信息安全、網(wǎng)絡(luò)工程等相關(guān)專業(yè)；

2、良好的java開發(fā)背景，熟悉spring/mybatis技術(shù)體系；

3、良好的sql功底，熟悉mysql或oracle數(shù)據(jù)庫；

4、熟悉linu_；

5、了解開源pentaho產(chǎn)品，包括prd、mondrian、saiku、kettle等；

6、熟悉hadoop、hive、hbase、storm、spark等大數(shù)據(jù)平臺；

7、溝通能力強，有較強的學(xué)習(xí)能力，有較強的責(zé)任心與良好的團(tuán)隊協(xié)作能力。

第2篇 健康科技中心-高級大數(shù)據(jù)開發(fā)工程師職位描述與崗位職責(zé)任職要求

職位描述：

職位描述：

1. 基于hadoop生態(tài)系統(tǒng)進(jìn)行大數(shù)據(jù)平臺建設(shè)；

2. 負(fù)責(zé)各業(yè)務(wù)條線相關(guān)指標(biāo)數(shù)據(jù)的數(shù)據(jù)建模

3. 負(fù)責(zé)基于sqoop，hive、spark、sparksql、mysql進(jìn)行大數(shù)據(jù)開發(fā)

4. 負(fù)責(zé)離線運算、實時計算平臺項目的設(shè)計、開發(fā)及運維

5. 負(fù)責(zé)對數(shù)據(jù)平臺進(jìn)行性能調(diào)優(yōu)

任職要求：

1.統(tǒng)招本科或以上學(xué)歷，6年以上大數(shù)據(jù)開發(fā)工作經(jīng)驗；

2.熟練掌握shell、python開發(fā)語言；

3.熟練掌握hadoop、hive、hbase、spark、spark sql、storm、sqoop、kafka、flume、sparkmlib等分布式框架原理，有相關(guān)的調(diào)優(yōu)、運維、開發(fā)經(jīng)驗；

4.熟練掌握mysql數(shù)據(jù)庫集群；

5. 精通主流etl開發(fā)工具，如：informatica、data services、kettle;精通主流調(diào)度工具，如：azkaban， oozie；

6.有數(shù)據(jù)倉庫、分析系統(tǒng)、用戶畫像等產(chǎn)品開發(fā)經(jīng)驗者優(yōu)先；

7.有較強的數(shù)據(jù)和業(yè)務(wù)結(jié)合能力；

8.有醫(yī)療或者大健康背景優(yōu)先；

9.有較強的獨立、主動的學(xué)習(xí)能力，良好的溝通表達(dá)能力。

第3篇 大數(shù)據(jù)開發(fā)工程師職位描述與崗位職責(zé)任職要求

職位描述：

工作職責(zé):

1、根據(jù)業(yè)務(wù)需求進(jìn)行數(shù)據(jù)模型的調(diào)研、設(shè)計、開發(fā)及驗證工作，并持續(xù)進(jìn)行模型的優(yōu)化；

2、負(fù)責(zé)數(shù)據(jù)模型架構(gòu)的構(gòu)建，建立數(shù)據(jù)抽取、清洗、校驗等數(shù)據(jù)加工流程規(guī)范及olap多維數(shù)據(jù)分析模型；

3、持續(xù)對系統(tǒng)的技術(shù)架構(gòu)進(jìn)行改進(jìn)和優(yōu)化，提升海量數(shù)據(jù)的查詢性能和用戶體驗。

任職資格:

1、統(tǒng)招本科或以上學(xué)歷，計算機、數(shù)據(jù)挖掘等相關(guān)專業(yè)，工作至少3年以上；

2、熟悉java開發(fā)，有腳本語言（shell，python)開發(fā)經(jīng)驗者優(yōu)先；

3、至少熟悉一種大數(shù)據(jù)處理技術(shù)，如hadoop、spark；

4、掌握hbase、redis、elastic search等開源大數(shù)據(jù)存儲技術(shù)，并能結(jié)合不同的業(yè)務(wù)場景深入使用；

5、精通sql，精通mysql、oracle、sql server等一種大型數(shù)據(jù)庫，以及數(shù)據(jù)庫的維護(hù)和優(yōu)化。

6、熟悉常用java web開發(fā)框架，如：spring、mybatis等；

7、熟悉多線程編程，并對java自帶線程池有一定研究；

8、對解決具有挑戰(zhàn)性的問題充滿激情，具有良好的分析問題和解決問題的能力。

第4篇 大數(shù)據(jù)開發(fā)工程師/架構(gòu)師職位描述與崗位職責(zé)任職要求

職位描述：

1、8年以上后端開發(fā)經(jīng)驗，有大數(shù)據(jù)處理經(jīng)驗；有實時處理工作經(jīng)歷并有一定解決方案者優(yōu)先；

2、熟悉大數(shù)據(jù)開源技術(shù)，包含（不限于）hadoop/spark/storm/hive/hbase/impala /flume/kafka/solr/es分布式框架/計算/存儲/檢索等相關(guān)技術(shù)，并有一定的hadoop生態(tài)系統(tǒng)運維經(jīng)驗；

3、至少掌握java/scala/python其中一門開發(fā)語言；

4、掌握sql，sparksql進(jìn)行數(shù)據(jù)開發(fā)；較好的sql性能調(diào)優(yōu)經(jīng)驗；

5、優(yōu)秀的分析、解決問題能力，充分的數(shù)據(jù)敏感度；有一定的高性能支撐經(jīng)驗和故障排除能力；

6、具備強烈的工作責(zé)任感，喜歡鉆研，態(tài)度樂觀，團(tuán)隊意識強。

第5篇 大數(shù)據(jù)開發(fā)總監(jiān)崗位職責(zé)大數(shù)據(jù)開發(fā)總監(jiān)職責(zé)任職要求

大數(shù)據(jù)開發(fā)總監(jiān)崗位職責(zé)

大數(shù)據(jù)開發(fā)總監(jiān) 主要職責(zé)

1. 帶領(lǐng)大數(shù)據(jù)團(tuán)隊，包括數(shù)據(jù)建設(shè)、數(shù)據(jù)質(zhì)量治理、數(shù)據(jù)應(yīng)用和數(shù)據(jù)產(chǎn)品;

2. 設(shè)計并優(yōu)化公司大數(shù)據(jù)架構(gòu)，包括數(shù)據(jù)建設(shè)流、數(shù)倉模型、數(shù)據(jù)集市架構(gòu);

3. 構(gòu)建數(shù)據(jù)質(zhì)量保障體系，包括全流程監(jiān)控、預(yù)警和數(shù)據(jù)快速恢復(fù)、數(shù)據(jù)質(zhì)量評估

4. 完善數(shù)據(jù)應(yīng)用體系，包括數(shù)據(jù)產(chǎn)品構(gòu)建、數(shù)據(jù)分析需求響應(yīng)、數(shù)據(jù)集市

5. 數(shù)據(jù)工程架構(gòu)迭代，包括實時流、權(quán)限管理、調(diào)度、應(yīng)用輸出等 主要職責(zé)

1. 帶領(lǐng)大數(shù)據(jù)團(tuán)隊，包括數(shù)據(jù)建設(shè)、數(shù)據(jù)質(zhì)量治理、數(shù)據(jù)應(yīng)用和數(shù)據(jù)產(chǎn)品;

2. 設(shè)計并優(yōu)化公司大數(shù)據(jù)架構(gòu)，包括數(shù)據(jù)建設(shè)流、數(shù)倉模型、數(shù)據(jù)集市架構(gòu);

3. 構(gòu)建數(shù)據(jù)質(zhì)量保障體系，包括全流程監(jiān)控、預(yù)警和數(shù)據(jù)快速恢復(fù)、數(shù)據(jù)質(zhì)量評估

4. 完善數(shù)據(jù)應(yīng)用體系，包括數(shù)據(jù)產(chǎn)品構(gòu)建、數(shù)據(jù)分析需求響應(yīng)、數(shù)據(jù)集市

5. 數(shù)據(jù)工程架構(gòu)迭代，包括實時流、權(quán)限管理、調(diào)度、應(yīng)用輸出等

第6篇 大數(shù)據(jù)開發(fā)工程師 [數(shù)倉方向]職位描述與崗位職責(zé)任職要求

職位描述：

工作職責(zé)：

1、使用etl工具（如sqoop、kettle）進(jìn)行數(shù)據(jù)加工、清洗等流程；

2、根據(jù)業(yè)務(wù)需求，進(jìn)行數(shù)倉日常數(shù)據(jù)分析、數(shù)據(jù)報表開發(fā)；

3、使用hive進(jìn)行數(shù)據(jù)處理，及數(shù)據(jù)模型構(gòu)建；

4、具備良好的分析問題和解決問題的能力；

5、具備較強的溝通能力和邏輯表達(dá)能力，具備良好的團(tuán)隊合作精神和主動溝通意識；

任職要求：

1、計算機相關(guān)專業(yè)本科及以上學(xué)歷；

2、熟練使用sql（mysql / oracle）；

3、熟練數(shù)據(jù)庫/數(shù)據(jù)倉庫分層設(shè)計、寬表設(shè)計、星型模型設(shè)計等；

4、熟練etl工具、sqoop、kettle、spark等；

5、熟悉hadoop、hive、hdfs等常用大數(shù)據(jù)組件；

6、有互聯(lián)網(wǎng)業(yè)務(wù)分布式數(shù)據(jù)倉庫、cube、大數(shù)據(jù)數(shù)據(jù)分析等相關(guān)經(jīng)驗者加分；

第7篇 大數(shù)據(jù)開發(fā)（實時計算）職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

1、參與計算框架和服務(wù)的定制和改進(jìn)，為公司批處理和流式計算能力提供支撐

2、基于業(yè)務(wù)需求和應(yīng)用場景，設(shè)計和實現(xiàn)公司大數(shù)據(jù)相關(guān)產(chǎn)品

3、負(fù)責(zé)設(shè)計，開發(fā)，優(yōu)化數(shù)據(jù)接入、數(shù)據(jù)存儲、數(shù)據(jù)計算服務(wù)框架

4、為公司所有業(yè)務(wù)線提供數(shù)據(jù)支持和服務(wù)

5、主要是為實時數(shù)倉計算提供數(shù)據(jù)支持和服務(wù)

任職要求：

1、本科以上學(xué)歷，3年以上大數(shù)據(jù)開發(fā)經(jīng)驗，掌握數(shù)據(jù)倉庫理論、模型設(shè)計方法等

2、對大數(shù)據(jù)實時數(shù)倉建設(shè)有成熟的解決方案和實踐經(jīng)驗

3、熟悉spark，flink、storm等大型分布式平臺組件

4、精通sql ，sparksql優(yōu)先，熟悉java，scala、python編程

5、有較強的性能優(yōu)化及問題排查、解決能力

6、具備良好的溝通能力，做事認(rèn)真、仔細(xì)，有責(zé)任心，具有團(tuán)隊協(xié)作能力

7、對kafka消息隊列中間件有過深度使用經(jīng)驗、對于druid、kudu、presto有過項目經(jīng)驗

8、對于數(shù)據(jù)采集、數(shù)據(jù)訂閱有成熟的解決方案或是項目經(jīng)驗

第8篇 大數(shù)據(jù)開發(fā)工程師/專家（p6-p8）3職位描述與崗位職責(zé)任職要求

職位描述：

職責(zé)描述：

1.負(fù)責(zé)時空位置大數(shù)據(jù)對外接口后臺和服務(wù)框架的開發(fā)和運營；

2.負(fù)責(zé)時空位置大數(shù)據(jù)數(shù)據(jù)中、后臺的建設(shè)以及數(shù)據(jù)和服務(wù)安全方面的建設(shè)；

任職要求：

1.重點大學(xué)本科以上學(xué)歷，計算機及相關(guān)專業(yè)；

2.3年以上相關(guān)工作經(jīng)驗，精通算法與數(shù)據(jù)結(jié)構(gòu)，精通c/c++編程語言；

3.精通linu_、uni_編程環(huán)境，熟悉數(shù)據(jù)庫；

4.精通網(wǎng)絡(luò)編程，有分布式系統(tǒng)開發(fā)經(jīng)驗，有大平臺開發(fā)經(jīng)驗優(yōu)先；

5.熟悉gis和時空大數(shù)據(jù)處理和管理，有相關(guān)工作經(jīng)驗者優(yōu)先，

6.具備優(yōu)秀的獨立解決問題能力， 善于團(tuán)隊合作，溝通良好，有一定的抗壓能力；

第9篇 大數(shù)據(jù)開發(fā)工程師-偏數(shù)據(jù)模型方向-l80542職位描述與崗位職責(zé)任職要求

職位描述：

職責(zé)描述：

1、參與數(shù)據(jù)需求的溝通和模型設(shè)計；

2、負(fù)責(zé)大數(shù)據(jù)平臺的數(shù)據(jù)需求開發(fā)，包括實時和批量處理；

3、負(fù)責(zé)不同數(shù)據(jù)源的接入解析落地的設(shè)計開發(fā)工作；

4、負(fù)責(zé)數(shù)據(jù)質(zhì)量監(jiān)控，解決數(shù)據(jù)運行和質(zhì)量問題。

任職要求：

1、計算機本科以上學(xué)歷，至少有3年數(shù)據(jù)開發(fā)經(jīng)驗；

2、精通java/scala/python，至少有3年以上開發(fā)使用經(jīng)驗；

3、熟悉spark，hive，flink，jstorm等大數(shù)據(jù)實時計算技術(shù)；

4、掌握hive sql，sparksql，es query dsl 等查詢語言；擁有sql性能調(diào)優(yōu)經(jīng)驗；

5、具有較強的業(yè)務(wù)理解能力，較強的責(zé)任心、團(tuán)隊合作能力和溝通能力；

6、有過圖數(shù)據(jù)庫開發(fā)或spark mllib開發(fā)經(jīng)驗者優(yōu)先考慮。

第10篇 大數(shù)據(jù)開發(fā)工程師（數(shù)據(jù)分析、信息安全、前端開發(fā)、數(shù)據(jù)對接）職位描述與崗位職責(zé)任職要求

職位描述：

數(shù)據(jù)分析工程師：

崗位職責(zé)：

1、負(fù)責(zé)結(jié)構(gòu)化數(shù)據(jù)和文本的數(shù)據(jù)處理、建模、分析等工作，如：數(shù)據(jù)清洗、中文分詞、情感分析、文本分類等；

2、負(fù)責(zé)數(shù)據(jù)需求的收集、整理和分析，配合其他同事完成結(jié)構(gòu)化數(shù)據(jù)和文本的需求分析；

3、負(fù)責(zé)分析結(jié)果的可視化展現(xiàn)；

4、負(fù)責(zé)核心算法的設(shè)計與優(yōu)化。

任職要求：

1、全日制本科畢業(yè)；

2、計算機或數(shù)學(xué)或軟件類或統(tǒng)計相關(guān)專業(yè)；

3、熟悉數(shù)據(jù)挖掘和文本挖掘的理論基礎(chǔ)，掌握統(tǒng)計模型、機器學(xué)習(xí)相關(guān)原理；

4、熟悉r/python/java等編程語言，熟悉常用數(shù)據(jù)結(jié)構(gòu)和算法，熟悉正則表達(dá)式的使用。

web前端開發(fā)工程師：

崗位職責(zé)：

1、負(fù)責(zé)前端框架設(shè)計及組件庫開發(fā)、前端開發(fā)工作統(tǒng)籌；

2、與后端工程師緊密配合，高效率、高質(zhì)量地完成頁面展現(xiàn)研發(fā)工作；

3、負(fù)責(zé)對產(chǎn)品頁面性能的優(yōu)化和維護(hù)；

4、負(fù)責(zé)數(shù)據(jù)可視化圖表顯示。

任職要求：

1、本科及以上學(xué)歷，專業(yè)不限。3年以上前端開發(fā)經(jīng)驗；

2、精通html5/css3、_html/_ml，熟悉頁面架構(gòu)和布局，對表現(xiàn)與數(shù)據(jù)分離、web語義化等有深刻理解；

3、在多瀏覽器兼容性問題及css/javascript性能優(yōu)化方面有一定的經(jīng)驗；

4、熟練掌握至少一種前端框架及工具、庫。如jquery、angular、webpack；

5、有echars、highcahrts、d3js等數(shù)據(jù)可視化框架開發(fā)經(jīng)驗優(yōu)先。

信息安全架構(gòu)工程師：

崗位職責(zé)：

1、 規(guī)劃車聯(lián)網(wǎng)安全架構(gòu)，不斷完善車聯(lián)網(wǎng)產(chǎn)品的安全規(guī)范和要求，跟進(jìn)、解決存在的安全隱患；

2、 對上線前的軟件或者車上產(chǎn)品進(jìn)行安全方面驗證及測試；

3、 跟進(jìn)最新漏洞的研究工作，理解漏洞的原理，編制漏洞研究報告和防范措施；

4、 負(fù)責(zé)行業(yè)/國家車聯(lián)網(wǎng)汽車網(wǎng)絡(luò)安全部分的技術(shù)及標(biāo)準(zhǔn)規(guī)范的研究工作。

任職要求：

1、本科以上學(xué)歷，信息安全，計算機，通信等相關(guān)專業(yè)；

2、 擁有網(wǎng)絡(luò)安全專業(yè)技能，熟悉車載網(wǎng)絡(luò)架構(gòu)，模塊及協(xié)議；

3、 熟悉常見網(wǎng)絡(luò)/車輛安全漏洞，掌握漏洞原理以及解決方案具備獨立開展?jié)B透工作的能力；

4、 熟悉常見黑客攻擊手法，具備對黑客行為的入侵檢測能力；

5、 精通安全測試框架，理解網(wǎng)絡(luò)，應(yīng)用，數(shù)據(jù)等不同層面的安全。

數(shù)據(jù)對接工程師：

崗位職責(zé)：

1、負(fù)責(zé)內(nèi)部系統(tǒng)的對接工作；

2、第三方平臺的數(shù)據(jù)對接及程序維護(hù)；

3、負(fù)責(zé)各車型的數(shù)據(jù)采集要求整理及規(guī)劃；

4、熟悉數(shù)據(jù)結(jié)構(gòu)和常用算法，有良好的代碼規(guī)范，能對接入數(shù)據(jù)/系統(tǒng)提出優(yōu)化方案。

任職要求：

1、 本科以上學(xué)歷，信息化項目，計算機，無線傳輸?shù)认嚓P(guān)專業(yè)；

2、擁有信息化相關(guān)技能，熟悉系統(tǒng)間的交互對接流程；

3、熟悉數(shù)據(jù)庫的管理及查詢、同步工作；

4、熟悉信息對接的方式，能用api、視圖等進(jìn)行對接工作。

第11篇 大數(shù)據(jù)開發(fā)工程師（p7-p8)3職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

分布式大數(shù)據(jù)系統(tǒng)開發(fā)、計算性能調(diào)優(yōu)、 高性能服務(wù)框架設(shè)計與開發(fā)；

參與項目的架構(gòu)設(shè)計、評審、技術(shù)攻堅及優(yōu)化；

參與系統(tǒng)文檔的撰寫、維護(hù)。

任職要求：

本科以上學(xué)歷，計算機或相關(guān)專業(yè)；

3年以上linu_后臺開發(fā)經(jīng)驗，有大規(guī)模系統(tǒng)開發(fā)經(jīng)驗；

精通http、tcp/ip協(xié)議，網(wǎng)絡(luò)編程；

熟悉linu_操作系統(tǒng)原理，常用工具；

熟悉常用大數(shù)據(jù)開源組件；

有高并發(fā)、大容量后臺服務(wù)系統(tǒng)設(shè)計經(jīng)驗；

具有良好的學(xué)習(xí)能力、溝通能力、團(tuán)隊合作意識；

強烈的責(zé)任心與主動性，對所負(fù)責(zé)工作有owner意識，并能自我驅(qū)動成長；

對hadoop、flink、spark、lucene等開源項目有大規(guī)模應(yīng)用經(jīng)驗，contributor或者committer優(yōu)先。

第12篇 大數(shù)據(jù)開發(fā)leader職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

1、負(fù)責(zé)整體大數(shù)據(jù)平臺體系的建設(shè)工作。

2、負(fù)責(zé)帶領(lǐng)團(tuán)隊完成基于大數(shù)據(jù)平臺的業(yè)務(wù)項目的開發(fā)、實施和維護(hù)工作。

3、負(fù)責(zé)解決大數(shù)據(jù)平臺建設(shè)過程中的技術(shù)難點和性能調(diào)優(yōu)工作。

4、負(fù)責(zé)指導(dǎo)和培訓(xùn)團(tuán)隊成員，共同提升大數(shù)據(jù)技能。

任職要求：

1、計算機相關(guān)專業(yè)，至少5年以上大數(shù)據(jù)開發(fā)經(jīng)驗；

2、熟悉大數(shù)據(jù)、數(shù)據(jù)倉庫，分布式架構(gòu)技術(shù)理論，具有大數(shù)據(jù)整體系統(tǒng)架構(gòu)設(shè)計和實戰(zhàn)經(jīng)驗，，有從無到有建設(shè)大數(shù)據(jù)平臺經(jīng)驗者優(yōu)先；

3、熟悉大數(shù)據(jù)生態(tài)圈技術(shù)，不限于hadoop、hdfs、hive、hbase、spark、storm、flume、sqoop、kylin等，閱讀過底層源碼者優(yōu)先；

4、熟悉至少一種編程語言，python，java，scala等，精通sql；

5、2年以上技術(shù)團(tuán)隊管理經(jīng)驗，有阿里，百度，騰訊，滴滴，美團(tuán)等互聯(lián)網(wǎng)大數(shù)據(jù)工作經(jīng)驗者優(yōu)先；

6、邏輯思維清晰，具備高度的責(zé)任感和良好的溝通協(xié)調(diào)能力，遇事積極主動。

第13篇 大數(shù)據(jù)開發(fā)(高級/資深)工程師職位描述與崗位職責(zé)任職要求

職位描述：

工作職責(zé)：

1、基于海量數(shù)據(jù)，支持業(yè)務(wù)對數(shù)據(jù)的分析和使用：

2、支持業(yè)務(wù)處理數(shù)據(jù)的流式處理、構(gòu)建數(shù)據(jù)倉庫、分析用戶行為等。

任職要求：

1、有扎實的編程能力，有優(yōu)秀的設(shè)計和代碼品位，對解決具有挑戰(zhàn)性問題充滿激情；

2、對大數(shù)據(jù)處理有豐富的經(jīng)驗和廣闊的視野；

3、熟悉常用的開源組件：hadoop/hive/spark/storm，并了解其特性和使用場景；

4、優(yōu)秀的溝通理解能力，能快速理解業(yè)務(wù)，用數(shù)據(jù)解讀業(yè)務(wù)；

5、推薦或機器學(xué)習(xí)相關(guān)的開發(fā)工作優(yōu)先。

第14篇 大數(shù)據(jù)開發(fā)工程師（渠道團(tuán)隊）職位描述與崗位職責(zé)任職要求

職位描述：

職責(zé)描述：

1.參與產(chǎn)品和項目研發(fā)工作，基于spark完成產(chǎn)品大數(shù)據(jù)架構(gòu)和功能開發(fā)；

2.搭建和調(diào)優(yōu)大數(shù)據(jù)基礎(chǔ)平臺，包括hadoop/hbase/hive/sqoop/kafka/flume/spark/storm等大數(shù)據(jù)組件的環(huán)境搭建；

3.維護(hù)線上系統(tǒng)的穩(wěn)定性、可靠性，通過分析現(xiàn)象快速定位問題，進(jìn)而提出優(yōu)化方案，改進(jìn)要求；

任職要求：

1.計算機相關(guān)專業(yè)本科及以上學(xué)歷，5年以上大數(shù)據(jù)工作經(jīng)驗，有扎實的計算機理論基礎(chǔ)；

2.熟練使用mapreduce、spark提供的api編程，具備海量數(shù)據(jù)加工處理（etl）相關(guān)經(jīng)驗；

3.熟練使用大數(shù)據(jù)的工具平臺，熟悉hadoop生態(tài)環(huán)境，對hadoop、spark、storm、hbase、hive等至少一個項目有著深入了解；

4.掌握數(shù)據(jù)分析的基本流程，具備數(shù)據(jù)采集、清洗、分析等環(huán)節(jié)的實戰(zhàn)經(jīng)驗；可以進(jìn)行數(shù)據(jù)產(chǎn)品etl需求的調(diào)研及開發(fā)；

5.熟悉etl任務(wù)調(diào)度及管理；

6.熟悉shell命令，進(jìn)行簡單的shell編程；熟悉linu_文本處理命令，vi、awk、sed等命令

7.熟練使用hadoop或其他分布式平臺的一種，能使用java、python或其他語言編寫mapreduce進(jìn)行大數(shù)據(jù)處理優(yōu)先；

8.有大型金融項目經(jīng)驗者優(yōu)先。'

第15篇 大數(shù)據(jù)開發(fā)經(jīng)理職位描述與崗位職責(zé)任職要求

職位描述：

崗位職責(zé)：

1、參與大數(shù)據(jù)平臺、工具平臺的架構(gòu)、設(shè)計以及實現(xiàn)；

2、參與對項目的開發(fā)需求進(jìn)行評審，制定項目的設(shè)計文檔、開發(fā)計劃文檔等；

3、負(fù)責(zé)公司各類數(shù)據(jù)產(chǎn)品數(shù)據(jù)抽取、清洗，以及數(shù)據(jù)算法與存儲的設(shè)計和優(yōu)化；

4、優(yōu)化大數(shù)據(jù)平臺的性能，提高穩(wěn)定性；

5、負(fù)責(zé)大數(shù)據(jù)平臺的組件升級與參數(shù)優(yōu)化。

崗位要求：

1、本科及以上學(xué)歷，3年以上相關(guān)技術(shù)背景，具備扎實的數(shù)據(jù)結(jié)構(gòu)和算法基礎(chǔ)，扎實的工程實現(xiàn)能力；

2、熟悉hadoop大數(shù)據(jù)相關(guān)技術(shù)體系，包括但不限于hbase、hdfs、storm、kafka、spark、hive、flume等；

3、精通java或python，能熟練編寫規(guī)范代碼，有較強的數(shù)據(jù)庫及sql開發(fā)調(diào)優(yōu)能力；

4、熟悉自然語言處理/機器學(xué)習(xí)/數(shù)據(jù)挖掘領(lǐng)域，熟悉常用的機器學(xué)習(xí)算法優(yōu)先考慮；

5、有大規(guī)模數(shù)據(jù)收集，日志處理經(jīng)驗，有電商數(shù)據(jù)分析背景優(yōu)先考慮；

6、深入研究過大數(shù)據(jù)框架的運行機制、實現(xiàn)原理、源碼者優(yōu)先考慮。