- 目錄
-
第1篇 高級(jí)大數(shù)據(jù)工程師職位描述與崗位職責(zé)任職要求
職位描述:
崗位職責(zé):
1、參與大數(shù)據(jù)開放平臺(tái)基礎(chǔ)能力建設(shè),承擔(dān)系統(tǒng)架構(gòu)、組件開發(fā)、方案驗(yàn)證等工作;
2、參與構(gòu)建大數(shù)據(jù)系列產(chǎn)品,包括但不限于用戶畫像、用戶增長與用戶經(jīng)營、數(shù)據(jù)分析挖掘、實(shí)時(shí)計(jì)算、數(shù)據(jù)分發(fā)、機(jī)器學(xué)習(xí)平臺(tái)、風(fēng)控反欺詐等產(chǎn)品線;
任職要求:
1、 統(tǒng)招本科或以上學(xué)歷,5年以上大數(shù)據(jù)開發(fā)工作經(jīng)驗(yàn);
2、扎實(shí)的java基礎(chǔ),能熟練使用java進(jìn)行軟件功能開發(fā);
3、熟練掌握基于hadoop生態(tài)的大數(shù)據(jù)開發(fā)工具,包括hive、spark、hbase、sqoop、es、impala、flink、storm等,有實(shí)時(shí)系統(tǒng)開發(fā)經(jīng)驗(yàn)優(yōu)先;
4、熟悉常用的數(shù)據(jù)挖掘算法,例如聚類、回歸、決策樹等,有過nlp項(xiàng)目經(jīng)驗(yàn)優(yōu)先;
5、有過互聯(lián)網(wǎng)公司數(shù)據(jù)倉庫、分析系統(tǒng)、用戶畫像、廣告平臺(tái)等產(chǎn)品開發(fā)經(jīng)驗(yàn)者優(yōu)先;
6、工作積極主動(dòng),善于合作,敏而好學(xué);
第2篇 數(shù)據(jù)工程師(銀行-南昌)職位描述與崗位職責(zé)任職要求
職位描述:
崗位職責(zé):
1、協(xié)助數(shù)據(jù)倉庫架構(gòu)師制定數(shù)據(jù)處理和業(yè)務(wù)個(gè)性化規(guī)范;
2、協(xié)助項(xiàng)目經(jīng)理在業(yè)務(wù)層面對基于nc的標(biāo)準(zhǔn)分析產(chǎn)品研發(fā)提供指導(dǎo);
3、針對nc的數(shù)據(jù)抽取和dw建模;
4、有計(jì)劃的提升整個(gè)團(tuán)隊(duì)的數(shù)據(jù)處理能力
5、適應(yīng)區(qū)域內(nèi)的出差
任職資格:
1、1年以上oracle、或db2數(shù)據(jù)庫開發(fā)經(jīng)驗(yàn);
2、能熟練使用sqlplus、pl/sql、toad等工具中的一種進(jìn)行sql、存儲(chǔ)過程開發(fā);
3、熟悉數(shù)據(jù)倉庫、etl、olap分析;
4、熟悉powerdesigner建模工具,能應(yīng)用建立數(shù)據(jù)模型;
5、熟悉數(shù)據(jù)庫性能分析及sql調(diào)優(yōu);
6、熟悉linu_系統(tǒng),熟悉shell腳本開發(fā),熟悉awk等文件處理方法
7、工作認(rèn)真負(fù)責(zé),具有良好的團(tuán)隊(duì)精神及溝通表達(dá)能力;
8、有銀行行業(yè)背景者優(yōu)先;
9、熟悉bi業(yè)務(wù)分析的相關(guān)知識(shí),如dw建模和etl等。
第3篇 大數(shù)據(jù)工程師( elasticsearch/spark)職位描述與崗位職責(zé)任職要求
職位描述:
崗位職責(zé):
1、 負(fù)責(zé)基于elasticsearch的研發(fā);
2、 負(fù)責(zé)基于spark生態(tài)系統(tǒng)的研發(fā);
3、 負(fù)責(zé)elasticsearch/spark集群調(diào)優(yōu);
4、 負(fù)責(zé)對數(shù)據(jù)進(jìn)行建模。
任職要求:
1、 大學(xué)本科及以上學(xué)歷,計(jì)算機(jī)相關(guān)專業(yè);
2、 三年以上工作經(jīng)驗(yàn);
3、 熟練掌握java/scala后端開發(fā),如多線程、網(wǎng)絡(luò)等;
4、 熟練掌握python、shell中的一種腳本語言;
5、 熟悉spark 生態(tài)系統(tǒng)組件,如:hadoop、flume、kafka、hbase、hive、pig、zookeeper;
6、 熟悉linu_開發(fā)環(huán)境;
7、 熟悉elasticsearch、lucene優(yōu)先;
8、 能夠讀懂及書寫英文文檔;
9、 有spark調(diào)優(yōu)、統(tǒng)計(jì)學(xué)知識(shí)的優(yōu)先考慮;
10、 有機(jī)器學(xué)習(xí)經(jīng)驗(yàn)者優(yōu)先考慮;
11、 對新技術(shù)有孜孜不倦的熱情。
第4篇 大數(shù)據(jù)工程師(電商行業(yè))職位描述與崗位職責(zé)任職要求
職位描述:
工作職責(zé):
1、基于hive的數(shù)據(jù)倉庫建設(shè)、etl開發(fā);
2、使用hive/flink等平臺(tái)進(jìn)行分析內(nèi)部及外部的數(shù)據(jù),配合業(yè)務(wù)團(tuán)隊(duì)進(jìn)行定量和定性分析,把數(shù)據(jù)轉(zhuǎn)化成為業(yè)務(wù)增值的信息;
3、探索、評(píng)估新的技術(shù)和解決方案,提高數(shù)據(jù)并行計(jì)算能力和運(yùn)行速度。
任職要求:
1、熟悉大數(shù)據(jù)相關(guān)技術(shù):kafka/flink/hadoop/druid/hbase 等;
2、具備數(shù)據(jù)庫系統(tǒng)理論知識(shí),掌握主流數(shù)據(jù)庫管理和應(yīng)用,精通sql;
3、了解統(tǒng)計(jì)以及數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)、人工智能技術(shù),會(huì)使用關(guān)聯(lián)分析、分類預(yù)測、聚類分析等常用分析方法;
4、熟練使用 java、python、php、go語言中的一種或者多種;
6、兩年以上大數(shù)據(jù)開發(fā)經(jīng)驗(yàn),有高性能分布式平臺(tái)開發(fā)經(jīng)驗(yàn),有電商行業(yè)經(jīng)驗(yàn)優(yōu)先。
第5篇 華為數(shù)據(jù)工程師崗位職責(zé)職位要求
職責(zé)描述:
1.負(fù)責(zé)項(xiàng)目組數(shù)據(jù)挖掘、數(shù)據(jù)分析、數(shù)據(jù)建模工作,能夠按要求、高質(zhì)量地完成任務(wù);
2.熟練掌握分析設(shè)計(jì)工具,按照規(guī)范的要求,編寫設(shè)計(jì)文檔;
3.按照設(shè)計(jì)功能,實(shí)現(xiàn)模塊的代碼編寫和維護(hù);
4.按照公司的規(guī)范進(jìn)行編碼,并對開發(fā)的代碼進(jìn)行單元測試;5.負(fù)責(zé)項(xiàng)目開發(fā)過程中的技術(shù)攻關(guān)及運(yùn)行中出現(xiàn)的技術(shù)問題。
任職資格:
1、3年以上數(shù)據(jù)倉庫和數(shù)據(jù)建模經(jīng)驗(yàn),包括不限于:etl、dw、olap、多維數(shù)據(jù)模型等;
2、一定的數(shù)據(jù)可視分析基礎(chǔ),熟練掌握power pivot、powerbi等工具用于數(shù)據(jù)分析;
3、有ssas方案的設(shè)計(jì)或開發(fā)經(jīng)驗(yàn)優(yōu)先;
4、熟練使用至少一款bi相關(guān)工具,包括tableau,powerbi,oracle biee,qlik等等。
5、理解數(shù)據(jù)倉庫和數(shù)據(jù)建模相關(guān)知識(shí)
6、溝通能力優(yōu)秀,勤奮好學(xué),熱愛數(shù)據(jù)工作;7、良好的團(tuán)隊(duì)精神,工作負(fù)責(zé),具有良好的職業(yè)操守。
8、本科以上學(xué)歷學(xué)位,具備cet-4/6優(yōu)先。
崗位要求:
學(xué)歷要求:本科
語言要求:不限
年齡要求:不限
工作年限:3-5年
第6篇 大數(shù)據(jù)工程師崗位職責(zé)職位要求
職責(zé)描述:
華為企業(yè)bg-大數(shù)據(jù)工程師
1、基于hadoop/spark/mppdb的大數(shù)據(jù)、數(shù)倉平臺(tái)架構(gòu)設(shè)計(jì)及開發(fā)工作
2、數(shù)據(jù)處理流程設(shè)計(jì)及開發(fā)
3、海量數(shù)據(jù)的采集、存儲(chǔ)、管理、分析、建模
4、負(fù)責(zé)大數(shù)據(jù)、數(shù)倉平臺(tái)的監(jiān)控及優(yōu)化,針對持續(xù)增長的數(shù)據(jù)提供相應(yīng)的解決方案
5、負(fù)責(zé)大數(shù)據(jù)、數(shù)倉項(xiàng)目的疑難問題解決,性能優(yōu)化
專業(yè)知識(shí)要求:
1、有3年以上相關(guān)崗位工作經(jīng)歷,或者非金融業(yè)的數(shù)據(jù)服務(wù)或信息數(shù)據(jù)管理工作經(jīng)驗(yàn)
2、數(shù)學(xué)、計(jì)算機(jī)技術(shù)等相關(guān)專業(yè)
3、精通大數(shù)據(jù)(mppdb、hadoop)等相關(guān)技術(shù),并精通hbase/hive/mr/spark/solr/storm/flink其中的任意3個(gè)組件技術(shù)。
4、至少精通主流數(shù)據(jù)庫技術(shù)oracle/postresql/mysql/sql server中的一種,精通數(shù)據(jù)倉庫理論架構(gòu),包括但不限于數(shù)據(jù)調(diào)度、etl、元數(shù)據(jù)管理、數(shù)據(jù)監(jiān)控;
5、精通1-2門開發(fā)語言(java/python/scala/shell)
6、具有比較突出的組織、策劃、協(xié)調(diào)及溝通能力,有強(qiáng)烈的結(jié)果導(dǎo)向和客戶導(dǎo)向。
崗位要求:
學(xué)歷要求:本科
語言要求:不限
年齡要求:不限
工作年限:3-5年
第7篇 etl數(shù)據(jù)工程師崗位職責(zé)任職要求
etl數(shù)據(jù)工程師崗位職責(zé)
崗位職責(zé):
1. 參與金融大數(shù)據(jù)研發(fā);
2. 參與數(shù)據(jù)倉庫etl流程的優(yōu)化及解決etl相關(guān)技術(shù)問題;
3. 負(fù)責(zé)數(shù)據(jù)基礎(chǔ)架構(gòu)的升級(jí)和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率;
4. 設(shè)計(jì)并實(shí)現(xiàn)對機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘的系統(tǒng)性支持;
崗位要求:
1. 計(jì)算機(jī)相關(guān)專業(yè),本科及以上學(xué)歷;
2. 具備良好的編程習(xí)慣,熟悉常用的數(shù)據(jù)結(jié)構(gòu)和算法;
3. 熟練掌握php/python/java任一語言;
4. 具備良好的數(shù)據(jù)庫理論基礎(chǔ)知識(shí),較強(qiáng)的sql書寫能力,熟練使用mysql/postgres等數(shù)據(jù)庫;
5. 有數(shù)據(jù)處理,etl流程優(yōu)化實(shí)戰(zhàn)經(jīng)驗(yàn),熟悉kettle/informatica等抽取工具;
6. 有使用 kafka,storm,spark streaming 實(shí)時(shí)數(shù)據(jù)處理系統(tǒng)建設(shè)經(jīng)驗(yàn)優(yōu)先。
etl數(shù)據(jù)工程師崗位
第8篇 oracle數(shù)據(jù)工程師崗位職責(zé)任職要求
oracle數(shù)據(jù)工程師崗位職責(zé)
工作職責(zé):
1. 數(shù)據(jù)倉庫和業(yè)務(wù)數(shù)據(jù)集市建設(shè)
2. 業(yè)務(wù)模型抽象、數(shù)據(jù)模型設(shè)計(jì)開發(fā)
3. 支持業(yè)務(wù)的數(shù)據(jù)需求,跟pm一起完善業(yè)務(wù)的數(shù)據(jù)分析體系和工具
4. etl、數(shù)據(jù)應(yīng)用和服務(wù)的設(shè)計(jì)開發(fā)
5. 積累數(shù)據(jù)生產(chǎn)、分析工具,不斷提高數(shù)據(jù)生產(chǎn)效率
6. 實(shí)時(shí)數(shù)據(jù)倉庫設(shè)計(jì)、開發(fā)與服務(wù)
崗位要求:
1. 快速的業(yè)務(wù)學(xué)習(xí)和理解能力,有良好的自驅(qū)能力,對工作充滿熱情
2. 熟悉數(shù)據(jù)倉庫各類模型建模理論,了解數(shù)據(jù)倉庫數(shù)據(jù)分層架構(gòu),熟悉多維數(shù)據(jù)模型設(shè)計(jì)
3. 具備大型數(shù)據(jù)倉庫架構(gòu)設(shè)計(jì)、模型設(shè)計(jì)、etl設(shè)計(jì)的相關(guān)經(jīng)驗(yàn)
4. 精通oracle數(shù)據(jù)庫技術(shù),深刻理解數(shù)據(jù)庫/oracle特性,有過硬的sql能力,能編寫高性能的數(shù)據(jù)處理程序。
5. 具備hadoop、hive、hbase,spark等大數(shù)據(jù)技術(shù)背景,并具有開發(fā)經(jīng)驗(yàn)者優(yōu)先
6. 具備海量數(shù)據(jù)處理經(jīng)驗(yàn)者優(yōu)先
oracle數(shù)據(jù)工程師崗位
第9篇 工業(yè)大數(shù)據(jù)工程師職位描述與崗位職責(zé)任職要求
職位描述:
職責(zé)描述:
1、針對工廠四大ai場景(機(jī)器視覺/圖像識(shí)別、機(jī)器學(xué)習(xí)/phm、知識(shí)發(fā)現(xiàn)、自然語言處理),給出有競爭力的算法實(shí)現(xiàn);
2、深入了解業(yè)務(wù)需求,能對算法和模型應(yīng)用效果進(jìn)行評(píng)估、分析和優(yōu)化等;
3、ai和大數(shù)據(jù)相關(guān)課程開發(fā)培訓(xùn);
任職要求:
1、全日制本科及以上學(xué)歷,有5年以上相關(guān)工作經(jīng)驗(yàn);
2、曾經(jīng)實(shí)作過ai算法功能,有深度學(xué)習(xí)項(xiàng)目和相關(guān)經(jīng)驗(yàn),圖像處理經(jīng)驗(yàn)優(yōu)先考慮;
3、熟悉流行的ai學(xué)習(xí)開源工具,如tensorflow等,有計(jì)算機(jī)視覺、深度學(xué)習(xí)的開發(fā)經(jīng)驗(yàn)者優(yōu)先;
4、具備處理、清洗、核定分析數(shù)據(jù)能力,熟悉編程語言python等。
第10篇 etl數(shù)據(jù)工程師職位描述與崗位職責(zé)任職要求
職位描述:
職責(zé):
1. 按業(yè)務(wù)分析需求進(jìn)行建模;
2. 進(jìn)行數(shù)據(jù)倉庫需求分析、方案設(shè)計(jì)、etl裝載過程設(shè)計(jì);
3. 從業(yè)務(wù)數(shù)據(jù)庫到數(shù)據(jù)倉庫的etl開發(fā);
4. 結(jié)合業(yè)務(wù)流程和需求進(jìn)行數(shù)據(jù)分析;
任職資格:
1. 本科以上學(xué)歷,計(jì)算機(jī)等信息技術(shù)相關(guān)專業(yè);
2. 有互聯(lián)網(wǎng)金融相關(guān)工作經(jīng)驗(yàn),了解相關(guān)數(shù)據(jù)流和業(yè)務(wù)背景優(yōu)先;
3. 兩年及以上數(shù)據(jù)倉庫相關(guān)工作經(jīng)驗(yàn),對數(shù)據(jù)倉庫系統(tǒng)架構(gòu)具有良好的認(rèn)識(shí),熟悉數(shù)據(jù)倉庫相關(guān)技術(shù),如 etl、報(bào)表開發(fā),具備數(shù)據(jù)分析技術(shù)并具有相關(guān)項(xiàng)目經(jīng)驗(yàn);
4. 具有hive、spark、mysql、oracle等至少一種大型數(shù)據(jù)庫的應(yīng)用開發(fā)經(jīng)驗(yàn),熟悉數(shù)據(jù)標(biāo)準(zhǔn)管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理;
5. 具備python統(tǒng)計(jì)和數(shù)據(jù)挖掘相關(guān)基本開發(fā)能力;
6. 溝通能力好,善于規(guī)劃和總結(jié),注重團(tuán)隊(duì)合作及知識(shí)共享,能承擔(dān)一定的工作壓力;
第11篇 資深大數(shù)據(jù)工程師職位描述與崗位職責(zé)任職要求
職位描述:
【崗位職責(zé)】:
1、參與公司數(shù)據(jù)平臺(tái)架構(gòu)設(shè)計(jì),負(fù)責(zé)大數(shù)據(jù)平臺(tái)和數(shù)據(jù)倉庫相關(guān)建設(shè);
2、依據(jù)公司的大數(shù)據(jù)技術(shù)發(fā)展路線,負(fù)責(zé)基于hadoop生態(tài)系統(tǒng)和mpp數(shù)據(jù)庫的大規(guī)模數(shù)據(jù)平臺(tái)的研發(fā)及數(shù)據(jù)倉庫建設(shè),提供可靠的數(shù)據(jù)存儲(chǔ)和訪問能力;
3、負(fù)責(zé)公司大數(shù)據(jù)平臺(tái)和數(shù)據(jù)倉庫的搭建、開發(fā)、管理、監(jiān)控和性能調(diào)優(yōu),保證集群高效穩(wěn)定運(yùn)行;
4、規(guī)劃與開發(fā)離線數(shù)據(jù)平臺(tái)系統(tǒng),處理海量數(shù)據(jù),優(yōu)化存儲(chǔ)和計(jì)算架構(gòu)的性能;
5、負(fù)責(zé)數(shù)據(jù)平臺(tái)技術(shù)難點(diǎn)攻關(guān)、技術(shù)選型評(píng)估,參與開發(fā)流程的討論與優(yōu)化;
6、參與公司數(shù)據(jù)治理策略等的制訂和實(shí)施;
7、負(fù)責(zé)協(xié)助產(chǎn)品經(jīng)理進(jìn)行數(shù)據(jù)倉庫相關(guān)的需求分析、建模、寬表設(shè)計(jì)等工作;
8、負(fù)責(zé)系統(tǒng)核心代碼編寫、代碼審核和重構(gòu),指導(dǎo)和培訓(xùn)數(shù)據(jù)工程師、不斷進(jìn)行系統(tǒng)優(yōu)化;
【任職資格】:
1、本科以上學(xué)歷,5年以上大數(shù)據(jù)研發(fā)經(jīng)驗(yàn),帶領(lǐng)過10人以上的大數(shù)據(jù)團(tuán)隊(duì);
2、有大型分布式系統(tǒng)設(shè)計(jì)經(jīng)驗(yàn),負(fù)責(zé)過海量數(shù)據(jù)平臺(tái)上高可用、高性能分布式系統(tǒng)的架構(gòu)設(shè)計(jì);
3、熟悉大數(shù)據(jù)開發(fā)框架,熟悉hadoop,hbase,spark等及業(yè)界主流流處理平臺(tái)如,如storm,flunk,sparkstreaming等之一;
4、熟悉greenplum等數(shù)據(jù)倉庫技術(shù),并有廣泛的實(shí)踐經(jīng)驗(yàn),具備維護(hù)和解決生產(chǎn)問題的能力;
5、熟悉掌握分布式存儲(chǔ)和nosql數(shù)據(jù)庫技術(shù)(如monogodb、redis等),有實(shí)際生產(chǎn)項(xiàng)目應(yīng)用經(jīng)驗(yàn);
6、熟練掌握java,python,scalar中的至少一種編程語言,掌握常見的數(shù)據(jù)結(jié)構(gòu),算法,了解軟件工程、敏捷開發(fā)等知識(shí),熟悉常用設(shè)計(jì)模式
7、理解soa,微服務(wù),中間件等paas相關(guān)的關(guān)鍵理念與技術(shù),并對其有廣泛的實(shí)踐與應(yīng)用經(jīng)驗(yàn),樂于。
8、有民航、電子商務(wù)、風(fēng)控等大數(shù)據(jù)設(shè)計(jì)和從業(yè)經(jīng)驗(yàn)者優(yōu)先。
第12篇 流媒體大數(shù)據(jù)工程師職位描述與崗位職責(zé)任職要求
職位描述:
工作職責(zé):
1、負(fù)責(zé)直播端及服務(wù)端海量用戶行為數(shù)據(jù)的加工處理,數(shù)據(jù)洞察驅(qū)動(dòng)業(yè)務(wù)優(yōu)化;
2、打造業(yè)界領(lǐng)先的大數(shù)據(jù)平臺(tái),支撐數(shù)據(jù)采集,加工,建模,分析,實(shí)驗(yàn),可視化的全流程;
3、打造業(yè)界領(lǐng)先的分布式計(jì)算,存儲(chǔ)系統(tǒng),解決大規(guī)模生產(chǎn)環(huán)境集群可用性和性能優(yōu)化問題。
任職要求:
1、熱愛計(jì)算機(jī)科學(xué)和互聯(lián)網(wǎng)技術(shù),優(yōu)秀的編碼能力,樂于快速學(xué)習(xí)和嘗試新技術(shù)、新工具;
2、對開源大數(shù)據(jù)系統(tǒng)有相關(guān)經(jīng)驗(yàn)者優(yōu)先,包括但不限于hadoop/spark/hive/flink/kafka/druid 等;
3、對數(shù)據(jù)敏感,掌握量化分析方法,善于從數(shù)據(jù)中發(fā)現(xiàn)問題者優(yōu)先。
第13篇 高級(jí)數(shù)據(jù)工程師(數(shù)倉方向)職位描述與崗位職責(zé)任職要求
職位描述:
工作職責(zé):
1.負(fù)責(zé)全司數(shù)據(jù)的數(shù)據(jù)調(diào)研,數(shù)據(jù)模型設(shè)計(jì),etl開發(fā),任務(wù)監(jiān)控和優(yōu)化等
2.負(fù)責(zé)數(shù)據(jù)倉庫多場景的基礎(chǔ)服務(wù)層建設(shè),如多維分析,即席查詢,實(shí)時(shí)推送等
3.負(fù)責(zé)基于數(shù)據(jù)倉庫之上的數(shù)據(jù)中臺(tái)建設(shè),如數(shù)據(jù)管控系統(tǒng),特征工程,指標(biāo)庫等數(shù)據(jù)分析相關(guān)的通用服務(wù)
4.負(fù)責(zé)數(shù)據(jù)管理共享系統(tǒng)的設(shè)計(jì),開發(fā)和實(shí)施;
任職資格:
1、計(jì)算機(jī)、數(shù)學(xué)相關(guān)專業(yè)全日制本科以上學(xué)歷;
2、熟悉數(shù)據(jù)治理方法論,了解數(shù)據(jù)質(zhì)量、數(shù)據(jù)模型和元數(shù)據(jù)管理等相關(guān)技術(shù)
3、5年以上具備大型數(shù)據(jù)倉庫架構(gòu)設(shè)計(jì)(離線&實(shí)時(shí))、模型設(shè)計(jì)、etl設(shè)計(jì)的相關(guān)經(jīng)驗(yàn)
4、要求至少精通一種主流的etl產(chǎn)品,如:datastage或infomatica
5、精通oracle存儲(chǔ)過程的開發(fā)
6、具有豐富的etl實(shí)施經(jīng)驗(yàn),熟悉金融投資行業(yè)優(yōu)先
第14篇 數(shù)據(jù)工程師(實(shí)時(shí)數(shù)據(jù)方向)職位描述與崗位職責(zé)任職要求
職位描述:
工作職責(zé):
1.負(fù)責(zé)搭建大數(shù)據(jù)平臺(tái)數(shù)據(jù)的離線和實(shí)時(shí)分析系統(tǒng),開發(fā)準(zhǔn)實(shí)時(shí)數(shù)據(jù)處理任務(wù)
2.了解實(shí)時(shí)數(shù)據(jù)計(jì)算和離線數(shù)據(jù)計(jì)算相關(guān)技術(shù),可以基于spark streaming或flink等搭建實(shí)時(shí)計(jì)算平臺(tái),解決實(shí)時(shí)計(jì)算相關(guān)技術(shù)問題
3.參與大數(shù)據(jù)平臺(tái)的開發(fā)和維護(hù),保證數(shù)據(jù)平臺(tái)的穩(wěn)定和可靠
任職資格:
1、計(jì)算機(jī)、數(shù)學(xué)相關(guān)專業(yè)全日制本科以上學(xué)歷;
2、熟悉java或者scala,并熟練使用其對應(yīng)的常用框架spring/mybatis等;
3、熟悉主流大數(shù)據(jù)處理技術(shù),如:hadoop、hbase、hive、spark等;
4、熟悉實(shí)時(shí)數(shù)據(jù)處理運(yùn)行機(jī)制和體系結(jié)構(gòu),具備使用spark streaming或flink等實(shí)時(shí)引擎進(jìn)行數(shù)據(jù)流開發(fā)和調(diào)優(yōu)的經(jīng)驗(yàn);
5、熟悉sql開發(fā);熟悉linu_系統(tǒng)環(huán)境,熟練使用shell腳本
第15篇 數(shù)據(jù)工程師(data engineer)職位描述與崗位職責(zé)任職要求
職位描述:
崗位職責(zé):
建立基礎(chǔ)設(shè)施,收集大量原始數(shù)據(jù)并處理成適合分析的數(shù)據(jù)
在大量數(shù)據(jù)的基礎(chǔ)上設(shè)計(jì)和實(shí)施近實(shí)時(shí)數(shù)據(jù)應(yīng)用程序
支持業(yè)務(wù)團(tuán)隊(duì)的操作監(jiān)控請求
任職要求:
碩士/學(xué)士學(xué)位,在相關(guān)領(lǐng)域擁有1-2年的工作經(jīng)驗(yàn)
熟練掌握java, python 或scala;熟練使用linu_
bash
熟悉云計(jì)算平臺(tái)(alicloud / aws)
具有大數(shù)據(jù)平臺(tái)/編程經(jīng)驗(yàn)(hadoop / spark )
具有數(shù)據(jù)庫使用經(jīng)驗(yàn)(oracle / mysql / mongodb),精通sql數(shù)據(jù)庫和sql編程
加分項(xiàng):
良好的英語口頭和書面溝通能力