歡迎光臨管理者范文網(wǎng)
當(dāng)前位置:管理者范文網(wǎng) > 安全管理 > 崗位職責(zé) > 工程崗位職責(zé)

大數(shù)據(jù)工程崗位職責(zé)16篇

更新時(shí)間:2024-11-20 查看人數(shù):77
  • 目錄

大數(shù)據(jù)工程崗位職責(zé)

第1篇 大數(shù)據(jù)平臺(tái)高級(jí)開發(fā)工程師職位描述與崗位職責(zé)任職要求

職位描述:

工作職責(zé):

1、負(fù)責(zé)大數(shù)據(jù)開源組件的調(diào)研

2、負(fù)責(zé)大數(shù)據(jù)平臺(tái)自研平臺(tái)系統(tǒng)及功能模塊設(shè)計(jì)與開發(fā)

3、配合架構(gòu)師及測(cè)試按時(shí)完成開發(fā),保證產(chǎn)品正常發(fā)布與迭代

任職要求:

1、本科以上學(xué)歷,計(jì)算機(jī)相關(guān)專業(yè)

2、2年以上大數(shù)據(jù)平臺(tái)開發(fā)經(jīng)驗(yàn)

3、精通java,熟悉linu_系統(tǒng),深入理解并使用主流技術(shù)框架,如springboot、mybatis、mq、redis、zk、spring cloud等技術(shù)棧,具備豐富的分布式系統(tǒng)的研發(fā)經(jīng)驗(yàn)

4、熟悉hadoop生態(tài)圈其他系統(tǒng),包括hive,pig,hbase,spark,kafka,oozie,sqoop,flume,zookeeper, strom,flink,并了解其原理

5、熟練掌握各類數(shù)據(jù)結(jié)構(gòu)與算法,具有較強(qiáng)的編碼能力

6、具有良好的團(tuán)隊(duì)合作精神和表達(dá)溝通能力

7、有數(shù)據(jù)中臺(tái),數(shù)據(jù)服務(wù)平臺(tái)開發(fā)經(jīng)驗(yàn),熟悉hadoop生態(tài)圈組件者優(yōu)先

第2篇 大數(shù)據(jù)平臺(tái)工程師職位描述與崗位職責(zé)任職要求

職位描述:

職責(zé)描述:

1、參與公司數(shù)據(jù)平臺(tái)架構(gòu)設(shè)計(jì),負(fù)責(zé)大數(shù)據(jù)平臺(tái)和數(shù)據(jù)倉庫相關(guān)建設(shè);2、依據(jù)公司的大數(shù)據(jù)技術(shù)發(fā)展路線,負(fù)責(zé)基于hadoop生態(tài)系統(tǒng)和mpp數(shù)據(jù)庫的大規(guī)模數(shù)據(jù)平臺(tái)的研發(fā)及數(shù)據(jù)倉庫建設(shè),提供可靠的數(shù)據(jù)存儲(chǔ)和訪問能力;3、負(fù)責(zé)公司大數(shù)據(jù)平臺(tái)和數(shù)據(jù)倉庫的搭建、開發(fā)、管理、監(jiān)控和性能調(diào)優(yōu),保證集群高效穩(wěn)定運(yùn)行;4、規(guī)劃與開發(fā)離線數(shù)據(jù)平臺(tái)系統(tǒng),處理海量數(shù)據(jù),優(yōu)化存儲(chǔ)和計(jì)算架構(gòu)的性能;5、負(fù)責(zé)數(shù)據(jù)平臺(tái)技術(shù)難點(diǎn)攻關(guān)、技術(shù)選型評(píng)估,參與開發(fā)流程的討論與優(yōu)化;6、參與公司數(shù)據(jù)治理策略等的制訂和實(shí)施;7、負(fù)責(zé)協(xié)助產(chǎn)品經(jīng)理進(jìn)行數(shù)據(jù)倉庫相關(guān)的需求分析、建模、寬表設(shè)計(jì)等工作;

8、負(fù)責(zé)系統(tǒng)核心代碼編寫、代碼審核和重構(gòu),指導(dǎo)和培訓(xùn)數(shù)據(jù)工程師、不斷進(jìn)行系統(tǒng)優(yōu)化;

任職要求:

1、本科以上學(xué)歷,5年以上大數(shù)據(jù)研發(fā)經(jīng)驗(yàn),帶領(lǐng)過10人以上的大數(shù)據(jù)團(tuán)隊(duì); 2、有大型分布式系統(tǒng)設(shè)計(jì)經(jīng)驗(yàn),負(fù)責(zé)過海量數(shù)據(jù)平臺(tái)上高可用、高性能分布式系統(tǒng)的架構(gòu)設(shè)計(jì);3、熟悉大數(shù)據(jù)開發(fā)框架,熟悉hadoop,hbase,spark等及業(yè)界主流流處理平臺(tái)如,如storm,flunk,sparkstreaming等之一;4、熟悉greenplum等數(shù)據(jù)倉庫技術(shù),并有廣泛的實(shí)踐經(jīng)驗(yàn),具備維護(hù)和解決生產(chǎn)問題的能力;5、熟悉掌握分布式存儲(chǔ)和nosql數(shù)據(jù)庫技術(shù)(如monogodb、redis等),有實(shí)際生產(chǎn)項(xiàng)目應(yīng)用經(jīng)驗(yàn);6、熟練掌握java,python,scalar中的至少一種編程語言,掌握常見的數(shù)據(jù)結(jié)構(gòu),算法,了解軟件工程、敏捷開發(fā)等知識(shí),熟悉常用設(shè)計(jì)模式; 7、理解soa,微服務(wù),中間件等paas相關(guān)的關(guān)鍵理念與技術(shù),并對(duì)其有廣泛的實(shí)踐與應(yīng)用經(jīng)驗(yàn),樂于。8、有民航、電子商務(wù)、風(fēng)控等大數(shù)據(jù)設(shè)計(jì)和從業(yè)經(jīng)驗(yàn)者優(yōu)先。

第3篇 大數(shù)據(jù)開發(fā)工程師/專家(p6-p8)3職位描述與崗位職責(zé)任職要求

職位描述:

職責(zé)描述:

1.負(fù)責(zé)時(shí)空位置大數(shù)據(jù)對(duì)外接口后臺(tái)和服務(wù)框架的開發(fā)和運(yùn)營(yíng);

2.負(fù)責(zé)時(shí)空位置大數(shù)據(jù)數(shù)據(jù)中、后臺(tái)的建設(shè)以及數(shù)據(jù)和服務(wù)安全方面的建設(shè);

任職要求:

1.重點(diǎn)大學(xué)本科以上學(xué)歷,計(jì)算機(jī)及相關(guān)專業(yè);

2.3年以上相關(guān)工作經(jīng)驗(yàn),精通算法與數(shù)據(jù)結(jié)構(gòu),精通c/c++編程語言;

3.精通linu_、uni_編程環(huán)境,熟悉數(shù)據(jù)庫;

4.精通網(wǎng)絡(luò)編程,有分布式系統(tǒng)開發(fā)經(jīng)驗(yàn),有大平臺(tái)開發(fā)經(jīng)驗(yàn)優(yōu)先;

5.熟悉gis和時(shí)空大數(shù)據(jù)處理和管理,有相關(guān)工作經(jīng)驗(yàn)者優(yōu)先,

6.具備優(yōu)秀的獨(dú)立解決問題能力, 善于團(tuán)隊(duì)合作,溝通良好,有一定的抗壓能力;

第4篇 大數(shù)據(jù)主任工程師職位描述與崗位職責(zé)任職要求

職位描述:

職責(zé)描述:

1. 負(fù)責(zé)客戶業(yè)務(wù)需求、數(shù)據(jù)分析需求的調(diào)研、收集與分析;

2. 負(fù)責(zé) kyligence enterprise 大數(shù)據(jù)平臺(tái)整體架構(gòu)和數(shù)據(jù)架構(gòu)設(shè)計(jì);

3. 負(fù)責(zé)技術(shù)設(shè)計(jì)及技術(shù)實(shí)現(xiàn)規(guī)范編制,指導(dǎo)開發(fā)團(tuán)隊(duì)進(jìn)行項(xiàng)目設(shè)計(jì)、項(xiàng)目實(shí)現(xiàn)及技術(shù)匯報(bào);

4. 負(fù)責(zé)項(xiàng)目重難點(diǎn)模塊的功能設(shè)計(jì)和難點(diǎn)攻堅(jiān);

5. 參與 kyligence enterprise/apache kylin 的應(yīng)用設(shè)計(jì)、開發(fā)、測(cè)試及優(yōu)化工作。

任職要求:

1. 計(jì)算機(jī)相關(guān)專業(yè),本科及以上學(xué)歷;

2. 有 3 年以上工作經(jīng)驗(yàn),其中包括2年以上大數(shù)據(jù)平臺(tái)架構(gòu)和系統(tǒng)設(shè)計(jì)經(jīng)驗(yàn);

3. 精通 hadoop、hive、hbase原理,熟悉大數(shù)據(jù)生態(tài)技術(shù),如storm、spark、flink、kafka、zookeeper等,有大規(guī)模集群架構(gòu)、開發(fā)及運(yùn)維經(jīng)驗(yàn),能根據(jù)業(yè)務(wù)場(chǎng)景設(shè)計(jì)合適的技術(shù)棧完成業(yè)務(wù)需求

4. 熟練sql 語言,掌握 oracle、db2、mysql 等一種或多種數(shù)據(jù)庫系統(tǒng)的使用,有一定的 sql 性能調(diào)優(yōu)經(jīng)驗(yàn);

5. 至少熟悉 java,scala,python,shell等編程語言中的2種;

6. 優(yōu)秀的分析和解決問題的能力,對(duì)挑戰(zhàn)性問題充滿激情;

7. 具備良好的團(tuán)隊(duì)合作精神,較強(qiáng)的溝通能力,具備良好的技術(shù)領(lǐng)導(dǎo)能力;

8. 有數(shù)據(jù)倉庫背景或者 apache kylin 的開發(fā)經(jīng)驗(yàn)者優(yōu)先考慮;

第5篇 系統(tǒng)運(yùn)維工程師(大數(shù)據(jù)方向)職位描述與崗位職責(zé)任職要求

職位描述:

1、負(fù)責(zé)公園業(yè)務(wù)系統(tǒng)的部署和日常更新,日常監(jiān)控和維護(hù);

2、熟悉各辦公系統(tǒng)(如oa、勞動(dòng)力系統(tǒng))維護(hù)等常規(guī)工作;

3、負(fù)責(zé)oa系統(tǒng)表單及相關(guān)流程的建立及維護(hù),有泛微系統(tǒng)的應(yīng)用開發(fā)、維護(hù)優(yōu)先考慮接;

4、負(fù)責(zé)軟件系統(tǒng)升級(jí)、維護(hù)和優(yōu)化,及時(shí)發(fā)現(xiàn)潛在問題,保障系統(tǒng)正常運(yùn)行;

5、協(xié)助制定和改進(jìn)部署、維護(hù)流程,提高服務(wù)運(yùn)行質(zhì)量;;

6、制定數(shù)據(jù)庫操作規(guī)范和數(shù)據(jù)保密制度,并對(duì)數(shù)據(jù)庫操作進(jìn)行嚴(yán)格記錄。

任職資格:

1.計(jì)算機(jī)相關(guān)專業(yè)本科或以上學(xué)歷,2年以上工作經(jīng)驗(yàn);

2.在大型企業(yè)有1年以上中型數(shù)據(jù)庫管理和維護(hù)工作經(jīng)驗(yàn),熟悉泛微或勞動(dòng)力產(chǎn)品的優(yōu)先;

3.擁有大型主題樂園工作經(jīng)驗(yàn)者優(yōu)先,熟悉票務(wù)系統(tǒng)、商餐系統(tǒng)、停車場(chǎng)、酒店等系統(tǒng)優(yōu)先考慮;;

4.熟悉mysql、oracle數(shù)據(jù)庫,掌握sql語句,了解oracle的安裝與維護(hù);

5.掌握tomcat、dubbo、redis、ngin_、mq等中間件及相關(guān)配置;

6.具有優(yōu)秀的團(tuán)隊(duì)合作和溝通協(xié)作能力、有責(zé)任心;

第6篇 高級(jí)java開發(fā)工程師(大數(shù)據(jù)方向)職位描述與崗位職責(zé)任職要求

職位描述:

崗位職責(zé):

1、負(fù)責(zé)智能推薦系統(tǒng)后端開發(fā);

2、負(fù)責(zé)詳細(xì)設(shè)計(jì)、編碼工作,確保項(xiàng)目進(jìn)度、質(zhì)量;

3、參與產(chǎn)品需求的溝通、討論;

4、應(yīng)對(duì)高并發(fā)、高可靠性等帶來的各種技術(shù)挑戰(zhàn);

崗位要求:

1、5年服務(wù)端開發(fā)經(jīng)驗(yàn),本科及以上學(xué)歷;

2、扎實(shí)的java基礎(chǔ),熟悉jvm、java io,掌握并發(fā)編程、網(wǎng)絡(luò)編程及常用數(shù)據(jù)結(jié)構(gòu);

3、深入了解spring、hibernate、tomcat等開源架構(gòu),并對(duì)其運(yùn)行原理有較好的理解;

4、熟悉面向?qū)ο箝_發(fā),具備領(lǐng)域模型抽象能力,熟悉常用設(shè)計(jì)模式;

5、熟悉分布式、緩存、消息等機(jī)制;有高并發(fā),高性能系統(tǒng)經(jīng)驗(yàn),熟悉微服務(wù)架構(gòu)設(shè)計(jì);

6、熟練掌握mysql等關(guān)系型數(shù)據(jù)庫,掌握mongodb、hbase等nosql數(shù)據(jù)庫,并有性能調(diào)優(yōu)經(jīng)驗(yàn);

7、熟悉hadoop、hive、hbase、storm、kafka等大數(shù)據(jù)處理技術(shù);

8、有強(qiáng)烈技術(shù)熱情和鉆研精神,注重代碼質(zhì)量,有良好的軟件工程知識(shí)和編碼規(guī)范意識(shí);

9、具備較強(qiáng)的責(zé)任心,具備良好的溝通能力、團(tuán)隊(duì)協(xié)作和抗壓能力,做事精益求精;

第7篇 增長(zhǎng)大數(shù)據(jù)工程師職位描述與崗位職責(zé)任職要求

職位描述:

工作職責(zé):

負(fù)責(zé)用戶增長(zhǎng)方向的離線和實(shí)時(shí)數(shù)據(jù)倉庫體系建設(shè)工作,提升數(shù)據(jù)分析工作的效率;

結(jié)合內(nèi)外部數(shù)據(jù),構(gòu)建完整的用戶生命周期行為數(shù)據(jù)體系;

構(gòu)建的支持用戶增長(zhǎng)的數(shù)據(jù)分析產(chǎn)品,支持快速的深度分析海量ab測(cè)試實(shí)驗(yàn)結(jié)果;

深度分析用戶行為、行業(yè)情況和ab測(cè)試數(shù)據(jù),利用數(shù)據(jù)挖掘算法對(duì)多維數(shù)據(jù)進(jìn)行關(guān)聯(lián)分析。

任職要求:

本科及以上學(xué)歷,計(jì)算機(jī)、統(tǒng)計(jì)、數(shù)學(xué)、通信等理工類相關(guān)專業(yè);

熟悉數(shù)據(jù)倉庫理論和技術(shù)體系,熟練掌握sql/hive/mapreduce/spark/flink等大規(guī)模數(shù)據(jù)處理技術(shù);

至少精通(python/java/scala/c++/r)一門編程語言,熟練運(yùn)用各種常用算法和數(shù)據(jù)結(jié)構(gòu) ;

有分布式計(jì)算、分布式存儲(chǔ)、數(shù)據(jù)挖掘經(jīng)驗(yàn)者優(yōu)先,有開發(fā)設(shè)計(jì)用戶畫像方面經(jīng)驗(yàn)者優(yōu)先;

熟悉實(shí)時(shí)計(jì)算框架和相關(guān)處理技術(shù)者優(yōu)先;

熟悉growth hacking,或?qū)Υ朔较蛴信d趣者優(yōu)先。

第8篇 大數(shù)據(jù)可視化工程師崗位職責(zé)

大數(shù)據(jù)可視化工程師 萬得 萬得信息技術(shù)股份有限公司,wind資訊,萬得,萬得資訊,上海萬得,萬得 工作職責(zé):

1、和大數(shù)據(jù)工程師、數(shù)據(jù)科學(xué)家共同工作,探索可視化在金融業(yè)務(wù)場(chǎng)景的技術(shù)方案和產(chǎn)品應(yīng)用;

2、開發(fā)展示為主的數(shù)據(jù)大屏和業(yè)務(wù)分析為主的數(shù)據(jù)產(chǎn)品以及在移動(dòng)端數(shù)據(jù)可視化項(xiàng)目;

3、負(fù)責(zé)數(shù)據(jù)產(chǎn)品/可視化大屏的前端架構(gòu)和應(yīng)用后臺(tái)及通用組件的開發(fā)

任職要求:

1、本科及以上學(xué)歷,功底扎實(shí),視野開闊,對(duì)新技術(shù)具有敏感和熱情;

2、工程能力強(qiáng),熟悉a_ure rp等設(shè)計(jì)工具,有較復(fù)雜的 webapp 類型產(chǎn)品前端開發(fā)經(jīng)驗(yàn);

3、熟悉數(shù)據(jù)可視化開源方案,有數(shù)據(jù)分析場(chǎng)景/數(shù)據(jù)可視化經(jīng)驗(yàn)者(echarts/highcharts/d3)優(yōu)先;

4、技術(shù)跟隨前沿,熟悉servlet,html5,javascript,json,了解node/angularjs/react;

5、熟悉web后臺(tái)性能優(yōu)化和前端展示技術(shù);

5、熟悉1-2種分析型數(shù)據(jù)庫(如db/hive/neo4j)者優(yōu)先;

6、性格要求:性格開朗,勇于挑戰(zhàn);良好的人際關(guān)系,對(duì)技術(shù)追求工匠精神。

第9篇 大數(shù)據(jù)建模工程師職位描述與崗位職責(zé)任職要求

職位描述:

工作職責(zé):

1. 運(yùn)用python、r、sql等工具,根據(jù)監(jiān)管部門與金融機(jī)構(gòu)需求進(jìn)行大數(shù)據(jù)模型設(shè)計(jì)與開發(fā);

2. 基于模型部署、測(cè)試、實(shí)施及模型應(yīng)用效果監(jiān)控工作,進(jìn)行模型調(diào)優(yōu)與維護(hù);

3. 撰寫大數(shù)據(jù)建模項(xiàng)目可行性方案、建模分析報(bào)告;

4. 根據(jù)實(shí)際的建模業(yè)務(wù),負(fù)責(zé)提出并反饋流程、策略、人員等問題。

任職要求:

1、應(yīng)用數(shù)學(xué)、統(tǒng)計(jì)、機(jī)器學(xué)習(xí)、計(jì)算機(jī)及相關(guān)專業(yè),國(guó)內(nèi)外知名院校碩士以上學(xué)歷需3-5年工作經(jīng)驗(yàn),博士及以上學(xué)歷需1年工作經(jīng)驗(yàn);

2、具有數(shù)學(xué)建模或大數(shù)據(jù)建模實(shí)際項(xiàng)目經(jīng)驗(yàn),熟悉數(shù)學(xué)建模與優(yōu)化算法設(shè)計(jì),掌握邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)等機(jī)器學(xué)習(xí)算法;

3、熟練運(yùn)用python、r、matlab等常用數(shù)學(xué)建模與分析工具;

4、熟悉數(shù)據(jù)庫結(jié)構(gòu),熟練運(yùn)用sql等數(shù)據(jù)庫語言,熟悉數(shù)據(jù)清洗、預(yù)處理與特征工程,熟悉

hadoop生態(tài)、spark結(jié)構(gòu),c#語言;

5、具有扎實(shí)的統(tǒng)計(jì)分析功底,快速精準(zhǔn)的分析能力,能夠處理大量數(shù)據(jù)進(jìn)行建模;

6、具有良好的業(yè)務(wù)問題分析,模型抽象能力和創(chuàng)新能力;

7、敬業(yè)、誠(chéng)信,良好的職業(yè)素養(yǎng)。

第10篇 大數(shù)據(jù)架構(gòu)高級(jí)工程師職位描述與崗位職責(zé)任職要求

職位描述:

工作職責(zé):

1、打造業(yè)界領(lǐng)先的存儲(chǔ)、計(jì)算、調(diào)度、監(jiān)控等基礎(chǔ)設(shè)施;

2、參與存儲(chǔ)、計(jì)算、devinfra、監(jiān)控當(dāng)中的一個(gè)或多個(gè)方向。

任職要求:

1、掌握分布式系統(tǒng)原理,對(duì)存儲(chǔ)、計(jì)算、調(diào)度、監(jiān)控、消息隊(duì)列、集群管理中的一項(xiàng)或多項(xiàng)有深入的理解和認(rèn)識(shí);

2、樂于挑戰(zhàn)沒有明顯答案的問題,能快速理解業(yè)務(wù)場(chǎng)景,從具體問題中抽象出通用的解決方案;

3、存儲(chǔ)方向:對(duì) hdfs, rocksdb, ceph, hbase, kafka 的一項(xiàng)或多項(xiàng)有經(jīng)驗(yàn)者優(yōu)先;

4、計(jì)算方向:對(duì) yarn, spark, flink, hive 的一項(xiàng)或多項(xiàng)有經(jīng)驗(yàn)者優(yōu)先;

5、devinfra方向:對(duì) docker, mesos, kubernetes 的一項(xiàng)或多項(xiàng)有經(jīng)驗(yàn)者優(yōu)先;

6、監(jiān)控方向:對(duì) opentsdb, influ_db, prometheus, falcon 的一項(xiàng)或多項(xiàng)有經(jīng)驗(yàn)者優(yōu)先。

第11篇 大數(shù)據(jù)開發(fā)工程師 [數(shù)倉方向]職位描述與崗位職責(zé)任職要求

職位描述:

工作職責(zé):

1、使用etl工具(如sqoop、kettle)進(jìn)行數(shù)據(jù)加工、清洗等流程;

2、根據(jù)業(yè)務(wù)需求,進(jìn)行數(shù)倉日常數(shù)據(jù)分析、數(shù)據(jù)報(bào)表開發(fā);

3、使用hive進(jìn)行數(shù)據(jù)處理,及數(shù)據(jù)模型構(gòu)建;

4、具備良好的分析問題和解決問題的能力;

5、具備較強(qiáng)的溝通能力和邏輯表達(dá)能力,具備良好的團(tuán)隊(duì)合作精神和主動(dòng)溝通意識(shí);

任職要求:

1、計(jì)算機(jī)相關(guān)專業(yè)本科及以上學(xué)歷;

2、熟練使用sql(mysql / oracle);

3、熟練數(shù)據(jù)庫/數(shù)據(jù)倉庫分層設(shè)計(jì)、寬表設(shè)計(jì)、星型模型設(shè)計(jì)等;

4、熟練etl工具、sqoop、kettle、spark等;

5、熟悉hadoop、hive、hdfs等常用大數(shù)據(jù)組件;

6、有互聯(lián)網(wǎng)業(yè)務(wù)分布式數(shù)據(jù)倉庫、cube、大數(shù)據(jù)數(shù)據(jù)分析等相關(guān)經(jīng)驗(yàn)者加分;

第12篇 大數(shù)據(jù)基礎(chǔ)架構(gòu)工程師(hadoop)職位描述與崗位職責(zé)任職要求

職位描述:

工作職責(zé):

1、打造業(yè)界領(lǐng)先的大數(shù)據(jù)基礎(chǔ)設(shè)施,包括數(shù)據(jù)接入,同步,存儲(chǔ)、計(jì)算,查詢等環(huán)節(jié)的分布式系統(tǒng),為海量數(shù)據(jù)和大規(guī)模業(yè)務(wù)系統(tǒng)提供可靠的基礎(chǔ)設(shè)施;

2、與開源社區(qū)保持交流,發(fā)現(xiàn)對(duì)業(yè)務(wù)場(chǎng)景有幫助的特性并引入生產(chǎn)環(huán)境,或?qū)⒔?jīng)內(nèi)部驗(yàn)證的特性貢獻(xiàn)到社區(qū);

3、承擔(dān)千臺(tái)規(guī)模集群的管理工作,與業(yè)務(wù)一起解決性能優(yōu)化、容量規(guī)劃、預(yù)算審計(jì)等問題,保障集群高效穩(wěn)定經(jīng)濟(jì)運(yùn)行;

任職資格:

1、計(jì)算機(jī)基礎(chǔ)扎實(shí),熟悉常用數(shù)據(jù)結(jié)構(gòu)和算法,具備較強(qiáng)的邏輯思維能力和編碼能力;

2、掌握分布式系統(tǒng)原理,對(duì)存儲(chǔ)、計(jì)算、消息隊(duì)列、資源管理,數(shù)據(jù)同步等中的一項(xiàng)或多項(xiàng)有深入的理解和認(rèn)識(shí);

3、樂于挑戰(zhàn)沒有明顯答案的問題,能快速理解業(yè)務(wù)場(chǎng)景,從具體問題中抽象出通用的解決方案;

4,熟悉hadoop, hbase, zookeeper,flume,k8s等基礎(chǔ)服務(wù)中的一項(xiàng)或多項(xiàng);

5、有kafka或者同類型技術(shù)設(shè)計(jì)開發(fā)及集群管理經(jīng)驗(yàn)者優(yōu)先。

第13篇 大數(shù)據(jù)工程師-流式計(jì)算職位描述與崗位職責(zé)任職要求

職位描述:

崗位職責(zé):

1.負(fù)責(zé)對(duì)核心業(yè)務(wù)數(shù)據(jù)實(shí)現(xiàn)數(shù)據(jù)的自動(dòng)化/半自動(dòng)化抽取、清洗、轉(zhuǎn)化、標(biāo)注等工作;

2.負(fù)責(zé)根據(jù)需求建立數(shù)據(jù)模型、進(jìn)行全網(wǎng)數(shù)據(jù)在線抽取分析;

3.負(fù)責(zé)算法的工程化、產(chǎn)品化工作;關(guān)注機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、人工智能等方向前沿研究,并能將具體場(chǎng)景建模后與之結(jié)合快速工程化并落地;

4.完成各種面向業(yè)務(wù)目標(biāo)的數(shù)據(jù)模型的定義和應(yīng)用開發(fā)規(guī)范的制定,并保證數(shù)據(jù)質(zhì)量;

5.負(fù)責(zé)大數(shù)據(jù)計(jì)算平臺(tái)的研發(fā)工作。

任職要求:

1.計(jì)算機(jī)、信息系統(tǒng)、數(shù)學(xué)或相近專業(yè)本科以上學(xué)歷,4年以上軟件研發(fā)經(jīng)驗(yàn);

2.精通spark/hadoop/hive/hbase/并有實(shí)戰(zhàn)經(jīng)驗(yàn);

3.有scala, java, python等開發(fā)經(jīng)驗(yàn),精通sql;

4.有海量在線、離線數(shù)據(jù)分析系統(tǒng)設(shè)計(jì)和開發(fā)經(jīng)驗(yàn);

5.精通主流數(shù)據(jù)挖掘算法及其原理,能根據(jù)業(yè)務(wù)場(chǎng)景,建立挖掘模型,選擇最合適和高效的算法并實(shí)現(xiàn);

6.需要有責(zé)任心, 工作積極主動(dòng), 思路清晰,擅長(zhǎng)溝通、有團(tuán)隊(duì)合作精神。

第14篇 大數(shù)據(jù)etl工程師職位描述與崗位職責(zé)任職要求

職位描述:

崗位職責(zé):

負(fù)責(zé)etl設(shè)計(jì)、模型設(shè)計(jì)、開發(fā)、技術(shù)支持等工作,并保證數(shù)據(jù)安全、及時(shí)、穩(wěn)定、可恢復(fù)

任職要求:

1、3年及以上數(shù)據(jù)處理(etl)開發(fā)經(jīng)驗(yàn),能獨(dú)立完成數(shù)據(jù)處理開發(fā)工作

2、熟悉mysql/oracle等標(biāo)準(zhǔn)數(shù)據(jù)庫,熟練上述數(shù)據(jù)庫的開發(fā)

3、有hadoop和hivesql的使用經(jīng)驗(yàn)

4、熟悉etl設(shè)計(jì),熟悉數(shù)據(jù)倉庫的架構(gòu)、開發(fā)規(guī)范和流程

5、熟悉至少一種etl開發(fā)工具,如datastage,informatica, kettle等

6、具備數(shù)據(jù)倉庫實(shí)施經(jīng)驗(yàn)者優(yōu)先

福利待遇:

試用期全額工資、六險(xiǎn)一金、體檢、年假、節(jié)假日禮品等

第15篇 大數(shù)據(jù)云計(jì)算工程師崗位職責(zé)

高級(jí)java開發(fā)工程師(云計(jì)算大數(shù)據(jù)方向) 中軟國(guó)際科技 中軟國(guó)際科技服務(wù)有限公司,中軟國(guó)際,中軟國(guó)際科技,中軟國(guó)際科技服務(wù),中軟 職責(zé)描述:

1、負(fù)責(zé)/參與應(yīng)用系統(tǒng)平臺(tái)設(shè)計(jì)、重構(gòu)、優(yōu)化,主導(dǎo)/參與技術(shù)難題攻關(guān);

2、負(fù)責(zé)并參與系統(tǒng)需求分析、功能模塊詳細(xì)設(shè)計(jì),完成系統(tǒng)業(yè)務(wù)功能實(shí)現(xiàn)、測(cè)試及維護(hù)工作;

3、負(fù)責(zé)編寫相應(yīng)的需求、設(shè)計(jì)與技術(shù)文檔,向系統(tǒng)使用者提供技術(shù)支持服務(wù);

4、參與線上系統(tǒng)環(huán)境的升級(jí)、運(yùn)維監(jiān)控、性能調(diào)優(yōu);

5、推動(dòng)跟進(jìn)業(yè)務(wù)線需求,為改善系統(tǒng)的功能積極提出建議。

任職要求:

1、3以上java語言開發(fā)經(jīng)驗(yàn),基礎(chǔ)扎實(shí), 熟練使用springmvc框架進(jìn)行開發(fā);

2、對(duì)多線程編程,線程安全等有較深理解. 能夠熟練使用線程池等常用功能;

3、熟練使用jpa,hibernate,mybatis中的一種或多種持久層框架;

4、熟練使用sql的crud命令;

5、具有庫表結(jié)構(gòu)設(shè)計(jì)能力, 并且有一定的sql開發(fā)及優(yōu)化能力。

第16篇 資深大數(shù)據(jù)工程師職位描述與崗位職責(zé)任職要求

職位描述:

【崗位職責(zé)】:

1、參與公司數(shù)據(jù)平臺(tái)架構(gòu)設(shè)計(jì),負(fù)責(zé)大數(shù)據(jù)平臺(tái)和數(shù)據(jù)倉庫相關(guān)建設(shè);

2、依據(jù)公司的大數(shù)據(jù)技術(shù)發(fā)展路線,負(fù)責(zé)基于hadoop生態(tài)系統(tǒng)和mpp數(shù)據(jù)庫的大規(guī)模數(shù)據(jù)平臺(tái)的研發(fā)及數(shù)據(jù)倉庫建設(shè),提供可靠的數(shù)據(jù)存儲(chǔ)和訪問能力;

3、負(fù)責(zé)公司大數(shù)據(jù)平臺(tái)和數(shù)據(jù)倉庫的搭建、開發(fā)、管理、監(jiān)控和性能調(diào)優(yōu),保證集群高效穩(wěn)定運(yùn)行;

4、規(guī)劃與開發(fā)離線數(shù)據(jù)平臺(tái)系統(tǒng),處理海量數(shù)據(jù),優(yōu)化存儲(chǔ)和計(jì)算架構(gòu)的性能;

5、負(fù)責(zé)數(shù)據(jù)平臺(tái)技術(shù)難點(diǎn)攻關(guān)、技術(shù)選型評(píng)估,參與開發(fā)流程的討論與優(yōu)化;

6、參與公司數(shù)據(jù)治理策略等的制訂和實(shí)施;

7、負(fù)責(zé)協(xié)助產(chǎn)品經(jīng)理進(jìn)行數(shù)據(jù)倉庫相關(guān)的需求分析、建模、寬表設(shè)計(jì)等工作;

8、負(fù)責(zé)系統(tǒng)核心代碼編寫、代碼審核和重構(gòu),指導(dǎo)和培訓(xùn)數(shù)據(jù)工程師、不斷進(jìn)行系統(tǒng)優(yōu)化;

【任職資格】:

1、本科以上學(xué)歷,5年以上大數(shù)據(jù)研發(fā)經(jīng)驗(yàn),帶領(lǐng)過10人以上的大數(shù)據(jù)團(tuán)隊(duì);

2、有大型分布式系統(tǒng)設(shè)計(jì)經(jīng)驗(yàn),負(fù)責(zé)過海量數(shù)據(jù)平臺(tái)上高可用、高性能分布式系統(tǒng)的架構(gòu)設(shè)計(jì);

3、熟悉大數(shù)據(jù)開發(fā)框架,熟悉hadoop,hbase,spark等及業(yè)界主流流處理平臺(tái)如,如storm,flunk,sparkstreaming等之一;

4、熟悉greenplum等數(shù)據(jù)倉庫技術(shù),并有廣泛的實(shí)踐經(jīng)驗(yàn),具備維護(hù)和解決生產(chǎn)問題的能力;

5、熟悉掌握分布式存儲(chǔ)和nosql數(shù)據(jù)庫技術(shù)(如monogodb、redis等),有實(shí)際生產(chǎn)項(xiàng)目應(yīng)用經(jīng)驗(yàn);

6、熟練掌握java,python,scalar中的至少一種編程語言,掌握常見的數(shù)據(jù)結(jié)構(gòu),算法,了解軟件工程、敏捷開發(fā)等知識(shí),熟悉常用設(shè)計(jì)模式

7、理解soa,微服務(wù),中間件等paas相關(guān)的關(guān)鍵理念與技術(shù),并對(duì)其有廣泛的實(shí)踐與應(yīng)用經(jīng)驗(yàn),樂于。

8、有民航、電子商務(wù)、風(fēng)控等大數(shù)據(jù)設(shè)計(jì)和從業(yè)經(jīng)驗(yàn)者優(yōu)先。

大數(shù)據(jù)工程崗位職責(zé)16篇

職位描述:崗位職責(zé):參與項(xiàng)目的概要設(shè)計(jì)、詳細(xì)設(shè)計(jì)等文檔編寫,完成安排的編碼工作和單元測(cè)試工作。任職要求:1、計(jì)算機(jī)或相關(guān)專業(yè)本科以上學(xué)歷,3年以上java開發(fā)工作經(jīng)驗(yàn);2、精通j2ee體系架構(gòu),熟悉sring、sringmvc、mybatis框架;3、了解設(shè)計(jì)模式,能夠獨(dú)立開展ja…
推薦度:
點(diǎn)擊下載文檔文檔為doc格式

相關(guān)大數(shù)據(jù)信息

  • 大數(shù)據(jù)工程師崗位職責(zé)16篇
  • 大數(shù)據(jù)工程師崗位職責(zé)16篇88人關(guān)注

    職位描述:工作職責(zé):1、根據(jù)公司數(shù)據(jù)分析需求進(jìn)行基于hadoo平臺(tái)的項(xiàng)目開發(fā);2、根據(jù)需求進(jìn)行數(shù)據(jù)倉庫模型設(shè)計(jì),熟練使用kettle工具進(jìn)行etl程序的開發(fā);包括實(shí)時(shí)數(shù)據(jù)加工, ...[更多]

  • 大數(shù)據(jù)工程崗位職責(zé)16篇
  • 大數(shù)據(jù)工程崗位職責(zé)16篇77人關(guān)注

    職位描述:崗位職責(zé):參與項(xiàng)目的概要設(shè)計(jì)、詳細(xì)設(shè)計(jì)等文檔編寫,完成安排的編碼工作和單元測(cè)試工作。任職要求:1、計(jì)算機(jī)或相關(guān)專業(yè)本科以上學(xué)歷,3年以上java開發(fā)工作經(jīng)驗(yàn) ...[更多]

  • 高級(jí)大數(shù)據(jù)工程師崗位職責(zé)5篇
  • 高級(jí)大數(shù)據(jù)工程師崗位職責(zé)5篇68人關(guān)注

    職位描述:崗位職責(zé):1、參與大數(shù)據(jù)開放平臺(tái)基礎(chǔ)能力建設(shè),承擔(dān)系統(tǒng)架構(gòu)、組件開發(fā)、方案驗(yàn)證等工作;2、參與構(gòu)建大數(shù)據(jù)系列產(chǎn)品,包括但不限于用戶畫像、用戶增長(zhǎng)與用戶 ...[更多]

  • 大數(shù)據(jù)開發(fā)工程師崗位職責(zé)16篇
  • 大數(shù)據(jù)開發(fā)工程師崗位職責(zé)16篇62人關(guān)注

    職位描述:崗位職責(zé):(1)根據(jù)業(yè)務(wù)進(jìn)行數(shù)據(jù)需求的調(diào)研、設(shè)計(jì)、開發(fā)及驗(yàn)證工作,并持續(xù)進(jìn)行數(shù)據(jù)業(yè)務(wù)的優(yōu)化;(2)負(fù)責(zé)大數(shù)據(jù)整體設(shè)計(jì)和開發(fā)工作,包括數(shù)據(jù)接入、清洗、計(jì)算、校驗(yàn)等 ...[更多]

  • 大數(shù)據(jù)架構(gòu)工程師崗位職責(zé)4篇
  • 大數(shù)據(jù)架構(gòu)工程師崗位職責(zé)4篇60人關(guān)注

    職位描述:職位描述:1.負(fù)責(zé)大數(shù)據(jù)平臺(tái)的架構(gòu)設(shè)計(jì)、環(huán)境和框架的搭建以及部分核心編碼工作;2.參與業(yè)務(wù)需求調(diào)研,根據(jù)需求及行業(yè)特點(diǎn)設(shè)計(jì)大數(shù)據(jù)解決方案并跟進(jìn)具體實(shí)施項(xiàng) ...[更多]

  • 大數(shù)據(jù)研發(fā)工程師崗位職責(zé)12篇
  • 大數(shù)據(jù)研發(fā)工程師崗位職責(zé)12篇42人關(guān)注

    職位描述:職責(zé)描述:社交廣告系統(tǒng)數(shù)據(jù)工程平臺(tái)研發(fā),偏重系統(tǒng)架構(gòu)設(shè)計(jì)與實(shí)現(xiàn),參加以下一到多項(xiàng)工作:1.搭建數(shù)據(jù)倉庫,存儲(chǔ)并處理海量的實(shí)時(shí)、批量數(shù)據(jù),滿足廣告業(yè)務(wù)的定向、 ...[更多]

  • 大數(shù)據(jù)平臺(tái)工程師崗位職責(zé)8篇
  • 大數(shù)據(jù)平臺(tái)工程師崗位職責(zé)8篇29人關(guān)注

    職位描述:崗位職責(zé):1、參與小鵬汽車技術(shù)中臺(tái)的大數(shù)據(jù)云平臺(tái)產(chǎn)品建設(shè),包括:實(shí)時(shí)計(jì)算處理平臺(tái)、離線計(jì)算處理平臺(tái)、調(diào)用鏈分析監(jiān)控、日志處理平臺(tái);2、分析系統(tǒng)瓶頸,處理、 ...[更多]

大數(shù)據(jù)崗位職責(zé)專題

工程崗位職責(zé)熱門信息