![與大數(shù)據(jù)相關(guān)的工作職位有哪些](/draw/image/與大數(shù)據(jù)相關(guān)的工作職位有哪些.png)
與大數(shù)據(jù)相關(guān)的工作職位有哪些
說(shuō)個(gè)大概吧
大數(shù)據(jù)開(kāi)發(fā)工程師
:負(fù)責(zé)公司大數(shù)據(jù)平臺(tái)的開(kāi)發(fā)和維護(hù),負(fù)責(zé)大數(shù)據(jù)平臺(tái)持續(xù)集成相關(guān)工具平臺(tái)的架構(gòu)設(shè)計(jì)與產(chǎn)品開(kāi)發(fā)等;
數(shù)據(jù)分析師
:進(jìn)行數(shù)據(jù)搜集、整理、分析,針對(duì)數(shù)據(jù)分析結(jié)論給管理銷售運(yùn)營(yíng)提供指導(dǎo)意義的分析意見(jiàn);
數(shù)據(jù)挖掘工程師
:商業(yè)智能,用戶體驗(yàn)分析,預(yù)測(cè)流失用戶等;需要過(guò)硬的數(shù)學(xué)和統(tǒng)計(jì)學(xué)功底以外,對(duì)算法的代碼實(shí)現(xiàn)也有很高的要求。
數(shù)據(jù)庫(kù)開(kāi)發(fā)
:設(shè)計(jì),開(kāi)發(fā)和實(shí)施基于客戶需求的數(shù)據(jù)庫(kù)系統(tǒng),通過(guò)理想接口連接數(shù)據(jù)庫(kù)和數(shù)據(jù)庫(kù)工具,優(yōu)化數(shù)據(jù)庫(kù)系統(tǒng)的性能效率等;
數(shù)據(jù)管理
:數(shù)據(jù)庫(kù)設(shè)計(jì)、數(shù)據(jù)遷移、數(shù)據(jù)庫(kù)性能管理、數(shù)據(jù)安全管理,故障檢修問(wèn)題、數(shù)據(jù)備份、數(shù)據(jù)恢復(fù)等;
數(shù)據(jù)科學(xué)家:
清洗,管理和組織(大)數(shù)據(jù),利用算法和模型提高數(shù)據(jù)處理效率、挖掘數(shù)據(jù)價(jià)值、實(shí)現(xiàn)從數(shù)據(jù)到知識(shí)的轉(zhuǎn)換;
數(shù)據(jù)產(chǎn)品經(jīng)理
:把數(shù)據(jù)和業(yè)務(wù)結(jié)合起來(lái)做成數(shù)據(jù)產(chǎn)品。
![與大數(shù)據(jù)相關(guān)的工作職位有哪些](/Upload/image/2023/0316/52a8ab468f969b0eefc22a1725a3527e.jpg)
大數(shù)據(jù)工程師和大數(shù)據(jù)開(kāi)發(fā)工程師的職能有何區(qū)別
大數(shù)據(jù)工程師和大數(shù)據(jù)開(kāi)發(fā)工程師兩者之間沒(méi)有區(qū)別。大數(shù)據(jù)工程師指的就是大數(shù)據(jù)開(kāi)發(fā)工程師。大數(shù)據(jù)工程師(即大數(shù)據(jù)開(kāi)發(fā)工程師)從事大數(shù)據(jù)采集、清洗、分析、治理、挖掘等技術(shù)研究,并加以利用、管理、維護(hù)和服務(wù)。
大數(shù)據(jù)工程師(即大數(shù)據(jù)開(kāi)發(fā)工程師)的職能如下:
1、大數(shù)據(jù)采集(爬蟲(chóng))、大數(shù)據(jù)清洗(ETL工程師)、大數(shù)據(jù)建模(算法工程師)與大數(shù)據(jù)分析(數(shù)據(jù)分析員)。
2、管理、分析展現(xiàn)及應(yīng)用等技術(shù)(大數(shù)據(jù)開(kāi)發(fā)工程師)。
3、研究、應(yīng)用大數(shù)據(jù)平臺(tái)體系架構(gòu)、技術(shù)和標(biāo)準(zhǔn)。
4、設(shè)計(jì)、開(kāi)發(fā)、集成、測(cè)試大數(shù)據(jù)軟硬件系統(tǒng)。
5、管理、維護(hù)并保障大數(shù)據(jù)系統(tǒng)穩(wěn)定運(yùn)行。
6、監(jiān)控、管理和保障大數(shù)據(jù)安全。
7、提供大數(shù)據(jù)的技術(shù)咨詢和技術(shù)服務(wù)。
擴(kuò)展資料:
大數(shù)據(jù)工程師(即大數(shù)據(jù)開(kāi)發(fā)工程師)的技能要求:
1、精通Java技術(shù)知識(shí),熟悉Spark、kafka、Hive、HBase、zookeeper、HDFS、MR等應(yīng)用設(shè)計(jì)及開(kāi)發(fā)。
2、了解python/shell等腳本語(yǔ)言。
3、熟悉大數(shù)據(jù)平臺(tái)架構(gòu),對(duì)ETL、數(shù)據(jù)倉(cāng)庫(kù)等有一定了解。
4、有數(shù)據(jù)可視化、數(shù)據(jù)分析、數(shù)學(xué)模型建立相關(guān)經(jīng)驗(yàn)者優(yōu)先考慮。
5、有爬蟲(chóng)系統(tǒng)開(kāi)發(fā)經(jīng)驗(yàn)者優(yōu)先。
![與大數(shù)據(jù)相關(guān)的工作職位有哪些](/Upload/image/2023/0324/4e31a109dabf057b65d3b931ec6cb55a.jpg)
ETL工程師是做什么的?
ETL工程師又叫
數(shù)據(jù)庫(kù)工程師
。
ETL工程師的主要工作內(nèi)容有:從事系統(tǒng)編程、數(shù)據(jù)庫(kù)編程與設(shè)計(jì)。ETL是
數(shù)據(jù)倉(cāng)庫(kù)
中的非常重要的一環(huán)。它是承前啟后的必要的一步。相對(duì)于
關(guān)系數(shù)據(jù)庫(kù)
,數(shù)據(jù)倉(cāng)庫(kù)技術(shù)沒(méi)有嚴(yán)格的數(shù)學(xué)理論基礎(chǔ),它更面向?qū)嶋H工程應(yīng)用。
所以從工程應(yīng)用的角度來(lái)考慮,按著物理數(shù)據(jù)模型的要求加載數(shù)據(jù)并對(duì)數(shù)據(jù)進(jìn)行一些系列處理,處理過(guò)程與經(jīng)驗(yàn)直接相關(guān),同時(shí)這部分的工作直接關(guān)系數(shù)據(jù)倉(cāng)庫(kù)中數(shù)據(jù)的質(zhì)量,從而影響到
聯(lián)機(jī)分析處理
和數(shù)據(jù)挖掘的結(jié)果的質(zhì)量。
職業(yè)前景
從業(yè)務(wù)角度講,隨著數(shù)據(jù)應(yīng)用的日益豐富,不同平臺(tái)、系統(tǒng)的相互大批量數(shù)據(jù)交互成常態(tài),僅僅滿足于采集數(shù)據(jù)已經(jīng)不適應(yīng)業(yè)務(wù)需要,還需要能夠?yàn)閿?shù)據(jù)的目的端落地提供支撐,ETL工程師需要一個(gè)端到端的更適應(yīng)業(yè)務(wù)需要的數(shù)據(jù)交換系統(tǒng)。
從技術(shù)角度講,ETL做一定的擴(kuò)展可以升級(jí)為兼具交換能力,兩者有傳承,可以實(shí)現(xiàn)平滑過(guò)渡,但交換卻要考慮用另一個(gè)工具實(shí)現(xiàn),同時(shí)未來(lái)大數(shù)據(jù)平臺(tái)組件將異常豐富,相互之間的數(shù)據(jù)交換將是常態(tài),必要要有更高級(jí)別的交換工具滿足這些需求。