大數(shù)據(jù)架構(gòu)師是一個非常有前景的職業(yè),高邦IT獵頭分享大數(shù)據(jù)架構(gòu)師是干什么的?
1、 針對大數(shù)據(jù)平臺的設(shè)計和開發(fā)制定數(shù)據(jù)架構(gòu)規(guī)范,進行核心代碼編寫;
有設(shè)計圖紙的能力,能夠指導(dǎo)各個組件安裝部署,以及數(shù)據(jù)的數(shù)據(jù)抽象能力。
2、針對數(shù)據(jù)基礎(chǔ)架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化,技術(shù)難題攻關(guān),持續(xù)提升核心系統(tǒng)性能,保證系統(tǒng)的安全、穩(wěn)定、高效運行;
數(shù)據(jù)的價值,在于你的抽取采集能力是否高深,是否便于加工,標注。各組件的穩(wěn)定性,兼容性,是否有預(yù)警,在于你的規(guī)劃和監(jiān)控接口是否到位。
3、大規(guī)模數(shù)據(jù)實時化、大數(shù)據(jù)技術(shù)容器化、私有云實施方案、數(shù)據(jù)模型規(guī)范化等方面根據(jù)不同項目的技術(shù)發(fā)展路線;
引入 Docker 的鏡像機制來完善自己的容器;同時計算能力、數(shù)據(jù)結(jié)構(gòu)抽象、定義,要用自己的風(fēng)格和規(guī)范。能用最簡單的配置,迅速跑起來流式streaming或離線處理spark程序.
4、跟蹤大數(shù)據(jù)相關(guān)領(lǐng)域的技術(shù)趨勢,競爭對手的產(chǎn)品、技術(shù)動態(tài);
5、大數(shù)據(jù)平臺的穩(wěn)定性和性能優(yōu)化及技術(shù)攻關(guān);
6、產(chǎn)品研發(fā)過程中關(guān)鍵設(shè)計的把關(guān)和研發(fā);
7、精通大數(shù)據(jù)生態(tài)圈主流技術(shù)和產(chǎn)品,如Hive、Storm、Flink、Spark,ELK、Kafka,Zookeeper、Yarn,presto,Hue等,對Spark分布式計算的底層原理有深度理解,對復(fù)雜系統(tǒng)的性能優(yōu)化和穩(wěn)定性的一線實戰(zhàn)經(jīng)驗;
8、精通實時數(shù)據(jù)倉庫設(shè)計,深刻理解MR運行原理和機制,能進行任務(wù)執(zhí)行效率的優(yōu)化,熟悉開源數(shù)據(jù)交換工具如sqoop,streamset,kettle,datax等
9、熟悉elasticsearch、Lucene、Solr、Kylin、Phoenix、Alluxio等相關(guān)技
10、具有規(guī)劃和決策能力,善于捕捉業(yè)務(wù)需求、架構(gòu)設(shè)計存在的問題,并能給出有效的解決措施和方法 。
11、數(shù)據(jù)預(yù)測,預(yù)警,人工智能,圖像識別,智能語音,物聯(lián)網(wǎng)數(shù)據(jù)采集,標注等。線性計算,神經(jīng)網(wǎng)絡(luò),知識圖譜,都要有自己的項目,而且能迅速組建團隊,成就你的客戶,你就是未來的行家和贏家。