1. 程式人生 > >大資料的入門級學習

大資料的入門級學習

大資料方向的工作目前分為三個主要方向:

01.大資料工程師
02.資料分析師
03.大資料科學家
04.其他(資料探勘本質算是機器學習,不過和資料相關,也可以理解為大資料的一個方向吧)

由於本人曾是大資料工程師的角色,我就這個方向做一些介紹

本回答目錄:
一、大資料工程師的技能要求
二、大資料學習路徑
三、學習資源推薦(書籍、部落格、網站)

 

本人對於大資料學習建立了一個小小的學習圈子,為各位提供了一個平臺,大家一起來討論學習大資料。歡迎各位到來大資料學習群:868847735 一起討論視訊分享學習。大資料是未來的發展方向,正在挑戰我們的分析能力及對世界的認知方式,因此,我們與時俱進,迎接變化,並不斷的成長,掌握大資料核心技術,才是掌握真正的價值所在。

 

一、大資料工程師的技能要求

附上二份比較權威的大資料工程師技能圖(圖侵刪)

 


總結如下:

 

必須技能10條:
01.Java高階(虛擬機器、併發)
02.Linux 基本操作
03.Hadoop(此處為俠義概念單指HDFS+MapReduce+Yarn )
04.HBase(JavaAPI操作+Phoenix )
05.Hive(Hql基本操作和原理理解)
06.Kafka
07.Storm
08.Scala需要
09.Python
10.Spark (Core+sparksql+Spark streaming )

高階技能6條:
11.機器學習演算法以及mahout庫加MLlib
12.R語言
13.Lambda 架構
14.Kappa架構
15.Kylin
16.Aluxio

二、學習路徑

由於本人是從Java開發通過大概3個月的自學轉到大資料開發的。所以我主要分享一下自己的學習路勁。

第一階段:
01.Linux學習(跟鳥哥學就ok了)
02.Java 高階學習(《深入理解Java虛擬機器》、《Java高併發實戰》)

第二階段:
03.Hadoop (董西成的書)
04.HBase(《HBase權威指南》)
05.Hive(《Hive開發指南》)
06.Scala(《快學Scala》)
07.Spark (《Spark 快速大資料分析》)
08.Python (跟著廖雪峰的部落格學習就ok了)

第三階段:
對應技能需求,到網上多蒐集一些資料就ok了,

我把最重要的事情(要學什麼告訴你了),
剩下的就是你去搜集對應的資料學習就ok了

當然如果你覺得自己看書效率太慢,你可以網上搜集一些課程,跟著課程走也OK 。這個完全根據自己情況決定。如果看書效率不高就很網課,相反的話就自己看書。

三,學習資源推薦:

01.Apache 官網
02.Stackoverflow
04.github
03.Cloudra官網
04.Databrick官網
05.過往的記憶(技術部落格)
06.CSDN,51CTO
07.至於書籍噹噹一搜會有很多,其實內容都差不多。

最後但卻很重要一點:要多關注技術動向,持續學習。