1. 程式人生 > >學習大數據要掌握哪些語言?需要學習哪些內容?

學習大數據要掌握哪些語言?需要學習哪些內容?

組件 新的 發的 ofo 代碼 行處理 可靠性 ces 並不是

大數據是近五年興起的行業,發展迅速,很多技術經過這些年的叠代也變得比較成熟了,同時新的東西也不斷湧現,想要保持自己競爭力的唯一辦法就是不斷學習。但是,大數據需要學習什麽?
01 思維導圖
下面的是我之前整理的一張思維導圖,內容分成幾大塊,包括了分布式計算與查詢,分布式調度與管理,持久化存儲,大數據常用的編程語言等等內容,每個大類下有很多的開源工具。
創一個小群,供大家學習交流聊天
如果有對學大數據方面有什麽疑惑問題的,或者有什麽想說的想聊的大家可以一起交流學習一起進步呀。
也希望大家對學大數據能夠持之以恒
大數據愛好群,
如果你想要學好大數據最好加入一個組織,這樣大家學習的話就比較方便,還能夠共同交流和分享資料,給你推薦一個學習的組織:快樂學習大數據組織 可以點擊組織二字,可以直達請添加鏈接描述

技術分享圖片

02 大數據需要的語言Java
java可以說是大數據最基礎的編程語言,據我這些年的經驗,我接觸的很大一部分的大數據開發都是從Jave Web開發轉崗過來的(當然也不是絕對我甚至見過產品轉崗大數據開發的,逆了個天)。
一是因為大數據的本質無非就是海量數據的計算,查詢與存儲,後臺開發很容易接觸到大數據量存取的應用場景
二就是java語言本事了,天然的優勢,因為大數據的組件很多都是用java開發的像HDFS,Yarn,Hbase,MR,Zookeeper等等,想要深入學習,填上生產環境中踩到的各種坑,必須得先學會java然後去啃源碼。
說到啃源碼順便說一句,開始的時候肯定是會很難,需要對組件本身和開發語言都有比較深入的理解,熟能生巧慢慢來,等你過了這個階段,習慣了看源碼解決問題的時候你會發現源碼真香。

Scala
scala和java很相似都是在jvm運行的語言,在開發過程中是可以無縫互相調用的。Scala在大數據領域的影響力大部分都是來自社區中的明星Spark和kafka,這兩個東西大家應該都知道(後面我會有文章多維度介紹它們),它們的強勢發展直接帶動了Scala在這個領域的流行。
Python和Shell
shell應該不用過多的介紹非常的常用,屬於程序猿必備的通用技能。python更多的是用在數據挖掘領域以及寫一些復雜的且shell難以實現的日常腳本。
03 分布式計算
什麽是分布式計算?分布式計算研究的是如何把一個需要非常巨大的計算能力才能解決的問題分成許多小的部分,然後把這些部分分配給許多服務器進行處理,最後把這些計算結果綜合起來得到最終的結果。
舉個栗子,就像是組長把一個大項目拆分,讓組員每個人開發一部分,最後將所有人代碼merge,大項目完成。聽起來好像很簡單,但是真正參與過大項目開發的人一定知道中間涉及的內容可不少。
分布式計算目前流行的工具有:

離線工具Spark,MapReduce等
實時工具Spark Streaming,Storm,Flink等
這幾個東西的區別和各自的應用場景我們之後再聊。
04 分布式存儲
傳統的網絡存儲系統采用的是集中的存儲服務器存放所有數據,單臺存儲服務器的io能力是有限的,這成為了系統性能的瓶頸,同時服務器的可靠性和安全性也不能滿足需求,尤其是大規模的存儲應用。
分布式存儲系統,是將數據分散存儲在多臺獨立的設備上。采用的是可擴展的系統結構,利用多臺存儲服務器分擔存儲負荷,利用位置服務器定位存儲信息,它不但提高了系統的可靠性、可用性和存取效率,還易於擴展。

上圖是hdfs的存儲架構圖,hdfs作為分布式文件系統,兼備了可靠性和擴展性,數據存儲3份在不同機器上(兩份存在同一機架,一份存在其他機架)保證數據不丟失。由NameNode統一管理元數據,可以任意擴展集群。
主流的分布式數據庫有很多hbase,mongoDB,GreenPlum,redis等等等等,沒有孰好孰壞之分,只有合不合適,每個數據庫的應用場景都不同,其實直接比較是沒有意義的,後續我也會有文章一個個講解它們的應用場景原理架構等。
05 分布式調度與管理
現在人們好像都很熱衷於談"去中心化",也許是區塊鏈帶起的這個潮流。但是"中心化"在大數據領域還是很重要的,至少目前來說是的。
分布式的集群管理需要有個組件去分配調度資源給各個節點,這個東西叫yarn;
需要有個組件來解決在分布式環境下"鎖"的問題,這個東西叫zookeeper;
需要有個組件來記錄任務的依賴關系並定時調度任務,這個東西叫azkaban。
當然這些“東西”並不是唯一的,其實都是有很多替代品的,本文只舉了幾個比較常用的例子。

學習大數據要掌握哪些語言?需要學習哪些內容?