1. 程式人生 > >Spark2.1.X原始碼編譯總結(參考官網)

Spark2.1.X原始碼編譯總結(參考官網)

一、環境

1.硬體:

虛擬機器記憶體4G以上。(吐血記憶,因為這個吃虧無法編譯成功!)

2.軟體:

(1)Java1.8:官網要求1.7+

檢視java版本,確認1.8。(如果不是則刪除系統自帶的java,重新安裝java,自己沒有檢查,結果發現java是1.5,導致編譯失敗!)

java -version

(2)maven:3.3.9+

(3)scala:官網要求2.11+

(4)配置maven記憶體:(官網)

export MAVEN_OPTS="-Xmx2g -XX:MaxPermSize=512M -XX:ReservedCodeCacheSize=512m"

二、spark編譯

在spark原始碼根目錄下執行

./dev/make-distribution.sh --name spark-hadoop2.7.3 --tgz -Psparkr -Phadoop-2.7 -Phive -Phive-thriftserver -Pyarn

三、總結

多看官網,一切盡在官網!