Spark之——Hadoop2.7.3+Spark2.1.0 完全分散式環境 搭建全過程
阿新 • • 發佈：2019-01-03
一、修改hosts檔案
在主節點，就是第一臺主機的命令列下;
vim /etc/hosts我的是三臺雲主機：
在原檔案的基礎上加上;
ip1 master worker0 namenode
ip2 worker1 datanode1
ip3 worker2 datanode2其中的ipN代表一個可用的叢集IP，ip1為master的主節點，ip2和iip3為從節點。
二、ssh互信（免密碼登入）
注意我這裡配置的是root使用者，所以以下的家目錄是/root
如果你配置的是使用者是xxxx，那麼家目錄應該是/home/xxxxx/
這樣master主機就可以無密碼登入到其他主機，這樣子在執行master上的啟動指令碼時和使用scp命令時候，就可以不用輸入密碼了。#在主節點執行下面的命令： ssh-keygen -t rsa -P '' #一路回車直到生成公鑰 scp /root/.ssh/id_rsa.pub[email protected]:/root/.ssh/id_rsa.pub.master #從master節點拷貝id_rsa.pub到worker主機上,並且改名為id_rsa.pub.master scp /root/.ssh/id_rsa.pub [email protected]:/root/.ssh/id_rsa.pub.master #同上，以後使用workerN代表worker1和worker2. scp /etc/hosts [email protected]:/etc/hosts #統一hosts檔案，讓幾個主機能通過host名字來識別彼此 #在對應的主機下執行如下命令： cat /root/.ssh/id_rsa.pub >> /root/.ssh/authorized_keys #master主機 cat /root/.ssh/id_rsa.pub.master >> /root/.ssh/authorized_keys #workerN主機
三、安裝基礎環境（JAVA和SCALA環境）
1.Java1.8環境搭建：
配置master的java環境
配置workerN主機的java環境#下載jdk1.8的rpm包 wget --no-check-certificate --no-cookies --header "Cookie: oraclelicense=accept-securebackup-cookie" http://download.oracle.com/otn-pub/java/jdk/8u112-b15/jdk-8u112-linux-x64.rpm rpm -ivh jdk-8u112-linux-x64.rpm #增加JAVA_HOME vim etc/profile #增加如下行： #Java home export JAVA_HOME=/usr/java/jdk1.8.0_112/ #重新整理配置： source /etc/profile #當然reboot也是可以的
#使用scp命令進行拷貝
scp jdk-8u112-linux-x64.rpm [email protected]:/root
#其他的步驟如master節點配置一樣2.Scala2.12.2環境搭建：
Master節點：
#下載scala安裝包：
wget -O "scala-2.12.2.rpm" "https://downloads.lightbend.com/scala/2.12.1/scala-2.12.2.rpm"
#安裝rpm包：
rpm -ivh scala-2.12.2.rpm
#增加SCALA_HOME
vim /etc/profile
#增加如下內容;
#Scala Home
export SCALA_HOME=/usr/share/scala
#重新整理配置
source /etc/profile#使用scp命令進行拷貝
scp scala-2.12.2.rpm [email protected]:/root
#其他的步驟如master節點配置一樣四、Hadoop2.7.3完全分散式搭建
MASTER節點：
1.下載二進位制包：
wget http://www-eu.apache.org/dist/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz2.解壓並移動至相應目錄
我的習慣是將軟體放置/opt目錄下：
tar -xvf hadoop-2.7.3.tar.gz
mv hadoop-2.7.3 /opt3.修改相應的配置檔案：
（1）/etc/profile：
增加如下內容：
#hadoop enviroment
export HADOOP_HOME=/opt/hadoop-2.7.3/
export PATH="$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH"
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
export YARN_CONF_DIR=$HADOOP_HOME/etc/hadoop（2）$HADOOP_HOME/etc/hadoop/hadoop-env.sh
修改JAVA_HOME 如下：
export JAVA_HOME=/usr/java/jdk1.8.0_112/（3）$HADOOP_HOME/etc/hadoop/slaves
worker1
worker2（4）$HADOOP_HOME/etc/hadoop/core-site.xml
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>
<property>
<name>io.file.buffer.size</name>
<value>131072</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/hadoop-2.7.3/tmp</value>
</property>
</configuration>（5）$HADOOP_HOME/etc/hadoop/hdfs-site.xml
<configuration>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>master:50090</value>
</property>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/opt/hadoop-2.7.3/hdfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/opt/hadoop-2.7.3/hdfs/data</value>
</property>
</configuration>（6）$HADOOP_HOME/etc/hadoop/mapred-site.xml
複製template，生成xml：
cp mapred-site.xml.template mapred-site.xml<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>master:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>master:19888</value>
</property>
</configuration>（7）$HADOOP_HOME/etc/hadoop/yarn-site.xml
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>master:8032</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>master:8030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>master:8031</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>master:8033</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>master:8088</value>
</property>至此master節點的hadoop搭建完畢
再啟動之前我們需要
格式化一下namenode
hadoop namenode -formatWorkerN節點：
（1）複製master節點的hadoop資料夾到worker上：
scp -r /opt/hadoop-2.7.3 [email protected]:/opt #注意這裡的N要改為1或者2（2）修改/etc/profile：
過程如master一樣
五、Spark2.1.0完全分散式環境搭建：
MASTER節點：
1.下載檔案：
wget -O "spark-2.1.0-bin-hadoop2.7.tgz" "http://d3kbcqa49mib13.cloudfront.net/spark-2.1.0-bin-hadoop2.7.tgz"
2.解壓並移動至相應的資料夾;
tar -xvf spark-2.1.0-bin-hadoop2.7.tgz
mv spark-2.1.0-bin-hadoop2.7 /opt3.修改相應的配置檔案：
（1）/etc/profie
#Spark enviroment
export SPARK_HOME=/opt/spark-2.1.0-bin-hadoop2.7/
export PATH="$SPARK_HOME/bin:$PATH"（2）$SPARK_HOME/conf/spark-env.sh
cp spark-env.sh.template spark-env.sh#配置內容如下：
export SCALA_HOME=/usr/share/scala
export JAVA_HOME=/usr/java/jdk1.8.0_112/
export SPARK_MASTER_IP=master
export SPARK_WORKER_MEMORY=1g
export HADOOP_CONF_DIR=/opt/hadoop-2.7.3/etc/hadoop（3）$SPARK_HOME/conf/slaves
cp slaves.template slavesmaster
worker1
worker2WorkerN節點：
將配置好的spark檔案複製到workerN節點
scp spark-2.1.0-bin-hadoop2.7 [email protected]:/opt六、啟動叢集的指令碼
啟動叢集指令碼start-cluster.sh如下：
#!/bin/bash
echo -e "\033[31m ========Start The Cluster======== \033[0m"
echo -e "\033[31m Starting Hadoop Now !!! \033[0m"
/opt/hadoop-2.7.3/sbin/start-all.sh
echo -e "\033[31m Starting Spark Now !!! \033[0m"
/opt/spark-2.1.0-bin-hadoop2.7/sbin/start-all.sh
echo -e "\033[31m The Result Of The Command \"jps\" : \033[0m"
jps
echo -e "\033[31m ========END======== \033[0m"截圖如下：
#!/bin/bash
echo -e "\033[31m ===== Stoping The Cluster ====== \033[0m"
echo -e "\033[31m Stoping Spark Now !!! \033[0m"
/opt/spark-2.1.0-bin-hadoop2.7/sbin/stop-all.sh
echo -e "\033[31m Stopting Hadoop Now !!! \033[0m"
/opt/hadoop-2.7.3/sbin/stop-all.sh
echo -e "\033[31m The Result Of The Command \"jps\" : \033[0m"
jps
echo -e "\033[31m ======END======== \033[0m"
七、測試一下叢集：
這裡我都用最簡單最常用的Wordcount來測試好了！
1.測試hadoop
測試的原始檔的內容為:
Hello hadoop
hello spark
hello bigdatahadoop fs -mkdir -p /Hadoop/Input
hadoop fs -put wordcount.txt /Hadoop/Input
hadoop jar /opt/hadoop-2.7.3/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /Hadoop/Input /Hadoop/Output
等待mapreduce執行完畢後，檢視結果;
hadoop fs -cat /Hadoop/Output/*
hadoop叢集搭建成功！
2.測試spark
為了避免麻煩這裡我們使用spark-shell，做一個簡單的worcount的測試
用於在測試hadoop的時候我們已經在hdfs上儲存了測試的原始檔，下面就是直接拿來用就好了！
spark-shell
val file=sc.textFile("hdfs://master:9000/Hadoop/Input/wordcount.txt")
val rdd = file.flatMap(line => line.split(" ")).map(word => (word,1)).reduceByKey(_+_)
rdd.collect()
rdd.foreach(println)
退出的話使用如下命令：
:quit