Spark 系列（七）—— 基於 ZooKeeper 搭建 Spark 高可用叢集
一、叢集規劃
這裡搭建一個 3 節點的 Spark 叢集，其中三臺主機上均部署 Worker 服務。同時為了保證高可用，除了在 hadoop001 上部署主 Master 服務外，還在 hadoop002 和 hadoop003 上分別部署備用的 Master 服務，Master 服務由 Zookeeper 叢集進行協調管理，如果主 Master 不可用，則備用 Master 會成為新的主 Master。
二、前置條件
搭建 Spark 叢集前，需要保證 JDK 環境、Zookeeper 叢集和 Hadoop 叢集已經搭建，相關步驟可以參閱：
- Linux 環境下 JDK 安裝
- Zookeeper 單機環境和叢集環境搭建
- Hadoop 叢集環境搭建
三、Spark叢集搭建
3.1 下載解壓
下載所需版本的 Spark，官網下載地址：http://spark.apache.org/downloads.html
下載後進行解壓：
# tar -zxvf spark-2.2.3-bin-hadoop2.6.tgz3.2 配置環境變數
# vim /etc/profile新增環境變數：
export SPARK_HOME=/usr/app/spark-2.2.3-bin-hadoop2.6
export PATH=${SPARK_HOME}/bin:$PATH使得配置的環境變數立即生效：
# source /etc/profile
3.3 叢集配置
進入 ${SPARK_HOME}/conf 目錄，拷貝配置樣本進行修改：
1. spark-env.sh
cp spark-env.sh.template spark-env.sh# 配置JDK安裝位置 JAVA_HOME=/usr/java/jdk1.8.0_201 # 配置hadoop配置檔案的位置 HADOOP_CONF_DIR=/usr/app/hadoop-2.6.0-cdh5.15.2/etc/hadoop # 配置zookeeper地址 SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=hadoop001:2181,hadoop002:2181,hadoop003:2181 -Dspark.deploy.zookeeper.dir=/spark"
2. slaves
cp slaves.template slaves配置所有 Woker 節點的位置：
hadoop001
hadoop002
hadoop0033.4 安裝包分發
將 Spark 的安裝包分發到其他伺服器，分發後建議在這兩臺伺服器上也配置一下 Spark 的環境變數。
scp -r /usr/app/spark-2.4.0-bin-hadoop2.6/ hadoop002:usr/app/
scp -r /usr/app/spark-2.4.0-bin-hadoop2.6/ hadoop003:usr/app/四、啟動叢集
4.1 啟動ZooKeeper叢集
分別到三臺伺服器上啟動 ZooKeeper 服務：
zkServer.sh start4.2 啟動Hadoop叢集
# 啟動dfs服務
start-dfs.sh
# 啟動yarn服務
start-yarn.sh4.3 啟動Spark叢集
進入 hadoop001 的 ${SPARK_HOME}/sbin 目錄下，執行下面命令啟動叢集。執行命令後，會在 hadoop001 上啟動 Maser 服務，會在 slaves 配置檔案中配置的所有節點上啟動 Worker 服務。
start-all.sh分別在 hadoop002 和 hadoop003 上執行下面的命令，啟動備用的 Master 服務：
# ${SPARK_HOME}/sbin 下執行
start-master.sh4.4 檢視服務
檢視 Spark 的 Web-UI 頁面，埠為 8080。此時可以看到 hadoop001 上的 Master 節點處於 ALIVE 狀態，並有 3 個可用的 Worker 節點。
而 hadoop002 和 hadoop003 上的 Master 節點均處於 STANDBY 狀態，沒有可用的 Worker 節點。
五、驗證叢集高可用
此時可以使用 kill 命令殺死 hadoop001 上的 Master 程序，此時備用 Master 會中會有一個再次成為 主 Master，我這裡是 hadoop002，可以看到 hadoop2 上的 Master 經過 RECOVERING 後成為了新的主 Master，並且獲得了全部可以用的 Workers。
Hadoop002 上的 Master 成為主 Master，並獲得了全部可以用的 Workers。
此時如果你再在 hadoop001 上使用 start-master.sh 啟動 Master 服務，那麼其會作為備用 Master 存在。
六、提交作業
和單機環境下的提交到 Yarn 上的命令完全一致，這裡以 Spark 內建的計算 Pi 的樣例程式為例，提交命令如下：
spark-submit \
--class org.apache.spark.examples.SparkPi \
--master yarn \
--deploy-mode client \
--executor-memory 1G \
--num-executors 10 \
/usr/app/spark-2.4.0-bin-hadoop2.6/examples/jars/spark-examples_2.11-2.4.0.jar \
100更多大資料系列文章可以參見 GitHub 開源專案： 大資料入門指南