1. 程式人生 > >centos7搭建jstorm2.1.1叢集環境

centos7搭建jstorm2.1.1叢集環境

1、軟體需求

•VMware Workstaton 12.0.0

•Putty

•FileZilla

•apache-tomcat-8.5.13.tar.gz

•jdk-8u121-linux-x64.tar.gz

•zookeeper-3.5.2tar.gz

•jstorm-2.1.1.zip

2、叢集規劃

•192.168.174.200 jstorm01

•192.168.174.201 jstorm02

•192.168.174.202 jstorm03

3、搭建步驟

3.1安裝虛擬機器軟體

此處省略幾百字,不會安裝的可以參照網上的教程

3.2建立虛擬機器系統
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述

3.2安裝centos7系統

這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
3.3配置虛擬機器

3.3.1 停止並關閉防火牆

systemctl stop frewalld.service
systemctl disable frewalld.service

3.3.2 伺服器配置

為了方便操作,我們使用 putty 連線 master(192.168.174.200)進行操作
這裡寫圖片描述

3.3.2.1 安裝 ZIP 檔案壓縮解壓縮工具

yum install zip unzip

3.3.2.2 安裝 glibc.i686

yum install glibc.i686

3.3.3 上傳相關軟體

使用 Filezilla 工具將所需軟體 apache-tomcat-8.5.13.tar.gz、jdk-8u121-linux-x64.tar.gz、jstorm-2.1.1.zip、zookeeper-3.5.2tar.gz 上傳至虛擬機器 jstorm01
這裡寫圖片描述

3.3.4 安裝 JDK

開始安裝 jdk,按順序依次執行以下命令:

echo “export LC_ALL=en_US.UTF-8” >> /etc/profile
source /etc/profile
cd /opt
tar -xvf jdk-8u121-linux-x64.tar.gz
這裡寫圖片描述

3.3.4.1 配置 JDK 環境

cd /opt

echo ‘## java confguraton ’ >> /etc/profile

echo ‘export JAVA_HOME=/opt/jdk1.8.0_121’ >> /etc/profile

echo ‘export PATH=JAVA H OME/bin: PATH’ >> /etc/profile

echo ‘export CLASSPATH=.:JAVA H OME/lib/dt.jar: JAVA_HOME/lib/tools.jar’ >> /etc/profile

source /etc/profile
這裡寫圖片描述

3.3.5 安裝 zookeeper

按順序依次執行以下命令:
cd /opt

tar -xvf zookeeper-3.5.2.tar

echo ‘# zookeeper confguraton ’ >> /etc/profile

echo ‘export ZOOKEEPER_HOME=/opt/zookeeper-3.5.2’ >> /etc/profile

echo ‘export PATH=ZOOKEEPER H OME/bin: PATH’ >> /etc/profile

echo ‘export CLASSPATH=.:$ZOOKEEPER_HOME/lib’ >> /etc/profile

source /etc/profile

3.3.5.1 建立 zookeeper 相關檔案

建立 zookeeper 需要的相關目錄
mkdir -p /home/jstorm/jstorm/zookeeper_data
chown -R jstorm:jstorm /home/jstorm/jstorm

3.3.5.2 修改 zookeeper 配置檔案

備份 zookeeper 的配置檔案
cp -f /opt/zookeeper-3.5.2/conf/zoo_sample.cfg /opt/zookeeper-3.5.2/conf/zoo_sample.cfg.bak

mv /opt/zookeeper-3.5.2/conf/zoo_sample.cfg /opt/zookeeper-3.5.2/conf/zoo.cfg

修改 zookeeper 資料檔案的位置

sed -i ‘s/dataDir=\/tmp\/zookeeper/dataDir=\/home\/jstorm\/jstorm\/zookeeper_data\//g’ /opt/zookeeper-3.5.2/conf/zoo.cfg

echo ‘# zookeeper cluster mathines’ >> /opt/zookeeper-3.5.2/conf/zoo.cfg

echo ‘server.1=192.168.174.200:2888:3888’ >> /opt/zookeeper-3.5.2/conf/zoo.cfg

echo ‘server.2=192.168.174.201:2888:3888’ >> /opt/zookeeper-3.5.2/conf/zoo.cfg

echo ‘server.3=192.168.174.202:2888:3888’ >> /opt/zookeeper-3.5.2/conf/zoo.cfg
這裡寫圖片描述

3.3.6 安裝 jstrom

cd /opt

unzip jstorm-2.1.1.zip -d /opt/

3.3.6.1配置 jstorm 環境

echo ‘# jstorm confguraton ’ >> /etc/profile

echo ‘export JSTORM_HOME=/opt/jstorm-2.1.1’ >> /etc/profile

echo ‘export PATH=JSTORM H OME/bin: PATH’ >> /etc/profile

source /etc/profile

3.3.6.2建立 jstorm 資料存放需要的檔案

mkdir -p /home/jstorm/jstorm/jstorm_data

chown -R jstorm:jstorm /home/jstorm/jstorm

3.3.6.3修改 jstorm配置檔案

配置$JSTORM_HOME/conf/storm.yaml

sed -i ‘/localhost”$/’d /opt/jstorm-2.1.1/conf/storm.yaml

sed -i /’storm.zookeeper.servers:/a\ - “192.168.174.200”’ /opt/jstorm-2.1.1/conf/storm.yaml

sed -i /’storm.zookeeper.servers:/a\ - “192.168.174.201”’ /opt/jstorm-2.1.1/conf/storm.yaml

sed -i /’storm.zookeeper.servers:/a\ - “192.168.174.202”’ /opt/jstorm-2.1.1/conf/storm.yaml

sed -i ‘s/%JSTORM_HOME%\/data/\/home\/jstorm\/jstorm\/jstorm_data/g’ /opt/jstorm-2.1.1/conf/storm.yaml

sed -i /’storm.zookeeper.root/a\ nimbus.host: “192.168.174.200”’ /opt/jstorm-2.1.1/conf/storm.yaml
這裡寫圖片描述

3.3.7 安裝 tomcat

cd /opt
tar -zxf apache-tomcat-8.5.13.tar.gz
cd /opt/apache-tomcat-8.5.13
chmod +x bin/*.sh

3.3.8建立到 jstorm UI 的軟連線

cd /opt/apache-tomcat-8.5.13/webapps

cp /opt/jstorm-2.1.1/jstorm-ui-2.1.1.war /opt/apache-tomcat-8.5.13/webapps

mv ROOT ROOT.old

ln -s jstorm-ui-2.1.1 ROOT
這裡寫圖片描述

3.3.8 修改檔案所屬組
cd /opt

chown -R jstorm:jstorm apache-tomcat-8.5.13

chown -R jstorm:jstorm jstorm-2.1.1

chown -R jstorm:jstorm zookeeper-3.5.2

chown -R jstorm:jstorm /home/jstorm/jstorm

3.3.9編輯/etc/hostname檔案

vi /etc/hostname

jstorm01
這裡寫圖片描述

3.3.10編輯/etc/hosts檔案

192.168.174.200 jstorm01

192.168.174.201 jstorm02

192.168.174.202 jstorm03
這裡寫圖片描述

3.3.11建立.jstrom的資料夾(切換到jstorm使用者)

su – jstorm

mkdir ~/.jstorm

cp -f /opt/jstorm-2.1.1/conf/storm.yaml ~/.jstorm
這裡寫圖片描述

3.4 克隆機器

關閉機器,以 jstorm01 為藍本克隆 jstorm02\jstorm03,以下為克隆 jstorm02 的操作步驟,克隆 jstorm03步驟類似
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
克隆完 jstorm02 和 jstorm03 之後的截圖如下
這裡寫圖片描述

3.5 編輯虛擬機器裝置

分別選中左邊的 jstorm02 和 jstorm03,進行“編輯虛擬機器裝置”操作,以操作 jstorm02 為例
這裡寫圖片描述
這裡寫圖片描述

3.6 修改虛擬機器配置

3.6.1 修改jstorm02

啟動 jstorm02,修改網絡卡、hostname、host,具體步驟如下
1)vi /etc/hostname
jstorm02

2)vi /etc/sysconfig/network-scripts/ifcfg-ens32(不同機器的配置檔名可能不同)
這裡寫圖片描述
修改之後重啟機器。
這裡寫圖片描述

3.6.2 修改jstorm03

啟動 jstorm03,修改網絡卡、hostname、host,具體步驟如下
1)vi /etc/hostname
jstorm03

2)vi /etc/sysconfig/network-scripts/ifcfg-ens32(不同機器的配置檔名可能不同)

3.6.3 修改 jstorm01

啟動 jstorm01
1)vi /etc/hostname
jstorm01

3.7 建立 zookeeper 所需的 ID 檔案(jstorm使用者操作)

為方便操作,用 putty 連線 jstrom01、jstorm02 和 jstorm03
為 zookeeper 建立 myid 檔案,每個虛擬機器都要操作
su – jstorm

jstorm01 機器上執行:
echo ‘1’ >> /home/jstorm/jstorm/zookeeper_data/myid
jstorm02 機器上執行:
echo ‘2’ >> /home/jstorm/jstorm/zookeeper_data/myid
jstorm03 機器上執行:
echo ‘3’ >> /home/jstorm/jstorm/zookeeper_data/myid

3.8 建立各機器 SSH 免密碼(jstorm使用者操作)

3.8.1 各機器都操作

建立 ssh 免密碼登入,在三臺虛擬機器上分別以 jstorm 使用者登入,進行如下操作:
mkdir /home/jstorm/.ssh

chmod -R 700 /home/jstorm/.ssh

cd .ssh

ssh-keygen -t rsa
這裡寫圖片描述

3.8.2 在 jstorm02 和 jstorm03 上操作

使用 jstorm 賬戶,在 jstorm02 和 jstorm03 上分別執行如下命令:

3.8.2.1 操作 jstorm02

cd .ssh

scp id_rsa.pub [email protected]:/home/jstorm/.ssh/id_rsa.pub.jstorm02
這裡寫圖片描述

3.8.2.2 操作 jstorm03

cd .ssh

scp id_rsa.pub [email protected]:/home/jstorm/.ssh/id_rsa.pub.jstorm03
這裡寫圖片描述

3.8.2.3 操作 jstorm01

使用 jstorm 賬戶在 jstorm01 虛擬機器上進行操作
cd /home/jstorm/.ssh/
ll
cat id_rsa.pub >> authorized_keys

cat id_rsa.pub.jstorm02 >> authorized_keys

cat id_rsa.pub.jstorm03 >> authorized_keys

chmod 600 ~/.ssh/authorized_keys
這裡寫圖片描述

將 jstorm01 虛擬機器上的 authorized_keys 同步至 jstorm02 和 jstorm03

scp ~/.ssh/authorized_keys [email protected]:/home/jstorm/.ssh/authorized_keys

scp ~/.ssh/authorized_keys [email protected]torm03:/home/jstorm/.ssh/authorized_keys
這裡寫圖片描述

3.8.3 測試 ssh 免密碼互通

Jstorm01 免密碼訪問 jstorm02 和 jstorm03
這裡寫圖片描述
Jstorm02 免密碼訪問 jstorm01 和 jstorm03
這裡寫圖片描述
Jstorm03 免密碼訪問 jstorm01 和 jstorm02
這裡寫圖片描述

3.9 啟動 zookeeper

使用 jstorm,在三臺虛擬機器上啟動 zookeeper
cd /opt/zookeeper-3.5.2/bin

./zkServer.sh start

./zkServer.sh status
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
3.10 啟動 jstorm

這時,我們可以啟動 jstorm 了

3.10.1 操作 jstorm01

cd /opt/jstorm-2.1.1/bin/
./jstorm nimbus >/dev/null 2>&1 &

3.10.2 操作 jstorm02 和 jstorm03

cd /opt/jstorm-2.1.1/bin/
./jstorm supervisor >/dev/null 2>&1 &

3.10.3 檢視執行狀態

jps 檢視執行檢視執行狀態
這裡寫圖片描述
這裡寫圖片描述
這裡寫圖片描述
3.11 啟動 jstorm UI

我們可以通過訪問 jstorm UI 來檢視具體資訊
啟動 jstorm01虛擬機器的 tomcat
cd /opt/apache-tomcat-8.5.13/bin

./startup.sh
此時,我們通過訪問 htp://192.168.174.200:8080 檢視 jstorm 介面
這裡寫圖片描述
奇怪,怎麼沒有看見頁面呢?看一下tomcat日誌吧

cd /opt/apache-tomcat-8.5.13/logs

more catalina.2017-04-18.log
這裡寫圖片描述

8080埠被佔用了,那就修改一下server.xml的埠吧,我改成了9000,你們隨意!

vi /opt/apache-tomcat-8.5.13/conf/server.xml
這裡寫圖片描述
再次啟動tomcat,訪問htp://192.168.174.200:9000
這裡寫圖片描述
這裡寫圖片描述

相關推薦

centos7搭建jstorm2.1.1叢集環境

1、軟體需求 •VMware Workstaton 12.0.0 •Putty •FileZilla •apache-tomcat-8.5.13.tar.gz •jdk-8u121-linux-x64.tar.gz •zookeeper-3.5.2t

CentOS7搭建ELK6.0.1

訪問 mysq elastic eal ech map 啟動 chown mysql CentOS7搭建ELK6.0.11.準備工作:源碼包路徑:/usr/local/src/elasticsearch: elasticsearch-6.0.1.tar.gzkibana:

Giraph 1.0叢集環境配置

環境說明 以下配置過程在實驗室叢集,深圳叢集,騰訊雲集群上均測試成功,系統包括CentOS,Ubuntu Hadoop-1.0.2 Giraph-1.0.0 Jdk1.7 下面詳細敘述一下在實驗室叢集上面配置的細節 系統環境 Distributor ID: Ubun

48、Maven學習(CentOS7搭建Nexus3.2.1私服2017年3月)

Centos7搭建Nexus3 Nexus官方網站:https://www.sonatype.com/download-oss-sonatype 下載unix 的tar.gz版本即可 當前版本為3.2.1 解壓後得到兩個資料夾 tar -zxvf nexus-3.2.

Centos7搭建CDH6.0.1(單機版)

red sta 學習 stat input 回車 -a 默認 linu 一、前言。 學習大數據組件,最好的方式是直接參照官網。不過官網的教程也讓我吃了一坑,在此記錄一下。因在個人筆記本資源有限,在此安裝為單機版安裝 二、搭建。 1.1配置主機名 hostnam

搭建hadoop偽分散式叢集環境過程中遇見的問題總結

1、網路配置問題: 在centos7中配置網路環境後,本機(win10系統)與虛擬機器centos7網路不通(本機可以ping通虛擬機器,但是虛擬機器ping不通本機); 解決方式: 方式1:檢視本機win10系統的防火牆是否關閉,若沒有,直接關閉win10系統的防火牆即可; 方式2

centos7.3上部署zookeeper叢集環境

一、前期準備 1、下載zookeeper安裝包 zookeeper官方下載地址:http://www-eu.apache.org/dist/zookeeper/ zookeeper-3.5.3-beta.tar.gz 2、準備好要安裝的叢集環境的目標機器 3、將下載好的壓縮包拷貝

hadoop叢集環境搭建之偽分散式叢集環境搭建

搭建叢集的模式有三種 1.偽分散式:在一臺伺服器上,啟動多個執行緒分別代表多個角色(因為角色在叢集中使用程序表現的) 2.完全分散式:在多臺伺服器上,每臺伺服器啟動不同角色的程序,多臺伺服器構成叢集 node01:NameNode node02:

centos7搭建hadoop完全分散式叢集

搭建步驟   1.安裝centos7,並進行準備工作(可以安裝一個之後然後克隆) 2.修改各個centos7的hostname和hosts 3.建立使用者和使用者組 4.配置centos7網路,是centos7系統之間以及和hosts主機之間可以通過互相ping通

Windows+Nginx+Tomcat搭建負載均衡和叢集環境同時實現session共享(一)

摘要:隨著網站的訪問量越來越多,所以就考慮給網站增加伺服器了,現在比較流行的做法就是給網站做叢集環境,下面我把我做的過程記錄一下,方便日後檢視,同時也希望可以幫助到有需要的朋友! 一:首先是環境: 1.jdk 1.6.0_45 2.tomcat 6.0.44 3.nginx

CentOS7搭建MySQL 5.7.17環境並安裝Navicat for MySQL

一.準備: 二.環境搭建: 1.建立組及使用者: 此步可以跳過,但是為了方便管理mysql,也為了用在正式的生產環境中,且處於安全考慮,這裡為mysql單獨建立了一個組及使用者: groupadd mysqlgroup //新建一個mys

CentOS7.2中使用Kubernetes(k8s)1.4.6原始碼搭建k8s容器叢集環境

一、相關準備工作 1.1、準備工作 準備至少兩臺已安裝好CentOS7.2作業系統的物理機或者虛擬機器(本文配置時使用的是三臺KVM虛擬機器); 設定hostname命令: hostnamectl set-hostname k8s-mst

Hyperledger Fabric v1.1 單機多節點叢集環境搭建

Fabric v1.1 1.環境安裝 1).安裝go 1.9.x 下載地址 http://golang.org/dl/ 配置環境 #go的安裝根目錄 export GOROOT=/usr/local/go #go的工作路徑根目錄 export GOPAT

大資料之(1Centos7搭建全分散式Hadoop叢集

本文介紹搭建一個Namenode兩個DataNode的Hadoop全分散式叢集的全部步驟及方法。具體環境如下: 一、環境準備 3個Centos7虛擬機器或者3個在一個區域網內的實際Centos7機器,機器上已安裝JDK1.8,至於不會安裝Centos7或者JDK1.8的同

Centos7 搭建 hadoop3.1.1 叢集教程

1 <configuration> 2 3 <!-- Site specific YARN configuration properties --> 4 <property> 5 <name>yarn.resourcemanager.hostnam

利用最新的CentOS7.5,hadoop3.1,spark2.3.2搭建spark叢集

1. 橋接模式,靜態ip上外網:vi /etc/sysconfig/network-scripts/ifcfg-ens33 TYPE=EthernetPROXY_METHOD=noneBROWSER_ONLY=noBOOTPROTO=staticDEFROUTE=yesIPV4_FAILURE_FATAL=n

用kubeadm在centos7搭建k8s 1.12叢集

在搭建的過程中遇到一個難題 本地將下載的映象包,匯入到本地並打好tag後,執行 kubeadm init命令,還會一直去拉取映象,不知道原因? [[email protected] log]# kubeadm  init I1113 15:31:40.17659

事無鉅細 Spark 1.6.1 叢集環境搭建

還是在之前的Hadoop叢集環境上繼續搭建Spark-1.6.1環境 下載安裝 下載Spark並解壓 wget http://mirrors.cnnic.cn/apache/spark/spark-1.6.1/spark-1.6.1-b

事無鉅細 Apache Kafka 0.9.0.1 叢集環境搭建

Kafka叢集環境依賴於Zookeeper環境。因此我們的環境搭建實際分為兩部分。Zookeeper環境搭建和Kafka環境搭建。 Zookeeper 3.4.8叢集搭建 部署安裝包 下載 wget http://mirrors.cn

Centos7 實現Hadoop-2.9.1分散式叢集搭建和部署(三臺機器)

一、準備三臺虛擬機器hadoop 192.168.131.128 localhost131 192.168.131.131 localhost134 192.168.131.134(以上是我的三臺虛擬機器的hostname 和 ip)hadoop 是 master 的 hos