1. 程式人生 > >Maven、Kafka、HBASE、flume安裝

Maven、Kafka、HBASE、flume安裝

一、安裝Maven

tar -xvzf apache-maven-3.5.2-bin.tar.gz

2.新增環境變數

vim ~/.bashrc

export MAVEN_HOME=/usr/local/src/apache-maven-3.5.2 export PATH=$PATH:$MAVEN_HOME/bin

儲存退出,source ~/.bashrc

3.驗證:輸入mvn -v

二、kafka安裝

1.下載並解壓wget http://mirrors.hust.edu.cn/apache/kafka/1.0.0/kafka_2.11-1.0.0.tgz

 tar -xvzf kafka_2.11-1.0.0.tgz

2.新建logs目錄 mkdir logs

3.修改配置

cd config

vim server.properties

修改如下資訊

broker.id=0(第二臺機器就是1,第三臺是2)

advertised.listeners=PLAINTEXT://master:9092

log.dirs=/usr/local/src/kafka_2.11-1.0.0/logs

zookeeper.connect=master:2181,slave1:2181,slave2:2181

分發到其他兩臺機器上面

scp -rp kafka_2.11-1.0.0 slave1:/usr/local/src

改一下brokerid

4.新增環境變數

vim ~/.bashrc

export KAFKA_HOME=/usr/local/src/kafka_2.11-1.0.0 export PATH=$PATH:$KAFKA_HOME/bin

source ~/.bashrc

把環境變數分發到靈臺兩臺機器scp -rp ~/.bashrc slave1:~

5.驗證

到bin資料夾下,輸入kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties

輸入jps

關閉kafka 使用bin/kafka-server-stop.sh 或者kill -9 埠號

6.簡單驗證kafka是否搭建成功

先把zookeeper啟動了 ./zkServer.sh start

測試kafka是否能夠正常收發訊息,開兩個終端,一個用來做producer發訊息一個用來做consumer收訊息,首先,先建立一個topic

./kafka-topics.sh --create --zookeeper master:2181 --replication-factor 1 --partitions 1 --topic testTopic

./kafka-topics.sh --describe --zookeeper master:2181 --topic testTopic

然後在第一個終端中輸入命令:

./kafka-console-producer.sh –broker-list master:9092 –topic testTopic

在第二個終端中輸入命令:

./kafka-console-consumer.sh –zookeeper 127.0.0.1:2181 –topic testTopic

如果啟動都正常,那麼這兩個終端將進入阻塞監聽狀態,在第一個終端中輸入任何訊息第二個終端都將會接收到。

三、HBASE安裝

1.下載和解壓

2.配置conf

修改資料夾 下hbase-env.sh的java環境

vim hbase-env.sh

修改如下:

export JAVA_HOME=/usr/local/src/jdk1.7.0_80/ export HBASE_CLASSPATH=/usr/local/src/hbase-1.2.6/conf

export HBASE_MASTER_OPTS="$HBASE_MASTER_OPTS -XX:PermSize=256m -XX:MaxPermSize=1024m" export HBASE_REGIONSERVER_OPTS="$HBASE_REGIONSERVER_OPTS -XX:PermSize=256m -XX:MaxPermSize=1024m" export HBASE_PID_DIR=/opt/data/hbase export HBASE_MANAGES_ZK=false 

這裡要說明一下HBASE_MANAGES_ZK這個引數,因為採用了自己的zookeeper,所以這裡設定為false,否則hbase會自己啟動一個zookeeper

3.修改hbse-site.xml

vim hbase-site.xml

<configuration>
    <property>
         <name>hbase.rootdir</name>
          <value>hdfs://master:9000/hbase</value>
    </property>
    <property>
         <name>hbase.zookeeper.property.clientPort</name>
          <value>2181</value>
           <description>Property from ZooKeeper'sconfig zoo.cfg. The port at which the clients will connect</description>
     </property>

    <property>
        <name>zookeeper.session.timeout</name>
        <value>120000</value>
   </property>
     <property>
             <name>hbase.master</name>
              <value>master:60000</value>
     </property>
     <property>
           <name>hbase.master.port</name>
           <value>60000</value>
      </property>
      <property>
           <name>hbase.cluster.distributed</name>
           <value>true</value>
      </property>
      <property>
            <name>hbase.zookeeper.quorum</name>
            <value>master,slave1,slave2</value>
       </property>
       <property>
             <name>zookeeper.znode.parent</name>
              <value>/hbase</value>
       </property>
       <property>
              <name>hbase.tmp.dir</name>
              <value>/root/hbase/tmp</value>
        </property>
        <property>
              <name>hbase.master.info.bindAddress</name>
              <value>master</value>
      </property>
 </configuration>

4.修改環境變數

vim ~/.bashrc

export HBASE_HOME=/usr/local/src/hbase-1.2.6 export PATH=$PATH:$HBASE_HOME/bin

5.測試

 ./start-hbase.sh

輸入 hbase shell