1. 程式人生 > >kafka_2.11-1.0.0單機和叢集的安裝和配置

kafka_2.11-1.0.0單機和叢集的安裝和配置

單機安裝配置:

首先下載kafka安裝包
tar -zxvf kafka安裝包
cd config
vim server.properties

kafka需要zookeeper進行管理
kafka有一個內建的zookeeper叢集,建議不用

server.properties中的內容解釋:

broker.id=0  #當前機器在叢集中的唯一標識,和zookeeper的myid性質一樣
port=19092 #當前kafka對外提供服務的埠預設是9092
host.name=192.168.7.100 #這個引數預設是關閉的,在0.8.1有個bug,DNS解析問題,失敗率的問題。
num.network
.threads=3 #這個是borker進行網路處理的執行緒數 num.io.threads=8 #這個是borker進行I/O處理的執行緒數 log.dirs=/opt/kafka/kafkalogs/ #訊息存放的目錄,這個目錄可以配置為“,”逗號分割的表示式,上面的num.io.threads要大於這個目錄的個數這個目錄,如果配置多個目錄,新建立的topic他把訊息持久化的地方是,當前以逗號分割的目錄中,那個分割槽數最少就放那一個 socket.send.buffer.bytes=102400 #傳送緩衝區buffer大小,資料不是一下子就傳送的,先回儲存到緩衝區了到達一定的大小後在傳送,能提高效能 socket.receive
.buffer.bytes=102400 #kafka接收緩衝區大小,當資料到達一定大小後在序列化到磁碟 socket.request.max.bytes=104857600 #這個引數是向kafka請求訊息或者向kafka傳送訊息的請請求的最大數,這個值不能超過java的堆疊大小 num.partitions=1 #預設的分割槽數,一個topic預設1個分割槽數 log.retention.hours=168 #預設訊息的最大持久化時間,168小時,7天 message.max.byte=5242880 #訊息儲存的最大值5M default.replication.factor=2 #kafka儲存訊息的副本數,如果一個副本失效了,另一個還可以繼續提供服務
replica.fetch.max.bytes=5242880 #取訊息的最大直接數 log.segment.bytes=1073741824 #這個引數是:因為kafka的訊息是以追加的形式落地到檔案,當超過這個值的時候,kafka會新起一個檔案 log.retention.check.interval.ms=300000 #每隔300000毫秒去檢查上面配置的log失效時間(log.retention.hours=168 ),到目錄檢視是否有過期的訊息如果有,刪除 log.cleaner.enable=false #是否啟用log壓縮,一般不用啟用,啟用的話可以提高效能 zookeeper.connect=192.168.7.100:12181,192.168.7.101:12181,192.168.7.107:1218 #設定zookeeper的連線埠

我們需要修改:

1、broker.id:每臺機器不能一樣
2、zookeeper.connect:因為我有3臺zookeeper伺服器,所以在這裡zookeeper.connect設定為3臺,必須全部加進去

3、listeners:在配置叢集的時候,必須設定,不然以後的操作會報找不到leader的錯誤

broker.id=0  每臺伺服器的broker.id都不能相同

#listeners
listeners=PLAINTEXT://node1:9092
#日誌的目錄
log.dirs=/home/hadoop/app/kafka_2.11-1.0.0/logs/
#設定zookeeper的連線埠
zookeeper.connect=192.168.7.100:12181,192.168.7.101:12181,192.168.7.107:12181

啟動kafka叢集:每臺都需要執行啟動命令
bin/kafka-server-start.sh config/server.properties

這裡寫圖片描述

可以通過zookeeper客戶端可一個檢視自己的kafka叢集是否啟動成功(目錄為:/brokers/ids,為你的kafka的broker號)

建立topic
bin/kafka-topics.sh –create –zookeeper zookeeper所在的ip:2181 –replication-factor 1 –partitions 1 –topic test

解釋

–replication-factor 1 #複製兩份
–partitions 1 #建立1個分割槽
–topic #主題為test

檢視主題
bin/kafak-topics.sh –list –zookeeper zookeeper所在的ip:2181

這裡寫圖片描述

啟動producer
bin/kafka-console-producer.sh –broker-list localhost:9092 –topic test

這裡寫圖片描述

啟動consumer
bin/kafka-console-consumer.sh –zookeeper zookeeper所在的ip:2181 –topic test

這裡寫圖片描述