Kafka 單節點多Broker部署及使用
一、單節點多Broker
配置參考官方給的參考文件,一臺機器上配置3個kafak
(1) copy 之前設定的server.properties配置檔案
cp server.properties server-1.properties
cp server.properties server-2.properties
cp server.properties server-3.properties
server-1.properties修改如下引數
broker.id =1
listeners=PLAINTEXT://:9093
log.dir=/home/hadoop/app/tmp/kafka-logs1
server-2.properties修改如下引數
broker.id =2
listeners=PLAINTEXT://:9094
log.dir=/home/hadoop/app/tmp/kafka-logs2
server-3.properties修改如下引數broker.id =3
listeners=PLAINTEXT://:9095
log.dir=/home/hadoop/app/tmp/kafka-logs3
啟動指令如下:
kafka-server-start.sh -daemon $KAFKA_HOME/config/server-1.properties &
kafka-server-start.sh -daemon $KAFKA_HOME/config/server-2.properties &
kafka-server-start.sh -daemon $KAFKA_HOME/config/server-3.properties
使用jps檢視,將會看到3個kafka程序,使用jps -m檢視程序使用的config文件。
kafka使用:
1.建立topic資訊
kafka-topics.sh --create --zookeeper localhost:2181 --replicaton-factor(副本數) 3 --partitons 1 --topic "my-replicated-topic"d
檢視topic使用kafka-topics.sh --list --zookeeper localhost:2181
檢視詳細資訊:kafka-topics.sh --describe --zookeeper localhost:2181 ,此時的leader:主的broker ,replicas:代表副本對應的broker id 號, Isr:代表活著的broker
2.傳送訊息
kafka-producer.sh --broker-list localhost:9093,localhost:9094,localhost:9095 --topic my-replicated-topic
然後啟動一個消費者進行消費:
kafka-console-consumer.sh --zookeeper localhost:2181 ---topic my-replicated-topic
進行測試即可。
多節點多broker和單節點多broker的配置相似,具體請參考官網。