1. 程式人生 > >Kafka 單節點多Broker部署及使用

Kafka 單節點多Broker部署及使用

一、單節點多Broker

配置參考官方給的參考文件,一臺機器上配置3個kafak

(1) copy 之前設定的server.properties配置檔案

 cp server.properties server-1.properties

 cp server.properties server-2.properties

 cp server.properties server-3.properties

server-1.properties修改如下引數

broker.id =1 

listeners=PLAINTEXT://:9093

log.dir=/home/hadoop/app/tmp/kafka-logs1

server-2.properties修改如下引數

broker.id =2

listeners=PLAINTEXT://:9094

log.dir=/home/hadoop/app/tmp/kafka-logs2

server-3.properties修改如下引數

broker.id =3

listeners=PLAINTEXT://:9095

log.dir=/home/hadoop/app/tmp/kafka-logs3

啟動指令如下:

kafka-server-start.sh  -daemon  $KAFKA_HOME/config/server-1.properties &

kafka-server-start.sh  -daemon  $KAFKA_HOME/config/server-2.properties  &

kafka-server-start.sh  -daemon  $KAFKA_HOME/config/server-3.properties 

使用jps檢視,將會看到3個kafka程序,使用jps -m檢視程序使用的config文件。

kafka使用:

1.建立topic資訊

kafka-topics.sh  --create --zookeeper localhost:2181 --replicaton-factor(副本數) 3 --partitons 1 --topic "my-replicated-topic"d

檢視topic使用kafka-topics.sh --list --zookeeper localhost:2181

檢視詳細資訊:kafka-topics.sh --describe --zookeeper localhost:2181 ,此時的leader:主的broker ,replicas:代表副本對應的broker id 號,  Isr:代表活著的broker

2.傳送訊息

kafka-producer.sh --broker-list localhost:9093,localhost:9094,localhost:9095 --topic my-replicated-topic

然後啟動一個消費者進行消費:

kafka-console-consumer.sh  --zookeeper localhost:2181 ---topic my-replicated-topic

進行測試即可。

多節點多broker和單節點多broker的配置相似,具體請參考官網。