1. 程式人生 > >Kafka Broker | 命令行選項和過程

Kafka Broker | 命令行選項和過程

獲取 property 接受 服務器 創建 管理 負責 ren load

1.目標

在這個Apache Kafka 教程中,我們將學習Kafka Broker。Kafka Broker管理主題中的消息存儲。如果Apache Kafka有多個代理,那就是我們所說的Kafka集群此外,在本Kafka Broker教程中,我們將學習如何啟動Kafka Broker和Kafka命令行選項。
那麽,讓我們開始Apache Kafka Broker。

技術分享圖片

Kafka Broker | 命令行選項和過程

2.什麽是Kafa經紀人?

Kafka代理也稱為Kafka服務器和Kafka節點。這些所有名稱都是它的同義詞。簡單來說,經紀人是兩者之間的中介。但是,Kafka經紀人更準確地描述為消息代理,它負責調解不同計算機系統之間的對話,保證將消息傳遞給正確的各方。


閱讀Apache Kafka Security | Kafka的需求和組件
因此,Kafka集群通常由多個代理組成。Kafka Cluster使用Zookeeper來維護集群狀態。單個Broker每秒可以處理數千次讀寫操作。 然而,如果沒有性能影響,每個代理都可以處理TB消息。另外,要非常肯定ZooKeeper會執行經紀人領袖選舉。

技術分享圖片

經紀人在卡夫卡的工作

基本上,Kafka中的經紀人被建模為主持主題的KafkaServer。在這裏,給定的主題總是在代理之間進行分區,在集群中,單個代理實際上托管一個或多個主題的主題分區,即使主題僅分區到單個分區也是如此。
了解Apache Kafka Consumer |

Kafka Consumer的示例
此外,生產者在收到經紀人將其存儲在由唯一偏移量鍵入的磁盤上後,向代理發送消息。此外,通過主題,分區和偏移,代理允許消費者獲取消息。但是,代理可以通過使用Zookeeper直接或間接地相互共享信息來創建群集。此外,我們可以說Kafka集群只有一個代理作為控制器。通過使用kafka-server-start.sh腳本,我們可以啟動一個Kafka經紀人。

3.如何啟動Kafka Broker?

  • 啟動Zookeeper。
  1. ./bin/zookeeper-server-start.sh config / zookeeper.properties

我們可以啟動一個Kafka服務器,只有當Zookeeper啟動並運行時(它將連接到Zookeeper)。

  1. ./bin/kafka-server-start.sh config / server.properties
  2. kafka-server-start.sh腳本

因此,kafka-server-start.sh 啟動經紀人。

  1. $ ./bin/kafka-server-start.sh
  2. 用法:./ bin / kafka-server-start.sh [ -daemon ] server.properties [ --override property = value ] *

註意 -在運行kafka-server-start.sh 之前,請確保Zookeeper已啟動並運行而且,使用zookeeper-server-start shell腳本。
看看Apache Kafka + Spark Streaming Integration
kafka-server-start.sh 使用config / log4j.properties來記錄我們可以使用KAFKA_LOG4J_OPTS 環境變量覆蓋的配置

  1. KAFKA_LOG4J_OPTS = “ - Dlog4j.configuration = file:config / log4j.properties”

kafka-server-start.sh 接受KAFKA_HEAP_OPTS和EXTRA_ARGS 環境變量。

4.卡夫卡命令行選項

-name
在守護進程模式下默認為kafkaServer。
-loggc
在守護進程模式下啟用。
-daemon
啟用守護程序模式。
-override property = value
應覆蓋server.properties文件中為property設置的值的值。
讓我們修改Apache Kafka Streams | 流處理拓撲

  1. $ ./bin/kafka-server-start.sh config / server.properties --override broker.id = 100
  2. ...
  3. 信息[ KafkaServer id = 100 ]已啟動kafka.server.KafkaServer

5.結論

因此,我們已經學習了完整的Kafka Broker以及啟動它的命令。但是,如果有任何疑問,請隨時在評論部分詢問。
另請參閱 -
Kafka-序列化和反序列化以

Kafka Broker | 命令行選項和過程