1. 程式人生 > >Centos kafka單機配置部署詳解

Centos kafka單機配置部署詳解

Centos下kafka 單機配置部署詳解

前提:

Linux版本:CentOS release 6.6 (Final) 
JDK版本:jdk-7u71-linux-x64.tar.gz 
zookeeper版本:zookeeper-3.3.6.tar.gz 
kafka版本:kafka_2.11-0.9.0.1.tgz

這裡寫圖片描述

1、安裝JDK

  • 步驟1:新建路徑/usr/java, 並在其下解壓 jdk-7u71-linux-x64.tarmkdir -p /usr/java
    tar -zxvf jdk-7u71-linux-x64.tar.gz驟2:新增JDK到系統環境變數
[root@test
java]# vi /etc/profile

新增以下內容:
export JAVA_HOME=/usr/java/jdk1.7.0_71
export PATH=JAVAHOME/bin:PATH
export CLASSPATH=.:JAVAHOME/lib/dt.jar:JAVA_HOME/lib/tools.jar

  • 步驟3:使配置生效
source /etc/profile #使配置檔案立即生效 
  • 驗證是否安裝成功
[root@test java]# java -version 
java version "1.7.0_71"
Java(TM) SE Runtime Environment (build 1.7.0_71-b14) Java HotSpot(TM) 64-Bit Server VM (build 24.71-b01, mixed mode)

2、安裝zookeeper

  • 步驟1:解壓zookeeper安裝包(路徑無關,我放在/home/自己的路徑下了)
tar -zxvf zookeeper-3.3.6.tar.gz 
  • 步驟2:配置環境變數
export zookeeper_home=/home/laoyang/zookeeper 
  • 步驟3:使配置生效
source /etc/profile 
  • 驗證是否安裝成功:
[[email protected] bin]# sh $zookeeper_home/bin/zkServer.sh start 
JMX enabled by default 
Using config: /home/laoyang/zookeeper/bin/../conf/zoo.cfg 
grep: /home/laoyang/zookeeper/bin/../conf/zoo.cfg: No such file or directory 
Starting zookeeper ... STARTED

3、安裝kafka

  • 步驟1:解壓&移動到/usr/local
tar -xzvf kafka_2.11-0.9.0.1.tgz
mv kafka_2.11-0.9.0.1 /usr/local/kafka
  • 步驟2:配置kafka,修改server.properties
mkdir /usr/local/kafka/log/kafka #建立kafka日誌目錄 
cd /usr/local/kafka/config #進入配置目錄 
vi server.properties #編輯修改相應的引數 
broker.id=0 
port=9092 #埠號 
host.name=10.8.5.101 #伺服器IP地址,修改為自己的伺服器IP 
log.dirs=/usr/local/kafka/log/kafka #日誌存放路徑,上面建立的目錄 
zookeeper.connect=localhost:2181 #zookeeper地址和埠,單機配置部署,localhost:2181 
  • 步驟3、配置kafka下的zookeeper
mkdir /usr/local/kafka/zookeeper #建立zookeeper目錄 
mkdir /usr/local/kafka/log/zookeeper #建立zookeeper日誌目錄 
cd /usr/local/kafka/config #進入配置目錄 
vi zookeeper.properties #編輯修改相應的引數 
dataDir=/usr/local/kafka/zookeeper #zookeeper資料目錄 
dataLogDir=/usr/local/kafka/log/zookeeper #zookeeper日誌目錄 
clientPort=2181 
maxClientCnxns=100 
tickTime=2000 
initLimit=10 
  • 步驟4:建立啟動、關閉kafka指令碼

– 1)建立啟動kafka指令碼

vi kafkastart.sh #編輯,新增以下程式碼
#!/bin/bash
#啟動zookeeper
/usr/local/kafka/bin/zookeeper-server-start.sh /usr/local/kafka/config/zookeeper.properties &
sleep 3 #等3秒後執行
啟動kafka
/usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties &

– 2)建立關閉kafka指令碼

#!/bin/bash
#關閉zookeeper
/usr/local/kafka/bin/zookeeper-server-stop.sh /usr/local/kafka/config/zookeeper.properties &
sleep 3 #等3秒後執行
#關閉kafka
/usr/local/kafka/bin/kafka-server-stop.sh /usr/local/kafka/config/server.properties &

– 3)#新增指令碼執行許可權

chmod +x kafkastart.sh
chmod +x kafkastop.sh

– 4)設定指令碼開機自動執行

vi /etc/rc.d/rc.local #編輯,在最後新增一行 
sh /usr/local/kafka/kafkastart.sh & #設定開機自動在後臺執行指令碼 
sh /usr/local/kafka/kafkastart.sh #啟動kafka 
sh /usr/local/kafka/kafkastop.sh #關閉kafka 

至此,經過1,2,3Linux下Kafka單機安裝配置完成。

4、測試kafka

  • 步驟1:啟動zookeeper
[[email protected] bin]# sh $zookeeper_home/bin/zkServer.sh start 
JMX enabled by default 
Using config: /home/laoyang/zookeeper/bin/../conf/zoo.cfg 
grep: /home/laoyang/zookeeper/bin/../conf/zoo.cfg: No such file or directory 
Starting zookeeper ... STARTED 
  • 步驟2:啟動kafka
[root@test kafka]# ./kafkastart.sh
  • 步驟3:測試建立topic
cd /usr/local/kafka/bin 
./kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test 
  • 步驟4:通過list命令檢視建立的topic
cd /usr/local/kafka/bin 
./kafka-topics.sh –list –zookeeper localhost:2181 
  • 步驟5:生產訊息測試
[[email protected] bin]# ./kafka-console-producer.sh --broker-list localhost:9092 --topic test 
laoyang I love you! 

步驟6:消費訊息測試

[[email protected] bin]# ./kafka-console-consumer.sh –zookeeper localhost:2181 –topic test –from-beginning
I’m laoyang #之前測試輸入的內容
laoyang I love you!

經過以上6步,代表kafka安裝成功。

5、停止kafka

  • 步驟1:停止Kafka
cd /usr/local/kafka 
[root@test kafka]# ./kafkastop.sh 
  • 步驟2:停止Zookeeper server
sh $zookeeper_home/bin/zkServer.sh stop 

至此,啟動,測試,停止全過程ok。

相關推薦

Centos kafka單機配置部署

Centos下kafka 單機配置部署詳解 前提: Linux版本:CentOS release 6.6 (Final) JDK版本:jdk-7u71-linux-x64.tar.gz zookeeper版本:zookeeper-3.3.6.tar.gz

CentOS防火牆的配置方法【iptables】

CentOS6/7系統是基於linux中的,它的防火牆其實就是iptables了。 下面我來介紹在CentOS防火牆iptables的配置教程,希望此教程對各位朋友會有所幫助。 iptables是與Linux核心整合的IP資訊包過濾系統,其自帶防火牆功能,我們在配置完伺服器的角色功能後,需要修改iptab

CentOS 7 安裝配置 VNC

配置文件 安裝配置 default nom png 配置信息 mina vim 服務啟動 VNC是什麽( Virtual Network Computing)VNC允許Linux系統可以類似實現像Windows中的遠程桌面訪問那樣訪問Linux桌面。本文配置是在CentOS

storm集群部署配置過程

多少 帶來 進程 創建 使用 命令 介紹 aml 可能 ---恢復內容開始--- 先整體介紹一下搭建storm集群的步驟: 設置zookeeper集群 安裝依賴到所有nimbus和worker節點 下載並解壓storm發布版本到所有nimbus和worker節點 配置s

CentOS 7系統安裝配置圖文

安裝CentOS一、安裝CentOS 7成功引導系統後,會出現下面的界面界面說明:Install CentOS Linux 7 #安裝CentOS 7 Test this media & install CentOS Linux 7 #測試安裝文件並安裝CentOS7 Troublesh

CentOS防火墻的配置方法【iptables】

config 虛擬機 朋友 主動模式 pop3 restart eve fig 0.10 CentOS6/7系統是基於linux中的,它的防火墻其實就是iptables了。 下面我來介紹在CentOS防火墻iptables的配置教程,希望此教程對各位朋友會有所幫助。 ipt

CentOS 7.5安裝配置Tomcat(二)

二、Tomcat調優、開機自啟和日誌切割 1、  編譯安裝openssl、apr、apr-util和tomcat-native: (1)編譯安裝openssl(下載地址https://www.openssl.org/source/): # yum -y install openssl-de

CentOS 7.5安裝配置Tomcat(一)

Tomcat是Apache軟體基金會Jakarta專案中的一個核心專案,主要實現了Java EE中的Servlet、JSP規範,同時也提供HTTP服務,是主流的、免費開源的Java Web輕量級應用伺服器。 一、安裝Tomcat: 1、  安裝JDK(下載地址https://www.orac

Kafka配置檔案

Kafka配置檔案詳解 1. 生產端的配置檔案 producer.properties 2. 消費端的配置檔案 consumer.properties: 3.服務端的配置檔案 server.properties

CentOS 7安裝MariaDB 10以及相關配置

show utf8 內容 操作 4.0 ant star emctl baseurl CentOS 7安裝MariaDB 10詳解以及相關配置 第一步:添加 MariaDB yum 倉庫 首先在CentOS操作系統中/etc/yum.repos.d/目錄下添加 Mari

springboot配置kafka生產者和消費者

在原有pom.xml依賴下新新增一下kafka依賴ar包 <!--kafka--> <dependency> <groupId>org.springframework.kafka</groupId> <artifactId>spring-kafka

kafka配置檔案之:server.properties

#每一個broker在叢集中的唯一表示,要求是正數。當該伺服器的IP地址發生改變時,broker.id沒有變化,則不會影響consumers的訊息情況broker.id=0#broker server服務埠 port =9092#處理網路請求的執行緒數量num

storm叢集部署配置過程

  先整體介紹一下搭建storm叢集的步驟: 設定zookeeper叢集安裝依賴到所有nimbus和worker節點下載並解壓storm釋出版本到所有nimbus和worker節點配置storm.yaml啟動相關後臺程序 1 首先配置zookeeper叢集      我

CentOS防火牆iptables的配置方法

iptables是與Linux核心整合的IP資訊包過濾系統,其自帶防火牆功能,我們在配置完伺服器的角色功能後,需要修改iptables的配置。 配置CentOS和Ubuntu等Linux伺服器時需要對伺服器的iptables進行配置,以下是iptables常見的幾種配置方法

【轉發】centos 7開啟FTP以及新增使用者配置許可權,只允許訪問自身目錄,不能跳轉根目錄 linux下ftp配置檔案

1.切換到root使用者 2.檢視是否安裝vsftp,我這個是已經安裝的。 [[email protected] vsftpd]# rpm -qa |grep vsftpd vsftpd-3.0.2-11.el7_2.x86_64 3.如果沒有發現,則安裝。 yum ins

kafka配置檔案之:producer.properties

#指定節點列表 metadata.broker.list=kafka01:9092,kafka02:9092,kafka03:9092 #指定分割槽處理類。預設kafka.producer.D

Kafka配置引數

producer組將會彙總任何在請求與傳送之間到達的訊息記錄一個單獨批量的請求。通常來說,這隻有在記錄產生速度大於傳送速度的時候才能發生。然而,在某些條件下,客戶端將希望降低請求的數量,甚至降低到中等負載一下。這項設定將通過增加小的延遲來完成--即,不是立即傳送一條記錄,producer將會等待給定的

部署storm和配置檔案

#########安裝storm######## storm_install.sh sudo ansible -i ansible_hosts elk -m copy -a "src=/letv/apache-storm-1.1.0.tar.gz dest=/l

kafka實戰教程(python操作kafka),kafka配置檔案

全棧工程師開發手冊 (作者:欒鵬) kafka介紹 1.1. 主要功能 根據官網的介紹,ApacheKafka®是一個分散式流媒體平臺,它主要有3種功能: 1:It lets you publish and subscribe to strea

Linux CentOS 伺服器搭建與初始化配置圖文

轉載自:http://www.linuxidc.com/Linux/2017-07/145878.htm  這幾天對伺服器興趣賊為濃厚,在虛擬機器上裝了一個CentOS7玩了玩,遇到過很多問題,比如網絡卡驅動設定,不能ping 等等問題,然後掏錢買個ECS搭伺服器玩玩,