1. 程式人生 > >Cloudera 5.7叢集部署(四)--KAFKA整合

Cloudera 5.7叢集部署(四)--KAFKA整合

1 Cloudera kafka整合

參考CDH官網文件http://www.cloudera.com/content/www/en-us/documentation/kafka/latest/topics/kafka_installing.html
在CDH官網中關於Kafka的安裝和升級中已經說到,在CDH中,Kafka作為一個分散式的parcel,單獨出來作為parcel分發安裝包。

1.1 Kafka parcels包下載
csd包:http://archive.cloudera.com/csds/kafka/
這裡寫圖片描述
parcel包: http://archive.cloudera.com/kafka/parcels/latest/

(根據自己的叢集的系統版本下載)
這裡寫圖片描述
1.2 Kafka parcels包上傳
上傳 KAFKA-1.2.0.jar放到cm安裝節點下的 /opt/cloudera/csd目錄下,如圖 :
這裡寫圖片描述
將parcel包放到cm安裝節點下的/opt/cloudera/parcel-repo目錄下,如圖:
這裡寫圖片描述
1.3 檢查更新,分配啟用
如下圖,分配的kafka parcels必須要啟用。
這裡寫圖片描述
如下圖,啟用成功
這裡寫圖片描述
1.4 往叢集裡新增kafka服務
如下圖:
這裡寫圖片描述

1.5 kafka配置
安裝kafka服務時,會報java heap memory out
進主機各broker中配置一看,居然預設是50M(奇葩配置),改為2G以上

這裡寫圖片描述