1. 程式人生 > >kudu和kudu-impala的安裝流程

kudu和kudu-impala的安裝流程


安裝apache的kudu

第一步:下載rpm包

[[email protected] kudu]# yum -y install cyrus-sasl-plain lsb ntp
[[email protected] kudu]# rpm -ivh *

第三步:配置檔案

###配置主、從機
master1:
/etc/default/kudu-master 
export FLAGS_log_dir=/app/kudu/log  //日誌目錄
export FLAGS_rpc_bind_addresses=0.0.0.0:7051 //或hostname:7051

/etc/kudu/conf/master.gflagfile
--fromenv=rpc_bind_addresses
--fromenv=log_dir
--fs_wal_dir=/app/kudu/master
--fs_data_dirs=/app/kudu/master
--max_clock_sync_error_usec=20000000
--master_addresses=hadoopname01vl:7051,hadoopname02vl:7051
--max_create_tablets_per_ts=40
--default_num_replicas=3

master2:
/etc/default/kudu-master 
export FLAGS_log_dir=/app/kudu/log  //日誌目錄
export FLAGS_rpc_bind_addresses=0.0.0.0:7051 //或hostname:7051

/etc/kudu/conf/master.gflagfile
--fromenv=rpc_bind_addresses
--fromenv=log_dir
--fs_wal_dir=/app/kudu/master
--fs_data_dirs=/app/kudu/master
--max_clock_sync_error_usec=20000000
--master_addresses=hadoopname01vl:7051,hadoopname02vl:7051
--max_create_tablets_per_ts=40
--default_num_replicas=3

tserver1:
/etc/default/kudu-tserver
export FLAGS_log_dir=/app/kudu/log  //日誌目錄
export FLAGS_rpc_bind_addresses=0.0.0.0:7050  //或hostname:7050

/etc/kudu/conf/tserver.gflagfile
--fromenv=rpc_bind_addresses
--fromenv=log_dir
--fs_wal_dir=/app/kudu/tserver
--fs_data_dirs=/app/kudu/tserver
--max_clock_sync_error_usec=20000000
--tserver_master_addrs=hadoopname02vl:7051,hadoopname01vl:7051 //繫結master節點	

tserver2:
/etc/default/kudu-tserver
export FLAGS_log_dir=/app/kudu/log  //日誌目錄
export FLAGS_rpc_bind_addresses=0.0.0.0:7050  //或hostname:7050

/etc/kudu/conf/tserver.gflagfile
--fromenv=rpc_bind_addresses
--fromenv=log_dir
--fs_wal_dir=/app/kudu/tserver
--fs_data_dirs=/app/kudu/tserver
--max_clock_sync_error_usec=20000000
--tserver_master_addrs=hadoopname02vl:7051,hadoopname01vl:7051 //繫結master節點	

第四步:設定ntpd服務

第五步:設定目錄許可權

日誌目錄: 
mkdir /app/kudu/log 
chown -R kudu:kudu /app/kudu/log

資料目錄:
mkdir /app/kudu/master 
mkdir /app/kudu/tserver 從
chown -R kudu:kudu /app/kudu/master 主
chown -R kudu:kudu /app/kudu/tserver 從

第六步:啟動kudu

[[email protected] default]# /etc/init.d/kudu-master start
[[email protected] default]# /etc/init.d/kudu-tserver start

第七步:在ui訪問kudu

http://192.168.0.119:8051/
http://192.168.0.120:8050/

安裝apache的impala-kudu(建議直接用CM整合的)

第一步:

第二步:

rpm -ivh bigtop-utils-0.7.0+cdh5.12.0+0-1.cdh5.12.0.p0.37.el6.noarch.rpm 
rpm -ivh impala-kudu-2.7.0+cdh5.9.0+0-1.cdh5.9.0.p0.11.el6.x86_64.rpm --nodeps
rpm -ivh impala-kudu-catalog-2.7.0+cdh5.9.0+0-1.cdh5.9.0.p0.11.el6.x86_64.rpm
rpm -ivh impala-kudu-state-store-2.7.0+cdh5.9.0+0-1.cdh5.9.0.p0.11.el6.x86_64.rpm
rpm -ivh impala-kudu-server-2.7.0+cdh5.9.0+0-1.cdh5.9.0.p0.11.el6.x86_64.rpm
yum install -y python-setuptools
rpm -ivh impala-kudu-shell-2.7.0+cdh5.9.0+0-1.cdh5.9.0.p0.11.el6.x86_64.rpm
rpm -ivh impala-kudu-udf-devel-2.7.0+cdh5.9.0+0-1.cdh5.9.0.p0.11.el6.x86_64.rpm

主節點安裝catalog和state-store
從節點不要安裝catalog和state-store

第三步:

vim /etc/default/bigtop-utils
export JAVA_HOME=/home/local/jdk1.8.0_131/
vim /etc/default/impala
IMPALA_CATALOG_SERVICE_HOST=192.168.0.116
IMPALA_STATE_STORE_HOST=192.168.0.116
cd /etc/impala/conf.dist
cp -a /opt/cloudera/parcels/CDH/lib/hadoop/etc/hadoop/core-site.xml .
cp -a /opt/cloudera/parcels/CDH/lib/hadoop/etc/hadoop/hdfs-site.xml .

安裝CDH的kudu

第一步:

第二步:

安裝CDH的impala-kudu

第一步:

第二步:

alternatives --display impala-shell

### 更換impala-shell對應的版本
alternatives --set impala-shell /opt/cloudera/parcels/IMPALA_KUDU-2.7.0-3.cdh5.9.0.p0.10/bin/impala-shell

### 測試:
CREATE TABLE my_first_table (
  id BIGINT PRIMARY KEY,
  name STRING
)
PARTITION BY HASH PARTITIONS 2
STORED AS KUDU  
TBLPROPERTIES('kudu.master_addresses' = '10.27.5.79:7051') ;

insert into my_first_table values(100,'2017-08-27 21:46:04');
insert into my_first_table values(101,'2017-08-28 21:46:04');
insert into my_first_table values(102,'2017-08-26 21:46:04');
insert into my_first_table values(103,'2017-08-29 21:46:04');
insert into my_first_table values(104,'2017-08-25 21:46:04');

select * from my_first_table where name > '2017-08-25 21:46:04';

CREATE TABLE my_first_table_2 (
  id BIGINT PRIMARY KEY,
  time UNIXTIME_MICROS
)
PARTITION BY HASH PARTITIONS 2
STORED AS KUDU  
TBLPROPERTIES('kudu.master_addresses' = 'hadoop11:7051');

相關推薦

kudukudu-impala安裝流程

安裝apache的kudu 第一步:下載rpm包 [[email protected] kudu]# yum -y install cyrus-sasl-plain lsb ntp [[

impalakudu使用的小細節

ans order key nbsp start schema tar hive 語句 七堇年:我們要有最樸素的生活與最遙遠的夢想 。 即使明日天寒地凍,路遠馬亡。 加油! 之前入門的小錯誤總結,建表都會出錯,真的好尷尬 還是要做好筆記 第一個錯誤: err

cognos安裝配置即席報表流程

自帶jdk pan 慢慢 成對 spa 無法 加密文件 用戶權限 退出 安裝前的配置: 1、 Cognos數據庫的創建和用戶的創建 註意:字符集需要設置為UTF-8;Cognos用戶權限可以給dba; 2、系統上原有JDK的刪除(因為Cognos已經自帶JDK) 安裝

ESXi6.7安裝流程bug處理

  ·前言   ·準備工作   ·安裝   ·Initializing IOV卡住   ·缺少網絡卡驅動   ·安裝ESXi6.7   ·Multiboot could not setup the video subsystem   ·建立虛擬機器   ·最後  

SVN的安裝(服務端安裝客戶端安裝詳細流程)

VisualSVN安裝-服務端 下載:VisualSVN安裝下載 安裝:下載完成後可以看到VisualSVN-Server的相關安裝包 上圖中: Location:是安裝主目錄 Repos

Ubuntu中GCCG++安裝流程

設定網路連線 點選虛擬機器——設定——選擇NET模式(也有其他網路連線的方式,此處僅介紹NET模式) 開啟此電腦——管理或者我的電腦(win7等) 分別點開VMware Authorization Service和VMware NAT Service啟動型別設定為自動。 此時,Ubuntu可以上網。

ELK安裝流程ELK安裝遇到的所有坑

安裝filebeat 1.解壓tar -zxvf filebeat-5.2.2-linux-x86_64.tar.gz 2. 修改filebeat.yml裡的配置內容,一個輸入,一個輸出。 3. 修改如下: input:(第二個紅框改成自己日誌源)

[Kudu基礎]--Kudu+Impala介紹

Kudu+Impala介紹 概述 Kudu和Impala均是Cloudera貢獻給Apache基金會的頂級專案。Kudu作為底層儲存,在支援高併發低延遲kv查詢的同時,還保持良好的Scan效能,該特性使得其理論上能夠同時兼顧OLTP類和OLAP類查詢。Impala作為老牌的SQL解析引擎,其

MySQL 入門介紹簡單下載方式安裝流程

本文主要介紹為8.0版本 MySQL資料庫介紹 • MySQL是一種開放原始碼的關係型資料庫管理系統(RDBMS), MySQL資料庫系統使用最常用的資料庫管理語言--結構化查詢語 言(SQL)進行資料庫管理。 • MySQL的歷史最早可以追溯到1979年,那時Oracle也才剛剛開始, 微軟的SQL Ser

kuduhbase的區別聯絡

前提 hbase的物理模型是master和regionserver,regionserver儲存的是region,region裡邊很有很多store,一個store對應一個列簇,一個store中有一

linuxwindows下安裝python拓展包及requirement.txt安裝類庫

too tor == 引導 -cp mod flask utf addition http://blog.csdn.net/pipisorry/article/details/39902327python拓展包安裝直接安裝拓展包默認路徑:Unix(Linux)默認路徑:/

Windows10下python3python2同時安裝 python2.exe、python3.exepip2、pip3設置

bsp net 運行 安裝python all 能夠 命令 自動添加 exe 1、添加python2到系統環境變量 打開,控制面板\系統和安全\系統,選擇高級系統設置,環境變量,選擇Path,點擊編輯,新建,分別添加D:\Python\python27和D:\P

Python3.6 Pycharm 詳細安裝教程

python pycharm一.Python3.61.下載Python安裝包 https://www.python.org/ 2.安裝Python 2.1.雙擊安裝,勾選下面兩項,選擇自定義安裝2.2.此處默認,直接下一步2.3.選擇安裝路勁,開始安裝2.4.安裝完成3.運行PythonPython3.6

【Asp.Net Core】一、Visual Studio 2015 .NET Core 安裝

過濾器 int 3.2 屬性和方法 static 資料 c3p0 案例 handling 安裝 Visual Studio 和 .NET Core 1、安裝 Visual Studio Community 2015,選擇 Community 下載並執行默認安裝。Visual

vmwarecentOS的安裝

centos vmw entos 虛擬機 空間 min 用戶 iso 安裝 如果勾上了,會立即在本機開辟20g的空間,需要很長時間 選擇電腦中ISO鏡像的位置,之後點擊開啟虛擬機! 這個密碼是root用戶的密碼!管理員密碼! 可以選擇我們的Minimal沒有界面的!

linux mount使用rpm包安裝

linux 虛擬機 工具欄 光盤 光驅 如果是物理真機(非虛擬機),放入光盤後系統會自動加載,可以通過命令“mount”查看系統掛載情況,然後繼續用命令“mount"去實現其它的掛載任務(即 新增掛載);如果是虛擬機,需要情況也差不多,操作示例如下:第一步:加載DVD光盤(相當於把DVD光

魔百CM101s破解安裝第三方軟件看直播點播教程!

自己 屬性 進入 管理 全部 接口 cnblogs html 建議 準備工具:TTL轉USB工具 ch340g、通電的鐵絲、U盤、電腦 1、首先將自己想要安裝的軟件下載到U盤,全部重命名為:1.apk、2.apk,以此類推,然後把U盤插到盒子的USB接口 (一定要下載當

CentOS安裝流程詳解

菜鳥取經路之linux系統安裝 對於剛剛接觸Linux的人們來說,遇到的第一個問題便是如何快速安裝一個Linux系統。我初次接觸 Linux時也是摸索許久才安裝成功。鑒於此,今天就給大家帶來完整詳細的Linux安裝過程。一、準備安裝所需的軟件 1、VMwareWorkstation

zabbix源碼安裝流程及報錯解決方法

zabbixzabbix源碼安裝流程及報錯解決方法一. zabbix的介紹1) zabbix是什麽zabbix是一款基於web頁面的、開源的、企業級的,支持分布式部署的監控軟件。2)2.zabbix的作用監控windows和Linux主機上的軟硬件狀態。監控各網絡設備,如路由器、交換機、防火墻、f5、打印機等

js判斷ieedge是否安裝Adobe Reader PDF閱讀器

瀏覽pdf 方便 else pdf location win edge class ber ie瀏覽器和edge瀏覽器,必須用Adobe Reader PDF閱讀器才可以打開pdf文件,其他現代瀏覽器自帶pdf閱讀器,無需安裝。 判斷ie或者edge如果安裝了,就瀏覽pdf