1. 程式人生 > >Linux-centos下安裝hue視覺化以及與hdfs、hive、hbase和mysql的整合

Linux-centos下安裝hue視覺化以及與hdfs、hive、hbase和mysql的整合

1. Hue概述及版本下載
1)概述

    Hue是一個開源的Apache Hadoop UI系統,最早是由Cloudera Desktop演化而來,由Cloudera貢獻給開源社群,它是基於Python Web框架Django實現的。通過使用Hue我們可以在瀏覽器端的Web控制檯上與Hadoop叢集進行互動來分析處理資料,例如操作HDFS上的資料,執行MapReduce Job等等。

2)下載

    CDH版本下載

    官網下載

2. 編譯安裝
1)解壓

tar -zxf hue-3.9.0-cdh5.5.0.tar.gz -C /opt/modules/

2)安裝依賴包(下面的包可能多了幾個)

yum install ant asciidoc cyrus-sasl-devel cyrus-sasl-gssapi cyrus-sasl-plain gcc gcc-c++ krb5-devel libtidy libffi-devel libxml2-devel libxslt-devel make mysql mysql-devel openldap-devel python-devel sqlite-devel gmp-devel openssl-devel mysql-devel

3)編譯

cd hue-3.9.0-cdh5.5.0
make apps

3. Hue基本配置與服務啟動
1)修改配置檔案(vi $HUE_HOME/desktop/conf/hue.ini)

# 祕鑰
secret_key=jFE93j;2[290-eiw.KEiwN2s3['d;/.q[eIW^y#e=+Iei*@Mn < qW5o
# host port
http_host=node7
http_port=8888
# 時區
time_zone=Asia/Shanghai

2)新增hue使用者修改desktop.db 檔案許可權和所屬使用者(不能為root使用者)

chmod o+w desktop/desktop.db
adduser hue
chown -R hue:hue

3)啟動Hue服務

/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor

4)檢視Hue web介面

    訪問地址:http://node7:8888

4. Hue與HDFS整合,HDFS安裝參考部落格
1)修改core-site.xml配置檔案,新增如下內容

<property>
    <name>hadoop.proxyuser.hue.hosts</name>
    <value>*</value>
</property>
<property>
    <name>hadoop.proxyuser.hue.groups</name>
    <value>*</value>
</property>

2)修改hue.ini配置檔案

fs_defaultfs=hdfs://node5:9000<span style="white-space:pre;">        </span>// hdfs預設路徑
webhdfs_url=http://node5:50070/webhdfs/v1
hadoop_hdfs_home=/opt/modules/hadoop-2.5.0
hadoop_bin=/opt/modules/hadoop-2.5.0/bin
hadoop_conf_dir=/opt/modules/hadoop-2.5.0/etc/hadoop

3)將core-site.xml配置檔案分發到其他節點

scp core-site.xml node6:/opt/modules/hadoop-2.5.0/etc/hadoop
scp core-site.xml node7:/opt/modules/hadoop-2.5.0/etc/hadoop

4)重新啟動hue

/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor

5)訪問url

    地址:http://node7:8888/filebrowser/

5. Hue與YARN整合,YARN安裝參考部落格
1)修改hue.ini配置檔案

resourcemanager_host=zxl2
resourcemanager_port=8032
submit_to=true
resourcemanager_api_url=http://node5:8088
proxy_api_url=http://node5:8088
history_server_api_url=http://node5:19888

2)重新啟動hue

/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor

6. Hue與Hive整合,Hive安裝參考部落格
1)修改hue.ini配置檔案

hive_server_host=node7
hive_server_port=10000
hive_conf_dir=/opt/modules/hive-0.13.1-bin/conf


2)重新啟動hue

/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor

7. Hue與mysql整合,mysql安裝參考部落格
1)修改hue.ini配置檔案

nice_name="My SQL DB"        // 隨意配置
name=metastore                // 資料庫名
engine=mysql 
host=node7 
port=3306
user=root 
password=1234


注意:[[[mysql]]]前的##要刪掉

2)重新啟動hue

/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor

8. Hue與HBase整合,HBase安裝參考部落格
1)修改hue.ini配置檔案

hbase_clusters=(Cluster|node5:9090)    // 隨意配置叢集中某一臺hbase
hbase_conf_dir=/opt/modules/hbase-0.98.6-cdh5.3.0/conf


2)HBase中啟動thrift服務

bin/hbase-daemon.sh start thrift

9. Hue使用注意事項
1)hive 啟動使用後臺啟動

nohup bin/hiveserver2 &

2)hue使用穩定版本:hue-3.7.0-cdh5.3.6

原文:https://blog.csdn.net/u011254180/article/details/80178771