1. 程式人生 > >Ambari2.5+HDP2.6叢集配置安裝

Ambari2.5+HDP2.6叢集配置安裝

有道有筆記地址: http://note.youdao.com/noteshare?id=4a8bb0f1a02e3b9605824bc6ce3a1c9e 一、官方連結
  1. Ambari
版本:ambari-2.5.0.3-centos7
  1. HDP
版本:HDP-2.6.0.3-centos7-rpm HDP-UTILS-1.1.0.21-centos7.tar
  1. CentOS
版本:CentOS-7-x86_64 在物理機下載好Ambari、HDP和HDP-UTILS的安裝包,檔案比較大在虛擬機器下載速度太慢。注意下載的版本,和系統 二、配置系統環境
  1. 配置ip
1、設定虛擬機器的網路連線方式為NAT 2、開啟虛擬機器網路編輯器:編輯——虛擬機器網路編輯器——NAT設定
記錄閘道器IP、子網掩碼的資訊 3、配置虛擬機器網絡卡資訊 #vi /etc/sysconfig/network-scripts/ifcfg-ens33 BOOTPROTO=static(此處設定為靜態,預設為dhcp) ONBOOT=yes(此處設定為yes,開機就自動執行) IPADDR=192.168.42.201(設定IP地址,需要和子網在同一IP段) GATEWAY=192.168.42.2(閘道器,閘道器地址在VM的網路連線設定裡面) NETMASK=255.255.255.0(子網掩碼,子網掩碼也在VM網路連線設定裡面) 4、 重啟網路設定 # systemctl restart network.service 5、檢視網路連線情況,就看到ip地址更改為你設定的ip # ifconfig 7 測試外網連線情況 #ping www.baidu.com 如果成功,則配置沒問題。
  1. 配置hosts
#vi /etc/hosts 127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4 ::1 localhost localhost.localdomain localhost6 localhost6.localdomain6 192.168.42.201 hdp1.hadoop 192.168.42.202 hdp2.hadoop 更改為以上資訊,注意必須要寫成aaaa.aaaa的格式,需要配置幾個節點就設定幾個。
  1. 配置hostname
#vi /etc/hosts 設定為2步驟中對應節點的名字
  1. 安裝基礎軟體包
#yum install openssh wget vim openssh-clients openssl gcc openssh-server mysql-connector-odbc -y #systemctl enable sshd && systemctl start sshd
  1. 配置FQDN
# vi /etc/sysconfig/network NETWORKING=yes HOSTNAME=hdp1.hadoop
  1. 關閉防火牆和SELinux
#systemctl disable firewalld.service #systemctl stop firewalld.service #vi /etc/sysconfig/selinux 找到以下引數設定為關閉 SELINUX=disabled
  1. 修改為Yum源為阿里雲
1、 echo 備份當前的yum源 #mv /etc/yum.repos.d /etc/yum.repos.d.backup4comex 2、echo 新建空的yum源設定目錄 #mkdir /etc/yum.repos.d 3、echo 下載阿里雲的yum源配置(根據系統版本,修改CentOS-後面的數值) #wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo 4、重建快取 #yum clean all #yum makecache
  1. 配置JDK
1、下載jdk # mkdir ~/hadoop/java #cd ~/hadoop/java 2、解壓jdk到/opt/java # mkdir -p /opt/java/ && tar xf jdk-8u151-linux-x64.tar.gz -C /opt/java 3、配置環境變數 # vim /etc/profile 新增下面內容: export JAVA_HOME=/opt/java/jdk1.8.0_151 export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar PATH=$PATH:$HOME/bin:$JAVA_HOME/bin 4、啟用環境變數 # source /etc/profile 5、測試是否配置成功 #java -version 顯示結果: java version "1.8.0_151" Java(TM) SE Runtime Environment (build 1.8.0_151-b12) Java HotSpot(TM) 64-Bit Server VM (build 25.151-b12, mixed mode) 以下兩項有結果顯示說明tools配置成功 #javac #java
  1. 安裝NTP
開啟ntpd服務(確保叢集內部時鐘統一) #yum -y install ntp # systemctl is-enabled ntpd # systemctl enable ntpd # systemctl start ntpd
  1. 克隆虛擬機器
1、關機 # shutdown -h now 2、克隆 點選VMware選單欄的虛擬機器——管理——克隆 出來對話方塊,點選兩次下一步,在克隆型別選擇建立完整克隆,虛擬機器名稱填寫HDP2,點選完 成;需要幾臺虛擬機器就克隆幾臺
  1. 配置克隆後的虛擬機器ip、hosts、hostname
1、將克隆後的虛擬機器依次開機 2、配置虛擬機器網絡卡資訊 #vi /etc/sysconfig/network-scripts/ifcfg-ens33 IPADDR=192.168.42.202(按照hosts中的對映,依次往後寫) 3、 重啟網路設定 # systemctl restart network.service 4、 測試外網連線情況 #ping www.baidu.com 如果成功,則配置沒問題。 5、修改hostname #vi /etc/hosts 修改為hosts中ip對應的值
  1. 配置ssh免密登陸
1、配置各個節點的私鑰,並分發到主節點,各個節點都執行以下命令 #ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa #cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys #chmod 0600 ~/.ssh/authorized_keys #cp ~/.ssh/id_rsa.pub ~/.ssh/id_rsa_hdp1(此處為各個節點名字).pub #scp ~/.ssh/id_rsa_hdp1(此處為各個節點名字).pub [email protected]:~ 傳輸的過程需要輸入密碼 2、把主節點的金鑰分發到各個節點,在主節點執行以下程式碼 #for i in `seq (此處填寫節點數) `;do cat ~/id_rsa_hdp$i.pub >>~/.ssh/authorized_keys ;done #for i in `seq (此處填寫節點數)`;do scp ~/.ssh/authorized_keys [email protected]$i.hadoop:~/.ssh/authorized_keys;done 3、測試 在各個節點測試以下能不能免密登陸,如果沒問題則成功。 三、製作本地源
  1. 把下載好的Ambari、HDP、HDP-UTILs安裝包傳輸到虛擬機器
在物理機安裝xfile軟體,通過xfile連線虛擬機器,把下載的檔案傳輸到虛擬機器的/root/hadoop/路徑下。
  1. 安裝httpd服務
# yum install httpd -y #systemctl enable httpd && systemctl start httpd
  1. 解壓原始檔到到源目錄下
#mkdir /var/www/html/ambari-HDP #mkdir /var/www/html/ambari-HDP/HDP-UTILS #mkdir /var/www/html/ambari-HDP/ambari #mkdir /var/www/html/ambari-HDP/HDP #tar xf /root/hadoop/ambari-2.5.0.3-centos7.tar.gz -C /var/www/html/ambari-HDP/ambari # tar xf /root/hadoop/HDP-2.6.0.3-centos7-rpm.tar.gz -C /var/www/html/ambari-HDP/HDP # tar xf /root/hadoop/HDP-UTILS-1.1.0.21-centos7.tar.gz -C /var/www/html/ambari-HDP/HDP-UTILS
  1. 安裝links測試是否可用
#yum install links -y 結果顯示的為剛剛解壓的路徑
  1. 複製ambari、HDP、HDP-UTILS的repo到yum
#cp /var/www/html/ambari-HDP/ambari/ambari/centos7/ambari.repo /etc.yum.repos.d #cp /var/www/html/ambari-HDP/HDP/HDP/centos7/hdp.repo /etc.yum.repos.d #cp /var/www/html/ambari-HDP/HDP-UTILS/hdp-utils.repo /etc.yum.repos.d
  1. 配置ambari、HDP、HDP-UTILS的repo
1、ambari #vi /etc.yum.repos.d/ambari.repo 修改為如下配置 #VERSION_NUMBER=2.5.0.3-7 [ambari-2.5.0.3] name=ambari Version - ambari-2.5.0.3 baseurl=http://hdp1.hadoop/ambari-HDP/ambari/ambari/centos7/ gpgcheck=1 gpgkey=http://hdp1.hadoop/ambari-HDP/ambari/ambari/centos7/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins enabled=1 priority=1 2、HDP #vi /etc.yum.repos.d/hdp.repo 修改為如下配置: #VERSION_NUMBER=2.6.0.3-8 [HDP-2.6.0.3] name=HDP Version - HDP-2.6.0.3 baseurl=http://hdp1.hadoop/ambari-HDP/HDP/HDP/centos7/ gpgcheck=1 gpgkey=http://hdp1.hadoop/ambari-HDP/HDP/HDP/centos7/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins enabled=1 priority=1 [HDP-UTILS-1.1.0.21] name=HDP-UTILS Version - HDP-UTILS-1.1.0.21 baseurl=http://hdp1.hadoop/ambari-HDP/HDP-UTILS gpgcheck=1 gpgkey=http://hdp1.hadoop/ambari-HDP/HDP/HDP/centos7/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins enabled=1 priority=1 3、HDP-UTILS #vi /etc.yum.repos.d/hdp-utils.repo 修改為如下配置: [HDP-UTILS-1.1.0.21] name=Hortonworks Data Platform Version - HDP-UTILS-1.1.0.21 baseurl= http://hdp1.hadoop/ambari-HDP/HDP-UTILS gpgcheck=1 enabled=1 priority=1
  1. 安裝本地源製作工具
#yum install yum-utils createrepo -y #cd /var/www/html/ #createrepo ./
  1. 更新yum快取
# yum clean all # yum makecache # yum repolist 四、安裝Ambari-server
  1. 安裝搭建mysql資料庫
1.下載mysql的repo源 # wget https://repo.mysql.com//mysql57-community-release-el7-11.noarch.rpm 2安裝mysql-community-release-el7-5.noarch.rpm包 #sudo rpm -ivh mysql-community-release-el7-11.noarch.rpm 安裝這個包後,會獲得兩個mysql的yum repo源: /etc/yum.repos.d/mysql-community.repo /etc/yum.repos.d/mysql-community-source.repo 3.安裝mysql # sudo yum install mysql-server 根據提示安裝就可以了,不過安裝完成後沒有密碼,需要重置密碼 如果此時提示關於 mariadb的錯誤,則是因為系統中裝了mariadb我們需要解除安裝掉mariadb 檢視系統是否安裝mariadb # rpm -qa | grep mariadb 如果顯示有安裝的資訊,則解除安裝 # rpm -ev 此處填寫上一步裡面的列表 --nodeps 完成後再次執行 # yum install mysql-server 4.重置mysql密碼 # mysql -u root 登入時有可能報這樣的錯:ERROR 2002 (HY000): Can‘t connect to local MySQL server through socket ‘/var/lib/mysql/mysql.sock‘ (2),原因是/var/lib/mysql的訪問許可權問題。下面的命令把/var/lib/mysql的擁有者改為當前使用者: # sudo chown -R root:root /var/lib/mysql 重啟mysql服務 # service mysqld restart 接下來登入重置密碼: # mysql -u root //直接回車進入mysql控制檯 mysql > use mysql; mysql > update user set password=password('你的密碼') where user='你的使用者名稱,一般是root'; mysql > exit;
  1. 寫入Ambari的資訊到MySQL
#mysql -u root -p 輸入密碼,進入mysql的編輯命令 輸入以下sql語句: CREATE DATABASE ambari; use ambari; CREATE USER 'ambari'@'%' IDENTIFIED BY 'bigdata'; GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%'; CREATE USER 'ambari'@'localhost' IDENTIFIED BY 'bigdata'; GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'localhost'; CREATE USER 'ambari'@'hdp1.hadoop' IDENTIFIED BY 'bigdata'; GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'hdp1.hadoop'; FLUSH PRIVILEGES; source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql show tables; use mysql; select Host,User,Password from user where user='ambari'; CREATE DATABASE hive; use hive; CREATE USER 'hive'@'%' IDENTIFIED BY 'hive'; GRANT ALL PRIVILEGES ON *.* TO 'hive'@'%'; CREATE USER 'hive'@'localhost' IDENTIFIED BY 'hive'; GRANT ALL PRIVILEGES ON *.* TO 'hive'@'localhost'; CREATE USER 'hive'@'hdp1.hadoop' IDENTIFIED BY 'hive'; GRANT ALL PRIVILEGES ON *.* TO 'hive'@'hdp1.hadoop'; FLUSH PRIVILEGES; CREATE DATABASE oozie; use oozie; CREATE USER 'oozie'@'%' IDENTIFIED BY 'oozie'; GRANT ALL PRIVILEGES ON *.* TO 'oozie'@'%'; CREATE USER 'oozie'@'localhost' IDENTIFIED BY 'oozie'; GRANT ALL PRIVILEGES ON *.* TO 'oozie'@'localhost'; CREATE USER 'oozie'@'hdp1.hadoop' IDENTIFIED BY 'oozie'; GRANT ALL PRIVILEGES ON *.* TO 'oozie'@'hdp1.hadoop'; FLUSH PRIVILEGES;
  1. 安裝ambari-server
1、開始安裝 #yum install ambari-server 2、配置驅動 #mkdir /usr/share/java 通過xfile將物理機上的mysql-connector-java.jar複製到/usr/share/java目錄下 將mysql-connector-java.jar複製到/var/lib/ambari-server/resources目錄下 #cp /usr/share/java/mysql-connector-java.jar /var/lib/ambari-server/resources/mysql-jdbc- driver.jar 編輯ambari.properties #vi /etc/ambari-server/conf/ambari.properties 修改server.jdbc.driver.path=/usr/share/java/mysql-connector-java.jar
  1. 配置Ambari-server
1、開始配置 #ambari-server setup 2、配置流程 (1) 提示是否自定義設定。輸入:y Customize user account for ambari-server daemon [y/n] (n)? y (2)ambari-server 賬號。 Enter user account for ambari-server daemon (root): 如果直接回車就是預設選擇root使用者 如果輸入已經建立的使用者就會顯示: Enter user account for ambari-server daemon (root):ambari Adjusting ambari-server permissions and ownership... (3)檢查防火牆是否關閉,輸入:y Adjusting ambari-server permissions and ownership... Checking firewall... WARNING: iptables is running. Confirm the necessary Ambari ports are accessible. Refer to the Ambari documentation for more details on ports. OK to continue [y/n] (y)? (4)設定JDK。輸入:選擇3,自定義JAVA_HOME Checking JDK... Do you want to change Oracle JDK [y/n] (n)? y [1] Oracle JDK 1.8 + Java Cryptography Extension (JCE) Policy Files 8 [2] Oracle JDK 1.7 + Java Cryptography Extension (JCE) Policy Files 7 [3] Custom JDK ============================================================================== Enter choice (1): 3 如果上面選擇3自定義JDK,則需要設定JAVA_HOME。輸入:/usr/java/jdk1.8.0_151 WARNING: JDK must be installed on all hosts and JAVA_HOME must be valid on all hosts. WARNING: JCE Policy files are required for configuring Kerberos security. If you plan to use Kerberos,please make sure JCE Unlimited Strength Jurisdiction Policy Files are valid on all hosts. Path to JAVA_HOME: /usr/java/jdk1.8.0_131 Validating JDK on Ambari Server...done. Completing setup... (5)資料庫配置。選擇:y Configuring database... Enter advanced database configuration [y/n] (n)? y (6)選擇資料庫型別。輸入:3,選擇MySQL資料庫 Configuring database... ============================================================================== Choose one of the following options: [1] - PostgreSQL (Embedded) [2] - Oracle [3] - MySQL [4] - PostgreSQL [5] - Microsoft SQL Server (Tech Preview) [6] - SQL Anywhere ============================================================================== Enter choice (3): 3 (7)設定資料庫的具體配置資訊, Hostname (localhost):127.0.0.1 Port (3306):3306 Database name (ambari):ambari Username (ambari):root Enter Database Password (bigdata):root Re-Enter password: root (8)將Ambari資料庫指令碼匯入到資料庫,選擇y WARNING: Before starting Ambari Server, you must run the following DDL against the database to create the schema: /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql Proceed with configuring remote database connection properties [y/n] (y)?
  1. 啟動ambari-server
# ambari-server start
  1. 測試
就顯示以下介面:
五、在Ambari Web介面配置安裝HDP叢集
  1. 登陸
使用者名稱admin,密碼admin
  1. 安裝嚮導
點選Launch install wizard,進入安裝嚮導
  1. 叢集命名
  1. 選擇安裝HDP版本
我們選擇HDP2.6的版本。 我們在URL輸入之前建立的本地源,然後點選下一步。

  1. 設定叢集的節點資訊
hosts設定為我們之前設定的hosts內容。 host registration information,我們選擇/root/.ssh/id_rad 檔案的內容,設定為root使用者,22埠。如果在物理機打不開這個檔案,可以在主節點的命令列下# cat /root/.ssh/id_rad,複製裡面的內容到視窗中。
  1. Host資訊確認
等待成功配置完成之後點選next
  1. 選擇安裝的服務
選擇自己需要的服務。
  1. 節點分配設定

  1. 節點客戶端分配

  1. 自定義服務

  1. 確認配置資訊

  1. 安裝、啟動和測試

  1. 安裝成功

相關推薦

Ambari2.5+HDP2.6叢集配置安裝

有道有筆記地址: http://note.youdao.com/noteshare?id=4a8bb0f1a02e3b9605824bc6ce3a1c9e 一、官方連結 Ambari 版本:ambari-2.5.0.3-centos7 HDP 版本:HDP-2.6.0

基於Ambari2.5 Centos 6 安裝 Flink

QQ交流群:64655993 說明:以下使用的主機名以及檔案版本和放置路徑僅做參考,實際操作以當前環境為主!             希望能對您有所幫助! 1、安裝一些基礎的工具(每個節點均安裝) [[email

JDBC——Mysql 5.7綠色版配置安裝過程

5.6 配置文件 mov 新版 否則 download 查看系統 管理員 then 前言: JDBC是Java鏈接數據庫總要接口; 學習JDBC之前最重要的是要配置好數據庫(Mysql); 以下是配置Mysql步驟; 本章大體分為 下載 和 配置安裝過程

Hadoop叢集配置安裝,詳細步驟及講解

**涉及linux命令一定要注意大小寫和空格,linux系統對此敏感** **hadoop叢集的安裝一定要靜下心一步一步來** 1、關閉防火牆(防火牆最好關閉,不然以後linux操作會有很多麻煩) 1)輸入命令: vi etc/selinux/config 其中改為 SELINU

Redis-5.0.0叢集配置

版本:redis-5.0.0 參考:http://redis.io/topics/cluster-tutorial。 叢集部署互動式命令列工具:https://github.com/eyjian/redis-tools/tree/master/deploy 叢集運維命令列工具:https

elasticsearch5.5多機叢集配置 與 Centos 7關閉防火牆

    今天,講解下elasticsearch叢集的配置與在centos中如何關閉防火牆..... 首先,講解下如何在centos中關閉防火牆?       為啥要講一下這塊內容呢?在實際的開發與運維中,經常會遇到應用啟動後,訪問應用.....報錯404......很多情

elasticsearch5.5多機叢集配置

elasticsearch5.5多機叢集配置   ELasticsearch 5.5要求JDK版本最低為1.8;   配置叢集之前  先把要加群叢集的節點的裡的data目錄下的Node目錄 刪除,否則叢集建立會失敗。   我這邊虛擬機器

ElasticSearch系列(6) 叢集快速安裝及升級技巧

centos 上,安裝單機的elasticsearch,使用yum命令很方便。 但在叢集安裝時,就需要重複在多個虛機中安裝,比較麻煩。 辦法一: 先在一臺虛機中安裝elasticsearch,kibana,x-pack,分片語件等。再進行虛機複製。 為避免虛機複製後,可能需

redis叢集配置安裝的過程常見問題![ERR] Sorry, can't connect to node cdh5:6379

 1) ./redis-trib.rb  create --replicas 1 cdh5:6379 cdh4:6379 cdh3:6379 cdh5:6389 cdh4:6389 cdh3:6389  報錯:  >>> Creating clusterC

Ambari2.6.2 安裝HDP2.6.5(非root使用者離線安裝

一、下載安裝包   因為使用線上安裝特別慢,所有的安裝包加起來有9個G左右,所以本教程是通過下載包,然後上傳到伺服器,通過配置本地源的方式來實現的離線安裝。也可以事先直接在伺服器上下載好相應的包,如下: nohup wget -c http://public-repo-1

CentOS 7.5 安裝 MySQL 5.6配置環境變數

概述: 通過原始碼安裝高版本的5.6.14。   正文: 一:解除安裝舊版本 使用下面的命令檢查是否安裝有MySQL Server rpm -qa | grep mysql 有的話通過下面的命令來解除安裝掉 目前我們查詢到的是這樣的: [[email

Ambari2.6.2.2安裝元件的配置檔案位置

昨天在WEBUI中修改了Ambari叢集中的一些配置想在linux上檢視是否同步,找了半天沒找到配置檔案在什麼位置,今天找到了,發出來希望可以幫助到大家,因為感覺裡面的配置檔案挺多挺亂的   1.Ambari安裝Hive元件,配置檔案在/etc/hive/2.6.5.0-292/0

MySQL-5.6.24的配置安裝

1.下載MySQL-5.6.24 2.把MySQL-5.6.24解壓到需要安裝的資料夾,如 D:/Sever 下 3.開啟MySQL-5.6.24資料夾,把my-default .ini重新命名為m

Windows下MySQL 5.6.27.0.安裝配置

在DOS命令視窗輸入 mysql -h localhost -u root -p回車 進入mysql資料庫,其中-h表示伺服器名,localhost表示本地;-u為資料庫使用者名稱,root是mysql預設使用者名稱;-p為密碼,如果設定了密碼,接下來在Enter password後面輸入設定的密碼, 或

MySQL 5.6 for Windows 解壓縮版下載與配置安裝

下載:MySQL 5.6 for Windows 下載地址     根據自己的開發環境選擇相應版本。先對.zip檔案進行解壓縮到合適位置,解壓縮之後其實MySQL就可以使用了,但是要進行配置。配置:配置系統環境變數:        我的電腦->屬性->高階->

mysql 5.6.20的安裝配置服務、設定編碼格式

一、安裝 安裝環境        系統:Window 32        版本:Mysql 5.6.20                        2、 我們開啟下載下來的mysql-5.6.20-win32.msi安裝包 3、 選擇Next 下一步:

ZooKeeper-3.4.6叢集安裝配置

ZooKeeper是一個分散式開源框架,提供了協調分散式應用的基本服務,它向外部應用暴露一組通用服務——分散式同步(Distributed Synchronization)、命名服務(Naming Service)、叢集維護(Group Maintenance)等,簡化分

Centos 6.5 FTP-配置-安裝-新增使用者-更改埠

查詢是否安裝vsftpd rpm -qa |grep vsftpd 解除安裝vsftpd rpm -e vsftpd 查詢f程序vsftpd ps -ef|grep vsftpd 安裝vsftpd yum install vsftpd* yum install lftp* vsftpd的三個主配置檔案 vi

MySQL 5.6.24 for Windows 解壓縮版配置安裝

MySQL是一個功能強大的資料庫,目前十分流行。MySQL官網給出的安裝包有兩種格式,一個是msi格式,一個是zip格式的。有的人下了zip格式的,但解壓後卻發現沒有setup.exe,面對一堆檔案不知如何下手 這種情況下需要自己配置MySQL才能正確使用

Centos 6.5下的OPENJDK解除安裝和SUN的JDK安裝、環境變數配置

  不多說,直接上乾貨! 說明   圖形介面安裝,會自帶有Centos6.5自帶的OPRNJDK!!!  *********************************自帶的OPENJDK的解除安裝*********************************