Ubuntu14.04下Ambari安裝搭建部署大資料叢集(圖文分五大步詳解)(博主強烈推薦)
不多說,直接上乾貨!
寫在前面的話
(1) 最近一段時間,因擔任我團隊實驗室的大資料環境叢集真實物理機器工作,至此,本人秉持負責、認真和細心的態度,先分別在虛擬機器上模擬搭建ambari(基於CentOS6.5版本)和cloudermanager(基於CentOS6.5或Ubuntu14.04版本)。
(2) 大資料叢集範圍包括3節點和4節點。本人都嘗試過。
(3) 安裝搭建包括離線和線上。本人都嘗試過
(4) 版本包括自定義指定和官方最新版本搭建。本人都嘗試過。
(5) 大資料叢集節點的增加和刪減。本人都嘗試過。
(6) 虛擬機器和真實物理機上搭建。本人都嘗試過。
我的機器情況是
nssa-sensor1 (192.168.30.1) (既做ambari-server,也做ambari-agent)
nssa-sensor2 (192.168.30.2) (只做ambari-agent)
nssa-sensor3 (192.168.30.3) (只做ambari-agent)
nssa-sensor4 (192.168.30.4) (只做ambari-agent)
我這裡是,參考
第一步: 關於Ubuntu14.04下安裝Ambari的準備
這裡,與CentOS6.5下相同,我這裡不多說
大家,自行去安裝,凡是能來看我這篇部落格的朋友,想必肯定是有一定的基礎了。
第二步:關於ubuntu14.04下部署本地庫,映象伺服器
這裡,大家可以參考如下。
我這裡,考慮到ubuntu14.04,所以進行,下載好
得到得到
參考官網
https://docs.hortonworks.com/HDPDocuments/Ambari-2.2.1.0/bk_Installing_HDP_AMB/content/_getting_started_setting_up_a_local_repository.html
以及,這第二步裡,要注意的是,
centos系統裡,是
sudo yum install yum-utils createrepo
ubuntu系統裡,是
sudo apt-get install yum-utils createrepo
centos系統裡,是
sudo yum install httpd
ubuntu系統裡,是
sudo apt-get install httpd
然後,
部署,跟上述部落格一樣,放在/var/www/html下。我這裡不多贅述。
或者放在//usr/local/apache/htdocs下,都是可以的。
參考我下面的部落格,
總結:就是,這裡我們自定義構建區域網源,一種是放在/var/www/html下,一種是放在/usr/local/apache/htdocs下。都是可以的
最後,我將截圖如下
/usr/loca/apache/htdocs
/var/www/html
然後,大家,可以將官方的,改成自己本地局域建立的本地源。用來安裝ambari。
sudo wget http://public-repo-1.hortonworks.com/ambari/ubuntu14/2.x/updates/2.2.1.0/ambari.list
這是官網的。裡面的內容如下
#VERSION_NUMBER=2.2.1.0-161 deb http://public-repo-1.hortonworks.com/ambari/ubuntu14/2.x/updates/2.2.1.0 Ambari main
我們要改成自己的。
#VERSION_NUMBER=2.2.1.0-161 deb http://192.168.30.1/hdp2.4/ubuntu14
或者
#VERSION_NUMBER=2.2.1.0-161 deb http://192.168.30.1/hdp2.4/ubuntu14 Ambari main
貼圖如下
即,是如下。說明自定義區域網搭建的本地源,成功!
這裡是,官網
我這裡,是採取離線方式的安裝,即先下載好,再來安裝。
若大家,想線上安裝的話,自行結合官網,然後和這篇部落格來吧
第三步:Ubuntu14.04下,安裝並配置Ambaro-server
這裡,可以參考
注意這裡,用到的源還是官網的
sudo vim /etc/apt/sources.list.d
#VERSION_NUMBER=2.2.1.0-161 deb http://public-repo-1.hortonworks.com/ambari/ubuntu14/2.x/updates/2.2.1.0 Ambari main
sudo apt-get install ambari-server
正在安裝中....
至此,ambari-server安裝完成!
接下來,就是對ambari-server進行設定
這是我的jdk安裝路徑
這裡為什麼要回車,因為提示必須安裝MySQL JDBC,回車結束ambari配置。
怎麼來解決呢?需要將Ambari資料庫指令碼匯入到資料庫。
用Ambari使用者(上面設定的使用者)登入mysql
我是這麼先設定好的
mysql> create database ambari DEFAULT CHARACTER SET utf8; Ignoring query to other database mysql> grant all on ambari.* TO 'hive'@'localhost' IDENTIFIED BY 'ambari_password'; Ignoring query to other database mysql> grant all on *.* TO 'ambari'@'nssa-sensor1' IDENTIFIED BY 'ambari_password'; Ignoring query to other database mysql> grant all on ambari.* TO 'ambari'@'%' IDENTIFIED BY 'ambari_password'; Ignoring query to other database
mysql> flush privileges;
mysql> exit;
或者
mysql> create database ambari DEFAULT CHARACTER SET utf8; Ignoring query to other database Ignoring query to other database mysql> grant all on *.* TO 'ambari'@'nssa-sensor1' IDENTIFIED BY 'ambari_password'; mysql> flush privileges; mysql> exit;
然後,將Ambari資料庫指令碼匯入到資料庫
mysql -uambari -pambari_password -hnssa-sensor1 use ambari source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
注意:這裡密碼和主機名,要根據你自己的機器去做。
至此,ambari-server的安裝和設定都做完成了。
接下來,就是啟動ambari-server了。
sudo service ambari-server status
sudo service ambari-server start
第四步: 搭建單節點叢集
這裡,可以參考
這裡,單節點的安裝,我就不多贅述了。因為,我這裡是搭建的真實物理機器,4臺。
第五步: 搭建3或4節點叢集
這裡,可以參考
在這一步,安裝過程中,大家也許會出現問題。
大家,可以去看我的部落格
裡面有講到如何去解決
同時,我這裡,還遇到一個問題。在安裝的過程中,沒有許可權去讀取/var/lib/ambari-agent的data目錄,這個很好解決,去放開許可權,等安裝完成後,改回755就是了。
我這裡,是所有的元件,我都全部安裝了。
這裡大家,要去對hive、oozie設定下
mysql> create database hive DEFAULT CHARACTER SET utf8; mysql> grant all on *.* TO 'hive'@'nssa-sensor1' IDENTIFIED BY 'hive_password'; mysql> flush privileges; mysql> exit;
mysql> create database oozie DEFAULT CHARACTER SET utf8; mysql> grant all on *.* TO 'oozie'@'nssa-sensor1' IDENTIFIED BY 'oozie_password'; mysql> flush privileges; mysql> exit;
其實啊,這些步驟,大家完全可以去看的這篇部落格
這些都是瀏覽資訊,大家看看就好
在這一步分發過程中,非常重要。大家會根據自己的網速和安裝,會出現一些問題。
大家,可以去看這篇部落格
當然,我這裡作為補充
其實,這樣的,如oozie client insatll 或者 hadoop client install 或者 zookeeper client install安裝失敗的原因。
歸結為就是第一次安裝時,網速不穩定,導致,大家在反覆安裝,造成了軟連線死鎖的問題。
這個問題的解決,其實很簡單。
第一:大家可以去看這篇部落格
這是一種解決方案的思路。
第二:也是我自己摸索出來的
我這裡,是nssa-sensor2這臺機器,已經安裝好了,而其他的nssa-sensor1、nssa-sensor3和nssa-sensor4機器出現了上述問題。
這樣,大家,就把這臺已經正常安裝好了的機器的對應目錄(哪個元件出錯了),拷貝過去就行了。
具體見我下面的貼圖。
這是/etc/zookeeper/2.4.0.0-169/0目錄結構
這是/usr/hdp/2.4.0.0-169/zookeeper目錄結構
這是/usr/hdp/2.4.0.0-169/zookeeper目錄結構
這是/usr/hdp/current/oozie-client目錄結構
這是/usr/hdp/current/oozie-server的目錄結構
至此,上述問題得以解決。
然後,大家還會出現,這個在oozie安裝的過程中,會出現mysql-connect-java的jar包放置問題。
這裡,大家,可以去看我下面寫的部落格
同時,要注意,/usr/share/java目錄結構,是如下(大家也可以使用我剛說的技巧,就是已經成功了的機器,將其ooize的目錄結構和這個/usr/share/java拷貝過來就可以了)(別說自己沒U盤,我這裡是在真實物理機器上搭建的,我都可以拷貝做到,或者你也可以使用scp -r命令)
關於更多詳情和疑問,見我寫的部落格
http://www.cnblogs.com/zlslch/category/916378.html
參考
歡迎大家,加入我的微信公眾號:大資料躺過的坑 人工智慧躺過的坑同時,大家可以關注我的個人部落格:
http://www.cnblogs.com/zlslch/ 和 http://www.cnblogs.com/lchzls/ http://www.cnblogs.com/sunnyDream/
詳情請見:http://www.cnblogs.com/zlslch/p/7473861.html
人生苦短,我願分享。本公眾號將秉持活到老學到老學習無休止的交流分享開源精神,匯聚於網際網路和個人學習工作的精華乾貨知識,一切來於網際網路,反饋回網際網路。
目前研究領域:大資料、機器學習、深度學習、人工智慧、資料探勘、資料分析。 語言涉及:Java、Scala、Python、Shell、Linux等 。同時還涉及平常所使用的手機、電腦和網際網路上的使用技巧、問題和實用軟體。 只要你一直關注和呆在群裡,每天必須有收穫
對應本平臺的討論和答疑QQ群:大資料和人工智慧躺過的坑(總群)(161156071)
相關推薦
Ubuntu14.04下Ambari安裝搭建部署大資料叢集(圖文分五大步詳解)(博主強烈推薦)
不多說,直接上乾貨! 寫在前面的話 (1) 最近一段時間,因擔任我團隊實驗室的大資料環境叢集真實物理機器工作,至此,本人秉持負責、認真和細心的態度,先分別在虛擬機器上模擬搭建ambari(基於CentOS6.5版本)和cloudermanager(基於CentOS6.5或Ub
CentOS6.5下Ambari安裝搭建部署大資料叢集(圖文分五大步詳解)(博主強烈推薦)
第一步: 第二步: 第三步: 第四步: 第五步: 成功! 歡迎大家,加入我的微信公眾號:大資料躺過的坑 人工智慧躺過的坑 同時,大家可以關注我的個人部
CentOS6.5下Cloudera安裝搭建部署大數據集群(圖文分五大步詳解)(博主強烈推薦)
centos6 數據 http 時間 log .com pos OS 客戶端 第一步: Cloudera Manager安裝之Cloudera Manager安裝前準備(CentOS6.5)(一) 第二步: Cloudera Manager安裝之時間服務器和
歡迎五湖四海博友來我園,查詢攻略(大資料躺過的坑:博主強烈推薦)
寫給來我園的各位博友們: 共同學習和交流,知識是討論和不斷主動自學、多思考出來的! 為了更方便大家對我部落格裡的精華博文的挖掘,快速查詢,我特,寫下此博文,來詳細圖文教程。 步驟二:輸入blog:zlslch CentOS 說明下,zlslch是我的部
基於ubuntu14.04的ambari安裝及叢集部署
第一節. Ambari簡介Ambari跟Hadoop等開源軟體一樣,也是Apache Software Foundation中的一個專案,並且是頂級專案。目前最新的釋出版本是2.4.1。就Ambari的作用來說,就是建立、管理、監視Hadoop的叢集,但是這裡的Hadoop是廣義,指的是Hadoop整個生態圈
Ubuntu14.04下編譯安裝或apt-get方式安裝搭建Apache或Httpd服務(圖文詳解)
不多說,直接上乾貨! 寫在前面的話 對於 在Ubuntu系統上,編譯安裝Apache它預設路徑是在/usr/local/apache2/htdocs 或者編譯安裝httpd它預設路徑是在/usr/local/apache/htdocs
Linux-Ubuntu14.04下mongodb安裝部署
mongo 下載:https://www.mongodb.com/download-center/community?jmp=nav 建立目錄,將下載的檔案放在如下位置 [email protected]:/usr/local$ sudo mkdir mongo [emai
Opencv3.3在Ubuntu14.04下的環境搭建
安裝過程: 第一步:安裝gcc/g++/gdb/make 等基本程式設計工具 sudo apt-get install build-essential 第二步:安裝opencv所依賴的庫、cmake和相關外掛,主要是為了能夠支援讀寫圖片以及視訊等。 sudo apt-
ubuntu14.04下vnc安裝、配置和使用
1.更新系統 apt-get update -y apt-get upgrade -y 2. 安裝gnome環境相關,sudo apt-get install ubuntu-desktop gnome-panel gnome-settings-daemon meta
Ubuntu14.04下完美安裝cloudermanage多種方式(圖文詳解)(博主推薦)
說在前面的話 我的機器是總共4臺,分別為ubuntucmbigdata1、ubuntucmbigdata2、ubuntucmbigdata3和ubuntucmbigdata4。 ClouderaManager官網 https://www.cloudera.com/docume
RabbitMQ:在Ubuntu14.04下的安裝筆記
安裝 有兩種辦法,一是直接從官網下載最新的deb檔案,但是在你dpkg -i 時,因為缺少erlang的依賴,只能再通過apt-get install -f 安裝erlang,最終也能成功,但是會有一些不舒服的錯誤提示。 建議使用另一個官網上提供的安裝辦
【雲端計算虛擬化】docker在ubuntu14.04下的安裝
關於Docker:網上的介紹太多了,就不再贅述,總之就是很好用。 執行之前確保有管理員許可權。 1,安裝wget: 確保有wget 如果沒有:sudo apt-get install wget 2,安裝docker: 3,驗證docker
ubuntu14.04下docker安裝方法
使用命令 uname -r 確保比版本比3.10高。 更新安裝包 sudo apt-get update 設定成中文環境,具體操作步驟見 點選這裡檢視詳細步驟 依次執行下面的兩條命令: sudo apt-get install apt-trans
Ubuntu14.04下virtualbox安裝win7虛擬機器問題總結以及刪除virtualbox方法
一 在Ubuntu安裝好之後是雙系統,但是兩個系統之間開關機切換很麻煩,於是在Ubuntu之下安裝了virtualbox然後準備安裝win7虛擬機器做一些原圖設計等工作,但是折騰了半天沒有正確安裝,但是最後還是將win7虛擬機器安裝好了,在此總結一下方法和遇到的問題
cmake3.2.2 在Ubuntu14.04下的安裝
########################################################3 1.判斷相關軟體是否安裝 sudo apt-get install build-essential 2.刪除先前版本的cmake(如果有的話) sudo
Ubuntu14.04下編譯安裝vtk
VTK是一個基於面向物件的開源三維繪圖軟體包,安裝過程並不複雜,可由多種方法安裝,如果想要安裝自己想要的版本,編譯安裝是最好的方式,簡單的cmake就可以編譯安裝。此處也簡單說一下非編譯安裝:一、非編譯安裝方法1)sudo pip install vtk 將會安裝最新版vtk
Linux、ubuntu14.04下原始碼安裝node.js、express
最近要使用node.js開發,學習後總結一下。 1、node.js下載 所有版本: 2、安裝nodejs 解壓: sudo tar -zxvf node-v6.9.5.tar.gz -
Ubuntu14.04 下 OpenCV3 安裝
一 按照官網安裝Opencv步驟: 1.需要的包: GCC 4.4.x 或更高 CMake 2.8.7 或更高 Git GTK+2.x 或更高,包括頭(libgtk2.0-dev) pkg-config Python 2.6
關於在真實物理機器上用cloudermanger或ambari搭建大資料叢集注意事項總結、經驗和感悟心得(圖文詳解)
寫在前面的話 (1) 最近一段時間,因擔任我團隊實驗室的大資料環境叢集真實物理機器工作,至此,本人秉持負責、認真和細心的態度,先分別在虛擬機器上模擬搭建ambari(基於CentOS6.5版本)和cloudermanager(基於CentOS6.5或Ubuntu14.04版本)。 (2) 大
Ambari安裝之部署單節點叢集
前期部落格 部署hdp單節點叢集 (1)部署Agent 1) 註冊並安裝agent 2)為叢集取個名字,我這裡,就直接取為hdpCluster,然後點選next 3)選擇HDP2.