1. 程式人生 > >Ubuntu14.04下Ambari安裝搭建部署大資料叢集(圖文分五大步詳解)(博主強烈推薦)

Ubuntu14.04下Ambari安裝搭建部署大資料叢集(圖文分五大步詳解)(博主強烈推薦)

     不多說,直接上乾貨!

寫在前面的話

  (1) 最近一段時間,因擔任我團隊實驗室的大資料環境叢集真實物理機器工作,至此,本人秉持負責、認真和細心的態度,先分別在虛擬機器上模擬搭建ambari(基於CentOS6.5版本)和cloudermanager(基於CentOS6.5或Ubuntu14.04版本)。

  (2)  大資料叢集範圍包括3節點和4節點。本人都嘗試過。

  (3)  安裝搭建包括離線和線上。本人都嘗試過

  (4)  版本包括自定義指定和官方最新版本搭建。本人都嘗試過。

  (5) 大資料叢集節點的增加和刪減。本人都嘗試過。

  (6) 虛擬機器和真實物理機上搭建。本人都嘗試過。

  我的機器情況是

  nssa-sensor1 (192.168.30.1)      (既做ambari-server,也做ambari-agent)

  nssa-sensor2 (192.168.30.2)      (只做ambari-agent)

  nssa-sensor3 (192.168.30.3)      (只做ambari-agent)

  nssa-sensor4 (192.168.30.4)      (只做ambari-agent)

  我這裡是,參考

第一步: 關於Ubuntu14.04下安裝Ambari的準備

  這裡,與CentOS6.5下相同,我這裡不多說

   大家,自行去安裝,凡是能來看我這篇部落格的朋友,想必肯定是有一定的基礎了。

第二步:關於ubuntu14.04下部署本地庫,映象伺服器

   這裡,大家可以參考如下。

   我這裡,考慮到ubuntu14.04,所以  

   進行,下載好

  得到

   得到

  參考官網

https://docs.hortonworks.com/HDPDocuments/Ambari-2.2.1.0/bk_Installing_HDP_AMB/content/_getting_started_setting_up_a_local_repository.html

   以及,這第二步裡,要注意的是,

  centos系統裡,是

sudo yum install yum-utils createrepo 

   ubuntu系統裡,是

sudo apt-get  install yum-utils createrepo 

   centos系統裡,是

sudo yum install httpd

  ubuntu系統裡,是

sudo apt-get install httpd

  然後,
  部署,跟上述部落格一樣,放在/var/www/html下。我這裡不多贅述。

      或者放在//usr/local/apache/htdocs下,都是可以的。

  參考我下面的部落格,

  總結:就是,這裡我們自定義構建區域網源,一種是放在/var/www/html下,一種是放在/usr/local/apache/htdocs下。都是可以的

  最後,我將截圖如下

 

   /usr/loca/apache/htdocs

 

   /var/www/html

 

 

 

  然後,大家,可以將官方的,改成自己本地局域建立的本地源。用來安裝ambari。

sudo wget http://public-repo-1.hortonworks.com/ambari/ubuntu14/2.x/updates/2.2.1.0/ambari.list

  這是官網的。裡面的內容如下

#VERSION_NUMBER=2.2.1.0-161
deb http://public-repo-1.hortonworks.com/ambari/ubuntu14/2.x/updates/2.2.1.0 Ambari main

  我們要改成自己的。

#VERSION_NUMBER=2.2.1.0-161
deb http://192.168.30.1/hdp2.4/ubuntu14

   或者

#VERSION_NUMBER=2.2.1.0-161
deb http://192.168.30.1/hdp2.4/ubuntu14  Ambari main

  貼圖如下

   即,是如下。說明自定義區域網搭建的本地源,成功!

   這裡是,官網

   我這裡,是採取離線方式的安裝,即先下載好,再來安裝。

   若大家,想線上安裝的話,自行結合官網,然後和這篇部落格來吧

第三步:Ubuntu14.04下,安裝並配置Ambaro-server

   這裡,可以參考

  注意這裡,用到的源還是官網的

  sudo vim /etc/apt/sources.list.d
#VERSION_NUMBER=2.2.1.0-161
deb http://public-repo-1.hortonworks.com/ambari/ubuntu14/2.x/updates/2.2.1.0 Ambari main

 

sudo   apt-get install ambari-server

  正在安裝中....

 

   至此,ambari-server安裝完成!

   接下來,就是對ambari-server進行設定

  這是我的jdk安裝路徑

 

 

   這裡為什麼要回車,因為提示必須安裝MySQL JDBC,回車結束ambari配置。

  怎麼來解決呢?需要將Ambari資料庫指令碼匯入到資料庫。

  用Ambari使用者(上面設定的使用者)登入mysql

   我是這麼先設定好的

mysql> create database ambari DEFAULT CHARACTER SET utf8;
Ignoring query to other database
mysql> grant all on ambari.* TO 'hive'@'localhost' IDENTIFIED BY 'ambari_password';
Ignoring query to other database
mysql> grant all on *.* TO 'ambari'@'nssa-sensor1' IDENTIFIED BY 'ambari_password';
Ignoring query to other database
mysql> grant all on ambari.* TO 'ambari'@'%' IDENTIFIED BY 'ambari_password';  
Ignoring query to other database

mysql> flush privileges;
mysql> exit;

  或者

mysql> create database ambari DEFAULT CHARACTER SET utf8;
Ignoring query to other database

Ignoring query to other database
mysql> grant all on *.* TO 'ambari'@'nssa-sensor1' IDENTIFIED BY 'ambari_password';


mysql> flush privileges;
mysql> exit;

  然後,將Ambari資料庫指令碼匯入到資料庫

mysql -uambari -pambari_password -hnssa-sensor1
use ambari
source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql

  注意:這裡密碼和主機名,要根據你自己的機器去做。

  至此,ambari-server的安裝和設定都做完成了。

   接下來,就是啟動ambari-server了。

sudo  service ambari-server   status


sudo  service ambari-server   start

 

 

第四步:  搭建單節點叢集

  這裡,可以參考

   這裡,單節點的安裝,我就不多贅述了。因為,我這裡是搭建的真實物理機器,4臺。

第五步:  搭建3或4節點叢集

  這裡,可以參考

 

 

 

 

 

 

 

 

 

 

   在這一步,安裝過程中,大家也許會出現問題。

 

   大家,可以去看我的部落格

  裡面有講到如何去解決

  同時,我這裡,還遇到一個問題。在安裝的過程中,沒有許可權去讀取/var/lib/ambari-agent的data目錄,這個很好解決,去放開許可權,等安裝完成後,改回755就是了。

 

   我這裡,是所有的元件,我都全部安裝了。

 

 

 

 

   這裡大家,要去對hive、oozie設定下

mysql> create database hive DEFAULT CHARACTER SET utf8;

mysql> grant all on *.* TO 'hive'@'nssa-sensor1' IDENTIFIED BY 'hive_password';


mysql> flush privileges;
mysql> exit;
mysql> create database oozie DEFAULT CHARACTER SET utf8;

mysql> grant all on *.* TO 'oozie'@'nssa-sensor1' IDENTIFIED BY 'oozie_password';


mysql> flush privileges;
mysql> exit;

 

 

   其實啊,這些步驟,大家完全可以去看的這篇部落格

 

 

 

 

 

  這些都是瀏覽資訊,大家看看就好

 

  

   在這一步分發過程中,非常重要。大家會根據自己的網速和安裝,會出現一些問題。

   大家,可以去看這篇部落格

   當然,我這裡作為補充

   其實,這樣的,如oozie client insatll 或者 hadoop client install 或者 zookeeper  client install安裝失敗的原因。

   歸結為就是第一次安裝時,網速不穩定,導致,大家在反覆安裝,造成了軟連線死鎖的問題。

  這個問題的解決,其實很簡單。

  第一:大家可以去看這篇部落格

  這是一種解決方案的思路。

  第二:也是我自己摸索出來的

  我這裡,是nssa-sensor2這臺機器,已經安裝好了,而其他的nssa-sensor1、nssa-sensor3和nssa-sensor4機器出現了上述問題。

  這樣,大家,就把這臺已經正常安裝好了的機器的對應目錄(哪個元件出錯了),拷貝過去就行了。

  具體見我下面的貼圖。

 

 

 

   這是/etc/zookeeper/2.4.0.0-169/0目錄結構

 

   這是/usr/hdp/2.4.0.0-169/zookeeper目錄結構

 

   這是/usr/hdp/2.4.0.0-169/zookeeper目錄結構

 

   這是/usr/hdp/current/oozie-client目錄結構

 

   這是/usr/hdp/current/oozie-server的目錄結構

 

  至此,上述問題得以解決。

   然後,大家還會出現,這個在oozie安裝的過程中,會出現mysql-connect-java的jar包放置問題。

  這裡,大家,可以去看我下面寫的部落格

   同時,要注意,/usr/share/java目錄結構,是如下(大家也可以使用我剛說的技巧,就是已經成功了的機器,將其ooize的目錄結構和這個/usr/share/java拷貝過來就可以了)(別說自己沒U盤,我這裡是在真實物理機器上搭建的,我都可以拷貝做到,或者你也可以使用scp -r命令)

 

 

 

 

  關於更多詳情和疑問,見我寫的部落格

http://www.cnblogs.com/zlslch/category/916378.html

參考

歡迎大家,加入我的微信公眾號:大資料躺過的坑        人工智慧躺過的坑

同時,大家可以關注我的個人部落格

   http://www.cnblogs.com/zlslch/   和     http://www.cnblogs.com/lchzls/      http://www.cnblogs.com/sunnyDream/   

   詳情請見:http://www.cnblogs.com/zlslch/p/7473861.html

  人生苦短,我願分享。本公眾號將秉持活到老學到老學習無休止的交流分享開源精神,匯聚於網際網路和個人學習工作的精華乾貨知識,一切來於網際網路,反饋回網際網路。
  目前研究領域:大資料、機器學習、深度學習、人工智慧、資料探勘、資料分析。 語言涉及:Java、Scala、Python、Shell、Linux等 。同時還涉及平常所使用的手機、電腦和網際網路上的使用技巧、問題和實用軟體。 只要你一直關注和呆在群裡,每天必須有收穫

      對應本平臺的討論和答疑QQ群:大資料和人工智慧躺過的坑(總群)(161156071) 

 

相關推薦

Ubuntu14.04Ambari安裝搭建部署資料叢集圖文大步強烈推薦

     不多說,直接上乾貨! 寫在前面的話   (1) 最近一段時間,因擔任我團隊實驗室的大資料環境叢集真實物理機器工作,至此,本人秉持負責、認真和細心的態度,先分別在虛擬機器上模擬搭建ambari(基於CentOS6.5版本)和cloudermanager(基於CentOS6.5或Ub

CentOS6.5Ambari安裝搭建部署資料叢集圖文大步強烈推薦

  第一步:   第二步:   第三步:   第四步:   第五步:   成功! 歡迎大家,加入我的微信公眾號:大資料躺過的坑        人工智慧躺過的坑 同時,大家可以關注我的個人部

CentOS6.5Cloudera安裝搭建部署大數據集群圖文大步強烈推薦

centos6 數據 http 時間 log .com pos OS 客戶端  第一步: Cloudera Manager安裝之Cloudera Manager安裝前準備(CentOS6.5)(一) 第二步: Cloudera Manager安裝之時間服務器和

歡迎五湖四海友來我園,查詢攻略資料躺過的坑:強烈推薦

 寫給來我園的各位博友們:   共同學習和交流,知識是討論和不斷主動自學、多思考出來的!   為了更方便大家對我部落格裡的精華博文的挖掘,快速查詢,我特,寫下此博文,來詳細圖文教程。   步驟二:輸入blog:zlslch CentOS 說明下,zlslch是我的部

基於ubuntu14.04ambari安裝叢集部署

第一節. Ambari簡介Ambari跟Hadoop等開源軟體一樣,也是Apache Software Foundation中的一個專案,並且是頂級專案。目前最新的釋出版本是2.4.1。就Ambari的作用來說,就是建立、管理、監視Hadoop的叢集,但是這裡的Hadoop是廣義,指的是Hadoop整個生態圈

Ubuntu14.04編譯安裝或apt-get方式安裝搭建Apache或Httpd服務圖文

   不多說,直接上乾貨! 寫在前面的話   對於   在Ubuntu系統上,編譯安裝Apache它預設路徑是在/usr/local/apache2/htdocs           或者編譯安裝httpd它預設路徑是在/usr/local/apache/htdocs    

Linux-Ubuntu14.04mongodb安裝部署

  mongo 下載:https://www.mongodb.com/download-center/community?jmp=nav 建立目錄,將下載的檔案放在如下位置 [email protected]:/usr/local$ sudo mkdir mongo [emai

Opencv3.3在Ubuntu14.04的環境搭建

安裝過程: 第一步:安裝gcc/g++/gdb/make 等基本程式設計工具 sudo apt-get install build-essential 第二步:安裝opencv所依賴的庫、cmake和相關外掛,主要是為了能夠支援讀寫圖片以及視訊等。 sudo apt-

ubuntu14.04vnc安裝、配置和使用

1.更新系統 apt-get update -y apt-get upgrade -y  2. 安裝gnome環境相關,sudo apt-get install ubuntu-desktop gnome-panel gnome-settings-daemon meta

Ubuntu14.04完美安裝cloudermanage多種方式圖文推薦

說在前面的話   我的機器是總共4臺,分別為ubuntucmbigdata1、ubuntucmbigdata2、ubuntucmbigdata3和ubuntucmbigdata4。   ClouderaManager官網 https://www.cloudera.com/docume

RabbitMQ:在Ubuntu14.04安裝筆記

安裝 有兩種辦法,一是直接從官網下載最新的deb檔案,但是在你dpkg -i 時,因為缺少erlang的依賴,只能再通過apt-get install -f 安裝erlang,最終也能成功,但是會有一些不舒服的錯誤提示。 建議使用另一個官網上提供的安裝辦

【雲端計算虛擬化】docker在ubuntu14.04安裝

關於Docker:網上的介紹太多了,就不再贅述,總之就是很好用。 執行之前確保有管理員許可權。 1,安裝wget: 確保有wget 如果沒有:sudo apt-get install wget 2,安裝docker: 3,驗證docker

ubuntu14.04docker安裝方法

使用命令 uname -r 確保比版本比3.10高。 更新安裝包 sudo apt-get update 設定成中文環境,具體操作步驟見 點選這裡檢視詳細步驟 依次執行下面的兩條命令: sudo apt-get install apt-trans

Ubuntu14.04virtualbox安裝win7虛擬機器問題總結以及刪除virtualbox方法

一     在Ubuntu安裝好之後是雙系統,但是兩個系統之間開關機切換很麻煩,於是在Ubuntu之下安裝了virtualbox然後準備安裝win7虛擬機器做一些原圖設計等工作,但是折騰了半天沒有正確安裝,但是最後還是將win7虛擬機器安裝好了,在此總結一下方法和遇到的問題

cmake3.2.2 在Ubuntu14.04安裝

########################################################3 1.判斷相關軟體是否安裝 sudo apt-get install build-essential 2.刪除先前版本的cmake(如果有的話) sudo

Ubuntu14.04編譯安裝vtk

VTK是一個基於面向物件的開源三維繪圖軟體包,安裝過程並不複雜,可由多種方法安裝,如果想要安裝自己想要的版本,編譯安裝是最好的方式,簡單的cmake就可以編譯安裝。此處也簡單說一下非編譯安裝:一、非編譯安裝方法1)sudo pip install vtk 將會安裝最新版vtk

Linux、ubuntu14.04原始碼安裝node.js、express

最近要使用node.js開發,學習後總結一下。 1、node.js下載 所有版本: 2、安裝nodejs 解壓: sudo tar -zxvf node-v6.9.5.tar.gz -

Ubuntu14.04 OpenCV3 安裝

一 按照官網安裝Opencv步驟: 1.需要的包:     GCC 4.4.x 或更高     CMake 2.8.7 或更高     Git     GTK+2.x 或更高,包括頭(libgtk2.0-dev)     pkg-config     Python 2.6

關於在真實物理機器上用cloudermanger或ambari搭建資料叢集注意事項總結、經驗和感悟心得圖文

寫在前面的話   (1) 最近一段時間,因擔任我團隊實驗室的大資料環境叢集真實物理機器工作,至此,本人秉持負責、認真和細心的態度,先分別在虛擬機器上模擬搭建ambari(基於CentOS6.5版本)和cloudermanager(基於CentOS6.5或Ubuntu14.04版本)。   (2)  大

Ambari安裝部署單節點叢集

前期部落格 部署hdp單節點叢集 (1)部署Agent 1) 註冊並安裝agent 2)為叢集取個名字,我這裡,就直接取為hdpCluster,然後點選next 3)選擇HDP2.