1. 程式人生 > >Centos7下Hortonworks的Ambari-server和Hadoop叢集平臺重灌.

Centos7下Hortonworks的Ambari-server和Hadoop叢集平臺重灌.

Ambari是apache的頂級專案, 是一套類似一鍵包安裝hadoop叢集的快速部署工具.

本文是因為配置kerberos 授權的時候, 需要加安裝一些功能, 比如tez的時候, 某個包(pig 安裝失敗,) 導致禁用kerberos 無效.
進而陷入死迴圈不得不重灌. 因為是物理機沒有回滾機制. 所以記錄下重灌的步驟.

我這裡因為是叢集, 所以需要配置centos7的ambari, HDP和HDP-UTILS的本地源,
簡單寫一下. 找一臺國外的速度快的centos7的機器,

yum install yum-utils createrepo yum-plugin-priorities
cd /etc/yum.repos
.d/ wget repo_file wget http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.2.1.0/ambari.repo http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.2.1.0/ambari-2.2.1.0-centos7.tar.gz wget http://public-repo-1.hortonworks.com/HDP/centos7/2.x/updates/2.4.0.0/hdp.repo http://public-repo-1.
hortonworks.com/HDP/centos7/2.x/updates/2.4.0.0/HDP-2.4.0.0-centos7-rpm.tar.gz http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.20/repos/centos7/HDP-UTILS-1.1.0.20-centos7.tar.gz cd /tmp mkdir ambari mkdir hdp reposync -r repo_soft_name reposync -r Updates-ambari-2.2.1.0 reposync -r HDP-2.4.0.0 reposync -r HDP-UTILS-1.1
.0.20 把包傳回本地,並解壓到某個目錄下, 然後安裝apache 或者nginx提供web伺服器功能的工具. install apache or others web services Repository Base URL Ambari Base URL http://<web.server>/ambari/<OS>/Updates-ambari-2.2.1.0 HDP Base URL http://<web.server>/hdp/<OS>/HDP-<latest.version> HDP-UTILS Base URL http://<web.server>/hdp/<OS>/HDP-UTILS-<version> 建立repofile createrepo filepath createrepo Updates-ambari-2.2.1.0 createrepo HDP-2.4.0.0 createrepo HDP-UTILS-1.1.0.20 編輯本地的repo.file, 增加三個對應的repofile, 分別是ambari.repo, HDP.repo, HDP-UTILS.repo vim /etc/yum.repos.d/repo.file touch ambari.repo HDP.repo HDP-UTILS.repo 分別加入下面的內容 #VERSION_NUMBER=2.2.1.00 [Updates-ambari-2.2.1.0] name=ambari-2.2.1.0 - Updates baseurl=http://<web.server>/ambari_repo_rpms/centos7/Updates-ambari-2.2.1.0 gpgcheck=0 gpgkey=http://public-repo-1.hortonworks.com/ambari/centos7/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins enabled=1 priority=1 make gpgcheck=0 [HDP-2.4] name=HDP-2.4 baseurl=http://<web.server>/hdp_repo_rpms/centos7/HDP-2.4.0.0/ path=/ enabled=1 gpgcheck=0 [HDP-UTILS-1.1.0.20] name=HDP-UTILS-1.1.0.20 baseurl=http://<web.server>/hdp_repo_rpms/centos7/HDP-UTILS-1.1.0.20/ #baseurl=http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.20/repos/centos7/ path=/ enabled=1 gpgcheck=0

接下來yum clean metadata後就可以開始重新安裝了.

需要刪除掉以下的包

yum remove -y hadoop_* zookeeper* ranger* hbase_* ranger* hbase_* ambari-* hadoop_* zookeeper_* hbase* range* pig*  hive* tez* mysql-* bigtop-*  tuned-* ambari-* apache-maven* postgresql*

同時需要刪除對應的目錄和配置, 資料備份

cd /usr/lib/ 
rm -rf hadoop hbase zookeeper hcatalog hive ambari-* storm ams-hbase flume hadoop-* falcon* slider* pgsql*

cd /var/lib/
rm -rf ambari-* hadoop-* pgsql oozie* hive*  falcon* slider*

cd /var/log/ 
rm -rf hadoop hbase spark tuned ambari-* zookeeper hadoop-* hive* oozie* storm* kafka*  falcon* slider*
find ./ -type f | grep -E "[a-z]+-[0-9]+" | xargs rm

cd /etc/ 
rm -rf hadoop hbase hive* ambari-* spark tez tuned zookeeper maven* oozie* storm* ams-* hadoop-* falcon* slider*

rm -rf /hadoop/*

cd /usr/share
rm -rf apache-maven HDP-oozie maven-* falcon*

rm /usr/hdp
cd /usr/bin
rm -rf mvnyjp
ls -la | grep hdp | awk '{ print $9 }' | xargs rm

cd /home  #刪除對應的使用者目錄
rm -rf oozie mapred zookeeper storm yarn hive spark tez kafka hcat hdfs hbase ams ambari-* knox

cd /var/spool/mail
rm -rf ambari-* ams hadoop hbase hcat hdfs hive kafka knox mapred oozie  slider spark storm tez yarn zookeeper

cd /
rm -rf kafka-logs hadoop
cd /tmp
rm -rf hadoop* hsperfdata* Jetty* hbase* ambari* jetty* MIME* ehcache* oozie* hive 

cd /usr/lib/python2.6/site-packages
rm -rf ambari* resource_*
ps aux | grep ambari | awk '{ print NR=$2 }' | xargs kill -9

yum clean metadata
yum repolist


接下來刪除裡面對應的使用者和組.
vim /etc/passwd
vim /etc/group

然後就可以重啟下然後開始重新安裝了.

相關推薦

Centos7Hortonworks的Ambari-serverHadoop叢集平臺.

Ambari是apache的頂級專案, 是一套類似一鍵包安裝hadoop叢集的快速部署工具. 本文是因為配置kerberos 授權的時候, 需要加安裝一些功能, 比如tez的時候, 某個包(pig 安裝失敗,) 導致禁用kerberos 無效. 進而

Centos7python2.x python3.x共存

help arc 3.x lsd its oct 2.7 pil 安裝路徑 摘要 目前centos7系統自帶的Python版本是2.7.5,這個版本唄系統中的很多程序鎖依賴,所有我們不可能去刪除它。如果這個時候我們還想用python3.x 版本,其實這裏有兩個方式,一個是

Centos7的OpensslCA

tap 需要 密文 rtb nmf 密碼 cux next sse 一、Openssl常用命令:# openssl ? # 查看openssl的命令及子命令 # man enc # 可以直接查看子命令幫助加密:# openssl enc -des3 -e -sa

CentOS7安裝pippip3

usr -s local OS 檢查 命令 直接 安裝 inux 1、首先檢查linux有沒有安裝python-pip包,直接執行 yum install python-pip 2、沒有python-pip包就執行命令 yum -y install epel-release

CentOS7安裝Python3Python2並存

python3 python yum (一)簡述剛安裝的centos7.4版本默認是安裝Python2.7,由於一些命令需要使用的原因,比如yum等,使用的是2.7.5版本的,由於現在很多庫包括django都是使用Python3,因此,有這樣的需求:yum使用python2.7版本,django和其他

CentOS7jenkins遷移升級以及解決磁盤空間滿的問題

done init.d pidfile mtime 磁盤空間 查找 centos -o root jenkins遷移和升級 查看jenkins安裝包以及路徑[root@Jenkins ~]# rpm -ql jenkins/etc/init.d/jenkins/etc/lo

centos7mongoDB安裝配置

profile sta 後臺 守護 .cn 保存 配置 oca 命名 2018-10-31更新 yum –y install mongodb-org 找不到這個包,清華源: https://mirrors.tuna.tsinghua.edu.cn/help/mongodb/

大資料之(1)Centos7上搭建全分散式Hadoop叢集

本文介紹搭建一個Namenode兩個DataNode的Hadoop全分散式叢集的全部步驟及方法。具體環境如下: 一、環境準備 3個Centos7虛擬機器或者3個在一個區域網內的實際Centos7機器,機器上已安裝JDK1.8,至於不會安裝Centos7或者JDK1.8的同

【轉載】CentOS7用yum快速搭建LAMP平臺(應用於安裝zabbix)

實驗環境: [[email protected]7 html]# cat /etc/redhat-release CentOS release 7.3.1611 (AltArch) [[email protected]-7 html]# uname -a Linux

centos7mongodb安裝配置 (轉載)

1、下載安裝包 curl -O https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-3.2.12.tgz 2、解壓 tar -zxvf mongodb-linux-x86_64-3.2.12.tgz

centos7基於docker部署ceph叢集及遇到的問題

Ceph是一個統一的分散式儲存系統,提供較好的效能、可靠性和可擴充套件性。 本文使用三臺伺服器進行安裝,vm1,vm2,vm4,及每臺伺服器上所要安裝的內容 vm1 vm2 vm3 monitor monitor monitor

用kubeadm在centos7搭建k8s 1.12叢集

在搭建的過程中遇到一個難題 本地將下載的映象包,匯入到本地並打好tag後,執行 kubeadm init命令,還會一直去拉取映象,不知道原因? [[email protected] log]# kubeadm  init I1113 15:31:40.17659

CentOs7Nginx+tomcat實現小叢集

   廢話不多說,由於本人只有三臺可用伺服器,所以搭建一個簡單的nginx+tomcat小叢集。很簡單,僅供學習參考    準備:    三臺雲伺服器或者三臺虛擬機器均可(系統為centos7),原理相近。由於在window下叢集十分簡單,所以演示CentOs7下實現小叢

centos7安裝nginx設定開機啟動

首先安裝一些必須的庫 yum -y install make zlib zlib-devel gcc-c++ libtool openssl openssl-devel 安裝 PCRE w

Linux系統:centos7搭建NginxFastDFS檔案管理中介軟體

一、FastDFS簡介 1、基礎概念 FastDFS是一個開源的輕量級分散式檔案系統,它對檔案進行管理,功能包括:檔案儲存、檔案同步、檔案上傳、檔案下載等,解決了大容量儲存和負載均衡的問題。 2、環境概覽 1、預設存在Gcc編譯環境,Centos7虛擬機器 2、安裝LibFastCommon環境 3、Fas

ubutnuwin7雙系統win7之後恢復GRUB2引導

http://www.huomo.cn/os/article-1ac95.html KIWI的部落格第一帖:恢復grub引導雙系統 前言:ubuntu和win7的雙系統有很多種安裝方法,許多人用的wubi安裝,但是由於wubi安裝對本機的影響比較大,所以不推薦wubi安裝。

Win10+Ubuntu雙系統UEFI啟動方式GRUB消失直接進入Windows以及時grub-install致命錯誤解決方法

問題描述:   雙系統安裝十分順利,我是先裝Windows再裝Ubuntu,成功後開機可以看到Grub載入程式,看似已經成功但是進入Windows後再開機就看不見Grub載入程式,無論是你重啟還是關機。重灌Ubuntu發現一到安裝grub-install時就fatal er

Windows平臺結合 tortoiseSVN VisualSVN Server 搭建SVN服務器並實現 web 站點同步

tar 效果 sql services 文檔 src 版本 att file 1. tortoiseSVN 關於 tortoiseSVN 的安裝使用詳見博文 TortoiseSVN的安裝及其簡單使用。 2. VisualSVN Server 關於 VisualS

CentOS7.4 VNC Server的搭建客戶端的連接配置

all centos connect linux water view con -- ref CentOS7.4下 VNC Server的搭建和客戶端的連接配置 服務器版本:CentOS Linux release 7.4.1708 (Core) yum方式安裝VN

CentOS7靜態ip地址分配(Hadoop叢集搭建)

作業系統是CentOS 在搭建Hadoop過程中,發現每一次啟動虛擬機器,ip地址就會變化。 這是由於一開始安裝CentOS的時候,有一個自動連線乙太網,他會自動給你分配ip地址,但是我們往往需要的是另一個。 首先看我的主機對映, 可以看到131,132,133 對應是,主機,