1. 程式人生 > >CentOS6.5下安裝Hadoop-2.7.3(圖解教程)

CentOS6.5下安裝Hadoop-2.7.3(圖解教程)

17. node 內容 apr ddbd 忽略 passwd frame shuffle

註:圖片如果損壞,點擊文章鏈接:https://www.toutiao.com/i6627365258090512909/

安裝好虛擬機(3個節點)

YUM源已安裝好、系統版本CentOS6.5、java版本是1.7,三個節點,其中一個節點完成Hadoop安裝後,啟動之前克隆兩臺節點,並完成hadoop用戶的免密配置。

技術分享圖片技術分享圖片

我們繼續安裝:

先安裝工具:yum install –y net-tools

技術分享圖片

創建目錄

技術分享圖片

在master1中創建用戶hadoop、id查看創建用戶信息(是否成功)、passwd設置密碼

技術分享圖片

使用戶成為sudoers,以root用戶修改文件/etc/sudoers,修改方式如下

技術分享圖片技術分享圖片

改回root用戶,修改/opt/bigdata文件夾的權限

技術分享圖片

進入hadoop用戶

技術分享圖片

進入我們的工具包目錄

技術分享圖片

我們將軟件解壓到/opt/bigdata

解壓命令

技術分享圖片

進目錄查看下

技術分享圖片

在hadoop目錄下建立tmp目錄,並將權限設定為777,同時創建dfs、dfs/name、dfs/data

技術分享圖片技術分享圖片

進入配置目錄

技術分享圖片

以hadoop用戶角色配置如下文件

core-site.xml

hdfs-site.xml

masters

slaves

yarn-site.xml

hadoop-env.sh

mapred-env.sh

yarn-env.sh

yarn-slaves

編輯yarn-env.sh

技術分享圖片

修改如下內容

技術分享圖片

編輯 hadoop-env.sh

技術分享圖片

修改如下內容

技術分享圖片

編輯mapred=env.sh

技術分享圖片

修改如下內容

技術分享圖片

修改core-site.xml

技術分享圖片

修改如下內容

技術分享圖片

文檔內容:

hadoop.tmp.dir

/opt/bigdata/hadoop-2.7.3/tmp

fs.default.name

hdfs://master1:9000

hadoop.proxyuser.hadoop.hosts

*

hadoop.proxyuser.hadoop.groups

*

編輯hdfs-site.xml

技術分享圖片

修改如下內容

技術分享圖片

文檔內容

dfs.replication

3

dfs.namenode.name.dir

/opt/bigdata/hadoop-2.7.3/dfs/name

dfs.datanode.data.dir

/opt/bigdata/hadoop-2.7.3/dfs/data

dfs.web.ugi

hdfs,hadoop

dfs.permissions

false

編輯yarn-site.xml

技術分享圖片

修改如下內容

技術分享圖片

文檔內容:

yarn.resourcemanager.hostname

master1

?

yarn.resourcemanager.webapp.address

master1:8088

?

yarn.resourcemanager.scheduler.address

master1:8081

?

yarn.resourcemanager.resource-tracker.address

master1:8082

?

yarn.nodemanager.aux-services

mapreduce_shuffle

yarn.nodemanager.aux-services.mapreduce.shuffle.class

org.apache.hadoop.mapred.ShuffleHandler

yarn.web-proxy.address

master1:54315

編輯mapred-site.xml,我們先把之前的文件模板的文件名修改下

技術分享圖片

修改如下內容

技術分享圖片

文檔內容

mapreduce.framework.name

yarn

mapred.job.tracker

master1:9001

mapreduce.jobhistory.address

master:110020

slaves配置(master、slave1和slave2均作為datanode)

技術分享圖片

編輯文件

技術分享圖片

保存退出

技術分享圖片

配置系統環境(轉換為root用戶)

技術分享圖片

添加內容

技術分享圖片

如果沒有克隆,我們將文件拷貝到另外兩個節點上(已克隆可忽略)

技術分享圖片技術分享圖片

首次啟動之前格式化hdfs(克隆完成後)

技術分享圖片

查看沒有錯誤結果

技術分享圖片

我們繼續,進入到目錄執行下個命令

技術分享圖片

啟動成功後查看

技術分享圖片

在瀏覽器裏輸入 http://IP:50070

技術分享圖片

CentOS6.5下安裝Hadoop-2.7.3(圖解教程)