1. 程式人生 > >hadoop的安裝和配置——第二章:偽分布模式

hadoop的安裝和配置——第二章:偽分布模式

manage 安裝和配置 for tex .com 偽分布 roo oca mat

這篇為大家帶來hadoop的偽分布模式:

從最簡單的方面來說,偽分布模式就是在本地模式上修改配置文件:

core-site.xml;hdfs-site.xml;mapred-site.xml;yarn-site.xml4

備註:本地模式見hadoop的安裝與配置——第一章:本地模式

思路:

|——————————|

|  ①:ssh免密登陸 |

|  ②:修改配置文件 |

|  ③:格式化hadoop |

|  ④:啟動hadoop |

|——————————|

一:ssh的免密登陸

生成id_rsa和id_rsa.pub

[root@localhost hadoop]# ssh-keygen -t rsa

技術分享圖片

進入/root/.ssh下:將id_rsa.pub的信息發在authorized_keys下:

1 [root@localhost hadoop]# cd /root/.ssh/
2 [root@localhost .ssh]# cat id_rsa.pub >> authorized_keys
3 [root@localhost .ssh]# ls
4 authorized_keys  id_rsa  id_rsa.pub  known_hosts

技術分享圖片

SSH免密登陸詳細文檔鏈接地址


二:關於配置文件的主要內容

core-site.xml:指定hadoop的主節點master

hdfs-site.xml:指定hadoop中的文件副本數

mapred-site.xml:指定mapreduce的資源管理

yarn-site.xml:——————————————

配置文件可以從hadoop的官方文檔中下載,有詳細解釋,這裏為了減少對大家的幹擾,就直接選取了部分:

core-site.xml配置修改:

1 <configuration>
2         <property>
3                 <name>fs.default.name</name>
4                 <value
>hdfs://localhost</value>(主節點為本機localhost) 5 </property> 6 </configuration>

技術分享圖片

hdfs-site.xml配置修改:

1 <configuration>
2         <property>
3                 <name>dfs.replication</name>
4                 <value>1</value>(偽分布模式)
5         </property>
6 </configuration>

技術分享圖片

mapred-site.xml配置修改:

備註:

1 若沒有mapred-site.xml,選擇以下方法復制
2 [root@localhost hadoop]# cp mapred-site.xml.template mapred-site.xml
1 <configuration>
2         <property>
3                 <name>mapreduce.framework.name</name>
4                 <value>yarn</value>(選擇yarn來mapreduce)
5         </property>
6 </configuration>

技術分享圖片

yarn-site.xml配置修改:

 1 <configuration>
 2         <property>
 3                 <name>yarn.resourcemanager.hostname</name>
 4                 <value>localhost</value>
 5         </property>
 6         
 7         <property>
 8                 <name>yarn.nodemanager.aux-services</name>
 9                 <value>mapreduce_shuffle</value>
10         </property>
11 </configuration>

技術分享圖片


三:格式化hadoop

hadoop namenode -format

格式化一次就好了


四:啟動hadoop

start-all.sh

備註:關閉hadoop:stop-all.sh

想要知道hadoop是否配置成功,那麽就使用jps來查詢一下進程吧!

我們知道hadoop主要分為存儲和計算,所以我們主要查詢一下存儲和計算的進程是否啟動:

1 [root@localhost hadoop]# jps
2 31105 NodeManager(從)(計算)
3 30675 SecondaryNameNode(主-副本)(計算)
4 31139 Jps
5 30822 ResourceManager(主)(計算)
6 30510 DataNode(從)(存儲)
7 30382 NameNode(主)(存儲)

技術分享圖片

有不清楚的地方歡迎大家提問,有問題歡迎大家給出方法!

2017-12-26 15:32:06

hadoop的安裝和配置——第二章:偽分布模式