hadoop的安裝和配置——第二章:偽分布模式
這篇為大家帶來hadoop的偽分布模式:
從最簡單的方面來說,偽分布模式就是在本地模式上修改配置文件:
core-site.xml;hdfs-site.xml;mapred-site.xml;yarn-site.xml4
備註:本地模式見hadoop的安裝與配置——第一章:本地模式
思路:
|——————————|
| ①:ssh免密登陸 |
| ②:修改配置文件 |
| ③:格式化hadoop |
| ④:啟動hadoop |
|——————————|
一:ssh的免密登陸
生成id_rsa和id_rsa.pub
[root@localhost hadoop]# ssh-keygen -t rsa
進入/root/.ssh下:將id_rsa.pub的信息發在authorized_keys下:
1 [root@localhost hadoop]# cd /root/.ssh/ 2 [root@localhost .ssh]# cat id_rsa.pub >> authorized_keys 3 [root@localhost .ssh]# ls 4 authorized_keys id_rsa id_rsa.pub known_hosts
SSH免密登陸詳細文檔鏈接地址
二:關於配置文件的主要內容
core-site.xml:指定hadoop的主節點master
hdfs-site.xml:指定hadoop中的文件副本數
mapred-site.xml:指定mapreduce的資源管理
yarn-site.xml:——————————————
配置文件可以從hadoop的官方文檔中下載,有詳細解釋,這裏為了減少對大家的幹擾,就直接選取了部分:
core-site.xml配置修改:
1 <configuration> 2 <property> 3 <name>fs.default.name</name> 4 <value>hdfs://localhost</value>(主節點為本機localhost) 5 </property> 6 </configuration>
hdfs-site.xml配置修改:
1 <configuration> 2 <property> 3 <name>dfs.replication</name> 4 <value>1</value>(偽分布模式) 5 </property> 6 </configuration>
mapred-site.xml配置修改:
備註:
1 若沒有mapred-site.xml,選擇以下方法復制 2 [root@localhost hadoop]# cp mapred-site.xml.template mapred-site.xml
1 <configuration> 2 <property> 3 <name>mapreduce.framework.name</name> 4 <value>yarn</value>(選擇yarn來mapreduce) 5 </property> 6 </configuration>
yarn-site.xml配置修改:
1 <configuration> 2 <property> 3 <name>yarn.resourcemanager.hostname</name> 4 <value>localhost</value> 5 </property> 6 7 <property> 8 <name>yarn.nodemanager.aux-services</name> 9 <value>mapreduce_shuffle</value> 10 </property> 11 </configuration>
三:格式化hadoop
hadoop namenode -format
格式化一次就好了
四:啟動hadoop
start-all.sh
備註:關閉hadoop:stop-all.sh
想要知道hadoop是否配置成功,那麽就使用jps來查詢一下進程吧!
我們知道hadoop主要分為存儲和計算,所以我們主要查詢一下存儲和計算的進程是否啟動:
1 [root@localhost hadoop]# jps 2 31105 NodeManager(從)(計算) 3 30675 SecondaryNameNode(主-副本)(計算) 4 31139 Jps 5 30822 ResourceManager(主)(計算) 6 30510 DataNode(從)(存儲) 7 30382 NameNode(主)(存儲)
有不清楚的地方歡迎大家提問,有問題歡迎大家給出方法!
2017-12-26 15:32:06
hadoop的安裝和配置——第二章:偽分布模式