1. 程式人生 > >Mac下 Hadoop部署簡介(Mac OSX 10.8.3 + Hadoop

Mac下 Hadoop部署簡介(Mac OSX 10.8.3 + Hadoop

OneCoder在自己的筆記本上部署Hadoop環境用於研究學習,記錄部署過程和遇到的問題。

1、安裝JDK。
2、下載Hadoop(1.0.4),在Hadoop中配置JAVA_HOME環境變數。修改hadoop-env.sh檔案。
export JAVA_HOME= /Library/Java/JavaVirtualMachines/jdk1.7.0_10.jdk/Contents/Home/
3、配置SSH
生成金鑰

ssh-keygen -t dsa -P '' -f ~/.ssh/onecoder_dsa

將公鑰追加到key中

cat ~/.ssh/onecoder_rsa.pub >> ~/.ssh/authorized_keys

開啟Mac OS的遠端訪問選項。系統設定 -》 共享 -》 遠端登入

4、配置namenode和datanode hdfs本地路徑
在hdfs-site.xml中配置

<property>
 <name>dfs.name.dir</name>
 <value>/Users/apple/Documents/hadoop/name/</value>
</property>
<property>
   <name>dfs.data.dir</name>
  <value>/Users/apple/Documents/hadoop/data/</value>
</property>
 <property> 
    <name>dfs.replication</name> 
    <value>1</value> 
 </property>

由於是驗證環境,所以資料備份設為1。

5、格式化namenode

bin/Hadoop NameNode -format

6、啟動hadoop

可通過bin下的start-all.sh直接全部啟動,也可以通過

hadoop namenode (datanode、jobtracker、tasktracker)

,按照上述順序依次啟動。
使用後者可以比較方便的檢視啟動日誌,方便查錯。並且也可以在控制檯日誌中看到監控頁面的訪問地址和埠。如:
13/04/04 15:52:18 INFO http.HttpServer: Jetty bound to port 50070
當然,這些地址你可以已經爛熟於胸了。通過瀏覽器進入web監控頁面檢視。可以看到一切就緒。Hadoop環境部署完成。


其他。
關於警告:Unable to load realm info from SCDynamicStore
網上給出的解決方案是:在hadoop-env.sh中設定

export HADOOP_OPTS="-Djava.security.krb5.realm=OX.AC.UK -Djava.security.krb5.kdc=kdc0.ox.ac.uk:kdc1.ox.ac.uk"

不過在OneCoder這裡無效,但是不影響Hadoop環境使用。