問題導讀：
1、hadoop 完全分散式 和偽分散式下 datanode無法啟動的原因？
2、怎麼解決？




問題描述：
在叢集模式下更改節點後，啟動叢集發現 datanode一直啟動不起來。
我叢集配置：有5個節點，分別為master slave1-5 。
在master以hadoop使用者執行：start-all.sh
jps檢視master節點啟動情況：

1.    NameNode        
   
2.          JobTracker
   
3.          SecondaryNameNode

複製程式碼

均已經正常啟動，利用 master:50070 ， Live Nodes 為0， 隨進入 slave1：
ssh slave1,  輸入命令 jps ，發現只有 TaskTracker 而沒有DataNode。隨後看日誌

上網查詢解決方法，最後終於解決了，解決方法如下：
1. 先執行stop-all.sh暫停所有服務
2. 將所有Salve節點上的tmp(即 hdfs-site.xml 中指定的 dfs.data.dir 資料夾，DataNode存放資料塊的位置)、 logs 資料夾刪除 ， 然後重新建立tmp , logs 資料夾
3. 將所有Salve節點上的/usr/hadoop/conf下的core-site.xml刪除，將master節點的core-site.xml檔案拷貝過來，到各個Salve節點

1. scp /usr/hadoop/conf/core-site.xml   [email protected]:/usr/hadoop/conf/

複製程式碼
4. 重新格式化: hadoop namenode -format
5. 啟動：start-all.sh

注：這是我碰到的情況，不見得是你遇到的問題，基本上從以下幾個方面解決問題：
        1. 檢查各個xml檔案是否配置正確
        2. java環境變數配置是否正確
        3. ssh是否無密碼互通
        4, Hadoop離開安全模式，hadoop dfsadmin -safemode leave。

也可以參考這個：偽分散式下datanode無法啟動問題
例子如下：
1. 環境描述：
虛擬機器7.1.4，Ubuntu 10.10，偽分散式安裝Hadoop。

2. 問題描述：

多次格式化檔案系統時：

1. $ bin/hadoop namenode -format

複製程式碼 會出現datanode無法啟動。

3. 問題產生原因：
執行檔案系統格式化時，會在namenode資料資料夾（即配置檔案中dfs.name.dir在本地系統的路徑）中儲存一個current/VERSION檔案，記錄namespaceID，標識了所格式化的namenode的版本。如果我們頻繁的格式化namenode，那麼datanode中儲存（即配置檔案中dfs.data.dir在本地系統的路徑）的current/VERSION檔案只是你第一次格式化時儲存的namenode的ID，因此就會造成datanode與namenode之間的id不一致。

4. datanode啟動日誌：
/home/xsj/hadoop/hadoop-0.20.2/logs/hadoop-xsj-datanode-xsj-virtual-machine.log.XXXX-XX-XX
檢視日誌發現：
************************************************************/
2012-05-28 17:40:59,973 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in /home/xsj/hadoop/hadoop-0.20.2/hdfs/data: namenode namespaceID = 1525353449; datanode namespaceID = 1686950792

5. 解決方案：
把配置檔案中dfs.data.dir在本地系統的路徑下的current/VERSION檔案中的namespaceID改為與dfs.name.dir在本地系統的路徑下的current/VERSION檔案中的namespaceID一樣，例如：
dfs.data.dir為/home/xsj/hadoop/hadoop-0.20.2/hdfs/data
dfs.name.dir為/home/xsj/hadoop/hadoop-0.20.2/hdfs/name
開啟/home/xsj/hadoop/hadoop-0.20.2/hdfs/name/current/VERSION檔案：

1. #Wed May 30 09:51:09 CST 2012
   
2. namespaceID=1525353449
   
3. cTime=0
   
4. storageType=NAME_NODE
   
5. layoutVersion=-18

複製程式碼

開啟/home/xsj/hadoop/hadoop-0.20.2/hdfs/data/current/VERSION檔案：

1. #Thu May 24 17:23:11 CST 2012
   
2. namespaceID=1686950792
   
3. storageID=DS-1689019725-127.0.1.1-50010-1337851391704
   
4. cTime=0
   
5. storageType=DATA_NODE
   
6. layoutVersion=-18

複製程式碼

修改為：

1. #Thu May 24 17:23:11 CST 2012
   
2. namespaceID=1525353449
   
3. storageID=DS-1689019725-127.0.1.1-50010-1337851391704
   
4. cTime=0
   
5. storageType=DATA_NODE
   
6. layoutVersion=-18

複製程式碼


6. 重啟後執行jps命令：

 

問題導讀：
1、Hadoop出現問題時，該如何入手檢視問題？
2、datanode無法啟動，我們該怎麼解決？
3、如何動態加入DataNode或TaskTracker？

一、問題描述
當我多次格式化檔案系統時，如

1. [email protected]:/usr/local/hadoop-1.0.2# bin/hadoop namenode -format

複製程式碼
會出現datanode無法啟動，檢視日誌，發現錯誤為：

1. 2012-04-20 20:39:46,501 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in /home/gqy/hadoop/data: namenode namespaceID = 155319143; datanode namespaceID = 1036135033

複製程式碼
二、問題產生原因
當我們執行檔案系統格式化時，會在namenode資料資料夾（即配置檔案中dfs.name.dir在本地系統的路徑）中儲存一個current/VERSION檔案，記錄namespaceID，標識了所格式化的 namenode的版本。如果我們頻繁的格式化namenode，那麼datanode中儲存（即配置檔案中dfs.data.dir在本地系統的路徑）的current/VERSION檔案只是你第一次格式化時儲存的namenode的ID，因此就會造成datanode與namenode之間的id不一致。

三、解決辦法
把配置檔案中dfs.data.dir在本地系統的路徑下的current/VERSION中的namespaceID改為與namenode一樣。

如果大家在安裝的時候遇到問題，或者按步驟安裝完後卻不能執行Hadoop，那麼建議仔細檢視日誌資訊，Hadoop記錄了詳盡的日誌資訊，日誌檔案儲存在logs資料夾內。
無論是啟動，還是以後會經常用到的MapReduce中的每一個job，以及HDFS等相關資訊，Hadoop均存有日誌檔案以供分析。
例如：
NameNode和DataNode的namespaceID不一致，這個錯誤是很多人在安裝時會遇到的，日誌資訊為：

1. java.io.IOException: Incompatible namespaceIDs in /root/tmp/dfs/data:
   
2. NameNode namespaceID = 1307672299; DataNode namespaceID = 389959598

複製程式碼
若HDFS一直沒有啟動，讀者可以查詢日誌，並通過日誌進行分析，以上提示資訊顯示了NameNode和DataNode的namespaceID不一致。
這個問題一般是由於兩次或兩次以上的格式化NameNode造成的，有兩種方法可以解決，第一種方法是刪除DataNode的所有資料（及將叢集中每個datanode的/hdfs/data/current中的VERSION刪掉，然後執行hadoop namenode -format重啟叢集，錯誤消失。<推薦>）；第二種方法是修改每個DataNode的namespaceID（位於/hdfs/data/current/VERSION檔案中）<優先>或修改NameNode的namespaceID（位於/hdfs/name/current/VERSION檔案中），使其一致。


下面這兩種方法在實際應用中也可能會用到。
1）重啟壞掉的DataNode或JobTracker。當Hadoop叢集的某單個節點出現問題時，一般不必重啟整個系統，只須重啟這個節點，它會自動連入整個叢集。
在壞死的節點上輸入如下命令即可：

1. bin/Hadoop-daemon.sh start DataNode
   
2. bin/Hadoop-daemon.sh start jobtracker

複製程式碼
2） 動態加入DataNode或TaskTracker。這個命令允許使用者動態將某個節點加入叢集中。

1. bin/Hadoop-daemon.sh --config ./conf start DataNode
   
2. bin/Hadoop-daemon.sh --config ./conf start tasktracker
   

複製程式碼

原文來自：

http://www.aboutyun.com/thread-7930-1-1.html

http://www.aboutyun.com/thread-7931-1-1.html

偽分散式下datanode無法啟動問題

1. 環境描述： 虛擬機器7.1.4，Ubuntu 10.10，偽分散式安裝Hadoop。 2. 問題描述： 多次格式化檔案系統時： $ bin/hadoop namenode -format 會出現datanode無法啟動。 3. 問題產生原因：  執行檔案系統格式化時，會在namenode資料資料夾（即配置檔案中dfs.name.dir在本地系統的路徑）中儲存一個current/VERSION檔案，記錄namespaceID，標識了所格式化的namenode的版本。如果我們頻繁的格式化namenode，那麼datanode中儲存（即配置檔案中dfs.data.dir在本地系統的路徑）的current/VERSION檔案只是你第一次格式化時儲存的namenode的ID，因此就會造成datanode與namenode之間的id不一致。 4. datanode啟動日誌： /home/xsj/hadoop/hadoop-0.20.2/logs/hadoop-xsj-datanode-xsj-virtual-machine.log.XXXX-XX-XX 檢視日誌發現： ************************************************************/ 2012-05-28 17:40:59,973 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in /home/xsj/hadoop/hadoop-0.20.2/hdfs/data: namenode namespaceID = 1525353449; datanode namespaceID = 1686950792 5. 解決方案： 把配置檔案中dfs.data.dir在本地系統的路徑下的current/VERSION檔案中的namespaceID改為與dfs.name.dir在本地系統的路徑下的current/VERSION檔案中的namespaceID一樣，例如： dfs.data.dir為/home/xsj/hadoop/hadoop-0.20.2/hdfs/data dfs.name.dir為/home/xsj/hadoop/hadoop-0.20.2/hdfs/name 開啟/home/xsj/hadoop/hadoop-0.20.2/hdfs/name/current/VERSION檔案： #Wed May 30 09:51:09 CST 2012 namespaceID=1525353449 cTime=0 storageType=NAME_NODE layoutVersion=-18 開啟/home/xsj/hadoop/hadoop-0.20.2/hdfs/data/current/VERSION檔案： #Thu May 24 17:23:11 CST 2012 namespaceID=1686950792 storageID=DS-1689019725-127.0.1.1-50010-1337851391704 cTime=0 storageType=DATA_NODE layoutVersion=-18 修改為： #Thu May 24 17:23:11 CST 2012 namespaceID=1525353449 storageID=DS-1689019725-127.0.1.1-50010-1337851391704 cTime=0 storageType=DATA_NODE layoutVersion=-18 6. 重啟後執行jps命令 7. 參考資料：

原文來自：http://blog.sina.com.cn/s/blog_76fbd24d01017qmc.html

個人總結：使用偽分散式的方法沒有作用，最後採用分散式下DataNode不能啟動的解決方法，刪除tmp和logs

檔案，重新進行分散式環境配置，成功。