1. 程式人生 > >在搭建Hadoop叢集環境時遇到的一些問題

在搭建Hadoop叢集環境時遇到的一些問題

最近在學習搭建hadoop叢集環境,在搭建的過程中遇到很多問題,在這裡做一些記錄。
1. SSH相關的問題
  問題一: ssh: connect to host localhost port 22: Connection refused
  問題二: 遠端連線需要輸入密碼。
  參照以下部落格即可解決:
    Linux開啟SSH服務: https://www.cnblogs.com/fengbeihong/p/3307575.html
    ubuntu Docker開啟ssh:https://blog.csdn.net/qq_27068845/article/details/77015432
    ssh免密登陸: https://www.cnblogs.com/ivan0626/p/4144277.html


  配置好後就可以使用ssh master等,隨意登陸master和slave了。

2. 在使用bin/hdfs namenode -format命令時遇到的JAVA_HOME問題。
  要點一:需要配置好container中的JAVA_HOME
  要點二: 需要配置好hadoop_env.sh中的JAVA_HOME
  參照以下部落格解決了問題:
  linux下安裝Java: https://www.cnblogs.com/liugh/p/6623530.html
  主要注意點是在配置
    export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64/
  此類的語句時,=號左右不能有空格。

3. 報 hdfs-site.xml 和 yarn-site.xml發生xml格式錯誤,仔細檢查發現是因為xml檔案的第一行不能是空行引起的。

4. 報如下錯誤:
ERROR: Attempting to launch hdfs namenode as root
ERROR: but there is no HDFS_NAMENODE_USER defined. Aborting launch.
Starting datanodes
ERROR: Attempting to launch hdfs datanode as root
ERROR: but there is no HDFS_DATANODE_USER defined. Aborting launch.
Starting secondary namenodes [localhost.localdomain]
ERROR: Attempting to launch hdfs secondarynamenode as root
ERROR: but there is no HDFS_SECONDARYNAMENODE_USER defined. Aborting launch.

或者

Starting resourcemanager
ERROR: Attempting to launch yarn resourcemanager as root
ERROR: but there is no YARN_RESOURCEMANAGER_USER defined. Aborting launch.

參考如下部落格解決:
  Hadoop安裝配置(偽分散式):
  https://blog.csdn.net/mxfeng/article/details/72770432?locationNum=5&fps=1