1. 程式人生 > >windows系統下使用Java語言訪問Linux系統下HDFS檔案系統相關配置步驟

windows系統下使用Java語言訪問Linux系統下HDFS檔案系統相關配置步驟

前提:Linux系統已部署完成Hadoop叢集並已啟動,在Windows系統可以通過IP:50070檢視HDFS檔案系統

配置過程:
1.Windows系統下安裝JDK並配置環境變數
2.Windows系統配置Hadoop環境變數
配置HADOOP_HOME

 
配置Path
 
配置CLASSPATH:
 
其中需要在hadoop2.6.0/bin目錄下新增以下檔案:
 
下載連結:https://download.csdn.net/download/cxx654/10383272
3.修改HDFS叢集檔案系統許可權:修改檔案 hadoop-2.6.0/etc/hadoop/hdfs-site.xml,增加如下內容:
<configuration>
        <property>
                <name>dfs.permissions</name>
                <value>false</value>
        </property>
</configuration>
4.配置C:\Windows\System32 目錄內容,增加如下檔案:hadoop.dll、msvcr100.dll
5.建立Java Project專案,匯入相關jar包,需要匯入的jar包如下:
    a)hadoop-2.6.0\share\hadoop\common\hadoop-common-2.6.0.jar
    b)hadoop-2.6.0\share\hadoop\common\lib\ 目錄下的所有jar檔案
    c)hadoop-2.6.0\share\hadoop\hdfs\hadoop-hdfs-2.6.0.jar
    d)hadoop-2.6.0\share\hadoop\hdfs\lib\目錄下的所有jar檔案
6.在src資料夾下建立以log4j.properties命名的檔案,檔案內容如下:
    log4j.rootLogger=WARN, stdout
    log4j.appender.stdout=org.apache.log4j.ConsoleAppender
    log4j.appender.stdout.layout=org.apache.log4j.PatternLayout

    log4j.appender.stdout.layout.ConversionPattern=%d%p [%c] - %m%n

參考文獻