「hadoop」idea gradle hadoop 運行helloworld示例
阿新 • • 發佈:2017-09-21
三臺 補充 linux .dll 遇到 dea name 步驟 red
運行一個簡單的hadoop實例。
環境:win7跑三臺ubuntu虛擬機,並已成功安裝hadoop2.8.1環境,win7安裝idea工具
【步驟】
1、參考 http://blog.csdn.net/u011654631/article/details/70037219,該地址簡稱 參考頁;
2、idea創建gradle的java工程;
3、按參考頁build.gradle中集成相應的hadoop jar包;
幾點補充:
1、把core-site.xml,mapred-site.xml,yarn-site.xml等拷到工程的resources目錄下;
2、如遇到 hdfs:master:9000 訪問refused,用IP地址替換master試試;
3、input文件位於hdfs系統內,linux只能通過hdfs dfs方式訪問;
4、hadoop.dll和winutils.exe需另行下載;
5、用戶權限問題,win7增加環境變量 HADOOP_USER_NAME, 值為 hadoop的用戶名;
6、增加日誌打印配置文件log4j.xml,放到工程的resources目錄下,xml內容參考 http://www.cnblogs.com/ftrako/p/7570094.html ;
「hadoop」idea gradle hadoop 運行helloworld示例