Linux環境下hadoop安裝過程
一 實驗環境:
1.三臺物理機(可以虛擬機器虛擬出的三臺主機),其中一臺做為主節點(namenode)ip:192.168.30.50,兩臺做為從節點(datanode)ip:192.168.30.51 / 192.168.30.52
2.為每一臺主機安裝JDK1.6以上,並設定好環境變數,推薦(如:JAVA_HOME=/usr/java/java1.7.0_17),配置好後可以通過:java -version檢驗是否安裝成功;
3.為每一臺主機安裝SSH。
4.為每臺主機建立一個執行hadoop的使用者:useradd hdtest。
二 實驗具體步驟
1.在每臺主機上分別設定/etc/hosts和/etc/hostname.
例如:master主機
slave1主機
配置好後要重啟網路配置:/etc/rc.d/init.d/network restart,實在不行就重啟主機,一點要保證hostname相同。
2.在每臺主機上生成金鑰對,以普通使用者身份(hdtest)登入
首先,在/home/hdtest目錄下建立.ssh隱藏目錄
#生成金鑰(在每個節點上執行)
ssh-keygen -t rsa
#改變目錄金鑰資料夾的許可權
chmod 755 .ssh
###把每個節點上的id_rsa.pub檔案(公鑰)都複製到主節點的authorized_keys檔案中
cat .ssh/id_rsa.pub >> .ssh/authorized_keys
#修改公鑰檔案的許可權(注意因為ssh安全要求,公鑰檔案的許可權不能設定的太低)
chmod 644 .ssh/authorized_keys
其次,把每個主機中authorized_keys檔案內容拷貝到一起,替換原來authorized_keys檔案,也就是說,每個主機authorized_keys檔案中都包含三個公鑰(可用winscp工具視覺化操作)。也可以用 scp ~/.ssh/id_rsa.pub [email protected]:~/.ssh/authorized_keys
結果如圖:
#各個節點之間相互登入,注意本機也要登入
ssh 192.168.157.96ssh 192.168.157.97
ssh localhost
ssh設定後的主節點的.ssh目錄下的檔案
3.配置三臺主機的Hadoop檔案
1).將hadoop軟體包放到/home/hdtest目錄下,並以hdtest的身份解壓;
2)conf/Hadoop-env.sh:
export JAVA_HOME="你的java安裝地址“(/usr/java/jdk1.7.0.17)
3)修改hadoop的配置檔案,共需要修改三個檔案,可以先在一臺機器上配置好之後再分發到各個節點上
hadoop-0.20.2/conf/master 存放主節點的ip
hadoop-0.20.2/conf/slaves 存放從節點的ipca
masters和slaves檔案
4)hadoop-0.20.2/conf/core-site.xml 配置hdfs路徑、臨時目錄等資訊,可以按照如下所示的配置修改
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://192.168.30.50:9000</value>//注意:這裡的IP是各個主機的iP,不能都寫localhost
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/wasuser/temp.hadoop</value>//注意:這裡的temp.hadoop是要自己建立的目錄
</property>
</configuration>
5)hadoop-0.20.2/conf/mapred-site.xml 配置map reduce任務排程程序(job),可以按照如下所示的配置修改
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> //這裡空行或空格了可能會報錯
<!-- Put site-specific property overrides in this file. -->
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>192.168.30.50:9001</value>
</property>
</configuration>
6)conf/hdfs-site.xml:
<configurtion>
<property>
<name>dfs.replication</name>
<value>3</value>//表示資料備份的份數
</property>
<configuration>
4.在~/hadoop -0.2.0/bin目錄
###啟動hadoop啟動前先格式化namenode節點
使用bin/start-all.sh啟動hadoop
使用jdk中的jps檢視啟動的java程序
over
相關推薦
Linux環境下hadoop安裝過程
一 實驗環境: 1.三臺物理機(可以虛擬機器虛擬出的三臺主機),其中一臺做為主節點(namenode)ip:192.168.30.50,兩臺做為從節點(datanode)ip:192.168.30.51 / 192.168.30.52 2.為每一臺主機安裝JDK1.6以
Windows 7 x64環境下JDK8安裝過程
popu oracl 下載地址 安裝過程 jdk8 ora 空格 http download Windows 7 x64環境下JDK8安裝過程下載地址:http://www.oracle.com/technetwork/java/javase/downloads/jdk8
Linux 環境下VirtualBox安裝增強功能
.com all 圖片 root ready pos 操作圖片 共享文件夾 點擊 VirtualBox安裝CentOS後,再安裝增強功能就可以共享文件夾、粘貼板以及鼠標無縫移動,主要步驟如下: 1、yum -y update 2、yum -y install g++ gcc
基礎--Redis在Linux環境下的安裝
pat ont 2.3 $path 依賴 == man 2.6 官網下載 1. 安裝redis服務 1.1 檢查安裝依賴程序 yum install gcc-c++yum install -y tclyum install wget 1.1.1 下載redis安裝包 ① 官
Linux環境下Redis安裝配置步驟[轉]
http redis-cli ont == LV 成功 fcm space 執行 在LInux下安裝Redis的步驟如下: 1、首先下載一個Redis安裝包,官網下載地址為:https://redis.io/ 2、在Linux下解壓redis: tar -zxvf re
linux環境下tomcat安裝
down 切換 onf 驗證 rtu .com shu 項目 pac 1.安裝tomcat前安裝jdk(前提下) 2.下載安裝包apache-tomcat-8.0.36.tar.gz 解壓:tar -zxvf apache-tomcat-8.0.36.tar.gz
Linux環境下編譯安裝Mysql
mysql上一篇文章介紹了手工編譯安裝Apache,這篇文章將繼續之前的文章,介紹如何編譯安裝Mysql。 - 二、 編譯安裝Mycql 1. 首先解壓mysql文件到/opt目錄。 tar zxvf /opt/lamp/mysql-5.5.24.tar.gz -C /opt/ 2.確認安裝 gcc 、
nginx反向代理、負載均衡配置與linux環境下的安裝及通過ip和域名訪問nginx
本文主題: 一、什麼是nginx 二、nginx的應用場景 三、linux環境下nigix的安裝 四、nginx配置虛擬機器(ip、域名) 五、nginx實現反向代理 六、nginx實現負載均衡 一、什麼是nginx 1、http伺服器(通過nginx配置檔案配置
php在linux環境下的安裝使用及擴充套件的安裝
下載地址 http://php.net/downloads.php 開始安裝 第一步:安裝相應的庫檔案 yum install xml2-config xml2-confg-devel libxml2 libxml2-devel bzip2 bzip2-de
Linux環境下原始碼安裝Apache2.2.25
操作環境:RedHat Enterprise Linux 5.6 一、安裝準備 安裝Apache一般依賴3個元件:apr、apr-util、pcre。 確保這三個元件已經安裝。 [[email protected] ~]# rpm -qa|grep apr apr-uti
linux環境下 jdk安裝
下載JDK安裝包。 解壓jdk-7u79-linux-x64.tar.gz到指定目錄 配置環境。 【注意:一定要按照到/usr/java/目錄下 因為CManager會預設找這個目錄下的JAVA_HOME】 a>WebServer 的java環
Redis在linux環境下的安裝和部署
官網:http://redis.io windows版本下載地址https://github.com/MicrosoftArchive/redis/releases 1Redis建議安
Linux環境下 Redis 安裝、啟動、連線、主從複製、哨兵機制
安裝步驟 Linux 版本號 CentOS-6.4-x86_64 Redis 版本號 redis-3.0.6.tar.gz 1、usr資料夾中,建立redis資料夾 2、解壓 redis-3.0.6.tar.gz 3、解壓後進入到資料夾 redis-3.0.6 4、編譯 ma
Windows環境下hadoop安裝和配置
1.下載Hadoop http://www.apache.org/dyn/closer.cgi/hadoop/common 2.解壓 hadoop-2.7.3.tar.gz 點右鍵“解壓到hadoop-2.7.3” 資料夾路徑 xxx/xxxx/hadoop-2.7.3 複製
linux環境下如何安裝python3
一般的Linux的上都有預設的Python的版本,CentOS6.5預設的Python的版本的2.6.6的,因為工作原因,這裡需要用到Python3.6.3的版本,在這裡,小編將會一步步的教大家進行再Linux下Python3的安裝。一,安裝之前檢視自帶的Python的版本二,上傳並解壓Python3.6.3
Linux環境下Redis安裝搭建
前提:準備redis安裝包,下載地址如下: https://redis.io/download 1、下載原始碼,解壓縮後編譯原始碼。 $ wget http://download.redis.io/releases/redis-4.0.1.tar.
解壓版jdk在linux環境下的安裝
用root使用者將jdk-7u79-linux-x64.tar.gz上傳至/soft/jdk目錄下並解壓 具體解壓命令為:tar -xvf jdk-7u79-linux-x64.tar.gz 用ro
Linux環境下系統安裝JDK
說明:本文使用的Linux系統為CentOs6.5版本。 在CentOs6.5中中集成了JDK,是OpenJDK,我們可以通過命令來檢視一下JDK的版本。命令為:java -version。如圖所示:
Linux環境下Redis安裝配置步驟
在LInux下安裝Redis的步驟如下: 2、在Linux下解壓redis: tar -zxvf redis-2.8.22.tar.gz 3、解壓完成之後,進入到解壓的目錄裡面“”redis-2.8
linux環境下NPM安裝小結
1、安裝Nodejs 官網地址為http://nodejs.org 但國外地址下載太慢了,建議從淘寶下載(https://npm.taobao.org/mirrors/node/)wget https://npm.taobao.org/mirrors/node/lates