1. 程式人生 > >Linux環境下hadoop安裝過程

Linux環境下hadoop安裝過程

一 實驗環境:

1.三臺物理機(可以虛擬機器虛擬出的三臺主機),其中一臺做為主節點(namenode)ip:192.168.30.50,兩臺做為從節點(datanode)ip:192.168.30.51 /   192.168.30.52

2.為每一臺主機安裝JDK1.6以上,並設定好環境變數,推薦(如:JAVA_HOME=/usr/java/java1.7.0_17),配置好後可以通過:java -version檢驗是否安裝成功;

3.為每一臺主機安裝SSH。

4.為每臺主機建立一個執行hadoop的使用者:useradd hdtest。

二 實驗具體步驟

1.在每臺主機上分別設定/etc/hosts和/etc/hostname.

例如:master主機

slave1主機

配置好後要重啟網路配置:/etc/rc.d/init.d/network restart,實在不行就重啟主機,一點要保證hostname相同。

2.在每臺主機上生成金鑰對,以普通使用者身份(hdtest)登入

首先,在/home/hdtest目錄下建立.ssh隱藏目錄

#生成金鑰(在每個節點上執行)

ssh-keygen -t rsa

#改變目錄金鑰資料夾的許可權

chmod 755 .ssh

###把每個節點上的id_rsa.pub檔案(公鑰)都複製到主節點的authorized_keys檔案中

cat .ssh/id_rsa.pub >> .ssh/authorized_keys

#修改公鑰檔案的許可權(注意因為ssh安全要求,公鑰檔案的許可權不能設定的太低)

chmod 644 .ssh/authorized_keys

其次,把每個主機中authorized_keys檔案內容拷貝到一起,替換原來authorized_keys檔案,也就是說,每個主機authorized_keys檔案中都包含三個公鑰(可用winscp工具視覺化操作)。也可以用 scp ~/.ssh/id_rsa.pub [email protected]:~/.ssh/authorized_keys

結果如圖:

#各個節點之間相互登入,注意本機也要登入

ssh 192.168.157.96ssh 192.168.157.97

ssh localhost

ssh設定後的主節點的.ssh目錄下的檔案

3.配置三臺主機的Hadoop檔案

1).將hadoop軟體包放到/home/hdtest目錄下,並以hdtest的身份解壓;

2)conf/Hadoop-env.sh:

export JAVA_HOME="你的java安裝地址“(/usr/java/jdk1.7.0.17)

3)修改hadoop的配置檔案,共需要修改三個檔案,可以先在一臺機器上配置好之後再分發到各個節點上

hadoop-0.20.2/conf/master 存放主節點的ip

hadoop-0.20.2/conf/slaves 存放從節點的ipca
masters和slaves檔案

4)hadoop-0.20.2/conf/core-site.xml 配置hdfs路徑、臨時目錄等資訊,可以按照如下所示的配置修改

<?xml version="1.0"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file. -->

<configuration>

<property>

<name>fs.default.name</name>

<value>hdfs://192.168.30.50:9000</value>//注意:這裡的IP是各個主機的iP,不能都寫localhost

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/home/wasuser/temp.hadoop</value>//注意:這裡的temp.hadoop是要自己建立的目錄

</property>

</configuration>

5)hadoop-0.20.2/conf/mapred-site.xml 配置map reduce任務排程程序(job),可以按照如下所示的配置修改

<?xml version="1.0"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> //這裡空行或空格了可能會報錯

<!-- Put site-specific property overrides in this file. -->

<configuration>

<property>              

<name>mapred.job.tracker</name>

<value>192.168.30.50:9001</value>

</property>

</configuration>

6)conf/hdfs-site.xml:

<configurtion>

<property>

<name>dfs.replication</name>

<value>3</value>//表示資料備份的份數

</property>

<configuration>


4.在~/hadoop -0.2.0/bin目錄

###啟動hadoop啟動前先格式化namenode節點

使用bin/start-all.sh啟動hadoop

使用jdk中的jps檢視啟動的java程序

over











相關推薦

Linux環境hadoop安裝過程

一 實驗環境: 1.三臺物理機(可以虛擬機器虛擬出的三臺主機),其中一臺做為主節點(namenode)ip:192.168.30.50,兩臺做為從節點(datanode)ip:192.168.30.51 /   192.168.30.52 2.為每一臺主機安裝JDK1.6以

Windows 7 x64環境JDK8安裝過程

popu oracl 下載地址 安裝過程 jdk8 ora 空格 http download Windows 7 x64環境下JDK8安裝過程下載地址:http://www.oracle.com/technetwork/java/javase/downloads/jdk8

Linux 環境VirtualBox安裝增強功能

.com all 圖片 root ready pos 操作圖片 共享文件夾 點擊 VirtualBox安裝CentOS後,再安裝增強功能就可以共享文件夾、粘貼板以及鼠標無縫移動,主要步驟如下: 1、yum -y update 2、yum -y install g++ gcc

基礎--Redis在Linux環境安裝

pat ont 2.3 $path 依賴 == man 2.6 官網下載 1. 安裝redis服務 1.1 檢查安裝依賴程序 yum install gcc-c++yum install -y tclyum install wget 1.1.1 下載redis安裝包 ① 官

Linux環境Redis安裝配置步驟[轉]

http redis-cli ont == LV 成功 fcm space 執行 在LInux下安裝Redis的步驟如下: 1、首先下載一個Redis安裝包,官網下載地址為:https://redis.io/ 2、在Linux下解壓redis: tar -zxvf re

linux環境tomcat安裝

down 切換 onf 驗證 rtu .com shu 項目 pac 1.安裝tomcat前安裝jdk(前提下) 2.下載安裝包apache-tomcat-8.0.36.tar.gz 解壓:tar -zxvf apache-tomcat-8.0.36.tar.gz

Linux環境編譯安裝Mysql

mysql上一篇文章介紹了手工編譯安裝Apache,這篇文章將繼續之前的文章,介紹如何編譯安裝Mysql。 - 二、 編譯安裝Mycql 1. 首先解壓mysql文件到/opt目錄。 tar zxvf /opt/lamp/mysql-5.5.24.tar.gz -C /opt/ 2.確認安裝 gcc 、

nginx反向代理、負載均衡配置與linux環境安裝及通過ip和域名訪問nginx

本文主題: 一、什麼是nginx 二、nginx的應用場景 三、linux環境下nigix的安裝 四、nginx配置虛擬機器(ip、域名) 五、nginx實現反向代理 六、nginx實現負載均衡 一、什麼是nginx 1、http伺服器(通過nginx配置檔案配置

php在linux環境安裝使用及擴充套件的安裝

下載地址 http://php.net/downloads.php 開始安裝 第一步:安裝相應的庫檔案 yum install xml2-config xml2-confg-devel libxml2 libxml2-devel bzip2 bzip2-de

Linux環境原始碼安裝Apache2.2.25

操作環境:RedHat Enterprise Linux 5.6   一、安裝準備 安裝Apache一般依賴3個元件:apr、apr-util、pcre。 確保這三個元件已經安裝。 [[email protected] ~]# rpm -qa|grep apr apr-uti

linux環境 jdk安裝

下載JDK安裝包。 解壓jdk-7u79-linux-x64.tar.gz到指定目錄 配置環境。 【注意:一定要按照到/usr/java/目錄下 因為CManager會預設找這個目錄下的JAVA_HOME】     a>WebServer 的java環

Redis在linux環境安裝和部署

官網:http://redis.io          windows版本下載地址https://github.com/MicrosoftArchive/redis/releases   1Redis建議安

Linux環境 Redis 安裝、啟動、連線、主從複製、哨兵機制

安裝步驟 Linux 版本號 CentOS-6.4-x86_64 Redis 版本號 redis-3.0.6.tar.gz 1、usr資料夾中,建立redis資料夾 2、解壓 redis-3.0.6.tar.gz 3、解壓後進入到資料夾 redis-3.0.6 4、編譯 ma

Windows環境hadoop安裝和配置

1.下載Hadoop http://www.apache.org/dyn/closer.cgi/hadoop/common 2.解壓 hadoop-2.7.3.tar.gz 點右鍵“解壓到hadoop-2.7.3” 資料夾路徑 xxx/xxxx/hadoop-2.7.3 複製

linux環境如何安裝python3

一般的Linux的上都有預設的Python的版本,CentOS6.5預設的Python的版本的2.6.6的,因為工作原因,這裡需要用到Python3.6.3的版本,在這裡,小編將會一步步的教大家進行再Linux下Python3的安裝。一,安裝之前檢視自帶的Python的版本二,上傳並解壓Python3.6.3

Linux環境Redis安裝搭建

前提:準備redis安裝包,下載地址如下: https://redis.io/download 1、下載原始碼,解壓縮後編譯原始碼。 $ wget http://download.redis.io/releases/redis-4.0.1.tar.

解壓版jdk在linux環境安裝

用root使用者將jdk-7u79-linux-x64.tar.gz上傳至/soft/jdk目錄下並解壓 具體解壓命令為:tar -xvf jdk-7u79-linux-x64.tar.gz 用ro

Linux環境系統安裝JDK

說明:本文使用的Linux系統為CentOs6.5版本。 在CentOs6.5中中集成了JDK,是OpenJDK,我們可以通過命令來檢視一下JDK的版本。命令為:java -version。如圖所示:

Linux環境Redis安裝配置步驟

在LInux下安裝Redis的步驟如下: 2、在Linux下解壓redis: tar -zxvf redis-2.8.22.tar.gz 3、解壓完成之後,進入到解壓的目錄裡面“”redis-2.8

linux環境NPM安裝小結

1、安裝Nodejs  官網地址為http://nodejs.org  但國外地址下載太慢了,建議從淘寶下載(https://npm.taobao.org/mirrors/node/)wget https://npm.taobao.org/mirrors/node/lates