1. 程式人生 > >大資料環境基礎之Centos安裝Haoop叢集(5)安裝hadoop叢集

大資料環境基礎之Centos安裝Haoop叢集(5)安裝hadoop叢集

首先要去下載hadoop-2.5.2.tar.gz安裝包,將安裝包移動到當前使用者的根目錄解壓


用命令ls檢視解壓後的hadoop


配置hadoop環境變數


配置jdk路徑,終端輸入 vi   hadoop-env.sh


配置yarn環境變數 yarn-env.sh,  輸入 vi yarn-env.sh


配置核心元件core-site.xml,    輸入vi core-site.xml


配置檔案系統 hdfs-site.xml   輸入 vi hdfs-site.xml



配置檔案系統 yarn-site.xml 輸入 vi yarn-site.xml




配置計算框架mapred-site.xml




配置從節點檔案slaves,  輸入vi slaves


在主節點上將hadoop-2.5.2分發到各個從節點上

首先輸入命令cd切換到根目錄

然後輸入命令 scp  -r   ~/hadoop-2.5.2   slave03:~/

配置hadoop叢集啟動




建立叢集資料儲存目錄


配置hadoop叢集啟動和建立叢集資料儲存目錄在主從節點都需要配置

啟動hadoop叢集



然後你發現差一個NameNode節點

格式化HDFS檔案系統


在啟動hadoop叢集


然後輸入jps就能看到NameNode了


在從節點輸入jps


開啟火狐瀏覽器,輸入master:50070,出現如下介面


然後在開啟一個網頁,輸入master:18088,出現如下介面


最後驗證hadoop叢集是否安裝成功,啟動hadoop集群后,算PI


如果出現如下介面,hadoop叢集就算安裝成功了


相關推薦

資料環境基礎Centos安裝Haoop叢集5安裝hadoop叢集

首先要去下載hadoop-2.5.2.tar.gz安裝包,將安裝包移動到當前使用者的根目錄解壓 用命令ls檢視解壓後的hadoop 配置hadoop環境變數 配置jdk路徑,終端輸入 vi   hadoop-env.sh 配置yarn環境變數 yarn-env

資料環境基礎Centos安裝Haoop叢集4ssh免密碼登入

ssh免密碼登入的配置需要在當前使用者下的根目錄下 用命令ssh-keygen -t rsa生成公鑰和祕鑰 用命令ls -a檢視.ssh檔案 進入.ssh資料夾裡面,用命令ls檢視公鑰和祕鑰 將公鑰儲存在authorized_keys檔案中 修改authorized

資料環境基礎Centos安裝Haoop叢集1CentOS系統配置

首先開啟兩個節點 接下來就是開啟終端了 方式一:在桌面上右擊,找到Open in Terminal,點選 方式二: 這樣終端就打開了,如下圖 了 接下來就正式開始配置系統環境 1.配置網路 我們能看到右端的電腦有個紅叉,說明網路是斷開的,其實我們可以點進去,然後點選S

資料Java基礎——移位運算的真實剖析 

  拋磚引玉:   Java 中定義了 3 種移位運算子,分別是左移運算子“<<”、右移運算子“>>”和無符號右移運算子“>>>”,對於移位運算,移位運算兩邊的運算元要求為整型,即 byte、short、char、 i

hadoop資料環境部署--linux centos虛擬機器

需要版本: jdk:jdk-7u79-linux-x64.tar.gz hadoop:hadoop-2.5.0-cdh5.3.6.tar.gz 1.建立hadoop使用者 useradd -m hadoop -G root -s /bin/bash 2.賦予hadoop使用者最高許可權 chmo

資料處理基礎利用hadoop寫的簡單mapreduce案例

案例: 需要處理的資料: 13877779999 bj zs 2145 13766668888 sh ls 1028 13766668888 sh ls 9987 13877779999 bj zs 5678 13544445555 sz ww 10577 1387777999

資料環境搭建Kafka完全分散式環境搭建步驟詳解

文章目錄 環境準備 解壓安裝 配置檔案 服務啟動 1、啟動分散式叢集的zookeeper 2、啟動Kafka服務 偽分散式搭建完畢之後,只要稍作修改就

資料環境搭建Spark分散式環境搭建步驟詳解

文章目錄 環境準備 安裝配置 下載 配置環境變數 修改conf目錄下檔案 複製程式到從結點 啟動Spark叢集 在bigdata01機器上啟動Spark

資料環境搭建HBase偽分散式環境搭建步驟詳解

文章目錄 HBase簡介 環境準備 JDK1.8以上 HBase 1.2.6 安裝模式 安裝配置 解壓安裝包 配置檔案 hbase-env.

資料環境搭建Kafka偽分散式環境搭建步驟詳解

文章目錄 Kafka簡介 環境準備 解壓安裝 配置檔案 服務啟動 Topic相關操作 控制檯生產者 控制檯消費者 Kafka簡介

資料2修改Hadoop叢集日誌目錄,資料存放目錄

Hadoop有時會有unhealthy Node不健康的非Active節點存產生,具體錯誤內容如下。 一、錯誤內容 -== log-dirs usable space is below configured utilization percentage/no more usabl

Python學習:基本數據類型與變量基礎條件及循環

sets 但是 while循環 spl view put 算數運算 sse 邏輯運算 一.數據類型和變量 1.可變與不可變數據類型   可變數據類型:在id不變的情況下,數據類型內部的元素可以改變   列表   字典   不可變數據類型:value改變,id也跟著改變

python:爬蟲爬取資料的處理Json字串的處理2

#Json字串的處理 Json字串轉化為Python資料型別 import json JsonStr ='{"name":"sunck","age":"18","hobby":["money","power","English"],"parames":{"a":1,"b":2}}' Js

Java基礎繼承方面的學習

上面的博文已經寫了大部分了,下面這一篇博文我們主要寫繼承之後,父類和子類的方法的覆蓋和隱藏方面。 該文章版署源自:                         &n

Java基礎繼承方面的學習

此文章全部摘自部落格園:                                連結:https://www.cnblogs

Java基礎繼承方面的學習

繼承:一個子類繼承父類的屬性以及方法過程。 Top 一:為什麼要使用到繼承或者使用繼承有什麼好處呢?       主要有Java的性質有關,java是面向物件的一門程式設計性語言,類是必不可少的部分,當我們編寫完一個類又我們想進一步的拓展時候,這個時候我們就

python基礎【元組 】04

Python 的元組與列表類似,不同之處在於元組的元素不能修改。 元組使用小括號,列表使用方括號。 元組建立很簡單,只需要在括號中新增元素,並使用逗號隔開即可。   tup1 = ('Google', 'Runoob', 1997, 2000);   元組

Java資料培訓學校全套教程-JS與CSS22-馬克-專題視訊課程

Java大資料培訓學校全套教程-JS與CSS(22)—6人已學習 課程介紹         Java大資料培訓學校視訊課程:"java大資料培訓學校全套教材"系列課程由750集視訊構成,基本就 是1)時

Java資料培訓學校全套教程-視窗及frame24-馬克-專題視訊課程

Java大資料培訓學校全套教程-視窗及frame(24)—3人已學習 課程介紹         Java大資料培訓學校視訊課程:"java大資料培訓學校全套教材"系列課程由750集視訊構成,基本就 是1

flask基礎Response響應對象

時間 服務器 start ont 客戶 web app 解析 env 前言 Response對象負責對客戶端的響應,每一個請求都會有一個Response對象,那麽它在一個請求的聲明周期內是怎麽發揮作用的呢? Response對象 響應發生的位置 先回顧一下http請求的fl