1. 程式人生 > >hadoop學習筆記-hive安裝及操作

hadoop學習筆記-hive安裝及操作

軟體下載:

Mysql:

Hive:

安裝環境:

OS:Oracle redhad 5.6 x86 64bit

Hadoop: hadoop-0.20.2

Mysql:mysql-5.5.24

Hive:hive-0.8.1

1.       安裝mysql

--解壓

[[email protected] ~]# tar xvf MySQL-5.5.24-1.rhel5.x86_64.tar

MySQL-client-5.5.24-1.rhel5.x86_64.rpm

MySQL-devel-5.5.24-1.rhel5.x86_64.rpm

MySQL-embedded-5.5.24-1.rhel5.x86_64.rpm

MySQL-server-5.5.24-1.rhel5.x86_64.rpm

MySQL-shared-5.5.24-1.rhel5.x86_64.rpm

MySQL-test-5.5.24-1.rhel5.x86_64.rpm

--安裝

[[email protected] mysql]# rpm -ivh *

Preparing...                ########################################### [100%]

   1:MySQL-client           ########################################### [ 17%]

   2:MySQL-devel            ########################################### [ 33%]

   3:MySQL-embedded         ########################################### [ 50%]

   4:MySQL-server           ########################################### [ 67%]

PLEASE REMEMBER TO SET A PASSWORD FOR THE MySQL root USER !

To do so, start the server, then issue the following commands:

/usr/bin/mysqladmin -u root password 'new-password'

/usr/bin/mysqladmin -u root -h gc.localdomain password 'new-password'

Alternatively you can run:

/usr/bin/mysql_secure_installation

which will also give you the option of removing the test

databases and anonymous user created by default.  This is

strongly recommended for production servers.

See the manual for more instructions.

Please report any problems with the /usr/bin/mysqlbug script!

   5:MySQL-shared           ########################################### [ 83%]

   6:MySQL-test             ########################################### [100%]

--建立資料庫hive

mysql> create database hive;

--建立hive使用者,並授權

mysql> grant all on hive.* to [email protected]'%' identified by 'hive';

mysql> grant all on hive.* to [email protected]' gc.localdomain' identified by 'hive';

mysql> grant all on hive.* to [email protected]' localhost' identified by 'hive';

mysql> flush privileges;

2.       安裝hive

--解壓

[[email protected] ~]$ pwd

/home/grid

[[email protected] ~]$ tar xzvf hive-0.8.1.tar.gz

--新增環境量

export HIVE_HOME=/home/grid/hive-0.8.1

export PATH=$HIVE_HOME/bin:$ PATH

--修改hive-site.xml

<property>

  <name>javax.jdo.option.ConnectionURL</name>

  <value>jdbc:mysql://gc:3306/hive?createDatabaseIfNotExist=true</value>

  <description>JDBC connect string for a JDBC metastore</description>

</property>

<property>

  <name>javax.jdo.option.ConnectionDriverName</name>

  <value>com.mysql.jdbc.Driver</value>

  <description>Driver class name for a JDBC metastore</description>

</property>

<property>

  <name>javax.jdo.option.ConnectionUserName</name>

  <value>hive</value>

  <description>username to use against metastore database</description>

</property>

<property>

  <name>javax.jdo.option.ConnectionPassword</name>

  <value>hive</value>

  <description>password to use against metastore database</description>

</property>

<property>

  <name>hive.metastore.local</name>

  <value>true</value>

  <description>controls whether to connect to remove metastore server or open a new metastore server in Hive Client JVM</description>

</property>

<property>

  <name>hive.metastore.warehouse.dir</name>

  <value>/home/grid/hive/warehouse</value>

  <description>location of default database for the warehouse</description>

</property>

<property>

  <name>hive.exec.scratchdir</name>

  <value>/tmp/hive-${user.name}</value>

  <description>Scratch space for Hive jobs</description>

</property>

<property>

  <name>hive.metastore.uris</name>

  <value>thrift://127.0.0.1:9083</value>

</property>

--複製mysql-connector-java-x.x.x.jar檔案到hivelib目錄下

[[email protected] ~]# find / -name "mysql-connector-java*" -print

/home/oracle/Oracle/Middleware/wlserver_10.3/server/lib/mysql-connector-java-commercial-5.0.3-bin.jar

/home/oracle/Oracle/Middleware/wlserver_10.3/server/ext/jdbc/mysql/mysql-connector-java-commercial-5.0.3-bin.jar

----在我之前安裝的weblogic目錄下找到了此檔案

----copyhivelib目錄

[[email protected] lib]# cp mysql-connector-java-commercial-5.0.3-bin.jar /home/grid/hive-0.8.1/lib

--登入hive

[[email protected] conf]$ hive

Logging initialized using configuration in jar:file:/home/grid/hive-0.8.1/lib/hive-common-0.8.1.jar!/hive-log4j.properties

Hive history file=/tmp/grid/hive_job_log_grid_201301180705_1729707460.txt

hive>

3.       hive操作

測試語句

•建立測試表test

•create table test (key string);

•show tables;

4.       遇到的問題

1)        .

現象:

[[email protected] conf]$ hive

Logging initialized using configuration in jar:file:/home/grid/hive-0.8.1/lib/hive-common-0.8.1.jar!/hive-log4j.properties

Hive history file=/tmp/grid/hive_job_log_grid_201301180637_1509680201.txt

hive> create table test (key string);

FAILED: Error in metadata: javax.jdo.JDOFatalInternalException: Error creating transactional connection factory

NestedThrowables:

java.lang.reflect.InvocationTargetException

FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask

Hive日誌

Caused by: org.datanucleus.store.rdbms.datasource.DatastoreDriverNotFoundException: The specified datastore driver ("com.mysql.jdbc.Driver") was not found in the CLASSPATH. Please check your CLASSPATH specification, and the name of the driver.

解決:

複製mysql-connector-java-commercial-5.0.3-bin.jar檔案到/home/grid/hive-0.8.1/lib目錄

參考:

2)       

現象:

hive> show tables;

FAILED: Error in metadata: javax.jdo.JDOFatalDataStoreException: Access denied for user 'hive'@'gc.localdomain' (using password: YES)

NestedThrowables:

java.sql.SQLException: Access denied for user 'hive'@'gc.localdomain' (using password: YES)

FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask

[[email protected] conf]$ mysql -uhive -phive

ERROR 1045 (28000): Access denied for user 'hive'@'localhost' (using password: YES)

解決:

mysql> grant all on hive.* to [email protected]' gc.localdomain' identified by 'hive';

mysql> grant all on hive.* to [email protected]' localhost' identified by 'hive';

參考文章:

hive-0.11.0安裝配置可以參考下面的文章

在配置安裝hive-0.11.0時,可能遇到下面的錯:

[[email protected] bin]$ hive
Cannot find hadoop installation: $HADOOP_HOME or $HADOOP_PREFIX must be set or hadoop must be in the path

解決辦法:

[[email protected] ~]$ cd ~/hive-0.11.0/conf/

[[email protected] ~]$ cp hive-env.sh.template hive-env.sh

--在hive-env.sh檔案里加下面的內容:

[[email protected] conf]$ vi hive-env.sh
export HADOOP_HOME=/home/licz/hadoop-1.2.1/                                                                                                                   
[[email protected] conf]$ source hive-env.sh

3)  hive-site.xml配置檔案位置

在hive-0.11.0版本以後,和0.8版本不同的是,hive-site.xml配置文預設是不在 ~/hive-0.11.0/conf/目錄下

這時可以重新生成一個,如下:

[[email protected] ~]$ cd ~/hive-0.11.0/conf/
[[email protected] conf]$ ls
hive-default.xml.template  hive-env.sh.template  hive-exec-log4j.properties.template  hive-log4j.properties.template

[[email protected] conf]$ cp hive-default.xml.template hive-site.xml

--修改配置資訊(和0.8版本相同配置)
[[email protected]ticket1 ~]$ vi ~/hive-0.11.0/conf/hive-site.xml

相關推薦

hadoop學習筆記-hive安裝操作

軟體下載: Mysql: Hive: 安裝環境: OS:Oracle redhad 5.6 x86 64bit Hadoop: hadoop-0.20.2 Mysql:mysql-5.5.24 Hive:hive-0.8.1 1.       安裝mysql -

十二、Hadoop學習筆記————Hive的基本原理

中介 優化 prop 指示 使用 計劃分解 分享 ges 歷史數據 一般用戶用CLI(命令行界面)接口,元數據庫含有表結構 單用戶、多用戶、遠程服務 生成db文件,只能單客戶端使用數據庫 多用戶是最常用的使用模式 配置與多用戶一致 數據格式用戶自定義

vue.js學習筆記1——安裝創建並運行vue實例

log tip light js學習筆記 vue-cli project 作者 require 需求 vue安裝: $ npm install vue vue-cil安裝: $ npm install -g vue-cli 創建webpack實例: $

Mooc中國大學Python學習筆記--數字型別操作

整數型別 只需知道整數無限制,pow(),4進製表示形式 與數學中整數的概念一致 ——可正可負,沒有取值範限制 ——pow(x,y)函式:計算x^y,想算多大算多大 —十進位制:10 —二進位制,以0b或0B開頭:0b010,0B010 —八進位制,以0o或0O開頭:0o123,0O

Hadoop學習筆記(三) 安裝Hadoop分散式叢集

執行環境 因為是為了學習,且只有一臺PC,只能在虛擬機器裡安裝Hadoop 軟體配置 版本 主機 Win7,記憶體8G 虛擬機器 VMware 14 Linux ubuntu-14.04.5-desktop (使用ubuntu-18或1

Greenplum+Hadoop學習筆記-Greenplum概述架構

0.寫在前面: 0.1. 此筆記是參考《Greenplum企業應用實戰》、《PostgreSQL8.2.3 中文文件》和《Getting Started with Greenplum for Big Data Analytics》整理; 0.2. 《Greenplum企業應

GTK3學習筆記1 安裝開發配置

1、前言 GTK3是GTK的較新版本,但系統性的教程和筆記不多,下面是我從自己新浪部落格轉來的筆記。希望這次能把學習過程寫的完整和持久些。 這次的筆記不同於之前關於GTK2的,拋棄Linux,只以Windows為工作環境。 工具:Win8.1 + Code::blocks1

hadoop學習筆記(一)——hadoop安裝測試

這幾天乘著工作之餘,學習了一下hadoop技術,跌跌撞撞的幾天,終於完成了一個初步的hadoop的安裝及測試,具體如下: 動力:工作中遇到的資料量太大,伺服器已經很吃力,sql語句執行老半天,故想用大

Hadoop學習筆記(一)----環境搭建之VMware虛擬機器安裝建立CentOS

一、vmware安裝 準備好軟體包: 點選安裝vmware 下一步 下一步 下一步 下一步 下一步 點選安裝 安裝完畢: 點選桌面上的

八、Hadoop學習筆記————調優之Hive調優

需要 cnblogs log logs nbsp .cn 集中 bsp 9.png 表1表2的join和表3表4的join同時運行 此法需要關註是否有數據傾斜(大量數據集中在某一區間段) 八、Hadoop學習筆記————調優之Hive調優

mac本地安裝單機hadoop--學習筆記

.class eno star mapreduce trac exp dem pac 環境 Mac配置hadoop1.修改 /etc/hosts127.0.0.1 localhost2.下載hadoop2.9.0和jdk並安裝配置相應環境 vim /etc/profile

Python學習筆記三——文件操作處理json

r+ 3.4 windows phone wow64 con odin 某個文件 like 一、文件操作 基礎知識: 1.open是打開已存在的文件或新建一個文件(在文件名後需加訪問模式) 2.close是把剛剛新建或打開的文件關閉 3.write可以向文件中導入數據

Spark學習筆記(二) 安裝Hadoop單節點叢集

安裝Hadoop單節點叢集 1. 下載並解壓Hadoop 1.1 下載Hadoop 1.2 解壓Hadoop包 1.3 將解壓的資料夾重新命名為Hadoop,然後拷貝到/usr/local下 2. 設定Hadoop環境變數

安卓學習筆記 -- (安裝環境) Android Studio安裝配置、環境搭建詳細步驟基本使用 Android Studio和SDK官方開發工具下載 Android Studio教程從入門到精通 Android開發-之第一個程式:HelloWorld!

1、下載Android Studio安裝配置、環境搭建詳細步驟及基本使用    https://www.cnblogs.com/yanglh6-jyx/p/Android_AS_Configuration.html https://blog.csdn.net/k491022087/ar

Hadoop學習筆記(一)從官網下載安裝

分享一下我老師大神的人工智慧教程!零基礎,通俗易懂!http://blog.csdn.net/jiangjunshow 也歡迎大家轉載本篇文章。分享知識,造福人民,實現我們中華民族偉大復興!        

hive筆記-hive配置基本操作

hive筆記  1、hive中涉及的概念:   1、hive介紹:    1、是建立在 Hadoop 上的資料倉庫基礎構架。它提供了一系列的工具,可以用來進行資料提取轉化載入(ETL)。    2、這是一種可以

JS學習筆記 Date物件定時器操作

1.Date物件基本使用 <script> // 1. 宣告日期物件 var date = new Date(); // console.log(date); console.log(date.getDate()); // 日 console

MySQL資料庫學習筆記----JDBC入門簡單增刪改資料庫的操作

 一、JDBC的引入                                    &nbs

Jmeter學習筆記-20181224安裝軟體路徑linux安裝方法

windows安裝介紹: 1、Jemter是純Java的開發環境,所以需要安裝JDK 2、Jmeter4.0的版本需要JDK18的,17的版本過低;當然你可以選擇Jmeter為3.0的; Jmeter下載路徑:https://jmeter.apache.org/download_jmeter.cgi

Hadoop學習筆記(二)----環境搭建之CentOS 7 配置與安裝Hadoop

# Load additional iptables modules (nat helpers) #   Default: -none- # Space separated list of nat helpers (e.g. 'ip_nat_ftp ip_nat_irc'), which # are load