sqoop1.4.7安裝及簡單使用方法
基礎:hadoop叢集已經啟動(我用hadoop2.7.3)。zookeeper叢集已經啟動(我用的是3.4.6)。mysql安裝好。
一般sqoop安裝在一個節點上就可以了。
一、上傳sqoop並解壓到你指定的目錄。
二、配置sqoop環境變數。這個應該都會。我還是簡單介紹下:
1、vim /etc/profile
2、在最後面新增環境變數。一個簡單例項如下(配置了java等)
export JAVA_HOME=/usr/java/jdk1.8.0_191
export HADOOP_HOME=/itcast/hadoop-2.7.3
export HIVE_HOME=/itcast/apache-hive-2.3.3-bin
export SQOOP_HOME=/itcast/sqoop-1.4.7
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HIVE_HOME/bin:$SQOOP_HOME/bin
3、重新整理 :source /etc/profile
到這裡sqoop就完了。簡單使用如下,你可以拿去參考,改成你的資料庫名,表名。資料庫所在ip等:
第一類:資料庫中的資料匯入到HDFS上
sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123 --table trade_detail --columns 'id, account, income, expenses'
指定輸出路徑、指定資料分隔符
sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123 --table trade_detail --target-dir '/sqoop/td' --fields-terminated-by '\t'
指定Map數量 -m
sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123 --table trade_detail --target-dir '/sqoop/td1' --fields-terminated-by '\t' -m 2
增加where條件, 注意:條件必須用引號引起來
sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123 --table trade_detail --where 'id>3' --target-dir '/sqoop/td2'
增加query語句(使用 \ 將語句換行)
sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123 \
--query 'SELECT * FROM trade_detail where id > 2 AND $CONDITIONS' --split-by trade_detail.id --target-dir '/sqoop/td3'
注意:如果使用--query這個命令的時候,需要注意的是where後面的引數,AND $CONDITIONS這個引數必須加上
而且存在單引號與雙引號的區別,如果--query後面使用的是雙引號,那麼需要在$CONDITIONS前加上\即\$CONDITIONS
如果設定map數量為1個時即-m 1,不用加上--split-by ${tablename.column},否則需要加上
第二類:將HDFS上的資料匯出到資料庫中(不要忘記指定分隔符)
sqoop export --connect jdbc:mysql://192.168.8.120:3306/itcast --username root --password 123 --export-dir '/td3' --table td_bak -m 1 --fields-terminated-by ','
4.配置mysql遠端連線
GRANT ALL PRIVILEGES ON itcast.* TO 'root'@'192.168.1.201' IDENTIFIED BY '123' WITH GRANT OPTION;
FLUSH PRIVILEGES;
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123' WITH GRANT OPTION;
FLUSH PRIVILEGES