1. 程式人生 > >sqoop1.4.7安裝及簡單使用方法

sqoop1.4.7安裝及簡單使用方法

基礎:hadoop叢集已經啟動(我用hadoop2.7.3)。zookeeper叢集已經啟動(我用的是3.4.6)。mysql安裝好。

一般sqoop安裝在一個節點上就可以了。

一、上傳sqoop並解壓到你指定的目錄。

二、配置sqoop環境變數。這個應該都會。我還是簡單介紹下:

1、vim /etc/profile

2、在最後面新增環境變數。一個簡單例項如下(配置了java等)

export JAVA_HOME=/usr/java/jdk1.8.0_191
export HADOOP_HOME=/itcast/hadoop-2.7.3
export HIVE_HOME=/itcast/apache-hive-2.3.3-bin
export SQOOP_HOME=/itcast/sqoop-1.4.7
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HIVE_HOME/bin:$SQOOP_HOME/bin
3、重新整理 :source /etc/profile

到這裡sqoop就完了。簡單使用如下,你可以拿去參考,改成你的資料庫名,表名。資料庫所在ip等:

    第一類:資料庫中的資料匯入到HDFS上
        sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123  --table trade_detail --columns 'id, account, income, expenses'
        
        指定輸出路徑、指定資料分隔符
        sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123  --table trade_detail --target-dir '/sqoop/td' --fields-terminated-by '\t'
        
        指定Map數量 -m 
        sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123  --table trade_detail --target-dir '/sqoop/td1' --fields-terminated-by '\t' -m 2

        增加where條件, 注意:條件必須用引號引起來
        sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123  --table trade_detail --where 'id>3' --target-dir '/sqoop/td2' 

        增加query語句(使用 \ 將語句換行)
        sqoop import --connect jdbc:mysql://192.168.1.10:3306/itcast --username root --password 123 \
--query 'SELECT * FROM trade_detail where id > 2 AND $CONDITIONS' --split-by trade_detail.id --target-dir '/sqoop/td3'
        
        注意:如果使用--query這個命令的時候,需要注意的是where後面的引數,AND $CONDITIONS這個引數必須加上
        而且存在單引號與雙引號的區別,如果--query後面使用的是雙引號,那麼需要在$CONDITIONS前加上\即\$CONDITIONS
        如果設定map數量為1個時即-m 1,不用加上--split-by ${tablename.column},否則需要加上
        
    第二類:將HDFS上的資料匯出到資料庫中(不要忘記指定分隔符)
        sqoop export --connect jdbc:mysql://192.168.8.120:3306/itcast --username root --password 123 --export-dir '/td3' --table td_bak -m 1 --fields-terminated-by ','
    
4.配置mysql遠端連線
    GRANT ALL PRIVILEGES ON itcast.* TO 'root'@'192.168.1.201' IDENTIFIED BY '123' WITH GRANT OPTION;
    FLUSH PRIVILEGES; 
    
    GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123' WITH GRANT OPTION;
    FLUSH PRIVILEGES