1. 程式人生 > >大數據任務調度工具azkaban安裝的相關文檔

大數據任務調度工具azkaban安裝的相關文檔

mys bin 文件目錄 退出 eat alias smt 界面 roo

區配置:

1.查看時區

技術分享圖片

2 .修改時區

技術分享圖片

3 安裝mysql

下載MySQL數據腳本(如下有安裝MySQL服務可以忽略)

技術分享圖片

下載然後解壓;tar -zxvf azkaban-sql-script-2.5.0.tar.gz

技術分享圖片

創建用戶、分配權限並執行腳本

mysql –u root –pxxxx

創建數據庫: CREATE DATABASE azkaban;
創建好數據庫然後退出。
然後將sql-script文件中的create-all-sql-2.5.0.sql中的數據表創建在剛創建好的azkaban 數據庫當中。
使用命令:mysql –u root –pxxxx -Dazkaban < /絕對路徑/create-all-sql-2.5.0.sql
登錄mysql數據庫。mysql –u root –pxxx  查看存在的表。
技術分享圖片
註意:這裏我們使用的root用戶創建的數據庫。在生產上我們是單獨的創建一個用戶,方便管理使用;
還需註意,在azkaban2.5以後不需要自己在引入mysql的驅動包。在lib目錄下面存在驅動包。
創建用戶名:CREATE USER ‘azkaban‘@‘%‘ IDENTIFIED BY ‘azkaban‘
分配權限:GRANT SELECT,INSERT,UPDATE,DELETE,CREATE,INDEX ON `azkaban`.* TO ‘azkaban‘@‘%‘ WITH GRANT OPTION;
flush privileges;
quit;
通過azkaban賬號登錄mysql:mysql –uazkaban –pazkaban
Use azkaban;
source ~/azkaban/azkaban-2.5.0/create-all-sql-2.5.0.sql

4 Azkaban Web Server 安裝

1 下載安裝azkaban-web-server-2.5.0.tar.gz

解壓tar包。目錄如下

技術分享圖片

2 生成SSL 證書

因為azkaban是加密傳輸,因此要配置ssl 服務。方便網路傳輸。
關於怎麽使用 Java keytool 生成 keystore 文件 在這裏可以只簡單的生成 keystore 文件,並將生成的 keystore 文件拷貝至 ~/azkaban-web-2.5.0/web 文件下。

keytool -keystore keystore -alias jetty -genkey -keyalg RSA
技術分享圖片

3 修改 ./conf/azkaban.properties

3 修改 ./conf/azkaban.properties

修改首頁樣式及時區信息
azkaban.name=Job Tasks     
azkaban.label=mysteel workflow
azkaban.color=#FF3601
azkaban.default.servlet.path=/index
web.resource.dir=web/
default.timezone.id=Asia/Shanghai
技術分享圖片
修改mysql連接,可自行修改
database.type=mysql
mysql.port=3306
mysql.host=192.168.200.184
mysql.database=azkaban
mysql.user=azkaban     
mysql.password=azkaban
mysql.numconnections=100
技術分享圖片
修改 Jetty 服務器屬性,包括 keystore 的相關配置
jetty.maxThreads=25
jetty.ssl.port=8443
jetty.port=8081
jetty.keystore=keystore   最好設置為絕對路勁,防止加載不到
jetty.password=mysteel
jetty.keypassword= mysteel
jetty.truststore=keystore   最好設置為絕對路勁,防止加載不到
jetty.trustpassword= mysteel
技術分享圖片
修改郵件設置(可選)
[email protected]
               mail.host=smtp.126.com
               mail.user= [email protected]
mail.password=xxx (註:發送郵箱的密碼)

  5.用戶及權限配置
進入 azkaban web 服務器 conf 目錄,修改 azkaban-users.xml ,增加管理員用戶:
< azkaban-users>
   < user username="azkaban" password="azkaban" roles="admin"  groups="azkaban" />
   < user username="metrics" password="metrics" roles="metrics"/>
   < user username="admin" password="admin" roles="admin,metrics" />
   < role name="admin" permissions="ADMIN" />
   < role name="metrics" permissions="METRICS"/>< /azkaban-users>
技術分享圖片
Azkaban Executor Server安裝
1.下載安裝包
azkaban-executor-server-2.5.0.tar.gz
解壓到相對應的文件目錄下面。
tar –zxvf  azkaban-executor-server-2.5.0.tar.gz  –C  ~/azkaban/
2.修改配置文件 (conf/azkaban.propreties)
修改時區信息
default.timezone.id=Asia/Shanghai
修改mysql連接,可自行修改
database.type=mysql
mysql.port=3306
mysql.host=192.168.200.184
mysql.database=azkaban
mysql.user=azkaban
mysql.password=azkaban
mysql.numconnections=100

技術分享圖片
配置端口,默認就好
executor.maxThreads=50
executor.port=12321
executor.flow.threads=30
技術分享圖片
在web server 的azkaban.properties配置executor的連接,特別註意,如果兩個server不是在一臺主機上,web server 需要配置executor.host
# Azkaban Executor settings
executor.port=12321
executor.host=ip/hostname
技術分享圖片
啟動驗證
啟動web server
~/azkaban/azkaban-web-2.5.0/bin/azkaban-web-start.sh(azkaban-web-shutdown.sh停止)
 訪問 https://ip:8443   
登錄用戶名稱和密碼是上面xml 文件中的用戶名稱和密碼,也可自行配置。
技術分享圖片

技術分享圖片

出現界面安裝成功
啟動 executor server
~/azkaban/azkaban-executor-2.5.0/bin/azkaban-exec-start.sh(azkaban-executor-shutdown.sh 停止
技術分享圖片
至此azkaban安裝完成。















大數據任務調度工具azkaban安裝的相關文檔