大數據任務調度工具azkaban安裝的相關文檔
阿新 • • 發佈:2018-04-04
mys bin 文件目錄 退出 eat alias smt 界面 roo
區配置:
1.查看時區
2 .修改時區
3 安裝mysql
下載MySQL數據腳本(如下有安裝MySQL服務可以忽略)
下載然後解壓;tar -zxvf azkaban-sql-script-2.5.0.tar.gz
創建用戶、分配權限並執行腳本
mysql –u root –pxxxx
創建數據庫: CREATE DATABASE azkaban;
創建好數據庫然後退出。
然後將sql-script文件中的create-all-sql-2.5.0.sql中的數據表創建在剛創建好的azkaban 數據庫當中。
使用命令:mysql –u root –pxxxx -Dazkaban < /絕對路徑/create-all-sql-2.5.0.sql
登錄mysql數據庫。mysql –u root –pxxx 查看存在的表。
註意:這裏我們使用的root用戶創建的數據庫。在生產上我們是單獨的創建一個用戶,方便管理使用;
還需註意,在azkaban2.5以後不需要自己在引入mysql的驅動包。在lib目錄下面存在驅動包。
創建用戶名:CREATE USER ‘azkaban‘@‘%‘ IDENTIFIED BY ‘azkaban‘
分配權限:GRANT SELECT,INSERT,UPDATE,DELETE,CREATE,INDEX ON `azkaban`.* TO ‘azkaban‘@‘%‘ WITH GRANT OPTION;
flush privileges;
quit;
通過azkaban賬號登錄mysql:mysql –uazkaban –pazkaban
Use azkaban;
source ~/azkaban/azkaban-2.5.0/create-all-sql-2.5.0.sql
4 Azkaban Web Server 安裝
1 下載安裝azkaban-web-server-2.5.0.tar.gz
解壓tar包。目錄如下
2 生成SSL 證書
因為azkaban是加密傳輸,因此要配置ssl 服務。方便網路傳輸。
關於怎麽使用 Java keytool 生成 keystore 文件 在這裏可以只簡單的生成 keystore 文件,並將生成的 keystore 文件拷貝至 ~/azkaban-web-2.5.0/web
文件下。
keytool -keystore keystore -alias jetty -genkey -keyalg RSA
3 修改 ./conf/azkaban.properties
3 修改 ./conf/azkaban.properties
修改首頁樣式及時區信息
azkaban.name=Job Tasks
azkaban.label=mysteel workflow
azkaban.color=#FF3601
azkaban.default.servlet.path=/index
web.resource.dir=web/
default.timezone.id=Asia/Shanghai
修改mysql連接,可自行修改
database.type=mysql
mysql.port=3306
mysql.host=192.168.200.184
mysql.database=azkaban
mysql.user=azkaban
mysql.password=azkaban
mysql.numconnections=100
修改 Jetty 服務器屬性,包括 keystore 的相關配置
jetty.maxThreads=25
jetty.ssl.port=8443
jetty.port=8081
jetty.keystore=keystore 最好設置為絕對路勁,防止加載不到
jetty.password=mysteel
jetty.keypassword= mysteel
jetty.truststore=keystore 最好設置為絕對路勁,防止加載不到
jetty.trustpassword= mysteel
修改郵件設置(可選)
[email protected]
mail.host=smtp.126.com
mail.user= [email protected]
mail.password=xxx (註:發送郵箱的密碼)
5.用戶及權限配置
進入 azkaban web 服務器 conf 目錄,修改 azkaban-users.xml ,增加管理員用戶:
< azkaban-users>
< user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />
< user username="metrics" password="metrics" roles="metrics"/>
< user username="admin" password="admin" roles="admin,metrics" />
< role name="admin" permissions="ADMIN" />
< role name="metrics" permissions="METRICS"/>< /azkaban-users>
Azkaban Executor Server安裝
1.下載安裝包
azkaban-executor-server-2.5.0.tar.gz
解壓到相對應的文件目錄下面。
tar –zxvf azkaban-executor-server-2.5.0.tar.gz –C ~/azkaban/
2.修改配置文件 (conf/azkaban.propreties)
修改時區信息
default.timezone.id=Asia/Shanghai
修改mysql連接,可自行修改
database.type=mysql
mysql.port=3306
mysql.host=192.168.200.184
mysql.database=azkaban
mysql.user=azkaban
mysql.password=azkaban
mysql.numconnections=100
配置端口,默認就好
executor.maxThreads=50
executor.port=12321
executor.flow.threads=30
在web server 的azkaban.properties配置executor的連接,特別註意,如果兩個server不是在一臺主機上,web server 需要配置executor.host
# Azkaban Executor settings
executor.port=12321
executor.host=ip/hostname
啟動驗證
啟動web server
~/azkaban/azkaban-web-2.5.0/bin/azkaban-web-start.sh(azkaban-web-shutdown.sh停止)
訪問 https://ip:8443
登錄用戶名稱和密碼是上面xml 文件中的用戶名稱和密碼,也可自行配置。
出現界面安裝成功
啟動 executor server
~/azkaban/azkaban-executor-2.5.0/bin/azkaban-exec-start.sh(azkaban-executor-shutdown.sh 停止
至此azkaban安裝完成。
大數據任務調度工具azkaban安裝的相關文檔