1. 程式人生 > >linux crontab 定時任務配置使用者環境變數

linux crontab 定時任務配置使用者環境變數

在定時任務crontab 配置呼叫shell指令碼,指令碼在客戶端測試無誤。

指令碼1任務:遠端在S3下載複製資料到HDFS,呼叫Spark叢集分析分散式檔案系統的資料輸出到HDFS,呼叫hive載入分析完成的資料到特定的表。

異常現象:提示缺少hive的執行jar包。

指令碼2任務:下載伺服器日誌資料到固定機器,在本地機器多執行緒清洗資料,完成之後load到HDFS。

異常現象:spark分析完成載入到分散式檔案系統的目錄變成了資料夾。

問題原因:由於定時任務呼叫時沒有載入使用者的環境變數導致的環境目錄異常,從而產生各種異常。

解決方法:30 16 * * *  source ~/.bashrc; /home/hadoop/demo.sh