1. 程式人生 > >airflow引數修改、分散式部署、優劣勢分析、工程經驗

airflow引數修改、分散式部署、優劣勢分析、工程經驗

這是第一篇部落格,內容很簡單,只是記錄一個工作中遇到的小問題。意義在於學習部落格的使用,讓自己養成技術部落格的習慣。

優劣勢分析

airflow是一個編排、排程和監控workflow的平臺,是一個工作任務的排程平臺,其內建了比較全面實用的排程功能。下表列出了實際場景下,使用airflow和未使用airflow的對比。

未使用airflow 使用airflow
需要自己新增排程程式碼、除錯複雜、功能單一、缺乏整體排程能力 框架排程,簡單易用,更穩定,功能全面,可以整體排程
缺乏圖形化能力,給任務的新增、排查等操作帶來很多困難。特別是當任務較多,結構複雜的時候 內建樹狀圖和流程圖,清晰明瞭的展現任務拓撲結構
需要自己新增任務實時監測程式碼 任務實時狀態返回網頁介面,方便管理和檢視
任務的各種操作大多需要編碼或命令列完成,不夠高效 常見操作方式轉化為圖形化介面,高效清晰
需要手動分離排程和業務程式碼 排程和業務程式碼分離,減少耦合性,方便運維和迭代

除了以上的優點,工程實踐中有一個不足就是分散式部署有點麻煩。

分散式部署架構簡析

如上圖,airflow