1. 程式人生 > >hadoop的兩種方式排程任務

hadoop的兩種方式排程任務

排程器

    概念:排程器佇列的方式來管理job,佇列內部通過某種機制實現job的執行。

    原理:每一種排程器中可以有對個佇列,但是所有的佇列必須在”root”下面root.root,hadoop預設的佇列是root.default。

1、容量排程

    APACHE:容量排程

    名稱:capacity.CapacityScheduler

    概念:根據當前佇列的任務個數與分配資源的比值,選擇較小的一個。

    策略:預設是FIFO(先進先出),會考慮使用者資源和記憶體的限制,可以自己指定提交到某一個佇列

2、公平排程

    CDH:公平排程

    名稱:fair.FairScheduler

    概念:所有的job佇列平分資源。

    策略:job1進入佇列->獲取該佇列的所有資源->等到job2進入->重新平分資源->所有的資源都被平分,限制每個佇列job提交個數。

    內部佇列的排程還是fair,所有的job不能再”root”中執行,必須在葉子節點執行