1. 程式人生 > >Python多程序——程序池Pool

Python多程序——程序池Pool

1.初始化Pool時,可以指定一個最大程序數,當有新的請求提交到Pool中時,如果池還沒有滿,那麼就會建立一個新的程序用來執行該請求;但如果池中的程序數已經達到指定的最大值,那麼該請求就會等待,直到池中有程序結束,才會建立新的程序來執行  

 2.multiprocessing.Pool常用函式解析:

  • apply_async(func[, args[, kwds]]) :使用非阻塞方式呼叫func(並行執行,堵塞方式必須等待上一個程序退出才能執行下一個程序),args為傳遞給func的引數列表,kwds為傳遞給func的關鍵字引數列表;非同步,多個執行緒同時執行

  • apply(func[, args[, kwds]]):使用阻塞方式呼叫func,執行完一個程序後再去執行其他執行緒。

  • close():關閉Pool,使其不再接受新的任務;

  • terminate():不管任務是否完成,立即終止;

  • join():主程序阻塞,等待子程序的退出, 必須在close或terminate之後使用;

  • apply_async(func, args=(), kwds={}, callback=None, error_callback=None):callback:回撥函式,可接收func函式的返回值

3.注意點:

  • 主程序不會等待子程序結束後,再結束。需要加join()

  • join()必須放在close語句之後

例:apply_async():非同步

from multiprocessing import Pool
import os,time,random

def worker(msg):
    t_start = time.time()
    print("%s開始執行,程序號為%d"%(msg,os.getpid()))
    #random.random()隨機生成0~1之間的浮點數
    time.sleep(random.random()*2) 
    t_stop = time.time()
    print(msg,"執行完畢,耗時%0.2f"%(t_stop-t_start))

po=Pool(3)
#定義一個程序池,最大程序數3 for i in range(0,10): #Pool.apply_async(要呼叫的目標,(傳遞給目標的引數元祖,)) #每次迴圈將會用空閒出來的子程序去呼叫目標 po.apply_async(worker,(i,)) print("----start----") po.close() #關閉程序池,關閉後po不再接收新的請求 po.join() #等待po中所有子程序執行完成,必須放在close語句之後 print("-----end-----")

結果:
----start----
0開始執行,程序號為21466
1開始執行,程序號為21468               #一次可執行3個程序,一個程序結束後,另一個程序接著使用該程序的資源。
2開始執行,程序號為21467 #共3個pid:21466,21468,21467 0 執行完畢,耗時1.01 3開始執行,程序號為21466 2 執行完畢,耗時1.24 4開始執行,程序號為21467 3 執行完畢,耗時0.56 5開始執行,程序號為21466 1 執行完畢,耗時1.68 6開始執行,程序號為21468 4 執行完畢,耗時0.67 7開始執行,程序號為21467 5 執行完畢,耗時0.83 8開始執行,程序號為21466 6 執行完畢,耗時0.75 9開始執行,程序號為21468 7 執行完畢,耗時1.03 8 執行完畢,耗時1.05 9 執行完畢,耗時1.69 -----end-----

例:apply()堵塞式

from multiprocessing import Pool
import os,time,random

def worker(msg):
    t_start = time.time()
    print("%s開始執行,程序號為%d"%(msg,os.getpid()))
    #random.random()隨機生成0~1之間的浮點數
    time.sleep(random.random()*2) 
    t_stop = time.time()
    print(msg,"執行完畢,耗時%0.2f"%(t_stop-t_start))

po=Pool(3) #定義一個程序池,最大程序數3
for i in range(0,10):
    po.apply(worker,(i,))

print("----start----")
po.close() #關閉程序池,關閉後po不再接收新的請求
po.join() #等待po中所有子程序執行完成,必須放在close語句之後
print("-----end-----")

結果:

0開始執行,程序號為21532
0 執行完畢,耗時1.91
1開始執行,程序號為21534
1 執行完畢,耗時1.72
2開始執行,程序號為21533           #共3個程序號
2 執行完畢,耗時0.50              #一個程式執行完之後,在執行另一個
3開始執行,程序號為21532
3 執行完畢,耗時1.27
4開始執行,程序號為21534
4 執行完畢,耗時1.05
5開始執行,程序號為21533
5 執行完畢,耗時1.60
6開始執行,程序號為21532
6 執行完畢,耗時0.25
7開始執行,程序號為21534
7 執行完畢,耗時0.63
8開始執行,程序號為21533
8 執行完畢,耗時1.21
9開始執行,程序號為21532
9 執行完畢,耗時0.60
----start----
-----end-----