Python程式中的協程操作-gevent模組
目錄
- 一、安裝
- 二、Gevent模組介紹
- 2.1 用法介紹
- 2.2 例:遇到io主動切換
- 2.3 檢視threading.current_thread().getName()
- 三、Gevent之同步與非同步
- 四、Gevent之應用
- 4.1 服務端
- 4.2 客戶端
- 4.3 多執行緒併發多個客戶端
一、安裝
安裝:pip3 install gevent
二、Gevent模組介紹
Gevent 是一個第三方庫,可以輕鬆通過gevent實現併發同步或非同步程式設計,在gevent中用到的主要模式是Greenlet,它是以C擴充套件模組形式接入Python的輕量級協程。 Greenlet全部執行在主程式作業系統程序的內部,但它們被協作式地排程。
2.1 用法介紹
g1=gevent.spawn(func,1,,2,3,x=4,y=5)
:建立一個協程物件g1,spawn括號內第一個引數是函式名,如eat,後面可以有多個引數,可以是位置實參或關鍵字實參,都是傳給函式eat的
g2=gevent.spawn(func2)
g1.join()
:等待g1結束
g2.join()
:等待g2結束
上述兩步合作一步:gevent.joinall([g1,g2])
g1.value
:拿到func1的返回值
2.2 例:遇到io主動切換
import gevent def eat(name): print('%s eat 1' %name) gevent.sleep(2) print('%s eat 2' %name) def play(name): print('%s play 1' %name) gevent.sleep(1) print('%s play 2' %name) g1=gevent.spawn(eat,'egon') g2=gevent.spawn(play,name='egon') g1.join() g2.join() # 或者gevent.joinall([g1,g2]) print('主')
上例gevent.sleep(2)
模擬的是gevent可以識別的io阻塞,而time.sleep(2)
或其他的阻塞,gevent是不能直接識別的需要用下面一行程式碼,打補丁,就可以識別了。
from gevent import monkey;monkey.patch_all()
必須放到被打補丁者的前面,如time,socket模組之前。
或者我們乾脆記憶成:要用gevent,需要將from gevent import monkey;monkey.patch_all()
放到檔案的開頭。
from gevent import monkey;monkey.patch_all()
import gevent
import time
def eat():
print('eat food 1')
time.sleep(2)
print('eat food 2')
def play():
print('play 1')
time.sleep(1)
print('play 2')
g1=gevent.spawn(eat)
g2=gevent.spawn(play)
gevent.joinall([g1,g2])
print('主')
我們可以用threading.current_thread().getName()
來檢視每個g1和g2,檢視的結果為DummyThread-n,即假執行緒
2.3 檢視threading.current_thread().getName()
from gevent import monkey;monkey.patch_all()
import threading
import gevent
import time
def eat():
print(threading.current_thread().getName())
print('eat food 1')
time.sleep(2)
print('eat food 2')
def play():
print(threading.current_thread().getName())
print('play 1')
time.sleep(1)
print('play 2')
g1=gevent.spawn(eat)
g2=gevent.spawn(play)
gevent.joinall([g1,g2])
print('主')
三、Gevent之同步與非同步
from gevent import spawn,joinall,monkey;monkey.patch_all()
import time
def task(pid):
"""
Some non-deterministic task
"""
time.sleep(0.5)
print('Task %s done' % pid)
def synchronous(): # 同步
for i in range(10):
task(i)
def asynchronous(): # 非同步
g_l=[spawn(task,i) for i in range(10)]
joinall(g_l)
print('DONE')
if __name__ == '__main__':
print('Synchronous:')
synchronous()
print('Asynchronous:')
asynchronous()
# 上面程式的重要部分是將task函式封裝到Greenlet內部執行緒的gevent.spawn。
# 初始化的greenlet列表存放在陣列threads中,此陣列被傳給gevent.joinall 函式,
# 後者阻塞當前流程,並執行所有給定的greenlet任務。執行流程只會在 所有greenlet執行完後才會繼續向下走。
四、Gevent之應用
通過gevent實現單執行緒下的socket併發
注意:from gevent import monkey;monkey.patch_all()
一定要放到匯入socket模組之前,否則gevent無法識別socket的阻塞。
4.1 服務端
from gevent import monkey;monkey.patch_all()
from socket import *
import gevent
#如果不想用money.patch_all()打補丁,可以用gevent自帶的socket
# from gevent import socket
# s=socket.socket()
def server(server_ip,port):
s=socket(AF_INET,SOCK_STREAM)
s.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)
s.bind((server_ip,port))
s.listen(5)
while True:
conn,addr=s.accept()
gevent.spawn(talk,conn,addr)
def talk(conn,addr):
try:
while True:
res=conn.recv(1024)
print('client %s:%s msg: %s' %(addr[0],addr[1],res))
conn.send(res.upper())
except Exception as e:
print(e)
finally:
conn.close()
if __name__ == '__main__':
server('127.0.0.1',8080)
4.2 客戶端
from socket import *
client=socket(AF_INET,SOCK_STREAM)
client.connect(('127.0.0.1',8080))
while True:
msg=input('>>: ').strip()
if not msg:continue
client.send(msg.encode('utf-8'))
msg=client.recv(1024)
print(msg.decode('utf-8'))
4.3 多執行緒併發多個客戶端
from threading import Thread
from socket import *
import threading
def client(server_ip,port):
c=socket(AF_INET,SOCK_STREAM) #套接字物件一定要加到函式內,即區域性名稱空間內,放在函式外則被所有執行緒共享,則大家公用一個套接字物件,那麼客戶端埠永遠一樣了
c.connect((server_ip,port))
count=0
while True:
c.send(('%s say hello %s' %(threading.current_thread().getName(),count)).encode('utf-8'))
msg=c.recv(1024)
print(msg.decode('utf-8'))
count+=1
if __name__ == '__main__':
for i in range(500):
t=Thread(target=client,args=('127.0.0.1',8080))
t.start()