1. 程式人生 > >python資料庫連線池

python資料庫連線池

一  DBUtils的認識

首先管理資料庫連線池的包是 DBUtils,為高頻度併發的資料庫訪問提供更好的效能,可以自動管理連線物件的建立和釋放,最常用的兩個外部介面是PersistentDB 和 PooledDB,前者提供了單個執行緒專用的資料庫連線池,後者則是程序內所有執行緒共享的資料庫連線池。

 

二 DBUtils 簡介
DBUtils是一套Python資料庫連線池包,並允許對非執行緒安全的資料庫介面進行執行緒安全包裝。DBUtils來自Webware for Python。

DBUtils提供兩種外部介面:

  • PersistentDB :提供執行緒專用的資料庫連線,並自動管理連線。
  • PooledDB :提供執行緒間可共享的資料庫連線,並自動管理連線。

 

三 建立資料庫連線池

1 import time
 2 import pymysql
 3 import threading
 4 from DBUtils.PooledDB import PooledDB, SharedDBConnection
 5 POOL = PooledDB(
 6     creator=pymysql,  # 使用連結資料庫的模組
 7     maxconnections=6,  # 連線池允許的最大連線數,0和None表示不限制連線數
 8     mincached=2,  # 初始化時,連結池中至少建立的空閒的連結,0表示不建立
 9     maxcached=5,  # 連結池中最多閒置的連結,0和None不限制
10     maxshared=3,  # 連結池中最多共享的連結數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模組的 threadsafety都為1,所有值無論設定為多少,_maxcached永遠為0,所以永遠是所有連結都共享。
11     blocking=True,  # 連線池中如果沒有可用連線後,是否阻塞等待。True,等待;False,不等待然後報錯
12     maxusage=None,  # 一個連結最多被重複使用的次數,None表示無限制
13     setsession=[],  # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
14     ping=0,
15     # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
16     host='127.0.0.1',
17     port=3306,
18     user='root',
19     password='123',
20     database='pooldb',
21     charset='utf8'
22 )

 

四 使用資料庫連線池

1 def func():
 2     # 檢測當前正在執行連線數的是否小於最大連結數,如果不小於則:等待或報raise TooManyConnections異常
 3     # 否則
 4     # 則優先去初始化時建立的連結中獲取連結 SteadyDBConnection。
 5     # 然後將SteadyDBConnection物件封裝到PooledDedicatedDBConnection中並返回。
 6     # 如果最開始建立的連結沒有連結,則去建立一個SteadyDBConnection物件,再封裝到PooledDedicatedDBConnection中並返回。
 7     # 一旦關閉連結後,連線就返回到連線池讓後續執行緒繼續使用。
 8     conn = POOL.connection()
 9 
10     cursor = conn.cursor()
11     cursor.execute('select * from tb1')
12     result = cursor.fetchall()
13     conn.close()

 

五 自制sqlhelper

 1 class MySQLhelper(object):
 2     def __init__(self, host, port, dbuser, password, database):
 3         self.pool = PooledDB(
 4             creator=pymysql,  # 使用連結資料庫的模組
 5             maxconnections=6,  # 連線池允許的最大連線數,0和None表示不限制連線數
 6             mincached=2,  # 初始化時,連結池中至少建立的空閒的連結,0表示不建立
 7             maxcached=5,  # 連結池中最多閒置的連結,0和None不限制
 8             maxshared=3,
 9             # 連結池中最多共享的連結數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模組的 threadsafety都為1,所有值無論設定為多少,_maxcached永遠為0,所以永遠是所有連結都共享。
10             blocking=True,  # 連線池中如果沒有可用連線後,是否阻塞等待。True,等待;False,不等待然後報錯
11             maxusage=None,  # 一個連結最多被重複使用的次數,None表示無限制
12             setsession=[],  # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
13             ping=0,
14             # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
15             host=host,
16             port=int(port),
17             user=dbuser,
18             password=password,
19             database=database,
20             charset='utf8'
21         )
22 
23     def create_conn_cursor(self):
24         conn = self.pool.connection()
25         cursor = conn.cursor(pymysql.cursors.DictCursor)
26         return conn,cursor
27 
28     def fetch_all(self, sql, args):
29         conn,cursor = self.create_conn_cursor()
30         cursor.execute(sql,args)
31         result = cursor.fetchall()
32         cursor.close()
33         conn.close()
34         return result
35 
36 
37     def insert_one(self,sql,args):
38         conn,cursor = self.create_conn_cursor()
39         res = cursor.execute(sql,args)
40         conn.commit()
41         print(res)
42         conn.close()
43         return res
44 
45     def update(self,sql,args):
46         conn,cursor = self.create_conn_cursor()
47         res = cursor.execute(sql,args)
48         conn.commit()
49         print(res)
50         conn.close()
51         return res
52 
53 
54 sqlhelper = MySQLhelper("127.0.0.1", 3306, "root", "1233121234567", "dragon")
55 
56 # sqlhelper.fetch_all("select * from user where id=%s",(1))
57 
58 # sqlhelper.insert_one("insert into user VALUES (%s,%s)",("jinwangba",4))
59 
60 # sqlhelper.update("update user SET name=%s WHERE  id=%s",("yinwangba",1))