1. 程式人生 > >Flask學習【第3篇】:藍圖、基於DBUtils實現資料庫連線池、上下文管理等 基於DBUtils實現資料庫連線池

Flask學習【第3篇】:藍圖、基於DBUtils實現資料庫連線池、上下文管理等 基於DBUtils實現資料庫連線池

基於DBUtils實現資料庫連線池

小知識:

1、子類繼承父類的三種方式

複製程式碼
class Dog(Animal): #子類  派生類
    def __init__(self,name,breed, life_value,aggr):
        # Animal.__init__(self,name,breed, life_value,aggr)#讓子類執行父類的方法 就是父類名.方法名(引數),連self都得傳
        super().__init__(name,life_value,aggr) #super關鍵字  ,都不用傳self了,在新式類裡的
        # super(Dog,self).__init__(name,life_value,aggr)  #上面super是簡寫
        self.breed = breed
    def bite(self,person):   #狗的派生方法
        person.life_value -= self.aggr
    def eat(self):  #父類方法的重寫
        super().eat()
        print('dog is eating')
複製程式碼

2、物件通過索引設定值的三種方式

方式一:重寫__setitem__方法

class Foo(object):
    def __setitem__(self, key, value):
        print(key,value)

obj = Foo()
obj["xxx"] = 123   #給物件賦值就會去執行__setitem__方法

方式二:繼承dict

class Foo(dict):
    pass

obj = Foo()
obj["xxx"] = 123
print(obj)

方式三:繼承dict,重寫__init__方法的時候,記得要繼承父類的__init__方法

複製程式碼
class Foo(dict):
    def __init__(self,val):
        # dict.__init__(self, val)#繼承父類方式一
        # super().__init__(val)  #繼承父類方式二
        super(Foo,self).__init__(val)#繼承父類方式三
obj = Foo({"xxx":123})
print(obj)
複製程式碼

總結:如果遇到obj["xxx"] = xx  , 

- 重寫了__setitem__方法
- 繼承dict

3、測試__name__方法

示例:

複製程式碼
app1中:
    import app2
    print('app1', __name__)


app2中:
    print('app2', __name__)
複製程式碼

現在app1是主程式,執行結果截圖

總結:如果是在自己的模組中執行,__name__就是__main__,如果是從別的檔案中匯入進來的,就不是__name__了

一、設定配置檔案的幾種方式

複製程式碼
==========方式一:============
 app.config['SESSION_COOKIE_NAME'] = 'session_lvning'  #這種方式要把所有的配置都放在一個資料夾裡面,看起來會比較亂,所以選擇下面的方式
==========方式二:==============
app.config.from_pyfile('settings.py')  #找到配置檔案路徑,建立一個模組,開啟檔案,並獲取所有的內容,再將配置檔案中的所有值,都封裝到上一步建立的配置檔案模板中

print(app.config.get("CCC"))
=========方式三:物件的方式============
import os
os.environ['FLAKS-SETTINGS'] = 'settings.py'
app.config.from_envvar('FLAKS-SETTINGS')

===============方式四(推薦):字串的方式,方便操作,不用去改配置,直接改變字串就行了 ==============
app.config.from_object('settings.DevConfig')

----------settings.DevConfig----------
from app import app
class BaseConfig(object):
NNN = 123 #注意是大寫
SESSION_COOKIE_NAME = "session_sss"

class TestConfig(BaseConfig):
DB = "127.0.0.1"

class DevConfig(BaseConfig):
DB = "52.5.7.5"

class ProConfig(BaseConfig):
DB = "55.4.22.4"


複製程式碼

要想在檢視函式中獲取配置檔案的值,都是通過app.config來拿。但是如果檢視函式和Flask建立的物件app不在一個模組。就得

匯入來拿。可以不用匯入,。直接匯入一個current_app,這個就是當前的app物件,用current_app.config就能檢視到了當前app的所有的配置檔案

from flask import Flask,current_app

 

@app.route('/index',methods=["GET","POST"])
def index():
    print(current_app.config)   #當前的app的所有配置
    session["xx"] = "fdvbn"
    return "index"

 

二、藍圖(flask中多py檔案拆分都要用到藍圖)

如果程式碼非常多,要進行歸類。不同的功能放在不同的檔案,吧相關的檢視函式也放進去。藍圖也就是對flask的目錄結構進行分配(應用於小,中型的程式),

小中型:

manage.py

import fcrm
if __name__ == '__main__':
    fcrm.app.run()

__init__.py(只要一匯入fcrm就會執行__init__.py檔案)

複製程式碼
from flask import Flask
#匯入accout 和order
from fcrm.views import accout
from fcrm.views import order
app = Flask(__name__)
print(app.root_path)  #根目錄

app.register_blueprint(accout.accout)  #吧藍圖註冊到app裡面,accout.accout是建立的藍圖物件
app.register_blueprint(order.order)
複製程式碼

accout.py

複製程式碼
from flask import  Blueprint,render_template
accout = Blueprint("accout",__name__)

@accout.route('/accout')
def xx():
    return "accout"

@accout.route("/login") def login(): return render_template("login.html")
複製程式碼

order.py

from flask import Blueprint
order = Blueprint("order",__name__)

@order.route('/order')
def register():   #注意檢視函式的名字不能和藍圖物件的名字一樣
    return "order

使用藍圖時需要注意的

大型:

 

三、資料庫連線池

flask中是沒有ORM的,如果在flask裡面連線資料庫有兩種方式

一:pymysql
二:SQLAlchemy
        是python 操作資料庫的一個庫。能夠進行 orm 對映官方文件 sqlchemy
        SQLAlchemy“採用簡單的Python語言,為高效和高效能的資料庫訪問設計,實現了完整的企業級持久模型”。SQLAlchemy的理念是,SQL資料庫的量級和效能重要於物件集合;而物件集合的抽象又重要於表和行。

 連結池原理

複製程式碼
    - BDUtils資料庫連結池  
                - 模式一:基於threaing.local實現為每一個執行緒建立一個連線,關閉是
                  偽關閉,當前執行緒可以重複
                - 模式二:連線池原理
                        - 可以設定連線池中最大連線數    9
                        - 預設啟動時,連線池中建立連線  5
                        
                        - 如果有三個執行緒來資料庫中獲取連線:
                            - 如果三個同時來的,一人給一個連結
                            - 如果一個一個來,有時間間隔,用一個連結就可以為三個執行緒提供服務 - 說不準 有可能:1個連結就可以為三個執行緒提供服務 有可能:2個連結就可以為三個執行緒提供服務 有可能:3個連結就可以為三個執行緒提供服務 PS、:maxshared在使用pymysql中均無用。連結資料庫的模組:只有threadsafety>1的時候才有用
複製程式碼

 

那麼我們用pymysql來做。

為什麼要使用資料庫連線池呢?不用連線池有什麼不好的地方呢?

方式一、每次操作都要連結資料庫,連結次數過多

複製程式碼
#!usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
from  flask import Flask

app = Flask(__name__)

# 方式一:這種方式每次請求,反覆建立資料庫連結,多次連結資料庫會非常耗時
#        解決辦法:放在全域性,單例模式
@app.route('/index')
def index():
    # 連結資料庫
    conn = pymysql.connect(host="127.0.0.1",port=3306,user='root',password='123', database='pooldb',charset='utf8') cursor = conn.cursor() cursor.execute("select * from td where id=%s", [5, ]) result = cursor.fetchall() # 獲取資料  cursor.close() conn.close() # 關閉連結 print(result) return "執行成功" if __name__ == '__main__': app.run(debug=True)
複製程式碼

方式二、不支援併發

複製程式碼
#!usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
from  flask import Flask
from threading import RLock

app = Flask(__name__)
CONN = pymysql.connect(host="127.0.0.1",port=3306,user='root',password='123', database='pooldb',charset='utf8')
# 方式二:放在全域性,如果是單執行緒,這樣就可以,但是如果是多執行緒,就得加把鎖。這樣就成序列的了
#        不支援併發,也不好。所有我們選擇用資料庫連線池
@app.route('/index') def index(): with RLock: cursor = CONN.cursor() cursor.execute("select * from td where id=%s", [5, ]) result = cursor.fetchall() # 獲取資料  cursor.close() print(result) return "執行成功" if __name__ == '__main__': app.run(debug=True)
複製程式碼

 

方式三:由於上面兩種方案都不完美,所以得把方式一和方式二聯合一下(既讓減少連結次數,也能支援併發)所有了方式三,需要

匯入一個DButils模組

基於DButils實現的資料庫連線池有兩種模式:

模式一:為每一個執行緒建立一個連結(是基於本地執行緒來實現的。thread.local),每個執行緒獨立使用自己的資料庫連結,該執行緒關閉不是真正的關閉,本執行緒再次呼叫時,還是使用的最開始建立的連結,直到執行緒終止,資料庫連結才關閉

注: 模式一:如果執行緒比較多還是會建立很多連線,模式二更常用 

複製程式碼
#!usr/bin/env python
# -*- coding:utf-8 -*-
from flask import Flask
app = Flask(__name__)
from DBUtils.PersistentDB import PersistentDB
import pymysql
POOL = PersistentDB(
    creator=pymysql,  # 使用連結資料庫的模組
    maxusage=None,  # 一個連結最多被重複使用的次數,None表示無限制
    setsession=[],  # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
    ping=0, # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always closeable=False, # 如果為False時, conn.close() 實際上被忽略,供下次使用,再執行緒關閉時,才會自動關閉連結。如果為True時, conn.close()則關閉連結,那麼再次呼叫pool.connection時就會報錯,因為已經真的關閉了連線(pool.steady_connection()可以獲取一個新的連結) threadlocal=None, # 本執行緒獨享值得物件,用於儲存連結物件,如果連結物件被重置 host='127.0.0.1', port=3306, user='root', password='123', database='pooldb', charset='utf8' ) @app.route('/func') def func():
  conn = POOL.connection()
  cursor = conn.cursor()
  cursor.execute('select * from tb1')
  result = cursor.fetchall()
  cursor.close()
  conn.close() # 不是真的關閉,而是假的關閉。 conn = pymysql.connect() conn.close()

  conn = POOL.connection()
  cursor = conn.cursor()
  cursor.execute('select * from tb1')
  result = cursor.fetchall()
  cursor.close()
  conn.close()
if __name__ == '__main__': app.run(debug=True)
複製程式碼

模式二:建立一個連結池,為所有執行緒提供連線,使用時來進行獲取,使用完畢後在放回到連線池。

    PS:假設最大連結數有10個,其實也就是一個列表,當你pop一個,人家會在append一個,連結池的所有的連結都是按照排隊的這樣的方式來連結的。

     連結池裡所有的連結都能重複使用,共享的, 即實現了併發,又防止了連結次數太多

複製程式碼
import time
import pymysql
import threading
from DBUtils.PooledDB import PooledDB, SharedDBConnection
POOL = PooledDB(
    creator=pymysql,  # 使用連結資料庫的模組
    maxconnections=6,  # 連線池允許的最大連線數,0和None表示不限制連線數
    mincached=2,  # 初始化時,連結池中至少建立的空閒的連結,0表示不建立
 maxcached=5, # 連結池中最多閒置的連結,0和None不限制 maxshared=3, # 連結池中最多共享的連結數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模組的 threadsafety都為1,所有值無論設定為多少,_maxcached永遠為0,所以永遠是所有連結都共享。 blocking=True, # 連線池中如果沒有可用連線後,是否阻塞等待。True,等待;False,不等待然後報錯 maxusage=None, # 一個連結最多被重複使用的次數,None表示無限制 setsession=[], # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."] ping=0, # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always host='127.0.0.1', port=3306, user='root', password='123', database='pooldb', charset='utf8' ) def func(): # 檢測當前正在執行連線數的是否小於最大連結數,如果不小於則:等待或報raise TooManyConnections異常 # 否則 # 則優先去初始化時建立的連結中獲取連結 SteadyDBConnection。 # 然後將SteadyDBConnection物件封裝到PooledDedicatedDBConnection中並返回。 # 如果最開始建立的連結沒有連結,則去建立一個SteadyDBConnection物件,再封裝到PooledDedicatedDBConnection中並返回。 # 一旦關閉連結後,連線就返回到連線池讓後續執行緒繼續使用。 # PooledDedicatedDBConnection conn = POOL.connection() # print(th, '連結被拿走了', conn1._con) # print(th, '池子裡目前有', pool._idle_cache, '\r\n')  cursor = conn.cursor() cursor.execute('select * from tb1') result = cursor.fetchall() conn.close() conn = POOL.connection() # print(th, '連結被拿走了', conn1._con) # print(th, '池子裡目前有', pool._idle_cache, '\r\n')  cursor = conn.cursor() cursor.execute('select * from tb1') result = cursor.fetchall() conn.close() func()
複製程式碼

五、本地執行緒:保證每個執行緒都只有自己的一份資料,在操作時不會影響別人的,即使是多執行緒,自己的值也是互相隔離的

沒用執行緒之前

複製程式碼
 
       
import threading
import time
class Foo(object):
    def __init__(self):
        self.name = None
local_values = Foo()

def func(num):
    time.sleep(2) local_values.name = num print(local_values.name,threading.current_thread().name) for i in range(5): th = threading.Thread(target=func, args=(i,), name='執行緒%s' % i) th.start()
複製程式碼

 

列印結果:

1 執行緒1
0 執行緒0
2 執行緒2
3 執行緒3
4 執行緒4

用了本地執行緒之後

複製程式碼
import threading
import time
# 本地執行緒物件
local_values = threading.local()
def func(num):

    """
    # 第一個執行緒進來,本地執行緒物件會為他建立一個
    # 第二個執行緒進來,本地執行緒物件會為他建立一個
    {
        執行緒1的唯一標識:{name:1},
        執行緒2的唯一標識:{name:2},
    }
    :param num:
    :return:
    """
    local_values.name = num # 4
    # 執行緒停下來了
    time.sleep(2) # 第二個執行緒: local_values.name,去local_values中根據自己的唯一標識作為key,獲取value中name對應的值 print(local_values.name, threading.current_thread().name) for i in range(5): th = threading.Thread(target=func, args=(i,), name='執行緒%s' % i) th.start()
複製程式碼

列印結果:

1 執行緒1
2 執行緒2
0 執行緒0
4 執行緒4
3 執行緒3

六、上下文管理

複製程式碼
a、類似於本地執行緒
            建立Local類:
            {
                執行緒或協程唯一標識: { 'stack':[request],'xxx':[session,] },
                執行緒或協程唯一標識: { 'stack':[] },
                執行緒或協程唯一標識: { 'stack':[] },
                執行緒或協程唯一標識: { 'stack':[] },
            }
        b、上下文管理的本質
            每一個執行緒都會建立一個上面那樣的結構,
            當請求進來之後,將請求相關資料新增到列表裡面[request,],以後如果使用時,就去讀取
            列表中的資料,請求完成之後,將request從列表中移除
        c、關係
            local = 小華={ 執行緒或協程唯一標識: { 'stack':[] }, 執行緒或協程唯一標識: { 'stack':[] }, 執行緒或協程唯一標識: { 'stack':[] }, 執行緒或協程唯一標識: { 'stack':[] }, } stack = 強哥 = { push pop top } 存取東西時都要基於強哥來做 d、最近看過一些flask原始碼,flask還是django有些區別 - Flask和Django區別? - 請求相關資料傳遞的方式 - django:是通過傳request引數實現的 - Flask:基於local物件和,localstark物件來完成的 當請求剛進來的時候就給放進來了,完了top取值就行了,取完之後pop走就行了 問題:多個請求過來會不會混淆 -答: 不會,因為,不僅是執行緒的,還是協程,每一個協程都是有唯一標識的: from greenlent import getcurrentt as get_ident #這個就是來獲取唯一標識的 
複製程式碼

 

flask的request和session設定方式比較新穎,如果沒有這種方式,那麼就只能通過引數的傳遞。

flask是如何做的呢?

複製程式碼
        - 本地執行緒:是Flask自己建立的一個執行緒(猜想:內部是不是基於本地執行緒做的?)
           vals = threading.local()
           def task(arg):
                vals.name = num
            - 每個執行緒進來都是列印的自己的,只有自己的才能修改,
            - 通過他就能保證每一個執行緒裡面有一個數據庫連結,通過他就能創建出資料庫連結池的第一種模式 - 上下文原理 - 類似於本地執行緒 - 猜想:內部是不是基於本地執行緒做的?不是,是一個特殊的字典
複製程式碼

 

複製程式碼
#!/usr/bin/env python
# -*- coding:utf-8 -*-
from functools import partial
from flask.globals import LocalStack, LocalProxy
 
ls = LocalStack()
 
 
class RequestContext(object):
    def __init__(self, environ):
        self.request = environ def _lookup_req_object(name): top = ls.top if top is None: raise RuntimeError(ls) return getattr(top, name) session = LocalProxy(partial(_lookup_req_object, 'request')) ls.push(RequestContext('c1')) # 當請求進來時,放入 print(session) # 檢視函式使用 print(session) # 檢視函式使用 ls.pop() # 請求結束pop  ls.push(RequestContext('c2')) print(session) ls.push(RequestContext('c3')) print(session)
複製程式碼

3. Flask內部實現

複製程式碼
#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
from greenlet import getcurrent as get_ident
 
 
def release_local(local):
    local.__release_local__()
 
 
class Local(object):
    __slots__ = ('__storage__', '__ident_func__')
 
    def __init__(self): # self.__storage__ = {} # self.__ident_func__ = get_ident object.__setattr__(self, '__storage__', {}) object.__setattr__(self, '__ident_func__', get_ident) def __release_local__(self): self.__storage__.pop(self.__ident_func__(), None) def __getattr__(self, name): try: return self.__storage__[self.__ident_func__()][name] except KeyError: raise AttributeError(name) def __setattr__(self, name, value): ident = self.__ident_func__() storage = self.__storage__ try: storage[ident][name] = value except KeyError: storage[ident] = {name: value} def __delattr__(self, name): try: del self.__storage__[self.__ident_func__()][name] except KeyError: raise AttributeError(name) class LocalStack(object): def __init__(self): self._local = Local() def __release_local__(self): self._local.__release_local__() def push(self, obj): """Pushes a new item to the stack""" rv = getattr(self._local, 'stack', None) if rv is None: self._local.stack = rv = [] rv.append(obj) return rv def pop(self): """Removes the topmost item from the stack, will return the old value or `None` if the stack was already empty. """ stack = getattr(self._local, 'stack', None) if stack is None: return None elif len(stack) == 1: release_local(self._local) return stack[-1] else: return stack.pop() @property def top(self): """The topmost item on the stack. If the stack is empty, `None` is returned. """ try: return self._local.stack[-1] except (AttributeError, IndexError): return None stc = LocalStack() stc.push(123) v = stc.pop() print(v)
複製程式碼

 

小知識:

1、子類繼承父類的三種方式

複製程式碼
class Dog(Animal): #子類  派生類
    def __init__(self,name,breed, life_value,aggr):
        # Animal.__init__(self,name,breed, life_value,aggr)#讓子類執行父類的方法 就是父類名.方法名(引數),連self都得傳
        super().__init__(name,life_value,aggr) #super關鍵字  ,都不用傳self了,在新式類裡的
        # super(Dog,self).__init__(name,life_value,aggr)  #上面super是簡寫
        self.breed = breed
    def bite(self,person):   #狗的派生方法
        person.life_value -= self.aggr
    def eat(self):  #父類方法的重寫
        super().eat()
        print('dog is eating')
複製程式碼

2、物件通過索引設定值的三種方式

方式一:重寫__setitem__方法

class Foo(object):
    def __setitem__(self, key, value):
        print(key,value)

obj = Foo()
obj["xxx"] = 123   #給物件賦值就會去執行__setitem__方法

方式二:繼承dict

class Foo(dict):
    pass

obj = Foo()
obj["xxx"] = 123
print(obj)

方式三:繼承dict,重寫__init__方法的時候,記得要繼承父類的__init__方法

複製程式碼
class Foo(dict):
    def __init__(self,val):
        # dict.__init__(self, val)#繼承父類方式一
        # super().__init__(val)  #繼承父類方式二
        super(Foo,self).__init__(val)#繼承父類方式三
obj = Foo({"xxx":123})
print(obj)
複製程式碼

總結:如果遇到obj["xxx"] = xx  , 

- 重寫了__setitem__方法
- 繼承dict

3、測試__name__方法

示例:

複製程式碼
app1中:
    import app2
    print('app1', __name__)


app2中:
    print('app2', __name__)
複製程式碼

現在app1是主程式,執行結果截圖

總結:如果是在自己的模組中執行,__name__就是__main__,如果是從別的檔案中匯入進來的,就不是__name__了

一、設定配置檔案的幾種方式

複製程式碼
==========方式一:============
 app.config['SESSION_COOKIE_NAME'] = 'session_lvning'  #這種方式要把所有的配置都放在一個資料夾裡面,看起來會比較亂,所以選擇下面的方式
==========方式二:==============
app.config.from_pyfile('settings.py')  #找到配置檔案路徑,建立一個模組,開啟檔案,並獲取所有的內容,再將配置檔案中的所有值,都封裝到上一步建立的配置檔案模板中

print(app.config.get("CCC"))
=========方式三:物件的方式============
import os
os.environ['FLAKS-SETTINGS'] = 'settings.py'
app.config.from_envvar('FLAKS-SETTINGS')

===============方式四(推薦):字串的方式,方便操作,不用去改配置,直接改變字串就行了 ==============
app.config.from_object('settings.DevConfig')

----------settings.DevConfig----------
from app import app
class BaseConfig(object):
NNN = 123 #注意是大寫
SESSION_COOKIE_NAME = "session_sss"

class TestConfig(BaseConfig):
DB = "127.0.0.1"

class DevConfig(BaseConfig):
DB = "52.5.7.5"

class ProConfig(BaseConfig):
DB = "55.4.22.4"


複製程式碼

要想在檢視函式中獲取配置檔案的值,都是通過app.config來拿。但是如果檢視函式和Flask建立的物件app不在一個模組。就得

匯入來拿。可以不用匯入,。直接匯入一個current_app,這個就是當前的app物件,用current_app.config就能檢視到了當前app的所有的配置檔案

from flask import Flask,current_app

 

@app.route('/index',methods=["GET","POST"])
def index():
    print(current_app.config)   #當前的app的所有配置
    session["xx"] = "fdvbn"
    return "index"

 

二、藍圖(flask中多py檔案拆分都要用到藍圖)

如果程式碼非常多,要進行歸類。不同的功能放在不同的檔案,吧相關的檢視函式也放進去。藍圖也就是對flask的目錄結構進行分配(應用於小,中型的程式),

小中型:

manage.py

import fcrm
if __name__ == '__main__':
    fcrm.app.run()

__init__.py(只要一匯入fcrm就會執行__init__.py檔案)

複製程式碼
from flask import Flask
#匯入accout 和order
from fcrm.views import accout
from fcrm.views import order
app = Flask(__name__)
print(app.root_path)  #根目錄

app.register_blueprint(accout.accout)  #吧藍圖註冊到app裡面,accout.accout是建立的藍圖物件
app.register_blueprint(order.order)
複製程式碼

accout.py

複製程式碼
from flask import  Blueprint,render_template
accout = Blueprint("accout",__name__)

@accout.route('/accout')
def xx():
    return "accout"

@accout.route("/login") def login(): return render_template("login.html")
複製程式碼

order.py

from flask import Blueprint
order = Blueprint("order",__name__)

@order.route('/order')
def register():   #注意檢視函式的名字不能和藍圖物件的名字一樣
    return "order

使用藍圖時需要注意的

大型:

 

三、資料庫連線池

flask中是沒有ORM的,如果在flask裡面連線資料庫有兩種方式

一:pymysql
二:SQLAlchemy
        是python 操作資料庫的一個庫。能夠進行 orm 對映官方文件 sqlchemy
        SQLAlchemy“採用簡單的Python語言,為高效和高效能的資料庫訪問設計,實現了完整的企業級持久模型”。SQLAlchemy的理念是,SQL資料庫的量級和效能重要於物件集合;而物件集合的抽象又重要於表和行。

 連結池原理

複製程式碼
    - BDUtils資料庫連結池  
                - 模式一:基於threaing.local實現為每一個執行緒建立一個連線,關閉是
                  偽關閉,當前執行緒可以重複
                - 模式二:連線池原理
                        - 可以設定連線池中最大連線數    9
                        - 預設啟動時,連線池中建立連線  5
                        
                        - 如果有三個執行緒來資料庫中獲取連線:
                            - 如果三個同時來的,一人給一個連結
                            - 如果一個一個來,有時間間隔,用一個連結就可以為三個執行緒提供服務 - 說不準 有可能:1個連結就可以為三個執行緒提供服務 有可能:2個連結就可以為三個執行緒提供服務 有可能:3個連結就可以為三個執行緒提供服務 PS、:maxshared在使用pymysql中均無用。連結資料庫的模組:只有threadsafety>1的時候才有用
複製程式碼

 

那麼我們用pymysql來做。

為什麼要使用資料庫連線池呢?不用連線池有什麼不好的地方呢?

方式一、每次操作都要連結資料庫,連結次數過多

複製程式碼
#!usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
from  flask import Flask

app = Flask(__name__)

# 方式一:這種方式每次請求,反覆建立資料庫連結,多次連結資料庫會非常耗時
#        解決辦法:放在全域性,單例模式
@app.route('/index')
def index():
    # 連結資料庫
    conn = pymysql.connect(host="127.0.0.1",port=3306,user='root',password='123', database='pooldb',charset='utf8') cursor = conn.cursor() cursor.execute("select * from td where id=%s", [5, ]) result = cursor.fetchall() # 獲取資料  cursor.close() conn.close() # 關閉連結 print(result) return "執行成功" if __name__ == '__main__': app.run(debug=True)
複製程式碼

方式二、不支援併發

複製程式碼
#!usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
from  flask import Flask
from threading import RLock

app = Flask(__name__)
CONN = pymysql.connect(host="127.0.0.1",port=3306,user='root',password='123', database='pooldb',charset='utf8')
# 方式二:放在全域性,如果是單執行緒,這樣就可以,但是如果是多執行緒,就得加把鎖。這樣就成序列的了
#        不支援併發,也不好。所有我們選擇用資料庫連線池
@app.route('/index') def index(): with RLock: cursor = CONN.cursor() cursor.execute("select * from td where id=%s", [5, ]) result = cursor.fetchall() # 獲取資料  cursor.close() print(result) return "執行成功" if __name__ == '__main__': app.run(debug=True)
複製程式碼

 

方式三:由於上面兩種方案都不完美,所以得把方式一和方式二聯合一下(既讓減少連結次數,也能支援併發)所有了方式三,需要

匯入一個DButils模組

基於DButils實現的資料庫連線池有兩種模式:

模式一:為每一個執行緒建立一個連結(是基於本地執行緒來實現的。thread.local),每個執行緒獨立使用自己的資料庫連結,該執行緒關閉不是真正的關閉,本執行緒再次呼叫時,還是使用的最開始建立的連結,直到執行緒終止,資料庫連結才關閉

注: 模式一:如果執行緒比較多還是會建立很多連線,模式二更常用 

複製程式碼
#!usr/bin/env python
# -*- coding:utf-8 -*-
from flask import Flask
app = Flask(__name__)
from DBUtils.PersistentDB import PersistentDB
import pymysql
POOL = PersistentDB(
    creator=pymysql,  # 使用連結資料庫的模組
    maxusage=None,  # 一個連結最多被重複使用的次數,None表示無限制
    setsession=[],  # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."]
    ping=0, # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always closeable=False, # 如果為False時, conn.close() 實際上被忽略,供下次使用,再執行緒關閉時,才會自動關閉連結。如果為True時, conn.close()則關閉連結,那麼再次呼叫pool.connection時就會報錯,因為已經真的關閉了連線(pool.steady_connection()可以獲取一個新的連結) threadlocal=None, # 本執行緒獨享值得物件,用於儲存連結物件,如果連結物件被重置 host='127.0.0.1', port=3306, user='root', password='123', database='pooldb', charset='utf8' ) @app.route('/func') def func():
  conn = POOL.connection()
  cursor = conn.cursor()
  cursor.execute('select * from tb1')
  result = cursor.fetchall()
  cursor.close()
  conn.close() # 不是真的關閉,而是假的關閉。 conn = pymysql.connect() conn.close()

  conn = POOL.connection()
  cursor = conn.cursor()
  cursor.execute('select * from tb1')
  result = cursor.fetchall()
  cursor.close()
  conn.close()
if __name__ == '__main__': app.run(debug=True)
複製程式碼

模式二:建立一個連結池,為所有執行緒提供連線,使用時來進行獲取,使用完畢後在放回到連線池。

    PS:假設最大連結數有10個,其實也就是一個列表,當你pop一個,人家會在append一個,連結池的所有的連結都是按照排隊的這樣的方式來連結的。

     連結池裡所有的連結都能重複使用,共享的, 即實現了併發,又防止了連結次數太多

複製程式碼
import time
import pymysql
import threading
from DBUtils.PooledDB import PooledDB, SharedDBConnection
POOL = PooledDB(
    creator=pymysql,  # 使用連結資料庫的模組
    maxconnections=6,  # 連線池允許的最大連線數,0和None表示不限制連線數
    mincached=2,  # 初始化時,連結池中至少建立的空閒的連結,0表示不建立
 maxcached=5, # 連結池中最多閒置的連結,0和None不限制 maxshared=3, # 連結池中最多共享的連結數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等模組的 threadsafety都為1,所有值無論設定為多少,_maxcached永遠為0,所以永遠是所有連結都共享。 blocking=True, # 連線池中如果沒有可用連線後,是否阻塞等待。True,等待;False,不等待然後報錯 maxusage=None, # 一個連結最多被重複使用的次數,None表示無限制 setsession=[], # 開始會話前執行的命令列表。如:["set datestyle to ...", "set time zone ..."] ping=0, # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always host='127.0.0.1', port=3306, user='root', password='123', database='pooldb', charset='utf8' ) def func(): # 檢測當前正在執行連線數的是否小於最大連結數,如果不小於則:等待或報raise TooManyConnections異常 # 否則 # 則優先去初始化時建立的連結中獲取連結 SteadyDBConnection。 # 然後將SteadyDBConnection物件封裝到PooledDedicatedDBConnection中並返回。 # 如果最開始建立的連結沒有連結,則去建立一個SteadyDBConnection物件,再封裝到PooledDedicatedDBConnection中並返回。 # 一旦關閉連結後,連線就返回到連線池讓後續執行緒繼續使用。 # PooledDedicatedDBConnection conn = POOL.connection() # print(th, '連結被拿走了', conn1._con) # print(th, '池子裡目前有', pool._idle_cache, '\r\n')  cursor = conn.cursor() cursor.execute('select * from tb1') result = cursor.fetchall() conn.close() conn = POOL.connection() # print(th, '連結被拿走了', conn1._con) # print(th, '池子裡目前有', pool._idle_cache, '\r\n')  cursor = conn.cursor() cursor.execute('select * from tb1') result = cursor.fetchall() conn.close() func()
複製程式碼

五、本地執行緒:保證每個執行緒都只有自己的一份資料,在操作時不會影響別人的,即使是多執行緒,自己的值也是互相隔離的

沒用執行緒之前

複製程式碼
 
 
import threading
import time
class Foo(object):
    def __init__(self):
        self.name = None
local_values = Foo()

def func(num):
    time.sleep(2) local_values.name = num print(local_values.name,threading.current_thread().name) for i in range(5): th = threading.Thread(target=func, args=(i,), name='執行緒%s' % i) th.start()
複製程式碼

 

列印結果:

1 執行緒1
0 執行緒0
2 執行緒2
3 執行緒3
4 執行緒4

用了本地執行緒之後

複製程式碼
import threading
import time
# 本地執行緒物件
local_values = threading.local()
def func(num):

    """
    # 第一個執行緒進來,本地執行緒物件會為他建立一個
    # 第二個執行緒進來,本地執行緒物件會為他建立一個
    {
        執行緒1的唯一標識:{name:1},
        執行緒2的唯一標識:{name:2},
    }
    :param num:
    :return:
    """
    local_values.name = num # 4
    # 執行緒停下來了
    time.sleep(2) # 第二個執行緒: local_values.name,去local_values中根據自己的唯一標識作為key,獲取value中name對應的值 print(local_values.name, threading.current_thread().name) for i in range(5): th = threading.Thread(target=func, args=(i,), name='執行緒%s' % i) th.start()
複製程式碼

列印結果:

1 執行緒1
2 執行緒2
0 執行緒0
4 執行緒4
3 執行緒3

六、上下文管理

複製程式碼
a、類似於本地執行緒
            建立Local類:
            {
                執行緒或協程唯一標識: { 'stack':[request],'xxx':[session,] },
                執行緒或協程唯一標識: { 'stack':[] },
                執行緒或協程唯一標識: { 'stack':[] },
                執行緒或協程唯一標識: { 'stack':[] },
            }
        b、上下文管理的本質
            每一個執行緒都會建立一個上面那樣的結構,
            當請求進來之後,將請求相關資料新增到列表裡面[request,],以後如果使用時,就去讀取
            列表中的資料,請求完成之後,將request從列表中移除
        c、關係
            local = 小華={ 執行緒或協程唯一標識: { 'stack':[] }, 執行緒或協程唯一標識: { 'stack':[] }, 執行緒或協程唯一標識: { 'stack':[] }, 執行緒或協程唯一標識: { 'stack':[] }, } stack = 強哥 = { push pop top } 存取東西時都要基於強哥來做 d、最近看過一些flask原始碼,flask還是django有些區別 - Flask和Django區別? - 請求相關資料傳遞的方式 - django:是通過傳request引數實現的 - Flask:基於local物件和,localstark物件來完成的 當請求剛進來的時候就給放進來了,完了top取值就行了,取完之後pop走就行了 問題:多個請求過來會不會混淆 -答: 不會,因為,不僅是執行緒的,還是協程,每一個協程都是有唯一標識的: from greenlent import getcurrentt as get_ident #這個就是來獲取唯一標識的 
複製程式碼

 

flask的request和session設定方式比較新穎,如果沒有這種方式,那麼就只能通過引數的傳遞。

flask是如何做的呢?

複製程式碼
        - 本地執行緒:是Flask自己建立的一個執行緒(猜想:內部是不是基於本地執行緒做的?)
           vals = threading.local()
           def task(arg):
                vals.name = num
            - 每個執行緒進來都是列印的自己的,只有自己的才能修改,
            - 通過他就能保證每一個執行緒裡面有一個數據庫連結,通過他就能創建出資料庫連結池的第一種模式 - 上下文原理 - 類似於本地執行緒 - 猜想:內部是不是基於本地執行緒做的?不是,是一個特殊的字典
複製程式碼

 

複製程式碼
#!/usr/bin/env python
# -*- coding:utf-8 -*-
from functools import partial
from flask.globals import LocalStack, LocalProxy
 
ls = LocalStack()
 
 
class RequestContext(object):
    def __init__(self, environ):
        self.request = environ def _lookup_req_object(name): top = ls.top if top is None: raise RuntimeError(ls) return getattr(top, name) session = LocalProxy(partial(_lookup_req_object, 'request')) ls.push(RequestContext('c1')) # 當請求進來時,放入 print(session) # 檢視函式使用 print(session) # 檢視函式使用 ls.pop() # 請求結束pop  ls.push(RequestContext('c2')) print(session) ls.push(RequestContext('c3')) print(session)
複製程式碼

3. Flask內部實現

複製程式碼
#!/usr/bin/env python
# -*- coding:utf-8 -*-
 
from greenlet import getcurrent as get_ident
 
 
def release_local(local):
    local.__release_local__()
 
 
class Local(object):
    __slots__ = ('__storage__', '__ident_func__')
 
    def __init__(self): # self.__storage__ = {} # self.__ident_func__ = get_ident object.__setattr__(self, '__storage__', {}) object.__setattr__(self, '__ident_func__', get_ident) def __release_local__(self): self.__storage__.pop(self.__ident_func__(), None) def __getattr__(self, name): try: return self.__storage__[self.__ident_func__()][name] except KeyError: raise AttributeError(name) def __setattr__(self, name, value): ident = self.__ident_func__() storage = self.__storage__ try: storage[ident][name] = value except KeyError: storage[ident] = {name: value} def __delattr__(self, name): try: del self.__storage__[self.__ident_func__()][name] except KeyError: raise AttributeError(name) class LocalStack(object): def __init__(self): self._local = Local() def __release_local__(self): self._local.__release_local__() def push(self, obj): """Pushes a new item to the stack""" rv = getattr(self._local, 'stack', None) if rv is None: self._local.stack = rv = [] rv.append(obj) return rv def pop(self): """Removes the topmost item from the stack, will return the old value or `None` if the stack was already empty. """ stack = getattr(self._local, 'stack', None) if stack is None: return None elif len(stack) == 1: release_local(self._local) return stack[-1] else: return stack.pop() @property def top(self): """The topmost item on the stack. If the stack is empty, `None` is returned. """ try: return self._local.stack[-1] except (AttributeError, IndexError): return None stc = LocalStack() stc.push(123) v = stc.pop() print(v)

相關推薦

Flask學習3藍圖基於DBUtils實現資料庫連線上下文管理 基於DBUtils實現資料庫連線

基於DBUtils實現資料庫連線池 小知識: 1、子類繼承父類的三種方式 class Dog(Animal): #子類 派生類 def

Flask學習2Flask基礎 Flask基礎

Flask基礎 知識點回顧 1、flask依賴wsgi,實現wsgi的模組:wsgiref,werkzeug,uwsgi 2、例項化Flask物件,裡面是有引數的 app = Fla

Flask學習7Flask中的wtforms使用 flask中的wtforms使用

flask中的wtforms使用 一、簡單介紹flask中的wtforms WTForms是一個支援多個web框架的form元件,主要用於對使用者請求資料進行驗證。 安裝: pip3 install

Flask學習11整合Flask中的目錄結構 整合Flask中的目錄結構

整合Flask中的目錄結構 一、SQLAlchemy-Utils 由於sqlalchemy中沒有提供choice方法,所以藉助SQLAlchemy-Utils元件提供的choice方法

Flask學習10自定義Form元件 自定義Form元件

自定義Form元件 一、wtforms原始碼流程 1、例項化流程分析 View Code 2、驗證流程分析

Python學習3Python之運算子 python-----運算子及while迴圈

python-----運算子及while迴圈 一、運算子 計算機可以進行的運算有很多種,不只是加減乘除,它和我們人腦一樣,也可以做很多運算。 種類:算術運

mysql學習3資料庫之增刪改查操作 資料庫之表操作,資料操作

資料庫之表操作,資料操作 注意的幾點:1.如果你在cmd中書命令的時候,輸入錯了就用\c跳出   2.\s檢視配置資訊

Django學習3Django之模板語法

開始 切片 byte 當前 tag targe you 過濾 per Django框架之第三篇模板語法(重要!!!) 一、什麽是模板? 只要是在html裏面有模板語法就不是html文件了,這樣的文件就叫做模板。 二、模板

mysql學習3使用DQL查詢資料

  狂神宣告 : 文章均為自己的學習筆記 , 轉載一定註明出處 ; 編輯不易 , 防君子不防小人~共勉 !  mysql學習【第3篇】:使用DQL查詢資料 DQL語言 DQL( Data Query Language 資料查詢語言 ) 查詢資料庫資料 , 如SEL

Python學習3Python之運算符

進行 com 結束 range 分享圖片 png microsoft mic pan 一、運算符 計算機可以進行的運算有很多種,不只是加減乘除,它和我們人腦一樣,也可以做很多運算。 種類:算術運算,比較運算,邏輯運算,賦值運算,成員運算,身份運算,位運算,今天我們先了解前四

Python學習2Python之數據類型

msg ear sleep abc 命令 play bbbb 朋友 == 數字類型和字符串類型 1.bin()函數將十進制轉換成而進制 2.oct()函數將十進制轉換成八進制 3.hex()函數將十進制轉換成十六進制     十六進制表示:0-9 a b c

Python學習2Python之數據類型(2)

append 但是 iss 代碼 key 常用方法 uber ner ces 元組 #為何要有元組,存放多個值,元組不可變,更多的是用來做查詢 t=(1,[1,3],‘sss‘,(1,2)) #t=tuple((1,[1,3],‘sss‘,(1,2))) #

Python學習4元組魔法

vaule 根據 取值 保留 列表 tuple 樣書 key值 推薦 tu = (111,"xiaoxing",(11,22),[(33,44)],45,)#1.書寫格式#一般寫元組的時候推薦在最後加入逗號,#元組中的一級元素不可被修改,不能增加或者刪除print(tu)#

Python學習5數據類型和變量總結

style 不可變 nbsp 重新 class 數據 發現 舉例 convert 字符串,數字,列表,元組,字典 可變不可變 1.可變:列表 如: p.p1 { margin: 0.0px 0.0px 0.0px 0.0px; font: 11.0px Menlo; col

Python學習4Python之可變資料型別與不可變資料型別 可變資料型別和不可變資料型別

可變資料型別和不可變資料型別 1.可變資料型別:在id不變的情況下,value可改變(列表和字典是可變型別,但是字典中的key值必須是不可變型別)   2.不可變資料型別:value改變,id也跟著改變。

Python學習5Python之字元編碼問題 python之----------字元編碼具體原理

python之----------字元編碼具體原理 1.記憶體和硬碟都是用來儲存的。 CPU:速度快 硬碟:永久儲存 &nb

Python學習9Python之常用模組二(時間模組,序列化模組) 常用模組2

常用模組2 一、time模組 表示時間的三種方式:   時間戳:數字(計算機能認識的)   時間字串:t='2012-12-12'

Python學習8Python之常用模組一(主要是正則以及collections模組) python--------------常用模組之正則

python--------------常用模組之正則 一、認識模組     什麼是模組:一個模組就是一個包含了python定義和宣告的檔案,檔名就是加上.py的字尾,但其實import載入的模組分為四個通用類別 :

Python學習15面向對象之異常處理

解決 tex over self. 代碼 pytho ice dig ans python------------------異常處理 一、錯誤與異常 程序中難免會出現錯誤,而錯誤分為兩種 1.語法錯誤:(這種錯誤,根本過不了python解釋器的語法

Python學習15面向物件之異常處理 python------------------異常處理

python------------------異常處理 一、錯誤與異常 程式中難免會出現錯誤,而錯誤分為兩種 1.語法錯誤:(這種錯誤,根本過不了pyt