Django（六）模型（model）系統 -- 常用查詢語法及進階
阿新 • • 發佈：2018-12-02
一般操作
必知必會13條
<1> all(): 查詢所有結果 <2> filter(**kwargs): 它包含了與所給篩選條件相匹配的物件 <3> get(**kwargs): 返回與所給篩選條件相匹配的物件，返回結果有且只有一個，如果符合篩選條件的物件超過一個或者沒有都會丟擲錯誤。 <4> exclude(**kwargs): 它包含了與所給篩選條件不匹配的物件 <5> values(*field): 返回一個ValueQuerySet——一個特殊的QuerySet，執行後得到的並不是一系列model的例項化物件，而是一個可迭代的字典序列<6> values_list(*field): 它與values()非常相似，它返回的是一個元組序列，values返回的是一個字典序列 <7> order_by(*field): 對查詢結果排序 <8> reverse(): 對查詢結果反向排序，請注意reverse()通常只能在具有已定義順序的QuerySet上呼叫(在model類的Meta中指定ordering或呼叫order_by()方法)。 <9> distinct(): 從返回結果中剔除重複紀錄(如果你查詢跨越多個表，可能在計算QuerySet時得到重複的結果。此時可以使用distinct()，注意只有在PostgreSQL中支援按欄位去重。)<10> count(): 返回資料庫中匹配查詢(QuerySet)的物件數量。 <11> first(): 返回第一條記錄 <12> last(): 返回最後一條記錄 <13> exists(): 如果QuerySet包含資料，就返回True，否則返回False
返回QuerySet物件的方法有
all()
filter()
exclude()
order_by()
reverse()
distinct()
特殊的QuerySet
values() 返回一個可迭代的字典序列
values_list() 返回一個可迭代的元祖序列
返回具體物件的
get()
first()
last()
返回布林值的方法有：
exists()
返回數字的方法有
count()
單表查詢之神奇的雙下劃線
models.Tb1.objects.filter(id__lt=10, id__gt=1) # 獲取id大於1 且 小於10的值 models.Tb1.objects.filter(id__in=[11, 22, 33]) # 獲取id等於11、22、33的資料 models.Tb1.objects.exclude(id__in=[11, 22, 33]) # not in models.Tb1.objects.filter(name__contains="ven") # 獲取name欄位包含"ven"的 models.Tb1.objects.filter(name__icontains="ven") # icontains大小寫不敏感 models.Tb1.objects.filter(id__range=[1, 3]) # id範圍是1到3的，等價於SQL的bettwen and 類似的還有：startswith，istartswith, endswith, iendswith date欄位還可以： models.Class.objects.filter(first_day__year=2017)
ForeignKey操作
正向查詢
物件查詢（跨表）
語法：
物件.關聯欄位.欄位
示例：
book_obj = models.Book.objects.first() # 第一本書物件 print(book_obj.publisher) # 得到這本書關聯的出版社物件 print(book_obj.publisher.name) # 得到出版社物件的名稱
欄位查詢（跨表）
語法：
關聯欄位__欄位
示例：
print(models.Book.objects.values_list("publisher__name"))
反向操作
物件查詢
語法：
obj.表名_set
示例：
publisher_obj = models.Publisher.objects.first() # 找到第一個出版社物件 books = publisher_obj.book_set.all() # 找到第一個出版社出版的所有書 titles = books.values_list("title") # 找到第一個出版社出版的所有書的書名
欄位查詢
語法：
表名__欄位
示例：
titles = models.Publisher.objects.values_list("book__title")
ManyToManyField
class RelatedManager
"關聯管理器"是在一對多或者多對多的關聯上下文中使用的管理器。
它存在於下面兩種情況：
- 外來鍵關係的反向查詢
- 多對多關聯關係
簡單來說就是當 點後面的物件 可能存在多個的時候就可以使用以下的方法。
方法
create()
建立一個新的物件，儲存物件，並將它新增到關聯物件集之中，返回新建立的物件。
import datetime models.Author.objects.first().book_set.create(title="番茄物語", publish_date=datetime.date.today())
add()
把指定的model物件新增到關聯物件集中。
新增物件
>>> author_objs = models.Author.objects.filter(id__lt=3)
>>> models.Book.objects.first().authors.add(*author_objs)
新增id
>>> models.Book.objects.first().authors.add(*[1, 2])
set()
更新model物件的關聯物件。
>>> book_obj = models.Book.objects.first()
>>> book_obj.authors.set([2, 3])
remove()
從關聯物件集中移除執行的model物件
>>> book_obj = models.Book.objects.first()
>>> book_obj.authors.remove(3)
clear()
從關聯物件集中移除一切物件。
>>> book_obj = models.Book.objects.first()
>>> book_obj.authors.clear()
注意：
對於ForeignKey物件，clear()和remove()方法僅在null=True時存在。
舉個例子：
ForeignKey欄位沒設定null=True時，
class Book(models.Model): title = models.CharField(max_length=32) publisher = models.ForeignKey(to=Publisher)
沒有clear()和remove()方法：
>>> models.Publisher.objects.first().book_set.clear() Traceback (most recent call last): File "<input>", line 1, in <module> AttributeError: 'RelatedManager' object has no attribute 'clear'
當ForeignKey欄位設定null=True時，
class Book(models.Model): name = models.CharField(max_length=32) publisher = models.ForeignKey(to=Class, null=True)
此時就有clear()和remove()方法：
>>> models.Publisher.objects.first().book_set.clear()
注意：
對於所有型別的關聯欄位，add()、create()、remove()和clear(),set()都會馬上更新資料庫。換句話說，在關聯的任何一端，都不需要再呼叫save()方法。
聚合查詢和分組查詢
聚合
aggregate()是QuerySet 的一個終止子句，意思是說，它返回一個包含一些鍵值對的字典。
鍵的名稱是聚合值的識別符號，值是計算出來的聚合值。鍵的名稱是按照欄位和聚合函式的名稱自動生成出來的。
用到的內建函式：
from django.db.models import Avg, Sum, Max, Min, Count
示例：
>>> from django.db.models import Avg, Sum, Max, Min, Count >>> models.Book.objects.all().aggregate(Avg("price")) {'price__avg': 13.233333}
如果你想要為聚合值指定一個名稱，可以向聚合子句提供它。
>>> models.Book.objects.aggregate(average_price=Avg('price')) {'average_price': 13.233333}
如果你希望生成不止一個聚合，你可以向aggregate()子句中新增另一個引數。所以，如果你也想知道所有圖書價格的最大值和最小值，可以這樣查詢：
>>> models.Book.objects.all().aggregate(Avg("price"), Max("price"), Min("price")) {'price__avg': 13.233333, 'price__max': Decimal('19.90'), 'price__min': Decimal('9.90')}
分組
我們使用原生SQL語句，按照部分分組求平均工資：
select dept,AVG(salary) from employee group by dept;
ORM查詢:
from django.db.models import Avg Employee.objects.values("dept").annotate(avg=Avg("salary").values(dept, "avg")
SQL查詢：
select dept.name,AVG(salary) from employee inner join dept on (employee.dept_id=dept.id) group by dept_id;
ORM查詢：
from django.db.models import Avg models.Dept.objects.annotate(avg=Avg("employee__salary")).values("name", "avg")
更多示例
示例1：統計每一本書的作者個數
>>> book_list = models.Book.objects.all().annotate(author_num=Count("author")) >>> for obj in book_list: ... print(obj.author_num)
示例2：統計出每個出版社買的最便宜的書的價格
>>> publisher_list = models.Publisher.objects.annotate(min_price=Min("book__price")) >>> for obj in publisher_list: ... print(obj.min_price)
方法二：
>>> models.Book.objects.values("publisher__name").annotate(min_price=Min("price")) <QuerySet [{'publisher__name': '沙河出版社', 'min_price': Decimal('9.90')}, {'publisher__name': '人民出版社', 'min_price': Decimal('19.90')}]>
示例3：統計不止一個作者的圖書
>>> models.Book.objects.annotate(author_num=Count("author")).filter(author_num__gt=1) <QuerySet [<Book: 番茄物語>]>
示例4：根據一本圖書作者數量的多少對查詢集 QuerySet進行排序
>>> models.Book.objects.annotate(author_num=Count("author")).order_by("author_num") <QuerySet [<Book: 香蕉物語>, <Book: 橘子物語>, <Book: 番茄物語>]>
示例5：查詢各個作者出的書的總價格
>>> models.Author.objects.annotate(sum_price=Sum("book__price")).values("name", "sum_price") <QuerySet [{'name': '小精靈', 'sum_price': Decimal('9.90')}, {'name': '小仙女', 'sum_price': Decimal('29.80')}, {'name': '小魔女', 'sum_price': Decimal('9.90')}]>
F查詢和Q查詢
F查詢
在上面所有的例子中，我們構造的過濾器都只是將欄位值與某個常量做比較。如果我們要對兩個欄位的值做比較，那該怎麼做呢？
Django 提供 F() 來做這樣的比較。F() 的例項可以在查詢中引用欄位，來比較同一個 model 例項中兩個不同欄位的值。
示例1：
查詢評論數大於收藏數的書籍
from django.db.models import F models.Book.objects.filter(commnet_num__gt=F('keep_num'))
Django 支援 F() 物件之間以及 F() 物件和常數之間的加減乘除和取模的操作。
models.Book.objects.filter(commnet_num__lt=F('keep_num')*2)
修改操作也可以使用F函式,比如將每一本書的價格提高30元
models.Book.objects.all().update(price=F("price")+30)
引申：
如果要修改char欄位咋辦？
如：把所有書名後面加上(第一版)
>>> from django.db.models.functions import Concat >>> from django.db.models import Value >>> models.Book.objects.all().update(title=Concat(F("title"), Value("("), Value("第一版"), Value(")")))
Q查詢
filter() 等方法中的關鍵字引數查詢都是一起進行“AND” 的。 如果你需要執行更復雜的查詢（例如OR語句），你可以使用Q物件。
示例1：
查詢作者名是小仙女或小魔女的
models.Book.objects.filter(Q(authors__name="小仙女")|Q(authors__name="小魔女"))
你可以組合& 和| 操作符以及使用括號進行分組來編寫任意複雜的Q 物件。同時，Q 物件可以使用~ 操作符取反，這允許組合正常的查詢和取反(NOT) 查詢。
示例：查詢作者名字是小仙女並且不是2018年出版的書的書名。
>>> models.Book.objects.filter(Q(author__name="小仙女") & ~Q(publish_date__year=2018)).values_list("title") <QuerySet [('番茄物語',)]>
查詢函式可以混合使用Q 物件和關鍵字引數。所有提供給查詢函式的引數（關鍵字引數或Q 物件）都將"AND”在一起。但是，如果出現Q 物件，它必須位於所有關鍵字引數的前面。
例如：查詢出版年份是2017或2018，書名中帶物語的所有書。
>>> models.Book.objects.filter(Q(publish_date__year=2018) | Q(publish_date__year=2017), title__icontains="物語") <QuerySet [<Book: 番茄物語>, <Book: 香蕉物語>, <Book: 橘子物語>]>
鎖和事務
鎖
select_for_update(nowait=False, skip_locked=False)
返回一個鎖住行直到事務結束的查詢集，如果資料庫支援，它將生成一個 SELECT ... FOR UPDATE 語句。
舉個例子：
entries = Entry.objects.select_for_update().filter(author=request.user)
所有匹配的行將被鎖定，直到事務結束。這意味著可以通過鎖防止資料被其它事務修改。
一般情況下如果其他事務鎖定了相關行，那麼本查詢將被阻塞，直到鎖被釋放。 如果這不想要使查詢阻塞的話，使用select_for_update(nowait=True)。 如果其它事務持有衝突的鎖, 那麼查詢將引發 DatabaseError 異常。你也可以使用select_for_update(skip_locked=True)忽略鎖定的行。 nowait和skip_locked是互斥的，同時設定會導致ValueError。
目前，postgresql，oracle和mysql資料庫後端支援select_for_update()。 但是，MySQL不支援nowait和skip_locked引數。
使用不支援這些選項的資料庫後端（如MySQL）將nowait=True或skip_locked=True轉換為select_for_update()將導致丟擲DatabaseError異常，這可以防止程式碼意外終止。
事務
import os if __name__ == '__main__': os.environ.setdefault("DJANGO_SETTINGS_MODULE", "BMS.settings") import django django.setup() import datetime from app01 import models try: from django.db import transaction with transaction.atomic(): new_publisher = models.Publisher.objects.create(name="火星出版社") models.Book.objects.create(title="橘子物語", publish_date=datetime.date.today(), publisher_id=10) # 指定一個不存在的出版社id except Exception as e: print(str(e))
其他鮮為人知的操作（有個印象即可）
Django ORM執行原生SQL
在模型查詢API不夠用的情況下，我們還可以使用原始的SQL語句進行查詢。
Django 提供兩種方法使用原始SQL進行查詢：一種是使用raw()方法，進行原始SQL查詢並返回模型例項；另一種是完全避開模型層，直接執行自定義的SQL語句。
執行原生查詢
raw()管理器方法用於原始的SQL查詢，並返回模型的例項：
注意：raw()語法查詢必須包含主鍵。
這個方法執行原始的SQL查詢，並返回一個django.db.models.query.RawQuerySet 例項。 這個RawQuerySet 例項可以像一般的QuerySet那樣，通過迭代來提供物件例項。
舉個例子：
class Person(models.Model): first_name = models.CharField(...) last_name = models.CharField(...) birth_date = models.DateField(...)
可以像下面這樣執行原生SQL語句
>>> for p in Person.objects.raw('SELECT * FROM myapp_person'): ... print(p)
raw()查詢可以查詢其他表的資料。
舉個例子：
ret = models.Student.objects.raw('select id, tname as hehe from app02_teacher') for i in ret: print(i.id, i.hehe)
raw()方法自動將查詢欄位對映到模型欄位。還可以通過translations引數指定一個把查詢的欄位名和ORM物件例項的欄位名互相對應的字典
d = {'tname': 'haha'}
ret = models.Student.objects.raw('select * from app02_teacher', translations=d)
for i in ret:
print(i.id, i.sname, i.haha)
原生SQL還可以使用引數，注意不要自己使用字串格式化拼接SQL語句，防止SQL注入！
d = {'tname': 'haha'}
ret = models.Student.objects.raw('select * from app02_teacher where id > %s', translations=d, params=[1,])
for i in ret:
print(i.id, i.sname, i.haha)
直接執行自定義SQL
有時候raw()方法並不十分好用，很多情況下我們不需要將查詢結果對映成模型，或者我們需要執行DELETE、 INSERT以及UPDATE操作。在這些情況下，我們可以直接訪問資料庫，完全避開模型層。
我們可以直接從django提供的介面中獲取資料庫連線，然後像使用pymysql模組一樣操作資料庫。
from django.db import connection, connections cursor = connection.cursor() # cursor = connections['default'].cursor() cursor.execute("""SELECT * from auth_user where id = %s""", [1]) ret = cursor.fetchone()
QuerySet方法大全
################################################################## # PUBLIC METHODS THAT ALTER ATTRIBUTES AND RETURN A NEW QUERYSET # ################################################################## def all(self) # 獲取所有的資料物件 def filter(self, *args, **kwargs) # 條件查詢 # 條件可以是：引數，字典，Q def exclude(self, *args, **kwargs) # 條件查詢 # 條件可以是：引數，字典，Q def select_related(self, *fields) 效能相關：表之間進行join連表操作，一次性獲取關聯的資料。 總結： 1. select_related主要針一對一和多對一關係進行優化。 2. select_related使用SQL的JOIN語句進行優化，通過減少SQL查詢的次數來進行優化、提高效能。 def prefetch_related(self, *lookups) 效能相關：多表連表操作時速度會慢，使用其執行多次SQL查詢在Python程式碼中實現連表操作。 總結： 1. 對於多對多欄位（ManyToManyField）和一對多欄位，可以使用prefetch_related()來進行優化。 2. prefetch_related()的優化方式是分別查詢每個表，然後用Python處理他們之間的關係。 def annotate(self, *args, **kwargs) # 用於實現聚合group by查詢 from django.db.models import Count, Avg, Max, Min, Sum v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id')) # SELECT u_id, COUNT(ui) AS `uid` FROM UserInfo GROUP BY u_id v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id')).filter(uid__gt=1) # SELECT u_id, COUNT(ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1 v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id',distinct=True)).filter(uid__gt=1) # SELECT u_id, COUNT( DISTINCT ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1 def distinct(self, *field_names) # 用於distinct去重 models.UserInfo.objects.values('nid').distinct() # select distinct nid from userinfo 注：只有在PostgreSQL中才能使用distinct進行去重 def order_by(self, *field_names) # 用於排序 models.UserInfo.objects.all().order_by('-id','age') def extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None) # 構造額外的查詢條件或者對映，如：子查詢 Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,)) Entry.objects.extra(where=['headline=%s'], params=['Lennon']) Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"]) Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid']) def reverse(self): # 倒序 models.UserInfo.objects.all().order_by('-nid').reverse() # 注：如果存在order_by，reverse則是倒序，如果多個排序則一一倒序 def defer(self, *fields): models.UserInfo.objects.defer('username','id') 或 models.UserInfo.objects.filter(...).defer('username','id') #對映中排除某列資料 def only(self, *fields): #僅取某個表中的資料 models.UserInfo.objects.only('username','id') 或 models.UserInfo.objects.filter(...).only('username','id') def using(self, alias): 指定使用的資料庫，引數為別名（setting中的設定） ################################################## # PUBLIC METHODS THAT RETURN A QUERYSET SUBCLASS # ################################################## def raw(self, raw_query, params=None, translations=None, using=None): # 執行原生SQL models.UserInfo.objects.raw('select * from userinfo') # 如果SQL是其他表時，必須將名字設定為當前UserInfo物件的主鍵列名 models.UserInfo.objects.raw('select id as nid from 其他表') # 為原生SQL設定引數 models.UserInfo.objects.raw('select id as nid from userinfo where nid>%s', params=[12,]) # 將獲取的到列名轉換為指定列名 name_map = {'first': 'first_name', 'last': 'last_name', 'bd': 'birth_date', 'pk': 'id'} Person.objects.raw('SELECT * FROM some_other_table', translations=name_map) # 指定資料庫 models.UserInfo.objects.raw('select * from userinfo', using="default") ################### 原生SQL ################### from django.db import connection, connections cursor = connection.cursor() # cursor = connections['default'].cursor() cursor.execute("""SELECT * from auth_user where id = %s""", [1]) row = cursor.fetchone() # fetchall()/fetchmany(..) def values(self, *fields): # 獲取每行資料為字典格式 def values_list(self, *fields, **kwargs): # 獲取每行資料為元祖 def dates(self, field_name, kind, order='ASC'): # 根據時間進行某一部分進行去重查詢並擷取指定內容 # kind只能是："year"（年）, "month"（年-月）, "day"（年-月-日） # order只能是："ASC" "DESC" # 並獲取轉換後的時間 - year : 年-01-01 - month: 年-月-01 - day : 年-月-日 models.DatePlus.objects.dates('ctime','day','DESC') def datetimes(self, field_name, kind, order='ASC', tzinfo=None): # 根據時間進行某一部分進行去重查詢並擷取指定內容，將時間轉換為指定時區時間 # kind只能是 "year", "month", "day", "hour", "minute", "second" # order只能是："ASC" "DESC" # tzinfo時區物件 models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.UTC) models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.timezone('Asia/Shanghai')) """ pip3 install pytz import pytz pytz.all_timezones pytz.timezone(‘Asia/Shanghai’) """ def none(self): # 空QuerySet物件 #################################### # METHODS THAT DO DATABASE QUERIES # #################################### def aggregate(self, *args, **kwargs): # 聚合函式，獲取字典型別聚合結果 from django.db.models import Count, Avg, Max, Min, Sum result = models.UserInfo.objects.aggregate(k=Count('u_id', distinct=True), n=Count('nid')) ===> {'k': 3, 'n': 4} def count(self): # 獲取個數 def get(self, *args, **kwargs): # 獲取單個物件 def create(self, **kwargs): # 建立物件 def bulk_create(self, objs, batch_size=None): # 批量插入 # batch_size表示一次插入的個數 objs = [ models.DDD(name='r11'), models.DDD(name='r22') ] models.DDD.objects.bulk_create(objs, 10) def get_or_create(self, defaults=None, **kwargs): # 如果存在，則獲取，否則，建立 # defaults 指定建立時，其他欄位的值 obj, created = models.UserInfo.objects.get_or_create(username='root1', defaults={'email': '1111111','u_id': 2, 't_id': 2}) def update_or_create(self, defaults=None, **kwargs): # 如果存在，則更新，否則，建立 # defaults 指定建立時或更新時的其他欄位 obj, created = models.UserInfo.objects.update_or_create(username='root1', defaults={'email': '1111111','u_id': 2, 't_id': 1}) def first(self): # 獲取第一個 def last(self): # 獲取最後一個 def in_bulk(self, id_list=None): # 根據主鍵ID進行查詢 id_list = [11,21,31] models.DDD.objects.in_bulk(id_list) def delete(self): # 刪除 def update(self, **kwargs): # 更新 def exists(self): # 是否有結果View Code
Django終端列印SQL語句
在Django專案的settings.py檔案中，在最後複製貼上如下程式碼：
LOGGING = { 'version': 1, 'disable_existing_loggers': False, 'handlers': { 'console':{ 'level':'DEBUG', 'class':'logging.StreamHandler', }, }, 'loggers': { 'django.db.backends': { 'handlers': ['console'], 'propagate': True, 'level':'DEBUG', }, } }
即為你的Django專案配置上一個名為django.db.backends的logger例項即可檢視翻譯後的SQL語句。
在Python指令碼中呼叫Django環境
import os if __name__ == '__main__': os.environ.setdefault("DJANGO_SETTINGS_MODULE", "BMS.settings") import django django.setup() from app01 import models books = models.Book.objects.all() print(books)