1. 程式人生 > >【搞定MySQL資料庫】第3篇:基礎架構:一條SQL查詢語句是如何執行的?

【搞定MySQL資料庫】第3篇:基礎架構:一條SQL查詢語句是如何執行的?

本文為本人學習極客時間《MySQL實戰45講》的學習筆記。

原文連結:https://time.geekbang.org/column/article/68319

輸入下面一條SQL語句,我們來分析下這條語句在MySQL內部的執行過程。

mysql> select * from T where ID=10;

要了解MySQL內部的執行過程,就要先搞清楚MySQL的解本架構示意圖:

MySQL 的邏輯架構圖

大體來說,MySQL 可以分為 Server 層和儲存引擎兩部分。

Server 層包括:聯結器、查詢快取、分析器、優化器、執行器等,涵蓋了 MySQL 的大多數核心服務功能,以及所有的內建函式(如:日期、時間、數學和加密函式等),所有跨儲存引擎的功能都在這一層實現,比如:儲存過程、觸發器、檢視等等。

儲存引擎層負責:資料的儲存和提取。其架構是外掛式的,支援InnoDB、MyISAM、Memory等多個儲存引擎。從MySQL5.5.5版本開始預設的是InnoDB,但是在建表時可以通過 engine = MyISAM 來指定儲存引擎。不同儲存引擎的表資料存取方式不同,支援的功能也不同。

從圖中可以看出,不同的儲存引擎共用一個 Server 層,也就是從聯結器到執行器的部分。

1、聯結器

 第一步,要首先連線上資料庫,這個時候使用的就是聯結器。

聯結器負責跟客戶端建立連線、獲取許可權、維持和管理連線。連線命令如下:

mysql -h$ip -P$port -u$user -p

連線命令中的 mysql 是客戶端工具,用來跟服務端建立連線。在完成經典的 TCP 握手後,聯結器就要開始認證你的身份,這個時候用的就是輸入的使用者名稱和密碼。

  • 如果使用者名稱或密碼不對,你就會收到一個"Access denied for user"的錯誤,然後客戶端程式結束執行。
  • 如果使用者名稱密碼認證通過,聯結器會到許可權表裡面查出你擁有的許可權。之後,這個連線裡面的許可權判斷邏輯,都將依賴於此時讀到的許可權。

這就意味著,一個使用者成功建立以後,即使你用管理員賬號對這個使用者的許可權做了修改,也不會影響已經存在連線的許可權。修改完成後,只有再新建的連線才會使用新的許可權設定。

連線完成後,如果你沒有後續的動作,這個連線就處於空閒狀態,你可以在 show processlist 命令中看到它。文字中這個圖是 show processlist 的結果,其中的 Command 列顯示為“Sleep”的這一行,就表示現在系統裡面有一個空閒連線。

客戶端如果太長時間沒動靜,聯結器就會自動將它斷開。這個時間是由引數 wait_timeout 控制的,預設值是 8 小時。

資料庫中的長連線是指連線成功後,如果客戶端持續有請求,則一直使用同一個連線。短連線指的是每次執行完很少的幾次查詢就斷開連線,下次查詢時再重新建立一個。

但是如果連線都使用長連線的話,你可能會發現,有時候 MySQL 佔用記憶體漲的特別快,這是因為 MySQL 在執行過程中臨時使用的記憶體是管理在連線物件裡面的。這些資源會在連線斷開的時候才會釋放。所以如果長連線累積下來,可能導致記憶體佔用太大,被系統強行殺掉(OOM),從現象上看就是 MySQL 異常重啟了。

那麼怎麼解決這個問題呢?下面提供兩種解決方案:

1、定期斷開長連線。使用一段時間,或者程式裡面判斷執行過一個佔用記憶體的大查詢後,斷開連線,釋放資源,之後要查詢的時候再重連。 

2、如果你用的是 MySQL 5.7 或更新版本,可以在每次執行一個比較大的操作後,通過執行 mysql_reset_connection 來重新初始化連線資源。這個過程不需要重連和重新做許可權驗證,但是會將連線恢復到剛剛建立完時的狀態。

2、查詢快取

連線建立完成後,就可以執行 select 語句了。執行邏輯就會來到第二步:查詢快取。

MySQL 拿到一個查詢請求後,會先到查詢快取看看,之前是不是執行過這條語句。之前執行過的語句及其結果都會以key-value 對的形式,被直接快取到記憶體中。其中,key 是查詢的語句,value 是查詢的結果。如果你的查詢能夠直接在快取中找到 key,那麼這個 value 就會直接返回給客戶端。

如果語句不在查詢快取中,就會繼續後面的執行階段。執行完成後,執行結果會被存入查詢快取中。你可以看到,如果查詢命中快取,MySQL 不需要執行後面的複雜操作,就可以直接返回結果,這個效率會很高。

  • 但是大多數情況下不建議使用查詢快取 ---> 因為查詢快取往往弊大於利

 查詢快取的失效非常頻繁,只要有對一個表的更新,這個表上所有的查詢快取都會被清空。因此很可能你剛費勁存的結果還沒來得及使用就被一個更新給清空了。

對於更新壓力大的資料庫而言,查詢快取的命中率就會非常低。除非你的業務就是有一張靜態表,很長時間才會更新一次。比如,一個系統配置表,那這張表上的查詢才適合使用查詢快取。

預設的 SQL 語句是不快取的,可以顯示的指定查詢快取:

mysql> select SQL_CACHE * from T where ID=10;

需要說明的是:MySQL 8.0版本已經將查詢快取功能刪除了。

3、分析器

如果沒有命中查詢快取,就要開始正真執行語句了。首先,MySQL 需要知道你要做什麼,因此要對 SQL 語句做解析。

分析器先會做“詞法分析”。MySQL 從你輸入的"select"這個關鍵字識別出來,這是一個查詢語句。它也要把字串“T”識別成“表名 T”,把字串“ID”識別成“列 ID”。

做完了這些識別以後,就要做“語法分析”。語法分析根據語法規則,判斷輸入的這個 SQL語句是否滿足 MySQL 的語法規範。

如果你的語句不對,就會收到“You have an error in your SQL syntax”的錯誤提醒,比如下面這個語句 select 少打了開頭的字母“s”。

mysql> elect * from t where ID=1;

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1

一般語法錯誤會提示第一個出現錯誤的位置,所以你要關注的是緊接“use near”的內容。

4、優化器

經過了分析器,MySQL就知道你要做什麼了。在開始之前還要經過優化器的處理。

優化器是在表裡有多個索引的時候,決定使用哪個索引;或者在一個語句有多表關聯(join)的時候,決定各個表的連線順序。

mysql> select * from t1 join t2 using(ID)  where t1.c=10 and t2.d=20;
  • 既可以先從表 t1 裡面取出 c=10 的記錄的 ID 值,再根據 ID 值關聯到表 t2,再判斷 t2 裡面 d 的值是否等於 20。
  • 也可以先從表 t2 裡面取出 d=20 的記錄的 ID 值,再根據 ID 值關聯到 t1,再判斷 t1 裡面 c 的值是否等於 10。

這兩種執行方法的邏輯結果是一樣的,但是執行的效率會有不同,而優化器的作用就是決定選擇使用哪一個方案。優化器階段完成後,這個語句的執行方案就確定下來了,然後進入執行器階段。

5、執行器

 MySQL 通過分析器知道了你要做什麼,通過優化器知道了該怎麼做,於是就進入執行器階段,開始執行語句。

開始執行的時候,要先判斷一下你對這個表 T 有沒有執行查詢的許可權,如果沒有,就會返回沒有許可權的錯誤。

如下所示 (在工程實現上,如果命中查詢快取,會在查詢快取放回結果的時候,做許可權驗證。查詢也會在優化器之前呼叫 precheck 驗證許可權)。

mysql> select * from T where ID=10;

ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'

如果有許可權,就開啟表繼續執行。開啟表的時候,執行器就會根據表的引擎定義,去使用這個引擎提供的介面。

比如我們這個例子中的表 T 中,ID 欄位沒有索引,那麼執行流程是這樣的:

1、呼叫 InnoDB 引擎介面取這個表的第一行,判斷 ID 值是不是 10,如果不是則跳過,如果是則將這行存在結果集中;

2、呼叫引擎介面取“下一行”,重複相同的判斷邏輯,直到取到這個表的最後一行;

3、執行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結果集返回給客戶端。

至此,這個語句就執行完成了。

對於有索引的表,執行的邏輯也差不多。第一次呼叫的是“取滿足條件的第一行”這個介面,之後迴圈取“滿足條件的下一行”這個介面,這些介面都是引擎中已經定義好的。

你會在資料庫的慢查詢日誌中看到一個 rows_examined 的欄位,表示這個語句執行過程中掃描了多少行。這個值就是在執行器每次呼叫引擎獲取資料行的時候累加的。

在有些場景下,執行器呼叫一次,在引擎內部則掃描了多行,因此引擎掃描行數跟 rows_examined 並不是完全相同的。