1. 程式人生 > >淺談MySQL索引背後的資料結構及演算法

淺談MySQL索引背後的資料結構及演算法

摘要

本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型別,如BTree索引,雜湊索引,全文索引等等。為了避免混亂,本文將只關注於BTree索引,因為這是平常使用MySQL時主要打交道的索引,至於雜湊索引和全文索引本文暫不討論。

文章主要內容分為三個部分。

第一部分主要從資料結構及演算法理論層面討論MySQL資料庫索引的數理基礎。

第二部分結合MySQL資料庫中MyISAM和InnoDB資料儲存引擎中索引的架構實現討論聚集索引、非聚集索引及覆蓋索引等話題。

第三部分根據上面的理論基礎,討論MySQL中高效能使用索引的策略。

資料結構及演算法基礎

索引的本質

MySQL官方對索引的定義為:索引(Index)是幫助MySQL高效獲取資料的資料結構。提取句子主幹,就可以得到索引的本質:索引是資料結構。

我們知道,資料庫查詢是資料庫的最主要功能之一。我們都希望查詢資料的速度能儘可能的快,因此資料庫系統的設計者會從查詢演算法的角度進行優化。最基本的查詢演算法當然是順序查詢(linear search),這種複雜度為O(n)的演算法在資料量很大時顯然是糟糕的,好在電腦科學的發展提供了很多更優秀的查詢演算法,例如二分查詢(binary search)、

二叉樹查詢(binary tree search)等。如果稍微分析一下會發現,每種查詢演算法都只能應用於特定的資料結構之上,例如二分查詢要求被檢索資料有序,而二叉樹查詢只能應用於二叉查詢樹上,但是資料本身的組織結構不可能完全滿足各種資料結構(例如,理論上不可能同時將兩列都按順序進行組織),所以,在資料之外,資料庫系統還維護著滿足特定查詢演算法的資料結構,這些資料結構以某種方式引用(指向)資料,這樣就可以在這些資料結構上實現高階查詢演算法。這種資料結構,就是索引。

看一個例子:

圖1

圖1展示了一種可能的索引方式。左邊是資料表,一共有兩列七條記錄,最左邊的是資料記錄的實體地址(注意邏輯上相鄰的記錄在磁碟上也並不是一定物理相鄰的)。為了加快Col2的查詢,可以維護一個右邊所示的二叉查詢樹,每個節點分別包含索引鍵值和一個指向對應資料記錄實體地址的指標,這樣就可以運用二叉查詢在O

(log2n)的複雜度內獲取到相應資料。

雖然這是一個貨真價實的索引,但是實際的資料庫系統幾乎沒有使用二叉查詢樹或其進化品種紅黑樹(red-black tree)實現的,原因會在下文介紹。

B-Tree和B+Tree

目前大部分資料庫系統及檔案系統都採用B-Tree或其變種B+Tree作為索引結構,在本文的下一節會結合儲存器原理及計算機存取原理討論為什麼B-Tree和B+Tree在被如此廣泛用於索引,這一節先單純從資料結構角度描述它們。

B-Tree

為了描述B-Tree,首先定義一條資料記錄為一個二元組[key, data],key為記錄的鍵值,對於不同資料記錄,key是互不相同的;data為資料記錄除key外的資料。那麼B-Tree是滿足下列條件的資料結構:

d為大於1的一個正整數,稱為B-Tree的度。

h為一個正整數,稱為B-Tree的高度。

每個非葉子節點由n-1個key和n個指標組成,其中d<=n<=2d。

每個葉子節點最少包含一個key和兩個指標,最多包含2d-1個key和2d個指標,葉節點的指標均為null 。

所有葉節點具有相同的深度,等於樹高h。

key和指標互相間隔,節點兩端是指標。

一個節點中的key從左到右非遞減排列。

所有節點組成樹結構。

每個指標要麼為null,要麼指向另外一個節點。

如果某個指標在節點node最左邊且不為null,則其指向節點的所有key小於v(key1),其中v(key1)為node的第一個key的值。

如果某個指標在節點node最右邊且不為null,則其指向節點的所有key大於v(keym),其中v(keym)為node的最後一個key的值。

如果某個指標在節點node的左右相鄰key分別是keyikeyi+1且不為null,則其指向節點的所有key小於v(keyi+1)且大於v(keyi)

圖2是一個d=2的B-Tree示意圖。

圖2

由於B-Tree的特性,在B-Tree中按key檢索資料的演算法非常直觀:首先從根節點進行二分查詢,如果找到則返回對應節點的data,否則對相應區間的指標指向的節點遞迴進行查詢,直到找到節點或找到null指標,前者查詢成功,後者查詢失敗。B-Tree上查詢演算法的虛擬碼如下:

  1. BTree_Search(node, key){

  2. if(node ==null)returnnull;

  3. foreach(node.key)

  4. {

  5. if(node.key[i]== key)return node.data[i];

  6. if(node.key[i]> key)returnBTree_Search(point[i]->node);

  7. }

  8. returnBTree_Search(point[i+1]->node);

  9. }

  10. data =BTree_Search(root, my_key);

關於B-Tree有一系列有趣的性質,例如一個度為d的B-Tree,設其索引N個key,則其樹高h的上限為logd((N+1)/2),檢索一個key,其查詢節點個數的漸進複雜度為O(logdN)。從這點可以看出,B-Tree是一個非常有效率的索引資料結構。

另外,由於插入刪除新的資料記錄會破壞B-Tree的性質,因此在插入刪除時,需要對樹進行一個分裂、合併、轉移等操作以保持B-Tree性質,本文不打算完整討論B-Tree這些內容,因為已經有許多資料詳細說明了B-Tree的數學性質及插入刪除演算法,有興趣的朋友可以在本文末的參考文獻一欄找到相應的資料進行閱讀。

B+Tree

B-Tree有許多變種,其中最常見的是B+Tree,例如MySQL就普遍使用B+Tree實現其索引結構。

與B-Tree相比,B+Tree有以下不同點:

每個節點的指標上限為2d而不是2d+1。

內節點不儲存data,只儲存key;葉子節點不儲存指標。

圖3是一個簡單的B+Tree示意。

圖3

由於並不是所有節點都具有相同的域,因此B+Tree中葉節點和內節點一般大小不同。這點與B-Tree不同,雖然B-Tree中不同節點存放的key和指標可能數量不一致,但是每個節點的域和上限是一致的,所以在實現中B-Tree往往對每個節點申請同等大小的空間。

一般來說,B+Tree比B-Tree更適合實現外儲存索引結構,具體原因與外儲存器原理及計算機存取原理有關,將在下面討論。

帶有順序訪問指標的B+Tree

一般在資料庫系統或檔案系統中使用的B+Tree結構都在經典B+Tree的基礎上進行了優化,增加了順序訪問指標。

圖4

如圖4所示,在B+Tree的每個葉子節點增加一個指向相鄰葉子節點的指標,就形成了帶有順序訪問指標的B+Tree。做這個優化的目的是為了提高區間訪問的效能,例如圖4中如果要查詢key為從18到49的所有資料記錄,當找到18後,只需順著節點和指標順序遍歷就可以一次性訪問到所有資料節點,極大提到了區間查詢效率。

這一節對B-Tree和B+Tree進行了一個簡單的介紹,下一節結合儲存器存取原理介紹為什麼目前B+Tree是資料庫系統實現索引的首選資料結構。

為什麼使用B-Tree(B+Tree)

上文說過,紅黑樹等資料結構也可以用來實現索引,但是檔案系統及資料庫系統普遍採用B-/+Tree作為索引結構,這一節將結合計算機組成原理相關知識討論B-/+Tree作為索引的理論基礎。

一般來說,索引本身也很大,不可能全部儲存在記憶體中,因此索引往往以索引檔案的形式儲存的磁碟上。這樣的話,索引查詢過程中就要產生磁碟I/O消耗,相對於記憶體存取,I/O存取的消耗要高几個數量級,所以評價一個數據結構作為索引的優劣最重要的指標就是在查詢過程中磁碟I/O操作次數的漸進複雜度。換句話說,索引的結構組織要儘量減少查詢過程中磁碟I/O的存取次數。下面先介紹記憶體和磁碟存取原理,然後再結合這些原理分析B-/+Tree作為索引的效率。

主存存取原理

目前計算機使用的主存基本都是隨機讀寫儲存器(RAM),現代RAM的結構和存取原理比較複雜,這裡本文拋卻具體差別,抽象出一個十分簡單的存取模型來說明RAM的工作原理。

圖5

從抽象角度看,主存是一系列的儲存單元組成的矩陣,每個儲存單元儲存固定大小的資料。每個儲存單元有唯一的地址,現代主存的編址規則比較複雜,這裡將其簡化成一個二維地址:通過一個行地址和一個列地址可以唯一定位到一個儲存單元。圖5展示了一個4 x 4的主存模型。

主存的存取過程如下:

當系統需要讀取主存時,則將地址訊號放到地址總線上傳給主存,主存讀到地址訊號後,解析訊號並定位到指定儲存單元,然後將此儲存單元資料放到資料匯流排上,供其它部件讀取。

寫主存的過程類似,系統將要寫入單元地址和資料分別放在地址匯流排和資料匯流排上,主存讀取兩個匯流排的內容,做相應的寫操作。

相關推薦

MySQL索引資料結構演算法原理

原文連結:MySQL索引背後的資料結構及演算法原理 本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型別,如BTree索引,雜湊索引,全文索引等等。為了避

MySQL索引背後資料結構演算法

摘要 本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型別,如BTree索引,雜湊索引,全文索引等等。為了避免混亂,本文將只關注

深入理解MySQL索引底層資料結構演算法

一 理解索引的特性 索引是幫助MySQL高效獲取資料的排好序的資料結構 索引儲存在檔案裡 二 索引的各種儲存結構及其優缺點 在開始講這一小節之前,我們先來看一下在資料庫沒有加索引的情況下,SQL中

Mysql索引底層資料結構演算法

1,索引到底是什麼 2,索引底層資料結構與演算法 3,索引最左字首原理 索引到底是什麼 •索引是幫助MySQL高效獲取資料的排好序的資料結構 索引的本質 MySQL官方對索引的定義為:索引(Index)是幫助MySQL高效獲取資料的資料結構。提取句子主幹,就可

MySQL索引資料結構以及演算法原理

寫在前面的話        在程式設計領域有一句人盡皆知的法則“程式 = 資料結構 + 演算法”,我個人是不太贊同這句話(因為我覺得程式不僅僅是資料結構加演算法),但是在日常的學習和工作中我確認深深感受到資料結構和演算法的重要性,很多東西,如果你願意稍稍往深處挖一點,那麼撲面

MySQL索引背後資料結構演算法原理

作者 張洋 | 釋出於 2011-10-18 MySQL 索引 B樹 優化 摘要 本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型

MySQL索引背後資料結構演算法原理(employees例項)

摘要 http://blog.codinglabs.org/articles/theory-of-mysql-index.html 本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援

MySQL索引設計背後資料結構演算法詳解

在我們公司的DB規範中,明確規定: 1、建表語句必須明確指定主鍵 2、無特殊情況,主鍵必須單調遞增 對於這項規定,很多研發小夥伴不理解。本文就來深入分析MySQL索引設計背後的資料結構和演算法,從而幫你釋疑以下幾個問題: 1、為什麼InnoDB表需要主鍵? 2、為什麼建議InnoDB表主鍵是單調

轉:MySQL索引背後資料結構演算法原理

@rover這個是C++模板 --胡滿超 stack<Postion> path__;這個裡面 ”<> “符號是什麼意思?我在C++語言裡面沒見過呢? 初學者,大神勿噴。

【轉】MySQL索引背後資料結構演算法原理

摘要 本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型別,如BTree索引,雜湊索引,全文索引等等。為了避免混亂,本文將只關注於BTree

原理:資料結構-索引 && 應用篇:MySQL索引背後資料結構演算法原理詳解

特點簡介: 索引檔案比資料檔案小,可以有效地裝載到記憶體。通過對記憶體索引檔案的查詢定位到記錄,然後通過一次磁碟物件讀取操作就可以獲取到需要搜尋的物件。 靜態索引結構和動態索引結構啥區別? 我認為靜態是指新節點的加入對原有的索引結構不會發生改變,比如:稠密索引直接把新節點

MySQL索引背後資料結構演算法原理

摘要 本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型別,如BTree索引,雜湊索引,全文索引等等。為了避免混亂,本文將只關注

[轉]MySQL索引背後資料結構演算法原理

作者:張洋來源:http://blog.codinglabs.org/articles/theory-of-mysql-index.html 摘要本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索

MySQL索引背後資料結構演算法原理----驚歎的深入

摘要 本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型別,如BTree索引,雜湊索引,全文索引等等。為了避免混亂,本文將只

MySQL索引背後資料結構演算法原理(七)

索引選擇性與字首索引既然索引可以加快查詢速度,那麼是不是隻要是查詢語句需要,就建上索引?答案是否定的。因為索引雖然加快了查詢速度,但索引也是有代價的:索引檔案本身要消耗儲存空間,同時索引會加重插入、刪除和修改記錄時的負擔,另外,MySQL在執行時也要消耗資源維護索引,因此索引

MySQL索引資料結構演算法原理學習筆記

1、預備知識 (1)儲存介質一般為主存和磁碟 (2)主存(RAM)支援隨機存取,磁碟定址需要定位【磁軌】和【扇區】,對應產生【尋道時間】和【旋轉時間】,因此磁碟的存取速度往往是主存的【幾百分之一】 (3)由於【區域性性原理】的歸納,以及磁碟IO非常耗時

MySQL索引底層資料結構

MySQL索引底層資料結構 索引到底是什麼 聯合索引結構 聚集索引和非聚集索引 根本區別 MyISAM和InnoDB的索引 MyISAM索引檔案和資料檔案是分離的(非聚集) 主鍵索引 普通索引 InnoDB索引實現(聚集) 主鍵索引 普通索引

索引底層資料結構演算法

索引是高效、排序好的資料結構。   為什麼不用hash結構,hash雖然單個快,但是範圍慢; 陣列結構的,查詢慢,需要遍歷。 二叉樹結構的,如果資料是從小到大的插入就會屬於單邊資料,一樣速度慢。 紅黑樹結構,雖然能夠實現自動的平衡樹,但是如果資料量非常大的時候,還是會出

資料結構演算法--棧

順序棧 三個基本屬性 棧的儲存資料data 棧的最大儲存量maxSize 棧頂top Python實現 # Python 2.7 class sqStack(object): # 初始化 def __init__(self,

資料結構演算法--線性表

順序線性表 三個基本屬性 儲存空間的起始位置data 線性表的最大儲存量maxSize 線性表的當前長度length Python實現 # Python 2.7 class seqList(object): # 初始化 def