1. 程式人生 > >Java面試準備十六:資料庫——MySQL效能優化

Java面試準備十六:資料庫——MySQL效能優化

這裡只是為了記錄,由於自身水平實在不怎麼樣,難免錯誤百出,有錯的地方還望大家多多指出,謝謝。

1. 為查詢快取優化你的查詢
大多數的MySQL伺服器都開啟了查詢快取。這是提高性最有效的方法之一,而且這是被MySQL的資料庫引擎處理的。當有很多相同的查詢被執行了多次的時候,這些查詢結果會被放到一個快取中,這樣,後續的相同的查詢就不用操作表而直接訪問快取結果了。

這裡最主要的問題是,對於程式設計師來說,這個事情是很容易被忽略的。因為,我們某些查詢語句會讓MySQL不使用快取。請看下面的示例:

// 查詢快取不開啟
$r = mysql_query("SELECT username FROM
user WHERE signup_date >= CURDATE()"); // 開啟查詢快取 $today = date("Y-m-d"); $r = mysql_query("SELECT username FROM user WHERE signup_date >= '$today'");

上面兩條SQL語句的差別就是 CURDATE() ,MySQL的查詢快取對這個函式不起作用。所以,像 NOW() 和 RAND() 或是其它的諸如此類的SQL函式都不會開啟查詢快取,因為這些函式的返回是會不定的易變的。所以,你所需要的就是用一個變數來代替MySQL的函式,從而開啟快取。

2. EXPLAIN 你的 SELECT 查詢
使用 EXPLAIN 關鍵字可以讓你知道MySQL是如何處理你的SQL語句的。這可以幫你分析你的查詢語句或是表結構的效能瓶頸。

EXPLAIN 的查詢結果還會告訴你你的索引主鍵被如何利用的,你的資料表是如何被搜尋和排序的……等等,等等。

3. 當只要一行資料時使用 LIMIT 1
當你查詢表的有些時候,你已經知道結果只會有一條結果,但因為你可能需要去fetch遊標,或是你也許會去檢查返回的記錄數。

在這種情況下,加上 LIMIT 1 可以增加效能。這樣一樣,MySQL資料庫引擎會在找到一條資料後停止搜尋,而不是繼續往後查少下一條符合記錄的資料。

下面的示例,只是為了找一下是否有“中國”的使用者,很明顯,後面的會比前面的更有效率。(請注意,第一條中是Select *,第二條是Select 1)

// 沒有效率的:
$r = mysql_query("SELECT * FROM user WHERE country = 'China'");
if (mysql_num_rows($r) > 0) {
    // ...
}

// 有效率的:
$r = mysql_query("SELECT 1 FROM user WHERE country = 'China' LIMIT 1");
if (mysql_num_rows($r) > 0) {
    // ...
}

5. 在Join表的時候使用相當型別的例,並將其索引
如果你的應用程式有很多 JOIN 查詢,你應該確認兩個表中Join的欄位是被建過索引的。這樣,MySQL內部會啟動為你優化Join的SQL語句的機制。

而且,這些被用來Join的欄位,應該是相同的型別的。例如:如果你要把 DECIMAL 欄位和一個 INT 欄位Join在一起,MySQL就無法使用它們的索引。對於那些STRING型別,還需要有相同的字符集才行。(兩個表的字符集有可能不一樣)

6. 千萬不要 ORDER BY RAND()
如果你真的想把返回的資料行打亂了,你有N種方法可以達到這個目的。這樣使用只會讓你的資料庫的效能呈指數級的下降。這裡的問題是:MySQL會不得不去執行RAND()函式(很耗CPU時間),而且這是為了每一行記錄去記行,然後再對其進行排序。就算你用了limit 1也無濟於事(因為要排序)

下面的示例是隨機挑一條記錄

-- 千萬不要這樣做
SELECT last_name FROM actor ORDER BY RAND() LIMIT 1;-- 時間: 0.252s

-- 這樣會更好
SELECT COUNT(*) FROM actor;
-- 然後在程式程式碼裡,返回0~count(*)-1的一個隨機數rand,再通過以下sql去查表
SELECT last_name FROM actor limit rand, 1;
  • 從資料庫裡面讀出的資料越多,查詢速度越慢
  • 如果資料庫拂去其和WEB伺服器是兩臺獨立的機器時,還會增加網路傳輸的負載
    所以,你應該養成需要什麼資料取什麼資料的習慣。

8. 永遠為每張表設定一個主鍵
我們應該為資料庫裡的每張表都設定一個ID作為其主鍵,而且最好是一個INT型的(推薦使用UNSIGN),並設定上自動增加的AUTO_INCREMENT標誌。

就算是你users表有一個主鍵叫“email”的欄位,你也別讓他成為主鍵。使用VARCHAR型別來當主鍵會使得效能下降。另外,在你的程式中,你應該使用表的主鍵來構造你的資料機構。

而且,在MySQL資料引擎下,還有一些操作需要使用主鍵,在這些情況下,主鍵的效能和設定變得非常重要,比如,叢集,分割槽….(不懂這個。。)

在這裡,只有一個情況是例外,那就是“關聯表”的“外來鍵”,也就是說,這個表的主鍵,通過若干個別的表的主鍵構成。我們把這個情況叫做“外來鍵”。比如,有個“學生表”有學生的ID,有個“課程表”有課程ID,那麼“成績表”就是“關聯表”,其關聯了學生表和課程表,在成績表中,學生ID和課程ID叫“外來鍵”其共同組成主鍵。

9. 使用 ENUM 而不是 VARCHAR
ENUM型別是非常快和緊湊的。在實際上,其儲存的是TINYINT,但其外表上顯示為字串。這樣一來 ,用這個欄位來做一些選項列表變得相當的完美。

如果你有一個欄位,比如“性別”,“國家”,“民族”,“狀態”或“部門”,你知道這些欄位的取值是有限而且固定的,那麼,你應該使用 ENUM 而不是 VARCHAR。

MySQL也有一個“建議”(見第十條)告訴你怎麼去重新組織你的表結構。當你有一個 VARCHAR 欄位時,這個建議會告訴你把其改成 ENUM 型別。使用 PROCEDURE ANALYSE() 你可以得到相關的建議。

10. 從 PROCEDURE ANALYSE() 取得建議
PROCEDURE ANALYSE() 會讓 MySQL 幫你去分析你的欄位和其實際的資料,並會給你一些有用的建議。只有表中有實際的資料,這些建議才會變得有用,因為要做一些大的決定是需要有資料作為基礎的。

例如,如果你建立了一個 INT 欄位作為你的主鍵,然而並沒有太多的資料,那麼,PROCEDURE ANALYSE()會建議你把這個欄位的型別改成 MEDIUMINT 。或是你使用了一個 VARCHAR 欄位,因為資料不多,你可能會得到一個讓你把它改成 ENUM 的建議。這些建議,都是可能因為資料不夠多,所以決策做得就不夠準。

一定要注意,這些只是建議,只有當你的表裡的資料越來越多時,這些建議才會變得準確。一定要記住,你才是最終做決定的人。

11. 儘可能的使用 NOT NULL
除非你有一個很特別的原因去使用 NULL 值,你應該總是讓你的欄位保持 NOT NULL。這看起來好像有點爭議,請往下看。

首先,問問你自己“Empty”和“NULL”有多大的區別(如果是INT,那就是0和NULL)?如果你覺得它們之間沒有什麼區別,那麼你就不要使用NULL。(你知道嗎?在 Oracle 裡,NULL 和 Empty 的字串是一樣的!)

不要以為 NULL 不需要空間,其需要額外的空間,並且,在你進行比較的時候,你的程式會更復雜。 當然,這裡並不是說你就不能使用NULL了,現實情況是很複雜的,依然會有些情況下,你需要使用NULL值。

12. PreparedStatement
PreparedStatement很像儲存過程,是一種執行在後臺的SQL語句集合,我們可以使用PreparedStatement獲得很多好處,無論是效能問題還是安全問題。

PreparedStatement可以檢查一些你繫結好的變數,這樣可以保護你的程式不會受到“SQL注入式”攻擊。當然,你也可以手動去檢查你的這些變數,然而,手動的檢查容易出問題,而且很經常會被程式設計師忘了。當我們使用一些framework或是ORM的時候,這樣的問題會好一些。

在效能方面,當一個相同的查詢被使用很多次的時候,這會為你帶來可觀的效能優勢,你可以給這些PreparedStatement定義一些引數,而MySQL只會解析一次。

13. 無緩衝的查詢
正常情況下,當你在你的指令碼中執行一個SQL語句的時候,你的程式會停在那裡直到這個SQL語句返回,然後你的程式再往下繼續執行。你可以使用無緩衝查詢來改變這個行為。尤其是那些會產生大量結果的查詢語句,並且,你不需要等到所有第的結果都返回,只需要第一行的資料返回的時候,你就可以馬上開始工作於查詢結果了。

14. 把IP地址存成 UNSIGNED INT
很多程式設計師都會建立一個varchar(15)欄位來存放字串形式的IP而不是整形的IP。如果你用整形來存放,只需要4個位元組,並且你可以有定長的欄位。而且,這會為你帶來查詢上的優勢,尤其是當你需要使用這樣的WHERE條件:between ip1 and ip2

我們必須使用UNSIGNED INT,因為IP地址會使用整個32位的無符號整形。

而你的查詢,你可以使用INET_ATON()來把一個字串IP轉成一個整形,並使用INET_NTOA()把一個整形轉成一個字串IP。如下:

-- 字串IP轉成整形
select INET_ATON('127.0.0.1') from dual;

-- 整形轉成字串ip
select INET_NTOA(2130706433) from dual;

15. 固定長度的表會更快
如果表中的所有欄位都是“固定長度的”,整個表會被認為是“static”或“”“fixed-length”。例如,表中沒有如下型別的欄位:VARCHAR, TEXT, BLOB。只要你包括了其中一個這些欄位,那麼這個表就不是“固定長度靜態表”了,這樣,MySQL引擎會用另外一種方法來處理。

固定長度的表會提高效能,因為MySQL搜尋的會更快一些,因為這些固定的長度是很容易計算下一個資料的偏移量的,所以讀取的自然也會很快。而如果欄位不是定長的,那麼,每一次要找下一條的話,需要程式找到主鍵。

並且,固定長度的表更容易被快取和重建。不過,唯一的副作用是,固定長度的欄位會浪費一些空間,因為定長的欄位無論你要弄個不用,它都是要分配那麼多的空間。

使用“垂直分割”技術(見下一條),你可以分割你的表成為兩個一個是定長的,一個則不是定長的。

16. 垂直分割
“垂直分割”是一種把資料庫中的表按列變成幾張表的方法,這樣可以降低表的複雜度和欄位的數目,從而達到優化的目的。

示例一:
在User表中有一個欄位是家庭地址,這個欄位是可選欄位,相比起,而且你在資料庫操作的時候除了個人資訊外,你並不需要經常讀取或是改寫這個欄位。那麼,為什麼不把這個欄位放到另一張表呢?這樣會讓你的表有更好的效能。

示例二:
你有一個叫“last_login”欄位,它會在每次使用者登入的時候被更新。但是,每次更新時會導致該表的查詢快取被清空。所以,你可以把這個欄位放到另外一個表中,這樣就不會影響ID,使用者名稱,使用者角色的不停的讀取了,因為查詢快取會幫你增加很多效能。

另外,你需要注意的是,這些被分出去的欄位所形成的表,你不會經常性的去join他們,不然的話,這樣的效能會比不分割時還要差,而且,是指數級的下降。

17. 拆分大的 DELETE 或 INSERT 語句
如果你需要在一個線上的網站上去執行一個大的DELETE或INSERT查詢,你需要非常小心,要避免你的操作會讓你的整個網站停止響應。因為這兩個操作是會鎖表的,表一鎖住了,別的操作都進不來了。

Apache會有很多的子程序或執行緒。所以,其工作起來相當有效率,而我們的伺服器也不希望有太多的子執行緒,執行緒和資料庫連結,這時極大的佔伺服器資源的事情,尤其是記憶體。

如果你把你的表鎖上一段時間,比如30s,那麼對於一個有很高訪問量的站點來說,這30s所積累的訪問程序/執行緒,資料庫連結,開啟的檔案數,可能不僅僅會讓你的web伺服器crash,還可能會讓你的整臺伺服器馬上掛了。

所以,如果你有一個大的處理,你要把他拆分,使用LIMIT條件是一個好的方法。下面是一個示例:

while(true){
  //每次只做1000條
  mysql_query("DELETE FROM logs WHERE log_date <= '2009-11-01' LIMIT 1000");
  if(mysql_affected_rows()==0){
     //沒得可刪了,退出
      break;
  }
  usleep(5000);
}

18. 越小的列會越快
對於大多數的資料引擎來說,硬碟操作可能是最大的瓶頸。所以,把你的資料變得緊湊會對這種情況非常有幫助,因為這減少了對硬碟的訪問。

如果一個表只會有幾列罷了(比如說字典表,配置表),那麼,我們就沒有理由使用INT來做主鍵,使用MEDIUMINT ,SMALLINT或是更小的TINYINT會更經濟一些。如果你不需要記錄時間,使用DATE要比DATETIME好得多。

當然,你也需要留足夠的擴充套件空間,不然,你日後要幹這個事,你會死的很難看,參考Slashdot的例子,一個簡單的ALTER TABLE 語句花了3個多小時,因為裡面
有一千六百萬條資料。

19. 選擇正確的儲存引擎
在MySQL中有兩個儲存引擎MyISAM和Innodb,每個引擎都會有利弊。MyISAM
適合於一些需要大量查詢的應用,但是對於有大量寫操作並不是很好。甚至你只是需要update一個欄位,整個表都會被鎖起來,而別的程序,就算是讀程序都無法操作直到讀操作完成。另外,MyISAM對於SELECT COUNT(*)這種操作是超快務必的。

Innodb的趨勢會是一個非常複雜的儲存引擎,對於一些小的應用,他會比MyiSAM還慢。他是支援“行鎖”的,所以在寫操作比較多 的時候,會更優秀。並且,他還支援更多的高階應用,比如:事務。

20. 使用一個物件關係對映器(Object Relational Mapper)
使用ORM,你能夠獲得可靠的效能增漲。一個ORM可以做到所有事情,也能被手動的編寫出來。但是,這需要一個高階專家。

ORM的最重要的是“Lazy loading”,也就是說,只有在需要的去取值的時候才會去真正的去做。但你也需要小心這種機制的副作用,因為這很可能會因為要去建立很多很多小的查詢反而會降低效能。(不懂最後這句。。)

ORM還可以把你的SQL語句打包成一個事務,這會比單獨執行他們快得多得多。(啥意思?)

21. 小心“永久連結”
“永久連結”的目的是用來減少重新建立MySQL連結的次數。當一個連結唄建立了,它會永遠處在連結的狀態,就算是資料庫操作已經結束了,而且,自動我們的Apache開始重用它的子程序後——也就是說,下一次的HTTP請求會重用Apache的子程序,並重用相同的MySQL連結。

在理論上來說,這聽起來非常的不錯。但是從個人經驗(也是大多數人的)上來說,這個功能製造出來的麻煩事更多。因為,你只有有限的連結數,記憶體問題,檔案控制代碼數,等等。

而且,Apache 執行在極端並行的環境中,會建立很多很多的了程序。這就是為什麼這種“永久連結”的機制工作地不好的原因。在你決定要使用“永久連結”之前,你需要好好地考慮一下你的整個系統的架構。