詳解億級大資料表的幾種建立分割槽表的方式
阿新 • • 發佈：2019-01-11
自5.1開始對分割槽(Partition)有支援，一張表最多1024個分割槽 查詢分割槽資料： SELECT * from table PARTITION(p0) 水平分割槽（根據列屬性按行分） 舉個簡單例子：一個包含十年發票記錄的表可以被分割槽為十個不同的分割槽，每個分割槽包含的是其中一年的記錄。 垂直分割槽（按列分） 舉個簡單例子：一個包含了大text和BLOB列的表，這些text和BLOB列又不經常被訪問，這時候就要把這些不經常使用的text和BLOB了劃分到另一個分割槽，在保證它們資料相關性的同時還能提高訪問速度。 === 水平分割槽的幾種模式：=== * Range（範圍） – 這種模式允許DBA將資料劃分不同範圍。例如DBA可以將一個表通過年份劃分成三個分割槽，80年代（1980's）的資料，90年代（1990's）的資料以及任何在2000年（包括2000年）後的資料。 * Hash（雜湊） – 這中模式允許DBA通過對錶的一個或多個列的Hash Key進行計算，最後通過這個Hash碼不同數值對應的資料區域進行分割槽，。例如DBA可以建立一個對錶主鍵進行分割槽的表。 * Key（鍵值） – 上面Hash模式的一種延伸，這裡的Hash Key是MySQL系統產生的。 * List（預定義列表） – 這種模式允許系統通過DBA定義的列表的值所對應的行資料進行分割。例如：DBA建立了一個橫跨三個分割槽的表，分別根據2004年2005年和2006年值所對應的資料。 * Composite（複合模式） - 很神祕吧，哈哈，其實是以上模式的組合使用而已，就不解釋了。舉例：在初始化已經進行了Range範圍分割槽的表上，我們可以對其中一個分割槽再進行hash雜湊分割槽。 水平分割槽 [分割槽表和未分割槽表試驗過程]*建立分割槽表,按日期的年份拆分 mysql> CREATE TABLE part_tab ( c1 int default NULL, c2 varchar(30) default NULL, c3 date default NULL) engine=myisam PARTITION BY RANGE (year(c3)) (PARTITION p0 VALUES LESS THAN (1995), PARTITION p1 VALUES LESS THAN (1996) , PARTITION p2 VALUES LESS THAN (1997) , PARTITION p3 VALUES LESS THAN (1998) , PARTITION p4 VALUES LESS THAN (1999) , PARTITION p5 VALUES LESS THAN (2000) , PARTITION p6 VALUES LESS THAN (2001) , PARTITION p7 VALUES LESS THAN (2002) , PARTITION p8 VALUES LESS THAN (2003) , PARTITION p9 VALUES LESS THAN (2004) , PARTITION p10 VALUES LESS THAN (2010), PARTITION p11 VALUES LESS THAN MAXVALUE ); 注意最後一行，考慮到可能的最大值 *檢視建立的情況： mysql> show create table part_tab;
*建立未分割槽表 mysql> create table no_part_tab (c1 int(11) default NULL,c2 varchar(30) default NULL,c3 date default NULL) engine=myisam; *通過儲存過程灌入800萬條測試資料 DELIMITER // mysql> CREATE PROCEDURE load_part_tab() begin declare v int default 0; while v < 8000000 do insert into part_tab values (v,'testing partitions',adddate('1995-01-01',(rand(v)*36520) mod 3652)); set v = v + 1; end while; end； // Query OK, 1 row affected (8 min 17.75 sec) mysql> insert into no_part_tab select * from part_tab; Query OK, 8000000 rows affected (51.59 sec) Records: 8000000 Duplicates: 0 Warnings: 0 * 測試SQL效能 mysql> select count(*) from part_tab where c3 > date '1995-01-01' and c3 < date '1995-12-31'; +----------+ | count(*) | +----------+ | 795181 | +----------+ 1 row in set (0.55 sec) mysql> select count(*) from no_part_tab where c3 > date '1995-01-01' and c3 < date '1995-12-31'; +----------+ | count(*) | +----------+ | 795181 | +----------+ 1 row in set (4.69 sec) 結果表明分割槽表比未分割槽表的執行時間少90%。 * 通過explain語句來分析執行情況 mysql > explain select count(*) from no_part_tab where c3 > date '1995-01-01' and c3 < date '1995-12-31'\G /* 結尾的\G使得mysql的輸出改為列模式 */ *************************** 1. row *************************** id: 1 select_type: SIMPLE table: no_part_tab type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 8000000 Extra: Using where 1 row in set (0.00 sec) mysql> explain select count(*) from part_tab where c3 > date '1995-01-01' and c3 < date '1995-12-31'\G *************************** 1. row *************************** id: 1 select_type: SIMPLE table: part_tab type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 798458 Extra: Using where 1 row in set (0.00 sec) explain語句顯示了SQL查詢要處理的記錄數目 * 試驗建立索引後情況 mysql> create index idx_of_c3 on no_part_tab (c3); Query OK, 8000000 rows affected (1 min 18.08 sec) Records: 8000000 Duplicates: 0 Warnings: 0 mysql> create index idx_of_c3 on part_tab (c3); Query OK, 8000000 rows affected (1 min 19.19 sec) Records: 8000000 Duplicates: 0 Warnings: 0 建立索引後的資料庫檔案大小列表： 2008-05-24 09:23 8,608 no_part_tab.frm 2008-05-24 09:24 255,999,996 no_part_tab.MYD 2008-05-24 09:24 81,611,776 no_part_tab.MYI 2008-05-24 09:25 0 part_tab#P#p0.MYD 2008-05-24 09:26 1,024 part_tab#P#p0.MYI 2008-05-24 09:26 25,550,656 part_tab#P#p1.MYD 2008-05-24 09:26 8,148,992 part_tab#P#p1.MYI 2008-05-24 09:26 25,620,192 part_tab#P#p10.MYD 2008-05-24 09:26 8,170,496 part_tab#P#p10.MYI 2008-05-24 09:25 0 part_tab#P#p11.MYD 2008-05-24 09:26 1,024 part_tab#P#p11.MYI 2008-05-24 09:26 25,656,512 part_tab#P#p2.MYD 2008-05-24 09:26 8,181,760 part_tab#P#p2.MYI 2008-05-24 09:26 25,586,880 part_tab#P#p3.MYD 2008-05-24 09:26 8,160,256 part_tab#P#p3.MYI 2008-05-24 09:26 25,585,696 part_tab#P#p4.MYD 2008-05-24 09:26 8,159,232 part_tab#P#p4.MYI 2008-05-24 09:26 25,585,216 part_tab#P#p5.MYD 2008-05-24 09:26 8,159,232 part_tab#P#p5.MYI 2008-05-24 09:26 25,655,740 part_tab#P#p6.MYD 2008-05-24 09:26 8,181,760 part_tab#P#p6.MYI 2008-05-24 09:26 25,586,528 part_tab#P#p7.MYD 2008-05-24 09:26 8,160,256 part_tab#P#p7.MYI 2008-05-24 09:26 25,586,752 part_tab#P#p8.MYD 2008-05-24 09:26 8,160,256 part_tab#P#p8.MYI 2008-05-24 09:26 25,585,824 part_tab#P#p9.MYD 2008-05-24 09:26 8,159,232 part_tab#P#p9.MYI 2008-05-24 09:25 8,608 part_tab.frm 2008-05-24 09:25 68 part_tab.par * 再次測試SQL效能 mysql> select count(*) from no_part_tab where c3 > date '1995-01-01' and c3 < date '1995-12-31'; +----------+ | count(*) | +----------+ | 795181 | +----------+ 1 row in set (2.42 sec) /* 為原來4.69 sec 的51%*/ 重啟mysql ( net stop mysql, net start mysql)後，查詢時間降為0.89 sec,幾乎與分割槽表相同。 mysql> select count(*) from part_tab where c3 > date '1995-01-01' and c3 < date '1995-12-31'; +----------+ | count(*) | +----------+ | 795181 | +----------+ 1 row in set (0.86 sec) * 更進一步的試驗 ** 增加日期範圍 mysql> select count(*) from no_part_tab where c3 > date '1995-01-01' and c3 < date '1997-12-31'; +----------+ | count(*) | +----------+ | 2396524 | +----------+ 1 row in set (5.42 sec) mysql> select count(*) from part_tab where c3 > date '1995-01-01' and c3 < date '1997-12-31'; +----------+ | count(*) | +----------+ | 2396524 | +----------+ 1 row in set (2.63 sec) ** 增加未索引欄位查詢 mysql> select count(*) from part_tab where c3 > date '1995-01-01' and c3 < date '1996-12-31' and c2='hello'; +----------+ | count(*) | +----------+ | 0 | +----------+ 1 row in set (0.75 sec) mysql> select count(*) from no_part_tab where c3 > date '1995-01-01' and c3 < date '1996-12-31' and c2='hello'; +----------+ | count(*) | +----------+ | 0 | +----------+ 1 row in set (11.52 sec) 刪除老資料，分割槽表的速度更快： MySQL [Mytestdb]> alter table part_tab drop PARTITION p1; 速度比delete刪除快很多； = 初步結論 = * 分割槽和未分割槽佔用檔案空間大致相同 （資料和索引檔案） * 如果查詢語句中有未建立索引欄位，分割槽時間遠遠優於未分割槽時間 * 如果查詢語句中欄位建立了索引，分割槽和未分割槽的差別縮小，分割槽略優於未分割槽。 = 最終結論 = * 對於大資料量，建議使用分割槽功能。 * 去除不必要的欄位 * 根據手冊， 增加myisam_max_sort_file_size 會增加分割槽效能 ***************************************** 其他型別 ********************************************* [分割槽命令詳解] = 分割槽例子 = * RANGE 型別 CREATE TABLE users ( uid INT UNSIGNED NOT NULL AUTO_INCREMENT PRIMARY KEY, name VARCHAR(30) NOT NULL DEFAULT '', email VARCHAR(30) NOT NULL DEFAULT '' ) PARTITION BY RANGE (uid) ( PARTITION p0 VALUES LESS THAN (3000000) DATA DIRECTORY = '/data0/data' INDEX DIRECTORY = '/data1/idx', PARTITION p1 VALUES LESS THAN (6000000) DATA DIRECTORY = '/data2/data' INDEX DIRECTORY = '/data3/idx', PARTITION p2 VALUES LESS THAN (9000000) DATA DIRECTORY = '/data4/data' INDEX DIRECTORY = '/data5/idx', PARTITION p3 VALUES LESS THAN MAXVALUE DATA DIRECTORY = '/data6/data' INDEX DIRECTORY = '/data7/idx' ); 在這裡，將使用者表分成4個分割槽，以每300萬條記錄為界限，每個分割槽都有自己獨立的資料、索引檔案的存放目錄，與此同時，這些目錄所在的物理磁碟分割槽可能也都是完全獨立的，可以提高磁碟IO吞吐量。