1. 程式人生 > >SQL SERVER全面優化-------寫出好語句是習慣

SQL SERVER全面優化-------寫出好語句是習慣

end .com 數據源 exp inf 找到 預警 連接 系列

  • 重中之重---語句執行順序

  在QQ群和人聊天的時候突然有位群友說:我才知道原來語句走索引是按照select 的字段篩選的! 振振有詞,非常肯定!另一個群友反問update呢 ? 看起來很小白的問題,但確實讓我很震驚!所以我們先看看語句的執行順序

如果我沒記錯這是《SQL SERVER 2005技術內幕--查詢》這本書的開篇第一章第一節。書的作者也要讓讀者首先了解語句是怎麽樣的一個執行順序,因為不知道順序何談寫個好語句?

查詢的邏輯執行順序:

(1) FROM < left_table>

(3) < join_type> JOIN < right_table> (2) ON < join_condition>

(4) WHERE < where_condition>

(5) GROUP BY < group_by_list>

(6) WITH {cube | rollup}

(7) HAVING < having_condition>

(8) SELECT (9) DISTINCT (11) < top_specification> < select_list>

(10) ORDER BY < order_by_list>

標準的SQL 的解析順序為:

(1).FROM 子句 組裝來自不同數據源的數據

(2).WHERE 子句 基於指定的條件對記錄進行篩選

(3).GROUP BY 子句 將數據劃分為多個分組

(4).使用聚合函數進行計算

(5).使用HAVING子句篩選分組

(6).計算所有的表達式

(7).使用ORDER BY對結果集進行排序

執行順序:

1.FROM:對FROM子句中前兩個表執行笛卡爾積生成虛擬表vt1

2.ON:對vt1表應用ON篩選器只有滿足< join_condition> 為真的行才被插入vt2

3.OUTER(join):如果指定了 OUTER JOIN保留表(preserved table)中未找到的行將行作為外部行添加到vt2 生成t3如果from包含兩個以上表則對上一個聯結生成的結果表和下一個表重復執行步驟和步驟直接結束

4.WHERE:對vt3應用 WHERE 篩選器只有使< where_condition> 為true的行才被插入vt4

5.GROUP BY:按GROUP BY子句中的列列表對vt4中的行分組生成vt5

6.CUBE|ROLLUP:把超組(supergroups)插入vt6 生成vt6

7.HAVING:對vt6應用HAVING篩選器只有使< having_condition> 為true的組才插入vt7

8.SELECT:處理select列表產生vt8

9.DISTINCT:將重復的行從vt8中去除產生vt9

10.ORDER BY:將vt9的行按order by子句中的列列表排序生成一個遊標vc10

11.TOP:從vc10的開始處選擇指定數量或比例的行生成vt11 並返回調用者

  我們了解了sqlserver執行順序,請以前不知道的看官們,反復試驗反復記憶!那麽我們就接下來進一步養成日常sql好習慣,也就是在實現功能的同時又考慮性能的思想!

  • 設計思路

  具體寫法的優化請不要著急,那都是小兒科!

  設計思路說的有點大了,下面介紹幾個最常見的設計問題!

  

  循環改批量

  循環單條操作,請改成批量操作,如果沒辦法修改,請盡量想辦法修改!這算是最常見的吧:

  1. 應用代碼端一記 for 循環再惡心點的每次打開關閉連接,跑個幾分鐘,數量大點幾小時。請把你的每次for循環出來的結果放在一個datatable,list啥的,不要找到一條就往數據庫寫一條!
  2. 數據庫中的遊標也是差不多的道理,如果有可能不用遊標循環一條一條處理,請盡量不要使用。如果自己認為必須用,也請問問別人是否可以有其他方式做批量!
  3. 如果沒法避免一條一條的寫入,那麽在處理前顯示開啟一個事務 begin tran 在處理完成後 commit 這樣也要比不開顯示事務會快很多!

  上個小例子:

技術分享圖片
create table test_0607 (a int,b nvarchar(100))

declare @i int 
set @i = 1

while @i < 10000
begin 
insert into test_0607
select @i,‘0607無顯示整體事務‘
set @i = @i + 1
end
技術分享圖片 技術分享圖片
drop table test_0607
create table test_0607 (a int,b nvarchar(100))

---加上事務
begin tran
declare @i int 
set @i = 1
while @i < 10000
begin 
insert into test_0607
select @i,‘0607 顯示整體事務‘
set @i = @i + 1
end
----結束事務,提交
commit
技術分享圖片

結果 : 8秒和0.8秒的區別,不用多說啥了吧! 凡事有利有弊,這種顯示開啟大事務要保證的整體的過程不會執行特別長的時間,如果執行的操作特別多而且時間長就是災難了!

技術分享圖片技術分享圖片

  

  降低語句復雜性

  前文語句優化三板斧中已經介紹過,降低語句復雜性是常見的優化方式。這裏在說一下,導致語句特別復雜一般有兩個原因:

  1. 程序邏輯本身就很復雜,需要很多表連接,又要排序又要聚合,時不時來幾個子查詢,外加幾個函數。
  2. 由於業務有很大的共性,所以創建出很多視圖,甚至視圖嵌套很多層視圖,最後外層又要關聯單個模塊的特殊性表。

  對於第一種情況,代碼看起來就很長很復雜,看起來很牛逼的代碼其實在高手看來都是很LOW的。而對於第二種,看起來代碼很簡潔,但經過SQL優化器的二次編譯,其實和第一種並無區別。這兩種的解決辦法都是降低復雜性,把一些能拆分出來的盡量拆分出來放入臨時表或者表變量中,比如先把條件篩選性較強的幾張表關聯,然後把結果放入臨時表,在用臨時表和其他表關聯。可以理解成我有10張表關聯,我先拿5張表出來關聯,然後把結果放入臨時表,再跟另外5張表關聯。這樣這個查詢的復雜度由10張表的聯合變成 5+6,這樣降低了復雜語句復雜度。

  復雜視圖也是如此,在視圖和外層關聯前,放入臨時表,再跟外層關聯。

  子查詢也是如此,可以分離出來成為臨時表的子查詢,先分離出來。

  對於表值函數,其實也是有內聯和表值之分:

  

技術分享圖片
---方式1:內聯

 CREATE FUNCTION [dbo].[tvf_inline_Test]()
 RETURNS TABLE
 AS
    RETURN
     SELECT  ProductID
     FROM    Sales.SalesOrderHeader soh
             INNER JOIN Sales.SalesOrderDetail sod ON soh.SalesOrderID = sod.SalesOrderID 

---此寫法可以結合外層查詢二次編譯(也就是可以利用外層的關聯條件及WHERE 條件)

---方式2:表值

CREATE FUNCTION [dbo].[tvf_multi_Test]()
 RETURNS @SaleDetail TABLE ( ProductId INT )
 AS
     BEGIN 
         INSERT  INTO @SaleDetail
                 SELECT  ProductID
                 FROM    Sales.SalesOrderHeader soh
                         INNER JOIN Sales.SalesOrderDetail sod ON soh.SalesOrderID = sod.SalesOrderID 
         RETURN 
     END

---此寫法不能應用外層條件篩選,如果數據量大會對性能產生影響。
技術分享圖片

  高能預警:這裏說的是適當使用臨時表,我遇到的很多開發人員一般都有這樣一個過程。開始巨復雜的語句,知道使用臨時表以後,每個步驟很小的操作都要用臨時表。這會給你的TempDB造成很大的壓力!

  詳細請參見 : Expert 診斷優化系列------------------給TempDB 降溫

  避免重復讀取

  曾經遇到過很多這樣的程序,類似對商品有多種分析,而每種分析要做一些不同的處理,但是他們都會讀取同一份基礎數據商品和商品明細等。很多程序都是按照每種分析作為一個單獨的存儲過程去處理,那麽也就是說有20種處理他們創建了20個存儲過程,並且每個存儲過程的第一步,就是先讀取基礎數據--商品和明細等等。不巧的是商品和商品明細有巨大的數據量,雖然做了分表(按照月份,每個表大概2QW數據),但是每個存儲過程要讀取一年的數據,大概是2QW * 12 ,這麽龐大的數據巨量,查詢後被放入一張temp表,20個存儲過程順序執行,也就是說這份基礎數據每天晚上會被查詢20次! 基本上這個處理占據了系統夜間維護的所有時間,有時甚至會跑不完影響白天正常業務!

   也許你看完描述就會笑,誰會把處理設計成這個樣子?這不開玩笑麽?沒錯,解決這個問題其實超簡單,把20個存儲過程合成一個。讓基礎數據的查詢只查詢一次,放入臨時表,創建出下面邏輯處理需要的索引,在用這個臨時表分別做下面所有的處理。這樣一個夜間需要跑6小時以上的處理被縮短成40分鐘!(當然說的有點誇張,裏面還有些其他的優化,√)

   

    這裏就提到一個使用臨時表比較重要的問題,那就是類似上面的大量數據寫入臨時表,一定要用 先create 再 insert 的方式,不要直接使用 select into 臨時表的方式,否則就是災難了!

  • 論索引的重要性

    老生常談的話題了,我想所有公司招人的時候都會問到這樣的面試題: 什麽是索引,索引有哪些類,有何不同?等等....

    索引是啥?什麽是聚集索引?什麽是非聚集索引?什麽是主鍵查找?什麽是主鍵掃描?什麽是索引查找?什麽是書簽查找?有啥區別? 這裏都不介紹,請自行百度!

    很多開發人員意識不到索引到底對語句,甚至對系統有對重要。關於索引對系統的重要性請關註後續文章

    如何建立索引

    最為簡單粗暴的方式,當你寫完一條語句的時候,打開執行計劃,執行一下按照優化器的提示創建索引,具體請參見 :

  在QQ群和人聊天的時候突然有位群友說:我才知道原來語句走索引是按照select 的字段篩選的! 振振有詞,非常肯定!另一個群友反問update呢 ? 看起來很小白的問題,但確實讓我很震驚!所以我們先看看語句的執行順序

如果我沒記錯這是《SQL SERVER 2005技術內幕--查詢》這本書的開篇第一章第一節。書的作者也要讓讀者首先了解語句是怎麽樣的一個執行順序,因為不知道順序何談寫個好語句?

查詢的邏輯執行順序:

(1) FROM < left_table>

(3) < join_type> JOIN < right_table> (2) ON < join_condition>

(4) WHERE < where_condition>

(5) GROUP BY < group_by_list>

(6) WITH {cube | rollup}

(7) HAVING < having_condition>

(8) SELECT (9) DISTINCT (11) < top_specification> < select_list>

(10) ORDER BY < order_by_list>

標準的SQL 的解析順序為:

(1).FROM 子句 組裝來自不同數據源的數據

(2).WHERE 子句 基於指定的條件對記錄進行篩選

(3).GROUP BY 子句 將數據劃分為多個分組

(4).使用聚合函數進行計算

(5).使用HAVING子句篩選分組

(6).計算所有的表達式

(7).使用ORDER BY對結果集進行排序

執行順序:

1.FROM:對FROM子句中前兩個表執行笛卡爾積生成虛擬表vt1

2.ON:對vt1表應用ON篩選器只有滿足< join_condition> 為真的行才被插入vt2

3.OUTER(join):如果指定了 OUTER JOIN保留表(preserved table)中未找到的行將行作為外部行添加到vt2 生成t3如果from包含兩個以上表則對上一個聯結生成的結果表和下一個表重復執行步驟和步驟直接結束

4.WHERE:對vt3應用 WHERE 篩選器只有使< where_condition> 為true的行才被插入vt4

5.GROUP BY:按GROUP BY子句中的列列表對vt4中的行分組生成vt5

6.CUBE|ROLLUP:把超組(supergroups)插入vt6 生成vt6

7.HAVING:對vt6應用HAVING篩選器只有使< having_condition> 為true的組才插入vt7

8.SELECT:處理select列表產生vt8

9.DISTINCT:將重復的行從vt8中去除產生vt9

10.ORDER BY:將vt9的行按order by子句中的列列表排序生成一個遊標vc10

11.TOP:從vc10的開始處選擇指定數量或比例的行生成vt11 並返回調用者

  我們了解了sqlserver執行順序,請以前不知道的看官們,反復試驗反復記憶!那麽我們就接下來進一步養成日常sql好習慣,也就是在實現功能的同時又考慮性能的思想!

  • 設計思路

  具體寫法的優化請不要著急,那都是小兒科!

  設計思路說的有點大了,下面介紹幾個最常見的設計問題!

  

  循環改批量

  循環單條操作,請改成批量操作,如果沒辦法修改,請盡量想辦法修改!這算是最常見的吧:

  1. 應用代碼端一記 for 循環再惡心點的每次打開關閉連接,跑個幾分鐘,數量大點幾小時。請把你的每次for循環出來的結果放在一個datatable,list啥的,不要找到一條就往數據庫寫一條!
  2. 數據庫中的遊標也是差不多的道理,如果有可能不用遊標循環一條一條處理,請盡量不要使用。如果自己認為必須用,也請問問別人是否可以有其他方式做批量!
  3. 如果沒法避免一條一條的寫入,那麽在處理前顯示開啟一個事務 begin tran 在處理完成後 commit 這樣也要比不開顯示事務會快很多!

  上個小例子:

技術分享圖片
create table test_0607 (a int,b nvarchar(100))

declare @i int 
set @i = 1

while @i < 10000
begin 
insert into test_0607
select @i,‘0607無顯示整體事務‘
set @i = @i + 1
end
技術分享圖片 技術分享圖片
drop table test_0607
create table test_0607 (a int,b nvarchar(100))

---加上事務
begin tran
declare @i int 
set @i = 1
while @i < 10000
begin 
insert into test_0607
select @i,‘0607 顯示整體事務‘
set @i = @i + 1
end
----結束事務,提交
commit
技術分享圖片

結果 : 8秒和0.8秒的區別,不用多說啥了吧! 凡事有利有弊,這種顯示開啟大事務要保證的整體的過程不會執行特別長的時間,如果執行的操作特別多而且時間長就是災難了!

技術分享圖片技術分享圖片

  

  降低語句復雜性

  前文語句優化三板斧中已經介紹過,降低語句復雜性是常見的優化方式。這裏在說一下,導致語句特別復雜一般有兩個原因:

  1. 程序邏輯本身就很復雜,需要很多表連接,又要排序又要聚合,時不時來幾個子查詢,外加幾個函數。
  2. 由於業務有很大的共性,所以創建出很多視圖,甚至視圖嵌套很多層視圖,最後外層又要關聯單個模塊的特殊性表。

  對於第一種情況,代碼看起來就很長很復雜,看起來很牛逼的代碼其實在高手看來都是很LOW的。而對於第二種,看起來代碼很簡潔,但經過SQL優化器的二次編譯,其實和第一種並無區別。這兩種的解決辦法都是降低復雜性,把一些能拆分出來的盡量拆分出來放入臨時表或者表變量中,比如先把條件篩選性較強的幾張表關聯,然後把結果放入臨時表,在用臨時表和其他表關聯。可以理解成我有10張表關聯,我先拿5張表出來關聯,然後把結果放入臨時表,再跟另外5張表關聯。這樣這個查詢的復雜度由10張表的聯合變成 5+6,這樣降低了復雜語句復雜度。

  復雜視圖也是如此,在視圖和外層關聯前,放入臨時表,再跟外層關聯。

  子查詢也是如此,可以分離出來成為臨時表的子查詢,先分離出來。

  對於表值函數,其實也是有內聯和表值之分:

  

技術分享圖片
---方式1:內聯

 CREATE FUNCTION [dbo].[tvf_inline_Test]()
 RETURNS TABLE
 AS
    RETURN
     SELECT  ProductID
     FROM    Sales.SalesOrderHeader soh
             INNER JOIN Sales.SalesOrderDetail sod ON soh.SalesOrderID = sod.SalesOrderID 

---此寫法可以結合外層查詢二次編譯(也就是可以利用外層的關聯條件及WHERE 條件)

---方式2:表值

CREATE FUNCTION [dbo].[tvf_multi_Test]()
 RETURNS @SaleDetail TABLE ( ProductId INT )
 AS
     BEGIN 
         INSERT  INTO @SaleDetail
                 SELECT  ProductID
                 FROM    Sales.SalesOrderHeader soh
                         INNER JOIN Sales.SalesOrderDetail sod ON soh.SalesOrderID = sod.SalesOrderID 
         RETURN 
     END

---此寫法不能應用外層條件篩選,如果數據量大會對性能產生影響。
技術分享圖片

  高能預警:這裏說的是適當使用臨時表,我遇到的很多開發人員一般都有這樣一個過程。開始巨復雜的語句,知道使用臨時表以後,每個步驟很小的操作都要用臨時表。這會給你的TempDB造成很大的壓力!

  詳細請參見 : Expert 診斷優化系列------------------給TempDB 降溫

  避免重復讀取

  曾經遇到過很多這樣的程序,類似對商品有多種分析,而每種分析要做一些不同的處理,但是他們都會讀取同一份基礎數據商品和商品明細等。很多程序都是按照每種分析作為一個單獨的存儲過程去處理,那麽也就是說有20種處理他們創建了20個存儲過程,並且每個存儲過程的第一步,就是先讀取基礎數據--商品和明細等等。不巧的是商品和商品明細有巨大的數據量,雖然做了分表(按照月份,每個表大概2QW數據),但是每個存儲過程要讀取一年的數據,大概是2QW * 12 ,這麽龐大的數據巨量,查詢後被放入一張temp表,20個存儲過程順序執行,也就是說這份基礎數據每天晚上會被查詢20次! 基本上這個處理占據了系統夜間維護的所有時間,有時甚至會跑不完影響白天正常業務!

   也許你看完描述就會笑,誰會把處理設計成這個樣子?這不開玩笑麽?沒錯,解決這個問題其實超簡單,把20個存儲過程合成一個。讓基礎數據的查詢只查詢一次,放入臨時表,創建出下面邏輯處理需要的索引,在用這個臨時表分別做下面所有的處理。這樣一個夜間需要跑6小時以上的處理被縮短成40分鐘!(當然說的有點誇張,裏面還有些其他的優化,√)

   

    這裏就提到一個使用臨時表比較重要的問題,那就是類似上面的大量數據寫入臨時表,一定要用 先create 再 insert 的方式,不要直接使用 select into 臨時表的方式,否則就是災難了!

  • 論索引的重要性

    老生常談的話題了,我想所有公司招人的時候都會問到這樣的面試題: 什麽是索引,索引有哪些類,有何不同?等等....

    索引是啥?什麽是聚集索引?什麽是非聚集索引?什麽是主鍵查找?什麽是主鍵掃描?什麽是索引查找?什麽是書簽查找?有啥區別? 這裏都不介紹,請自行百度!

    很多開發人員意識不到索引到底對語句,甚至對系統有對重要。關於索引對系統的重要性請關註後續文章

    如何建立索引

    最為簡單粗暴的方式,當你寫完一條語句的時候,打開執行計劃,執行一下按照優化器的提示創建索引,具體請參見 :

Expert 診斷優化系列------------------語句調優三板斧

    

    高能預警:這裏需要你的條件可以用索引!比如 你的語句中 索引列不能帶函數,不能參與計算如 where productID/2 = @a ,不能有隱式轉換等!

   技術分享圖片

   

   技術分享圖片

   

   

    建立索引後,同樣並不是每個查詢都會使用索引,在使用索引的情況下,索引的使用效率也會有很大的差別。如上面缺失的索引我們添加上以後再查詢!

    技術分享圖片技術分享圖片

    索引查找(seek),一般為最優(但查找也要看查找的篩選性),盡量吧where 條件中的字段建成一個組合索引,並且包含要查詢select 中的字段。這裏就不繼續深入了。

    看懂執行計劃創建

    如何看懂執行計劃這就是一個可以寫幾百頁書的話題了,但是看懂執行計劃是做優化的重中之重了!以後的文章中會詳細講解。

    通過執行計劃可以看出語句的主要消耗到底在哪裏,另外配合set statistics io on 等分析讀次數,也是優化的關鍵,創建或優化索引頁是主要從這裏出發。

    

  • 語句常規習慣

  

  只返回需要的數據

  返回數據到客戶端至少需要數據庫提取數據、網絡傳輸數據、客戶端接收數據以及客戶端處理數據等環節,如果返回不需要的數據,就會增加服務器、網絡和客戶端的無效勞動,其害處是顯而易見的,避免這類事件需要註意:

  橫向來看:

  1. 不要寫SELECT * 的語句,而是選擇你需要的字段。
  2. 當在SQL語句中連接多個表時, 請使用表的別名並把別名前綴於每個Column上.這樣一來,就可以減少解析的時間並減少那些由Column歧義引起的語法錯誤。 參見: 細心很重要---猜猜這個SQL執行的什麽意思

   縱向來看:

  1. where 條件要盡量的多且保證高篩選性。
  2. 業務中很常見要返回大批量數據到前端,但是這些數據真的都是必要的麽?前端是否可以加一些默認條件呢?

  減少不必要的操作

  寫語句之前,理清你的思路!

  1. 杜絕不必要的表連接,多一個表鏈接代表多很大部分開銷。
  2. 減少不必要的條件判斷,很多時候前臺傳入為空值得時候 後臺語句被寫成XX=XX OR XX IS NULL OR XX LIKE OR ...OR ...OR 等。這是比較經典的問題了,請加入判斷在拼入最後的條件!
  3. 你的語句需要去重復麽? distinct 、union等操作
  4. LEFT JOIN 和 inner join的區別,是否真的需要left join,否則選用inner join 來減少不必要的數據返回。
  5. order by 你的語句是否需要排序?排序是否可以通過索引來降低性能消耗? 我見過竟然插入數據也帶著order by的 !

  

  盡量早的篩選

  1. 最經典的例子就是where 和 having的區別,看過語句執行順序你應該已經明白了。能寫在where 中不要放在having中。
  2. 使用臨時表降低語句復雜性,要降低臨時表的數據量,也就是要把有條件的表盡量關聯並做成臨時表。
  3. 前面提到的隱式轉換,索引字段使用計算或函數,也會導致數據不能盡早篩選。

  常用的寫法誤區(以下都是網上片面結論)

  所有別人提到的方法到底有無效

  1. or 要用union all 代替 (or是很常規的一種寫法,情況分很多種,一個表的兩個條件用 a.a =X or a.a = XX ,一個表兩個字段用 a.a =X or a.b = x,兩個不同表字段用 a.a = X or b.a = X 這是網上說的union all代替的)
  2. 避免使用 in、not in (數據量小的時候不會有問題,如果數據量大可能影響性能,數據量大處理方式先把in 中的數據放入臨時表)
  3. 事務操作過程要盡量小,能拆分的事務要拆分開來。(前文中提到的例子,有些情況循環寫入下,顯示開啟一個大事務會有很大幫助)
  4. 使用with(nolock)查詢語句不會阻塞 (一般情況下是這樣,但是如果有架構修改或快照發布等使用with(nolock)也會阻塞)
  5. 用exists 代替 in (情況也很復雜不能一概而論)

--------------博客地址---------------------------------------------------------------------------------------

Expert 診斷優化系列 http://www.cnblogs.com/double-K/

-----------------------------------------------------------------------------------------------------

  總結 : 就寫到這裏吧,說道語句優化,有太多太多的註意,這些需要明白原理,能看懂執行計劃,並且不斷積累。

      單單的幾篇優化大全是幫助是微乎其微的,另外要動手實踐,明白為什麽這樣寫會好!

SQL SERVER全面優化-------寫出好語句是習慣