1. 程式人生 > >ElasticStack學習(八):ElasticSearch索引模板與聚合分析初探

ElasticStack學習(八):ElasticSearch索引模板與聚合分析初探

一、Index Template與Dynamic Template的概念

  1、Index Template:它是用來根據提前設定的Mappings和Settings,並按照一定的規則,自動匹配到新建立的索引上。

    1)模板僅是一個索引被建立時才會起作用,修改模板並不會影響已建立的索引;

    2)可以設定多個索引模板,這些設定會被merge在一起;

    3)通過指定order的數值,控制merge的過程;

  2、Index Template的工作方式如下:

    當一個索引被建立時,會執行如下操作:

    1)應用ElasticSearch預設的Mappings和Settings;

    2)應用order數值低的Index Template中的設定;

    3)應用order數值高的Index Template中的設定,之前的設定會被覆蓋;

    4)建立索引時,使用者此時進一步指定了索引的Mappings和Settings,那麼覆蓋之前模板中的設定;

  3、Dynamic Template:根據ElasticSearch識別的資料型別,結合欄位名稱,動態設定欄位型別。

    1)例如:所有的字串型別可以設定成keyword,或者關閉keyword欄位;

    2)例如:凡是Is開頭的欄位都設定成Boolean;

    3)例如:凡是Long開頭的都設定成Long;

    如下圖所示:

    

    Dynamic Template是定義在索引的Mappings中的,有一個模板名稱,匹配規則是一個數組,同時可以將符合規則的欄位進行Mapping。

二、Index Template與Dynamic Template使用

  1、Index Template

    1)通過建立一個dynamic mapping的索引,會發現日期型別推斷成功,而數值型別被推斷成text型別。

  

    2)建立一個可以識別以test字元開頭的索引模板,同時將日期識別設定為false,將數值識別設定為true。會發現日期會推斷為text型別,數值型別推斷正常。

  

    3)在建立索引時,設定settings的值,會覆蓋模板設定資訊。

  

  2、Dynamic Template

   建立的索引進行mappings設定

  

  通過對mapping資訊的讀取可以發現,is開頭的欄位是boolean型別,duty欄位是keyword型別,匹配name開頭的欄位,將資訊可以copy_to到fullname欄位中,不匹配middle字尾的欄位資訊。

  

  當對fullname欄位搜尋關於middle欄位的資訊時,搜尋不到結果,當搜尋first或者lastname時,可以搜尋到結果。

  

三、聚合的說明(Aggregation)

  1、ElasticSearch聚合的優勢

    1)ElasticSearch除了搜尋外,還提供了針對ElasticSearch資料進行統計分析的功能;

    相對於Hadoop而言,ElasticSearch在這方面實時性高,比Hadoop的T+1更及時。

    2)通過聚合,會得到一個數據的概覽,這樣就可以分析和總結全套的資料,而不是僅僅能尋找單個文件;

    3)易用性,只需要一條語句,就可以從ElasticSearch中得到分析結果,從而避免在客戶端實現分析邏輯;

   2、聚合的分類

    1)Bucket Aggregation:一些列滿足特定條件的文件集合,其相當於SQL中的Group By;

    2)Metric Aggregation:一些數學運算,可以對文件欄位進行統計分析;

      其相當於SQL中對於欄位進行運算的函式,如Sum、Count等。它除了可以在欄位上進行計算,還可以在指令碼產生的結果上進行計算。

      大多數Metric是數學計算,輸出一個值,如:min/max/sum/avg/cardinality。

      部分支援輸出多個值,如:stats/percentiles/percentile_ranks。

    3)Pipeline Aggregation:對其他的聚合結果進行二次聚合;

    4)Matrix Aggregation:支援對多個欄位的操作並提供一個結果矩陣;

   3、聚合的使用

    1)Bucket Aggregation

     

    2)Metric Aggregation

     

    

      注意:在做聚合分析時,應將aggs前面的size設定為0,否則會返回查詢結果,而不是聚合結果。如果寫成20,聚合結果也能統計出來,只是在查詢結果的後面。

 

     大家可關注我的公眾號 

       

    知識學習來源:阮一鳴:《Elasticsearch核心技術與實戰》