ElasticStack學習(八):ElasticSearch索引模板與聚合分析初探
一、Index Template與Dynamic Template的概念
1、Index Template:它是用來根據提前設定的Mappings和Settings,並按照一定的規則,自動匹配到新建立的索引上。
1)模板僅是一個索引被建立時才會起作用,修改模板並不會影響已建立的索引;
2)可以設定多個索引模板,這些設定會被merge在一起;
3)通過指定order的數值,控制merge的過程;
2、Index Template的工作方式如下:
當一個索引被建立時,會執行如下操作:
1)應用ElasticSearch預設的Mappings和Settings;
2)應用order數值低的Index Template中的設定;
3)應用order數值高的Index Template中的設定,之前的設定會被覆蓋;
4)建立索引時,使用者此時進一步指定了索引的Mappings和Settings,那麼覆蓋之前模板中的設定;
3、Dynamic Template:根據ElasticSearch識別的資料型別,結合欄位名稱,動態設定欄位型別。
1)例如:所有的字串型別可以設定成keyword,或者關閉keyword欄位;
2)例如:凡是Is開頭的欄位都設定成Boolean;
3)例如:凡是Long開頭的都設定成Long;
如下圖所示:
Dynamic Template是定義在索引的Mappings中的,有一個模板名稱,匹配規則是一個數組,同時可以將符合規則的欄位進行Mapping。
二、Index Template與Dynamic Template使用
1、Index Template
1)通過建立一個dynamic mapping的索引,會發現日期型別推斷成功,而數值型別被推斷成text型別。
2)建立一個可以識別以test字元開頭的索引模板,同時將日期識別設定為false,將數值識別設定為true。會發現日期會推斷為text型別,數值型別推斷正常。
3)在建立索引時,設定settings的值,會覆蓋模板設定資訊。
2、Dynamic Template
建立的索引進行mappings設定
通過對mapping資訊的讀取可以發現,is開頭的欄位是boolean型別,duty欄位是keyword型別,匹配name開頭的欄位,將資訊可以copy_to到fullname欄位中,不匹配middle字尾的欄位資訊。
當對fullname欄位搜尋關於middle欄位的資訊時,搜尋不到結果,當搜尋first或者lastname時,可以搜尋到結果。
三、聚合的說明(Aggregation)
1、ElasticSearch聚合的優勢
1)ElasticSearch除了搜尋外,還提供了針對ElasticSearch資料進行統計分析的功能;
相對於Hadoop而言,ElasticSearch在這方面實時性高,比Hadoop的T+1更及時。
2)通過聚合,會得到一個數據的概覽,這樣就可以分析和總結全套的資料,而不是僅僅能尋找單個文件;
3)易用性,只需要一條語句,就可以從ElasticSearch中得到分析結果,從而避免在客戶端實現分析邏輯;
2、聚合的分類
1)Bucket Aggregation:一些列滿足特定條件的文件集合,其相當於SQL中的Group By;
2)Metric Aggregation:一些數學運算,可以對文件欄位進行統計分析;
其相當於SQL中對於欄位進行運算的函式,如Sum、Count等。它除了可以在欄位上進行計算,還可以在指令碼產生的結果上進行計算。
大多數Metric是數學計算,輸出一個值,如:min/max/sum/avg/cardinality。
部分支援輸出多個值,如:stats/percentiles/percentile_ranks。
3)Pipeline Aggregation:對其他的聚合結果進行二次聚合;
4)Matrix Aggregation:支援對多個欄位的操作並提供一個結果矩陣;
3、聚合的使用
1)Bucket Aggregation
2)Metric Aggregation
注意:在做聚合分析時,應將aggs前面的size設定為0,否則會返回查詢結果,而不是聚合結果。如果寫成20,聚合結果也能統計出來,只是在查詢結果的後面。
大家可關注我的公眾號
知識學習來源:阮一鳴:《Elasticsearch核心技術與實戰》