1. 程式人生 > >Elasticsearch常用最全最常用工具清單

Elasticsearch常用最全最常用工具清單

1、題記

工欲善其事必先利其器,ELK Stack的學習和實戰更是如此,特將工作中用到的“高效”工具分享給大家。

希望能借助“工具”提高開發、運維效率!

2、工具分類概覽

2.1 基礎類工具

1、Head外掛

1)功能概述:

2、Kibana工具

除了支援各種資料的視覺化之外,最重要的是:支援Dev Tool進行RESTFUL API增刪改查操作。 ——比Postman工具和curl都方便很多。

這裡寫圖片描述

3、ElasticHD工具

強勢功能——支援sql轉DSL,不要完全依賴,可以借鑑用。這裡寫圖片描述

2.2 叢集監控工具

4、cerebro工具這裡寫圖片描述

5、Elaticsearch-HQ工具

2.3 叢集遷移工具

6、Elasticsearch-migration工具

支援多個版本間的資料遷移,使用scroll+bulk

7、Elasticsearch-Exporter

將ES中的資料向其他匯出的簡單指令碼實現。

8、Elasticsearch-dump

移動和儲存索引的工具。

2.4 叢集資料處理工具

9、elasticsearch-curator

elasticsearch官方工具,能實現諸如資料只保留前七天的資料的功能。

另外 ES6.3(還未上線) 有一個 Index LifeCycle Management 可以很方便的管理索引的儲存期限。

2.5 安全類工具

11、search-guard 第三方工具

Search Guard 是 Elasticsearch 的安全外掛。它為後端系統(如LDAP或Kerberos)提供身份驗證和授權,並向Elasticsearch新增稽核日誌記錄和文件/欄位級安全性。

Search Guard所有基本安全功能(非全部)都是免費的,並且內建在Search Guard中。 Search Guard支援OpenSSL並與Kibana和logstash配合使用。

2.6 視覺化類工具

12、grafana工具這裡寫圖片描述

grafana工具與kibana視覺化的區別:

  1. 如果你的業務線資料較少且單一,可以用kibana做出很棒很直觀的資料分析。

2.7 自動化運維工具

elasticsearch免費的自動化運維工具

13、Ansible

14、Puppet

15、Cookbook

以上三個工具來自medcl大神社群問題的回覆,我沒有實踐過三個工具。

2.8 類SQl查詢工具

16、Elasticsearch-sql 工具

sql 一款國人NLP-china團隊寫的通過類似sql語法進行查詢的工具

ES6.3+以後的新版本會整合sql。

2.9 增強類工具

17、Conveyor 工具

kibna外掛——圖形化資料匯入工具

18、kibana_markdown_doc_view 工具

Kibana文件檢視強化外掛,以markdown格式展示文件

19、 indices_view工具

indices_view 是新蛋網開源的一個 kibana APP 外掛專案,可以安裝在 kibana 中,快速、高效、便捷的檢視elasticsearch 中 indices 相關資訊

20、dremio 工具image

image - 支援sql轉DSL, - 支援elasticsearch、mysql、oracle、mongo、csv等多種格式視覺化處理; - 支援ES多表的Join操作

2.10 報警類

1、elastalert ElastAlert 是 Yelp 公司開源的一套用 Python2.6 寫的報警框架。屬於後來 Elastic.co 公司出品的 Watcher 同類產品。官網地址見:http://elastalert.readthedocs.org/

使用舉例:當我們把ELK搭建好、病順利的收集到日誌,但是日誌裡發生了什麼事,我們並不能第一時間知道日誌裡到底發生了什麼,運維需要第一時間知道日誌發生了什麼事,所以就有了ElastAlert的郵件報警。

2、sentinl SENTINL 6擴充套件了Siren Investigate和Kibana的警報和報告功能,使用標準查詢,可程式設計驗證器和各種可配置操作來監控,通知和報告資料系列更改 - 將其視為一個獨立的“Watcher” “報告”功能(支援PNG / PDF快照)。

SENTINL還旨在簡化在Siren Investigate / Kibana 6.x中通過其本地應用程式介面建立和管理警報和報告的過程,或通過在Kibana 6.x +中使用本地監視工具來建立和管理警報和報告的過程。

3、小結

基礎必備知識:

01

 Elasticsearch基礎認知

02

 Elasticsearch進階認知

03

 Elasticsearch實踐認知