嚴選 | Elasticsearch史上最全最常用工具清單【轉】
1、題記
工欲善其事必先利其器,ELK Stack的學習和實戰更是如此,特將工作中用到的“高效”工具分享給大家。
希望能借助“工具”提高開發、運維效率!
2、工具分類概覽
2.1 基礎類工具
1、Head外掛
1)功能概述:
ES叢集狀態檢視、索引資料檢視、ES DSL實現(增、刪、改、查操作)
比較實用的地方:json串的格式化
2)地址:http://mobz.github.io/elasticsearch-head/
2、Kibana工具
除了支援各種資料的視覺化之外,最重要的是:支援Dev Tool進行RESTFUL API增刪改查操作。
——比Postman工具和curl都方便很多。
地址:https://www.elastic.co/products/kibana
3、ElasticHD工具
強勢功能——支援sql轉DSL,不要完全依賴,可以借鑑用。
地址:https://github.com/360EntSecGroup-Skylar/ElasticHD
2.2 叢集監控工具
4、cerebro工具
地址:https://github.com/lmenezes/cerebro
5、Elaticsearch-HQ工具
管理elasticsearch叢集以及通過web介面來進行查詢操作
地址:https://github.com/royrusso/elasticsearch-HQ
2.3 叢集遷移工具
6、Elasticsearch-migration工具
支援多個版本間的資料遷移,使用scroll+bulk
地址:https://github.com/medcl/elasticsearch-migration
7、Elasticsearch-Exporter
將ES中的資料向其他匯出的簡單指令碼實現。
地址:https://github.com/mallocator/Elasticsearch-Exporter
8、Elasticsearch-dump
移動和儲存索引的工具。
地址:https://github.com/taskrabbit/elasticsearch-dump
2.4 叢集資料處理工具
9、elasticsearch-curator
elasticsearch官方工具,能實現諸如資料只保留前七天的資料的功能。
地址:https://pypi.python.org/pypi/elasticsearch-curator
另外 ES6.3(還未上線) 有一個 Index LifeCycle Management 可以很方便的管理索引的儲存期限。
2.5 安全類工具
10、x-pack工具
地址:https://www.elastic.co/downloads/x-pack
11、search-guard 第三方工具
Search Guard 是 Elasticsearch 的安全外掛。它為後端系統(如LDAP或Kerberos)提供身份驗證和授權,並向Elasticsearch新增稽核日誌記錄和文件/欄位級安全性。
Search Guard所有基本安全功能(非全部)都是免費的,並且內建在Search Guard中。 Search Guard支援OpenSSL並與Kibana和logstash配合使用。
地址:https://github.com/floragunncom/search-guard
2.6 視覺化類工具
12、grafana工具
地址:https://grafana.com/grafana
grafana工具與kibana視覺化的區別:
-
如果你的業務線資料較少且單一,可以用kibana做出很棒很直觀的資料分析。
-
而如果你的資料來源很多並且業務線也多,建議使用grafana,可以減少你的工作量
對比:https://www.zhihu.com/question/54388690
2.7 自動化運維工具
elasticsearch免費的自動化運維工具
13、Ansible
https://github.com/elastic/ansible-elasticsearch
14、Puppet
https://github.com/elastic/puppet-elasticsearch
15、Cookbook
https://github.com/elastic/cookbook-elasticsearch
以上三個工具來自medcl大神社群問題的回覆,我沒有實踐過三個工具。
2.8 類SQl查詢工具
16、Elasticsearch-sql 工具
sql 一款國人NLP-china團隊寫的通過類似sql語法進行查詢的工具
地址:https://github.com/NLPchina/elasticsearch-sql
ES6.3+以後的新版本會整合sql。
2.9 增強類工具
17、Conveyor 工具
kibna外掛——圖形化資料匯入工具
地址:http://t.cn/REOhwGT
18、kibana_markdown_doc_view 工具
Kibana文件檢視強化外掛,以markdown格式展示文件
地址:http://t.cn/REOhKgB
19、 indices_view工具
indices_view 是新蛋網開源的一個 kibana APP 外掛專案,可以安裝在 kibana 中,快速、高效、便捷的檢視elasticsearch 中 indices 相關資訊
地址:https://gitee.com/newegg/indices_view
20、dremio 工具
支援sql轉DSL,
支援elasticsearch、mysql、oracle、mongo、csv等多種格式視覺化處理;
支援ES多表的Join操作
地址:https://www.dremio.com/
2.10 報警類
21、elastalert
ElastAlert 是 Yelp 公司開源的一套用 Python2.6 寫的報警框架。屬於後來 Elastic.co 公司出品的 Watcher 同類產品。
官網地址: http://elastalert.readthedocs.org/
使用舉例:當我們把ELK搭建好、病順利的收集到日誌,但是日誌裡發生了什麼事,我們並不能第一時間知道日誌裡到底發生了什麼,運維需要第一時間知道日誌發生了什麼事,所以就有了ElastAlert的郵件報警。
22、sentinl
SENTINL 6擴充套件了Siren Investigate和Kibana的警報和報告功能,使用標準查詢,可程式設計驗證器和各種可配置操作來監控,通知和報告資料系列更改 - 將其視為一個獨立的“Watcher” “報告”功能(支援PNG / PDF快照)。
SENTINL還旨在簡化在Siren Investigate / Kibana 6.x中通過其本地應用程式介面建立和管理警報和報告的過程,或通過在Kibana 6.x +中使用本地監視工具來建立和管理警報和報告的過程。
官網地址:https://github.com/sirensolutions/sentinl