1. 程式人生 > >再次升級!阿里雲Kubernetes日誌解決方案

再次升級!阿里雲Kubernetes日誌解決方案

背景

針對K8S日誌採集存在的採集目標多、彈性伸縮難、運維成本大、侵入性高、採集效能低等問題,在18年2月份日誌服務和容器服務團隊一起釋出了阿里雲Kubernetes日誌解決方案。1分鐘內即可完成整個叢集部署,實現該節點上宿主機日誌、容器日誌、容器stdout等所有資料來源的一站式採集。並且後續叢集動態伸縮無需對採集做任何二次部署。

  • 極致部署體驗:只需一條命令一個引數即可完成整個K8S叢集的日誌解決方案部署。
  • 支援更多配置方式:除原生控制檯、SDK配置方式外,支援通過CRD方式進行配置(kubectl、控制檯、K8S openapi)。
  • K8S無縫整合:採集配置支援yaml方式部署,相容K8S各種整合方式。

日誌服務介紹

阿里雲的日誌服務(log service)是針對日誌類資料的一站式服務,2013年研發,有5年多線上執行經驗,經歷雙十一、新春紅包等考驗。日誌採集Agent Logtail執行在100W+機器上,為萬級別應用提供服務。主要特點如下:

image.png

日誌服務主要包括 實時採集與消費、資料投遞、查詢與實時分析 等功能,接下來我們介紹下如何利用日誌服務進行Kubernetes日誌採集。
image.png

Kubernetes日誌採集方案介紹

方案簡介

image.png

阿里雲Kubernetes日誌採集方案如上圖所示:

  • K8S的每個worker 節點都會執行一個Logtail容器,該容器可採集宿主機以及該宿主機上其他容器的日誌(包括標準輸出和日誌檔案)。
  • Logtail以daemon set模式執行,保證每個節點都有一個Logtail容器在執行
  • 使用自定義標識機器組,支援叢集動態縮/擴容
  • 所有的採集配置支援通過docker lable以及環境變數過濾指定容器
  • K8S內部會註冊自定義資源(CRD,CustomResourceDefinition)AliyunLogConfig,並部署alibaba-log-controller
  • 支援使用者通過CRD方式或日誌服務控制檯對採集配置進行管理

執行流程

以CRD配置方式為例,內部工作流程如下:

  1. 使用者使用kubectl或其他工具應用aliyunlogconfigs CRD配置。
  2. alibaba-log-controller監聽到配置更新。
  3. alibaba-log-controller根據CRD內容以及服務端狀態,自動向日誌服務提交logstore建立、配置建立以及應用機器組的請求。
  4. 以DaemonSet模式執行的Logtail會定期請求配置伺服器,獲取新的或已更新的配置並進行熱載入。
  5. Logtail根據配置資訊採集各個容器(POD)上的標準輸出或日誌檔案。
  6. 最終Logtail將處理、聚合好的資料傳送到日誌服務。

部署方法

阿里雲Kubernetes使用者只需一條命令即可完成日誌採集部署,命令中只需輸入一個引數。

  1. 登入您的阿里雲容器服務Kubernetes的Master節點,如何登入參考SSH訪問叢集
  1. 將下述命令中的${your_k8s_cluster_id}替換為您的Kubernetes叢集id,執行此命令。

原文連結

相關推薦

再次升級阿里Kubernetes日誌解決方案

背景針對K8S日誌採集存在的採集目標多、彈性伸縮難、運維成本大、侵入性高、採集效能低等問題,在18年2月份日誌服務和容器服務團隊一起釋出了阿里雲Kubernetes日誌解決方案。1分鐘內即可完成整個叢集部署,實現該節點上宿主機日誌、容器日誌、容器stdout等所有資料來源的一

再次升級阿裏Kubernetes日誌解決方案

日誌摘要: 今天阿裏雲Kubernetes日誌解決方案再次升級,為您帶來以下改進: 1、極致部署體驗:只需一條命令一個參數即可完成整個K8S集群的日誌解決方案部署。 2、支持更多配置方式:除原生控制臺、SDK配置方式外,支持通過CRD方式進行配置(kubectl、控制臺、K8S openapi)。背景針對K8

最快1天搭建短視訊APP阿里短視訊解決方案上線

開發十年,就只剩下這套架構體系了! >>>   

阿里互動課堂解決方案助力淘寶教育,打造普惠教育平臺

近日,阿里巴巴淘寶教育推出普惠教育平臺,為貴州省印江縣當地中學捐贈線上授課平臺、IOT智慧魔筆等軟硬體裝置。平臺基於阿里雲視訊雲的互動課堂直播技術打造,打破空間的限制,實現了教育的地域連線,將發達地區的名師資源充分下放,惠及偏遠地區教育。 專案背景 據有關平臺

阿里釋出遷移解決方案,“遷移上”這件事有專業的人做

近日,阿里雲釋出了遷移解決方案,旨在為客戶提供一站式遷移綜合解決方案,將遷移相關的資源統一呈現,幫助客戶安全、穩定和高效遷移上雲。 解決什麼問題?  客戶想要上雲,需要自己評估整體方案,但往往會有一些問題無法考慮到,導致投入多、效率低、同時也可能造成潛在風險; 而阿里雲新

老使用者快速從經典網路遷移VPC,阿里提供便捷解決方案

摘要: 近日,阿里雲宣佈推出經典網路遷移VPC完整解決方案,幫忙雲上老使用者平滑遷移到VPC。 阿里雲起步於經典網路,但已經全面轉向VPC。專有網路VPC(Virtual Private Cloud)以其在安全、成本和網路功能方面的優勢,正受到越來越多使用者的歡迎,已經成為

全面提升,阿里Docker/Kubernetes(K8S) 日誌解決方案與選型對比

摘要: 今天,日誌服務再次升級Kubernetes(k8s)的日誌解決方案。1分鐘內即可完成整個叢集部署,支援動態擴容,提供採集宿主機日誌、容器日誌、容器stdout等所有資料來源的一站式採集。背景眾所周知,Docker很火,Docker中Kubernetes(

搜索服務在日誌解決方案的應用

AD 智能 應用 如何 數字 開始 解決 follow href 在整體行業趨於數字化的今天,各種業務軟件每時每刻都在產生日誌數據。因為大數據的爆發,大家開始重視如何利用這些日誌,去解決業務上的難題。不可否認的是,隨著對數據資產的觀念興起,越來越多的運營人員和運維人員開始使

重磅阿里釋出業界首款SaaS化防火牆

近日,阿里云云防火牆全新發布,重灌上陣,釋出業界首款SaaS化防火牆,一鍵開啟,無需複雜網路接入配置,適用於所有在雲上部署了重要業務資產的客戶,特別是企業級客戶。 對於使用者來說,即開即用,操作簡單,無需傳統防火牆的映象安裝、路由設定等複雜基礎系統和網路配置操作,使用者也無需關注容災、擴容或接入等問題。

阿里Kubernetes上使用ENI進行分散式機器學習訓練

概述 模型訓練是機器學習最主要的實踐場景,尤其以使用機器學習框架TensorFlow進行模型訓練最為流行,但是隨著機器學習的平臺由單機變成叢集,這個問題變得複雜了。利用KubeFlow社群的自定義資源TFJob/MPIJob/MxNetJob可以在Kubernetes叢集方便的執行其不同的分散式訓練框架,解

全面升級阿里中間件推出3款新品和新特性,加速企業中臺落地

近日,阿里雲宣佈對中介軟體產品系列進行全面升級,旨在普惠開發者,賦能中小企業快速搭建企業級網際網路架構,快速滿足企業業務的發展需求。此次全面升級涵蓋企業級分散式應用服務EDAS、效能監控ARMS、效能測試PTS、鏈路追蹤Tracing Analysis、Alibaba Cloud Toolk

最後1天阿里雙11拼團入官方熱薦團直享最低折扣還有機會瓜分百萬現金

各位童鞋們,如果您已經拼了別人的團,但是還不知道怎麼玩?小編來告訴你! 最後一天了,大家就不要再開團了,馬上進入官方熱薦團直享最低折扣:http://click.aliyun.com/m/1000023288/ 您拼團後將享受以下福利: 福利1:拉新贏紅包 您拼團後可通過專屬分享連結,邀請好友來參團。

重磅釋出阿里推PostgreSQL 10 高可用版

2015年,阿里雲宣佈正式推出RDS for PostgreSQL服務,屆時,阿里雲成為國內首家同時支援MySQL、SQL Server 和PostgreSQL關係型資料庫的雲端計算服務商。 使用者在雲上就能享受PostgreSQL引擎帶來的對SQL標準和NoSQL的高度相容、強大的處理複雜查詢能力、以及豐

央視再次點贊阿里ET城市大腦,樹立用人工智慧治理城市的標杆

央視再次點贊阿里雲ET城市大腦:11月15日,《堅持發展“楓橋經驗”》用7分鐘展示了ET城市大腦在衢州、餘杭等地發揮的價值,ET城市大腦正成為用人工智慧來全方位解決城市治理問題的標杆。 在浙江衢州,ET城市大腦建立了全域感知系統,通過機器視覺、大資料、人工智慧等技術,整合了跨區域、跨部門、跨層級的資料,

全球首家阿里獲GNTC2018 網路創新大獎 成唯一獲獎服務商

雲網融合大趨勢下,雲網絡逐漸成為企業構建網路的首選方案。11月16日,在剛剛結束的全球網路技術大會GNTC 2018上,阿里雲憑藉靈活多變的全球混合雲網絡解決方案斬獲GNTC Innovation Award創新大獎,成為首家唯一入選該獎項的雲服務商。 GNTC是全球規模最大的網路屆盛會之一,由國家下一代網

centos 7 yum 設定 阿里 kubernetes

cat <<EOF > /etc/yum.repos.d/kubernetes.repo [kubernetes] name=Kubernetes baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x

阿里Kubernetes實戰1

前言: 考慮到公司持續整合與docker容器技術實施已有一段時間,取得了不錯的效果,但對於裝置運維、系統隔離、裝置利用率和擴充套件性還有待提升,綜合目前比較成熟的微服務技術,打算把現有業務遷移到K8S叢集。 由於公司所有業務均部署在阿里雲上,最開始就調研了阿里雲自己提供的Kubernetes叢

阿里Kubernetes實戰2

您目前處於: 前言: 在系列的第一篇文章中,我已經介紹過如何在阿里雲基於kubeasz搭建K8S叢集,通過在K8S上部署gitlab並暴露至叢集外來演示服務部署與發現的流程。文章寫於4月,忙碌了小半年後,我才有時間把後續部分補齊。系列會分為三篇,本篇將繼續部署基礎設施,如j

阿里Kubernetes實戰3

前言: 在上一篇文章中,我們已經在K8S叢集部署了Jenkins、Harbor和EFK。作為本系列最後一篇文章,將通過實際案例串聯所有的基礎軟體服務,基於K8S做DevOps。 整體的業務流程如下圖所示: 一、一機多Jenkins Slave 由於業務需要,我們的自動化測試需要基於windo

阿里Kubernetes實戰1–叢集搭建與服務暴露

前言: 考慮到公司持續整合與docker容器技術實施已有一段時間,取得了不錯的效果,但對於裝置運維、系統隔離、裝置利用率和擴充套件性還有待提升,綜合目前比較成熟的微服務技術,打算把現有業務遷移到K8S叢集。 由於公司所有業務均部署在阿里雲上,最開始就調研了阿里雲自己提供的Kubernetes叢集,但後來還