Apache Kafka

快速學會flink

前言 Flink 是一種流式計算框架,為什麼我會接觸到 Flink 呢?因為我目前在負責的是監控平臺的告警部分,負責採集到的監控資料會直接往 kafka 裡塞,然後告警這邊需要從 kafka topic 裡

Kafka+Zookeeper叢集搭建

環境準備 Kafka 版本:kafka_2.10-0.10.2.0(2.10表示Scala版本 0.10.2.0表示Kafka版本) 官方下載地址:

Redis 內建了一個 Kafka:Stream

流(Stream)是Redis從5.0.0版本新加入的一個數據結構,是一個類似於Kafka的訊息系統。該結構相關的大部分命令使用字母X 開頭 如XADD ,XLEN ,XRAN

KOA + egg.js 整合 kafka 訊息佇列

Egg.js : 基於KOA2的企業級框架 Kafka:高吞吐量的分散式釋出訂閱訊息系統 本文章將整合egg + kafka + mysql 的日誌系統例子 系統要求:日誌記錄,通過kafka進行訊

Spark Streaming + Kafka 的 offset 管理方法

點選上方藍字關注【 北郵郭大寶 】 最近實習需要開發一套Spark Streaming的實時流處理專案,內心還是很期待的。說來慚愧,做大資料開發實習一年有餘了,都是離線批處理的任務,還沒親自操

當 Structured Streaming 碰到 Kafka

本文中,我們來看下用  Structured Streaming 怎麼處理 kafka中的複雜json 資料流,Structured Streaming 強項我們都知道,可以使用 event-time  進行聚

使用Kafka實現事件溯源

EventSourcing事件溯源是儲存這些實體相關的事件流(實則是明細表),而不是直接儲存實體的“當前”狀態。每個事件都是一個事實,它描述了實體發生的狀態變化(過去時態!)。眾所周知,事實是無可爭議的,不可改

系統監控:top vs Htop vs Glances

在開發軟體或監控執行的系統時,遙測和環境監測都很重要。在理解了歷史情境下什麼是正常行為之後,通常兩個最緊迫的問題是:(1)什麼發生了變化?(2)什麼表現出異常? 本文將介紹三個用於臨時監控的流行工具,以及一

層級時間輪的 Golang 實現

一、引言 最近在工作中負責制定重構計劃,需要將部分業務程式碼從 Python 遷移到 Golang。其中一些功能涉及到 Celery 延時任務,所以一直在思考 Golang 中處理延時任務的有效方案。

1746001216.3761