2. 程式人生 > >基於可靠訊息方案的分散式事務（三）：Lottor使用

基於可靠訊息方案的分散式事務（三）：Lottor使用

阿新 • • 發佈：2019-01-13

前面兩篇文章介紹了筆者關於可靠訊息方案的分散式事務的實現思路以及Java中的事務概念，奈何工作抽不出時間，如今時隔已久，分散式事務系列拖了很久，一直沒能好好把專案和文章整理一下，實在心裡有愧。

Lottor介紹

Lottor用於解決微服務架構下分散式事務的問題，基於可靠性訊息事務模型實現。

Lottor的結構

Lottor由三部分組成：

  • Lottor Server
  • Lottor Client
  • Lottor Admin UI

Lottor伺服器與客戶端之間使用Netty通訊。所有的客戶端（生產端和消費端）都會與伺服器保持長連線。Lottor Admin UI用於展示系統中的事務組詳細資訊，包括預提交的事務組、消費失敗的事務訊息，並支援頁面操作失敗的訊息（如重試）。

Lottor的設計

關於Lottor的實現思路簡略可以參見基於可靠訊息方案的分散式事務：Lottor介紹，後面會詳細介紹。

如何使用

Lottor Client儲存方式支援Redis和MongoDB，Lottor Server目前資料儲存只支援MongoDB。Lottor客戶端和伺服器都會註冊到服務發現元件，支援Consul、zookeeper、Eureka。目前對於Spring Cloud的整合更為方便，Lottor Server伺服器傳送事務訊息到Lottor Client消費方時，使用了Spring Cloud整合的訊息驅動元件Spring Cloud Stream，不過這屬於弱耦合，Lottor暫時不考慮這部分的解耦。

體驗一下Lottor準備的samples，需要準備如下元件：

  1. 安裝好Consul或其他服務發現元件；
  2. 訊息中介軟體rabbitmq或kafka（目前Spring Cloud Stream完全適配這兩種訊息中介軟體）；
  3. MongoDB，Lottor Server儲存的方式；
  4. Redis（可選），客戶端的儲存方式，也可為Redis。

如果你想很快嘗試專案中的Samples，請選擇如上的準備事項的第一個選擇，避免耽誤你的時間。

具體啟動步驟：

  1. 首先需要啟動Lottor Server，有兩個埠，9888用於Netty Server通訊，9666為對外暴露的Http埠（用於提供Lottor Admin UI的介面和Lottor Client連線）；
  2. 啟動lottor-samples下的lottor-demo-consumer，埠為8007；
  3. 啟動lottor-samples下的lottor-demo-producer，埠為8009。

啟動好如上三個服務之後，將會在兩個客戶端服務的控制檯看到如下的日誌：

c.b.l.c.n.impl.NettyClientServiceImpl   : 連線到Lottor Server【127.0.0.1:9998】
c.b.l.c.n.impl.NettyClientServiceImpl   : Connect to【127.0.0.1:9998】c.b.l.c.n.h.NettyClientMessageHandler   : 成功連線到Lottor Server
c.b.l.c.cache.impl.TxOperateServiceImpl : 啟動OperatePool操作執行緒數量為:8
c.b.l.core.service.impl.InitServiceImpl : 分散式事務Cache初始化成功！
o.s.s.c.ThreadPoolTaskScheduler         : Initializing ExecutorService  'taskScheduler'

客戶端還會按照一定的時間週期向Lottor Server傳送心跳，並收到服務端的心跳回應。如下所示:

c.b.l.c.n.h.NettyClientMessageHandler : 傳送【心跳】事件到Lottor Server【127.0.0.1:9998】
c.b.l.c.n.h.NettyClientMessageHandler : 接收到 Lottor 服務端 【127.0.0.1:9998】 的【心跳】事件

Docker啟動

為了讓讀者更方便的在本地嚐鮮，在專案中提供了docker-compose.yml用以便捷且快速地啟動相關的中介軟體。在docker-compose.yml中包含了如下元件的配置：

  • Lottor UI，Lottor 的前端專案Dashboard，用以展示分散式事務呼叫的相關資訊，包括事務組的狀態、事務訊息的狀態以及異常原因。
  • Consul-0.8.5，服務發現與註冊
  • MongoDB-3.2，持久化儲存
  • Redis-4，持久化儲存
  • Rabbitmq-3.6-management，訊息中介軟體
  • Mysql-5.7，例項的user服務和auth服務儲存

讀者在本地安裝好docker-compose之後，即可一鍵啟動這些元件服務。

docker-compose up -d

呼叫

Lottor-Samples中的場景為：呼叫User服務建立一個使用者，使用者服務的user表中增加了一條使用者記錄。除此之外，還會呼叫Auth服務建立該使用者對應的角色和許可權資訊。

User提供的API端點

User服務只提供了一個建立使用者介面，通過請求引數來模擬建立使用者時會遇到的情況：

  • 成功生產且成功消費

    User服務成功執行本地事務併發送確認訊息，Lottor Server接收到確認的事務組訊息，然後Lottor Server傳送事務訊息到Auth服務，Auth服務成功消費並向Lottor Server響應訊息消費成功的狀態。

    訪問lottor-samples-auth提供的API介面http://localhost:8009/user?result=success即可看到User、Auth和Lottor Server控制檯的日誌資訊。

    User日誌資訊：

    傳送preCommit訊息
開始建立Lottor事務組,  事務組 id 為【1172893261】
接收到 Lottor 服務端 【127.0.0.1:9998】 的【接收】事件
傳送事務組confirm訊息, 本地事務完成狀態為【true】
事務發起方事務組confirm, 事務組 id 為【1172893261】
事務組【1172893261】, confirm status為【已經提交】
事務組【1172893261】成功傳送確認訊息

    Lottor Server日誌資訊：

    Lottor Server接收到客戶端【127.0.0.1:62481】的【建立事務組】事件
Lottor Server接收到客戶端【127.0.0.1:62481】的【完成提交】事件
send tx-msg and target service【auth】
success send msg, and msg id is 【1958885429】

    Auth日誌資訊：

    ===============consume notification message: =======================
TransactionMsg(groupId=1172893261, subTaskId=1958885429, source=user, target=auth, method=auth-role, args=UserRoleDTO(roleEnum=ADMIN, userId=0df80f61-2802-4dfc-9119-1de97e3b3a00), createTime=1533478144000, message=null, updateTime=null, consumed=0)
auth-role
matched case auth-role
傳送Consume訊息，groupId【1172893261】 and subTaskId【1958885429】，消費結果為【true】
tx-transaction 消費完成，事務組 id 為【1172893261】，訊息 id 為【1958885429】

  • 生產方本地事務執行失敗

    User服務執行本地事務失敗，併發送事務組回滾的訊息到Lottor Server，取消該事務組中的訊息傳送。

    訪問lottor-samples-user提供的API介面http://localhost:8009/user?result=fail即可看到User服務和Lottor Server控制檯的日誌資訊。

    User服務的日誌資訊：

    傳送preCommit訊息
開始建立Lottor事務組,  事務組 id 為【1964885182】
接收到 Lottor 服務端 【127.0.0.1:9998】 的【接收】事件
SQLErrorCodes loaded: [DB2, Derby, H2, HSQL, Informix, MS-SQL, MySQL, Oracle, 傳送事務組confirm訊息, 本地事務完成狀態為【false】
事務發起方事務組confirm, 事務組 id 為【1964885182】
務組【1964885182】, confirm status為【回滾】
事務組【1964885182】成功傳送確認訊息
執行本地事務失敗，cause is 【

### Error updating database.  Cause: java.sql.SQLException: Column count doesn't match value count at row 1


### The error may involve com.blueskykong.lottor.samples.user.service.mapper.UserMapper.saveUserFailure-Inline


### The error occurred while setting parameters


### SQL: INSERT INTO user(id,username,password,self_desc) VALUES(?,?)


### Cause: java.sql.SQLException: Column count doesn't match value count at row 1

; bad SQL grammar []; nested exception is java.sql.SQLException: Column count doesn't match value count at row 1】

    Lottor Server日誌資訊：

    Lottor Server接收到客戶端【127.0.0.1:62481】的【建立事務組】事件
Lottor Server接收到客戶端【127.0.0.1:62481】的【完成提交】事件

  • 成功生產但消費失敗

    User服務成功執行本地事務併發送確認訊息，Lottor Server接收到確認的事務組訊息，然後Lottor Server傳送事務訊息到Auth服務，Auth服務消費失敗，並向Lottor Server響應訊息消費失敗的狀態。

    訪問lottor-samples-user提供的API介面http://localhost:8009/user?result=fail即可看到User、Auth和Lottor Server控制檯的日誌資訊。這裡只展示Auth服務的日誌資訊，其他兩個服務的日誌資訊可以參見第一種情況。

    Auth日誌資訊：

    ===============consume notification message: =======================
TransactionMsg(groupId=1177311097, subTaskId=1713403133, source=user, target=auth, method=auth-role, args=UserRoleDTO(roleEnum=ADMIN, userId=null), createTime=1533478468000, message=null, updateTime=null, consumed=0)
auth-role
SQLErrorCodes loaded: [DB2, Derby, H2, HSQL, Informix, MS-SQL, MySQL, Oracle, PostgreSQL, Sybase, Hana]

### Error updating database.  Cause: com.mysql.jdbc.exceptions.jdbc4.MySQLIntegrityConstraintViolationException: Column 'user_id' cannot be null


### The error may involve com.blueskykong.lottor.samples.auth.service.mapper.RoleUserMapper.saveRoleUser-Inline


### The error occurred while setting parameters


### SQL: INSERT INTO user_role(id,user_id,role_id) VALUES(?,?,?)


### Cause: com.mysql.jdbc.exceptions.jdbc4.MySQLIntegrityConstraintViolationException: Column 'user_id' cannot be null

; SQL []; Column 'user_id' cannot be null; nested exception is com.mysql.jdbc.exceptions.jdbc4.MySQLIntegrityConstraintViolationException: Column 'user_id' cannot be null
傳送Consume訊息，groupId【1177311097】 and subTaskId【1713403133】，消費結果為【false】
tx-transaction 消費完成，事務組 id 為【1177311097】，訊息 id 為【1713403133】

專案截圖

專案結構

開啟Lottor DashBoard，地址為http://127.0.0.1:3000/lottor（Lottor Server的地址可以通過docker-compose中的環境變數SERVER_TAG配置，預設為http://127.0.0.1:9666），可以看到如下頁面：

UI首頁

事務組資訊

事務組狀態

致謝

Lottor的具體實現上，參考了2PC的分散式事務解決方案happylifeplat-transaction的通訊框架。最近看了一下，發現已經更名為Raincat，讀者欲瞭解更多，可以參見https://github.com/yu199195/Raincat，在此致謝。

Lottor專案地址：https://github.com/keets2012/Lottor

訂閱最新文章，歡迎關注我的公眾號

微信公眾號

相關推薦

基於可靠訊息方案的分散式事務（三）：Lottor使用

前面兩篇文章介紹了筆者關於可靠訊息方案的分散式事務的實現思路以及Java中的事務概念，奈何工作抽不出時間，如今時隔已久，分散式事務系列拖了很久，一直沒能好好把專案和文章整理一下，實在心裡有愧。 Lottor介紹 Lottor用於解決微服務架構下分散式事務的問題，基於可靠性訊息事務

基於可靠訊息方案的分散式事務（二）：Java中的事務

前言：在上一篇文章 基於可靠訊息方案的分散式事務：Lottor介紹 中介紹了常見的分散式事務的解決方案以及筆者基於可靠訊息方案實現的分散式事務元件Lottor的原理，並展示了應用的控制檯管理。在正式介紹Lottor的具體實現之前，本文首先將會介紹Java中的事務

啟發:從MNS事務訊息談分散式事務（轉）

啟發:從MNS事務訊息談分散式事務 事務訊息本質上解決的問題是業務系統與訊息系統之間的事務問題（跨系統分散式事務），其基本原理即兩階段提交以及最終一致性保障。最近看了下阿里雲mns事務訊息的實現原理，介紹的蠻簡潔透徹的，對了解分散式事務實現原理挺有幫助，在閱讀本文前推薦大家先仔細閱讀下阿里雲"m

asp.net core mcroservices 架構之 分散式日誌（三）：整合kafka

    一 kafka介紹                      

什麼是分散式事務（二）：分散式事務特性、2PC、3PC

但是如果第三階段的確認訊息傳送失敗了怎麼辦？RocketMQ會定期掃描訊息叢集中的事物訊息，如果發現了prepare狀態的訊息，它會向訊息傳送者確認本地事務是否已執行成功，如果成功是回滾還是繼續傳送確認訊息呢。RocketMQ會根據傳送端設定的策略來決定是回滾還是繼續傳送確認訊息。這樣就保證了訊息傳送與本地事

基於可靠訊息方案的分散式事務：Lottor介紹

前言：筆者最近實現了基於可靠訊息方案的分散式事務：Lottor。本文將會介紹Lottor的概況，在後續系列文章介紹具體的實現，歡迎關注。 分散式事務 分散式事務是指事務的參與者、支援事務的伺服器、資源伺服器以及事務管理器分別位於不同的分散式系統的不同節點之上。

分散式事務（1）訊息傳送一致性解決方案

訊息傳送一致性 是指產生訊息的業務動作與訊息傳送的一致。（如果業務操作成功，那麼由這個業務操作所產生的訊息一定要成功投遞出去，否則就丟訊息） 訊息傳送一致性如何保障： 場景： 1.業務處理成功，執行傳送訊息的時候 應用故障，導致沒有傳送訊息（後續服務沒有收到訊息處理業務

分散式鎖（三）__基於redis實現

本文參考借鑑了論壇大佬的一篇很詳細的博文並在此基礎上加以實現，在此謝謝此位博主！，博文連線： https://www.cnblogs.com/linjiqin/p/8003838.html 前言 首先，為了確保分散式鎖可用，我們至少要確保鎖的實現同時滿足以下四個條件： 互斥

Spring Boot中使用WebSocket總結（三）：使用訊息佇列實現分散式WebSocket

在上一篇文章（www.zifangsky.cn/1359.html）中我介紹了服務端如何給指定使用者的客戶端傳送訊息，並如何處理對方不線上的情況。在這篇文章中我們繼續思考另外一個重要的問題，那就是：如果我們的專案是分散式環境，登入的使用者被Nginx的反向代理分配到多個不同伺服器，那麼在其中一個伺服器建立了W

RocketMQ實戰（三）：分散式事務

關於多Master多Slave的說明 由於在之前的部落格中已經搭建了雙Master，其實多Master多Slave大同小異，因此這裡並不會一步步的演示搭建多Master多Slave，而是從思路上，分析下重點應該注意的配置項。 多Master多Slave 第一，這四臺機器，對外是一個統一的整體

基於Java語言構建區塊鏈（三）—— 持久化 & 命令行

java 分布式 編程語言 程序員 引言上一篇 文章我們實現了區塊鏈的工作量證明機制（Pow），盡可能地實現了挖礦。但是距離真正的區塊鏈應用還有很多重要的特性沒有實現。今天我們來實現區塊鏈數據的存儲機制，將每次生成的區塊鏈數據保存下來。有一點需要註意，區塊鏈本質上是一款分布式的數據庫，我們這裏

HAProxy詳解（三）：基於虛擬主機的HAProxy負載均衡系統配置實例【轉】

ise onf sysconf proxy配置 ffffff 規則設置 library 版本信息 論壇 一.基於虛擬主機的HAProxy負載均衡系統配置實例 1.通過HAProxy的ACL規則配置虛擬主機： 下面將通過HAProxy的AC

基於Java語言構建區塊鏈（三）—— 持久化 & 命令列

文章的主要思想和內容均來自：https://jeiwan.cc/posts/building-blockchain-in-go-part-3/ 原文連結：https://wangwei.one/posts/35c768a3.html 引言 上一篇文章我們實現

Spring Cloud Config（三）：基於JDBC搭建配置中心

1、簡介 本文主要內容是基於jdbc搭建配置中心，使應用從配置中心讀取配置資訊併成功註冊到註冊中心，關於配置資訊表結構僅供參考，大家可以根據具體需要進行擴充套件。 2、Config Server 搭建 2.1、Maven 依賴 因為需要從資料庫讀取配置檔案，所以需要新增M

基於中臺思想的物流系統設計（三）：構建物流地址能力

一、引言 在電商物流領域我們會涉及到地址，其中包括了基礎的四級地址和使用者填寫的地址。四級地址在整個從下單到收貨的業務流程中都會用到，因此設計的時候要考慮如何最大限度地提高QPS。使用者地址在下單的時候讓使用者填寫或者選擇，然後存在交易訂單和物流訂單上，後續的流程一般不會變，如果使用者需要修改地址，直接變

事務（三）

事物的安全問題 寫 丟失更新：指一個事務去修改資料庫，另一個事務也修改資料庫，最後的那個事務，不管提交還是回滾都會造成前面一個事務的資料更新丟失。 解決辦法：悲觀鎖和樂觀鎖 悲觀鎖 指事務在一開始就認為丟失更新一定會發生，這是一件很悲觀的事情。具體步驟如下: 1)所有事務在執

01分散式基礎（三）-分散式通訊-序列化

分散式通訊-序列化 java序列化機制Serialize介面 java本身的序列化機制存在的問題 序列化和反序列化的概念 怎麼去實現一個序列化操作 擴充套件 serialVersionUID的作用 靜態

一步一步實現基於GPU的pathtracer（三）：path tracing 簡述

　　全域性光照這個名詞在計算機圖形學裡已經不算一個新名詞了，現在一提到擬真度，很多人基本上都會去想到全域性光照，這個名詞上世紀七八十年代就有了，好像是由一個叫Jim Kajiya的大神在他那篇已經被引用了不知道多少次的論文裡《The Rendering Equation》裡提出來的，現在很多全域性光照演算法基

Windows網路程式設計（三）：建立TCP連線和收發訊息

先看服務端： // ConsoleApplication3.cpp : 定義控制檯應用程式的入口點。 // #include "stdafx.h" #define _WINSOCK_DEPRECATED_NO_WARNINGS //這個宣告要在stdafx.h的後面，但要

Windows程式和訊息機制（三）：訊息與程序間通訊

自定義訊息與程序間通訊 視窗程式可以接收自定義的訊息型別，前提是通訊的程序聲明瞭這種訊息型別，宣告的方法很簡單，WM_USER加一個值就可以了，一般加的值從0x400開始，其他的值已經被系統使用了。 實現一個完整的自定義訊息需要進行以下步驟：