前言

本篇會繼續講解Sikiro.SMS.Job服務的實現,在我寫第一篇的時候,我就發現我當時設計的架構裡Sikiro.SMS.Job這個可以選擇不需要,而使用MQ代替。但是為了說明排程任務使用實現也堅持寫了下。後面會一篇針對架構、實現優化的講解。

原始碼地址:https://github.com/SkyChenSky/Sikiro.SMS

Quartz的簡介

Quartz.NET是一款功能齊全的開源作業排程框架,小至的應用程式,大到企業系統都可以適用。Quartz是作者James House用JAVA語言編寫的,而Quartz.NET是從Quartz移植過來的C#版本。

Quartz.Net的作用

  • Quartz.Net是多執行緒的,允許多個JOB同時執行。
  • Quartz.Net可以進行持久化,結合管理後臺可以進行視覺化的監控
  • Quartz.Net提供API進行遠端操控,結合管理後臺可以進行運維管理

在一般企業,可以利用Quartz.Net框架做各種的定時任務,例如,資料遷移、跑報表等等。

Cron表示式

欄位名 是否必填 值範圍 特殊字元
Seconds YES 0-59 , - * /
Minutes YES 0-59 , - * /
Hours YES 0-23 , - * /
Day of month YES 1-31 , - * ? / L W
Month YES 1-12 or JAN-DEC , - * /
Day of week YES 1-7 or SUN-SAT , - * ? / L #
Year NO empty, 1970-2099 , - * /

缺點

Quartz.Net的缺點很明顯,沒有自帶的管理後臺,而同款的Hangfir排程任務框架則會有更加良好的易用性。但是在Github上有不少人開源了Quartz.Net的管理後臺,對此作為了彌補。

其他

其他Quartz.Net的資訊可以看我之前記錄的一篇文章《Quartz.NET的使用(附原始碼)

Quartz.Net DEMO:https://github.com/SkyChenSky/QuartzDotNetDemo.git

業務流程

從MongoDB持久化的資料,查詢出狀態為待處理並且定時時間小於當前時間的資料。通過Mongo驅動提供的FindOneAndUpdate對文件進行原子性操作(更新中間狀態並查詢出剛更新的文件)。如果有資料則傳送到MQ,由Sikiro.SMS.Bus進行訂閱傳送,因為本次有資料,我認為可能還會有其他需要傳送的資料,因此立刻呼叫JOB自身方法,進行下一條需要處理的資料進行傳送。如果此次JOB的執行並沒有資料,那麼認為接下來一段時間沒有需要處理的資料,這次排程結束。

TimeSendSms示例

public class TimeSendSms : BaseJob
{
private readonly SmsService _smsService;
private readonly IBus _bus; public TimeSendSms(SmsService smsService, IBus bus)
{
_smsService = smsService;
_bus = bus;
} protected override void ExecuteBusiness()
{
_smsService.GetToBeSend(); if (_smsService.Sms != null)
_bus.Publish(_smsService.Sms.MapTo<SmsModel, SmsQueueModel>()); _smsService.ContinueDo(ExecuteBusiness);
} protected override void OnException()
{
_smsService.RollBack();
}
}

模板模式

Job的輪詢處理流程基本相似,查詢出需要執行資料-遍歷業務處理-如果有異常則特殊處理,因此針對類似流程相同,但是實現有差異的程式,我們可以使用模板模式。

 public abstract class BaseJob : IJob
{
private void OnException(Action action)
{
try
{
action();
}
catch (Exception e)
{
e.WriteToFile();
OnException();
}
} public Task Execute(IJobExecutionContext context)
{
OnException(ExecuteBusiness); return null;
} protected virtual void OnException()
{ } protected abstract void ExecuteBusiness();
}

Mongo的原子性

原子性

原子是物理概念,指的是指化學反應不可再分的基本微粒。而計算機領域的原子性強調的物件是操作(指令、事務)。我們所說的指令組是原子操作,意思要麼一起成功,要麼一起失敗。不允許2個指令裡,一個成功一個失敗的情況存在。

MongoDB 原子操作

MongoDB的原子操作就是要麼這個文件完整的儲存到Mongodb,要麼沒有儲存到Mongodb,不會出現查詢到的文件沒有儲存完整的情況。

MongoDB的文件的儲存,修改,刪除等操作都是原子性,除此之外還提供了FindOneAndDelete、FindOneAndUpdate、FindOneAndReplace等原子操作。

以FindOneAndUpdate為例,對某文件FindOneAndUpdate,可以文件B進行Update操作完成後返回出文檔B的結果,根據引數返回結果是更新前還是更新後(一般我們需要更新後)。

而這FindOneAndUpdate的操作對於我們更新到中間狀態的非常實用:

  • 避免進行Update後無法良好的查詢到剛Update的文件
  • 避免應用叢集部署時批量更新後,無法良好分配任務
  • 批量更新多個文件需要isolated標識隔離,全域性鎖在大併發情況下效能並不樂觀

雖然以上可以通過更新時標識版本號進行解決,這無疑增加實現難度。

MongoDB鎖機制

Mongodb併發操作又讀寫鎖來進行控制。

簡單來說

當進行讀操作的時候會加讀鎖,這個時候其他讀操作可以也獲得讀鎖,但是不能加寫鎖,也就是說不能進行寫操作。

當進行寫操作的時候會加寫鎖,這個時候其他操作無法加任何鎖,也就是說不能進行其他的讀操作和寫操作。

多個JOB的併發性

綜上所述,落實到我們應用場景,在部署多個排程任務服務,或者JOB多個執行緒去跑時,我們可以使用FindOneAndUpdate,每個排程任務每次只處理一個文件,Update操作的時候會進行寫鎖阻塞其他程序(程序)的寫操作。那麼就可以保證每個排程任務都可以只處理唯一一個有效的文件,避免重複處理。

下面是我的Sikiro.Nosql.Mongo的FindOneAndUpdate封裝示例,因為Update欄位的不友好,所以我封裝了一下Lambda表示式,ReturnDocument = ReturnDocument.After標識響應資料是更新前還是更新後的文件。

public T GetAndUpdate<T>(string database, string collection, Expression<Func<T, bool>> predicate, Expression<Func<T, T>> updateExpression)
{
var db = _mongoClient.GetDatabase(database);
var col = db.GetCollection<T>(collection); var updateDefinitionList = MongoExpression<T>.GetUpdateDefinition(updateExpression); var updateDefinitionBuilder = new UpdateDefinitionBuilder<T>().Combine(updateDefinitionList); return col.FindOneAndUpdate(predicate, updateDefinitionBuilder, new FindOneAndUpdateOptions<T, T>
{
ReturnDocument = ReturnDocument.After
});

SQL Server的UpdateSelect

SQL Server的操作也具有上述FindOneAndUpdate的功能,我們公司成他為UpdateSelect,下面是示例程式碼:

UPDATE TOP ( 100 )
        SYS_USER WITH ( UPDLOCK, READPAST )
SET     USER_STATUS = 1
OUTPUT  INSERTED.[USER_NAME] ,
        INSERTED.SYS_USERID ,
        INSERTED.EMAIL
FROM    SYS_USER
WHERE   CREATE_DATETIME < '2018-09-13'
        AND USER_STATUS = 2;

結尾

本篇介紹了排程任務結合MongoDB原子操作的使用,使得排程任務服務可以具有良好的伸縮性。如果有任何建議與問題可以在下方評論反饋給我。