高併發快取+資料庫雙寫不一致
高併發快取+資料庫雙寫不一致
最初快取不一致
情景一
先修改資料庫，再刪除快取，如果刪除快取失敗了，那麼會導致資料庫中是新資料，快取中是舊資料，資料出現不一致
解決方案
先刪除快取，再修改資料庫，如果刪除快取成功了，如果修改資料庫失敗了，那麼資料庫中是舊資料，快取中是空的，那麼資料不會不一致
因為讀的時候快取沒有，則讀資料庫中舊資料，然後更新到快取中
高併發出現數據不一致問題
情景二
1.資料發生了變更，先刪除了快取，然後要去修改資料庫，此時還沒修改
2.一個請求過來，去讀快取，發現快取空了，去查詢資料庫，查到了修改前的舊資料，放到了快取中
3.資料變更的程式完成了資料庫的修改
4.此時資料庫和快取中的資料不一致
解決方案
- 更新資料的時候，根據資料的唯一標識，將操作路由（標識位）之後，傳送到一個jvm內部的佇列中
- 讀取資料的時候，如果發現數據不在快取中，那麼將重新讀取資料+更新快取的操作，根據唯一標識路由（標識位）之後，也傳送同一個jvm內部的佇列中
- 一個佇列對應一個工作執行緒
- 每個工作執行緒序列拿到對應的操作，一條一條的執行
- 一個數據變更的操作，先執行，刪除快取，然後再去更新資料庫，但是還沒完成更新
- 此時如果一個讀請求過來，讀到了空的快取，那麼可以先將快取更新的請求傳送到佇列中，然後同步等待快取更新完成
- 這裡有一個優化點，一個佇列中，其實多個更新快取請求串在一起是沒意義的，因此可以做過濾，如果發現佇列中已經有一個更新快取的請求了，那麼就不用再放個更新請求操作進去了，直接等待前面的更新操作請求完成即可
- 待那個佇列對應的工作執行緒完成了上一個操作的資料庫的修改之後，才會去執行下一個操作，也就是快取更新的操作，此時會從資料庫中讀取最新的值，然後寫入快取中
- 如果請求還在等待時間範圍內，不斷輪詢發現可以取到值了，那麼就直接返回;
如果請求等待的時間超過一定時長，那麼這一次直接從資料庫中讀取當前的舊值
高併發的場景下，該解決方案要注意的問題
（1）讀請求長時阻塞
- 由於讀請求進行了非常輕度的非同步化，所以一定要注意讀超時的問題(不能超多200ms)，每個讀請求必須在超時時間範圍內返回
- 另外一點，因為一個佇列中，可能會積壓針對多個數據項的更新操作，因此需要根據自己的業務情況進行測試，可能需要部署多個服務，每個服務分攤一些資料的更新操作.如果一個記憶體佇列里居然會擠壓100個商品的庫存修改操作，每隔庫存修改操作要耗費10ms區完成，那麼最後一個商品的讀請求，可能等待10 * 100 = 1000ms = 1s後，才能得到資料。這個時候就導致讀請求的長時阻塞
（2）讀請求併發量過高
這裡還必須做好壓力測試，確保恰巧碰上上述情況的時候，還有一個風險，就是突然間大量讀請求會在幾十毫秒的延時hang在服務上，看服務能不能抗的住，需要多少機器才能抗住最大的極限情況的峰值
但是因為並不是所有的資料都在同一時間更新，快取也不會同一時間失效，所以每次可能也就是少數資料的快取失效了，然後那些資料對應的讀請求過來，併發量應該也不會特別大
按1:99的比例計算讀和寫的請求，每秒5萬的讀QPS，可能只有500次更新操作
如果一秒有500的寫QPS，那麼要測算好，可能寫操作影響的資料有500條，這500條資料在快取中失效後，可能導致多少讀請求，傳送讀請求到庫存服務來，要求更新快取
一般來說，1:1，1:2，1:3，每秒鐘有1000個讀請求，會hang在庫存服務上，每個讀請求最多hang多少時間，200ms就會返回
在同一時間最多hang住的可能也就是單機200個讀請求，同時hang住單機hang200個讀請求，還是ok的。
（3）多服務例項部署的請求路由
當服務部署了多個例項，那麼必須保證說，執行資料更新操作，以及執行快取更新操作的請求，都通過nginx伺服器路由到相同的服務例項上
（4）熱點商品的路由問題，導致請求的傾斜
萬一某個商品的讀寫請求特別高，全部打到相同的機器的相同的佇列裡面去了，可能造成某臺機器的壓力過大
就是說，因為只有在商品資料更新的時候才會清空快取，然後才會導致讀寫併發，所以更新頻率不是太高的話，這個問題的影響並不是特別大
但是的確可能某些機器的負載會高一些