詳解redis持久化
我們的Redis必須使用資料持久化嗎？如果我們的Redis伺服器只作為快取使用，Redis中儲存的所有資料都是從其他地方同步過來的備份，那麼就沒必要開啟資料持久化的選項。Redis提供了將資料定期自動持久化至硬碟的能力，包括RDB和AOF兩種方案，兩種方案分別有其長處和短板，可以配合起來同時執行，確保資料的穩定性。
v Redis 持久化
Redis 提供了多種不同級別的持久化方式：
RDB 持久化可以在指定的時間間隔內生成資料集的時間點快照（point-in-time snapshot）。
AOF 持久化記錄伺服器執行的所有寫操作命令，並在伺服器啟動時，通過重新執行這些命令來還原資料集。 AOF 檔案中的命令全部以 Redis 協議的格式來儲存，新命令會被追加到檔案的末尾。 Redis 還可以在後臺對 AOF 檔案進行重寫（rewrite），使得 AOF 檔案的體積不會超出儲存資料集狀態所需的實際大小。
Redis 還可以同時使用 AOF 持久化和 RDB 持久化。 在這種情況下， 當 Redis 重啟時， 它會優先使用 AOF 檔案來還原資料集， 因為 AOF 檔案儲存的資料集通常比 RDB 檔案所儲存的資料集更完整。
你甚至可以關閉持久化功能，讓資料只在伺服器執行時存在。
瞭解 RDB 持久化和 AOF 持久化之間的異同是非常重要的， 以下幾個小節將詳細地介紹這這兩種持久化功能， 並對它們的相同和不同之處進行說明。
圖片來源於網路，侵刪。
v RDB方式
♛ RDB的優點
- RDB 是一個非常緊湊（compact）的檔案，它儲存了 Redis 在某個時間點上的資料集。 這種檔案非常適合用於進行備份： 比如說，你可以在最近的 24 小時內，每小時備份一次 RDB 檔案，並且在每個月的每一天，也備份一個 RDB 檔案。 這樣的話，即使遇上問題，也可以隨時將資料集還原到不同的版本。
- RDB 非常適用於災難恢復（disaster recovery）：它只有一個檔案，並且內容都非常緊湊，可以（在加密後）將它傳送到別的資料中心，或者亞馬遜 S3 中。
- RDB 可以最大化 Redis 的效能：父程序在儲存 RDB 檔案時唯一要做的就是 fork 出一個子程序，然後這個子程序就會處理接下來的所有儲存工作，父程序無須執行任何磁碟 I/O 操作。
- RDB 在恢復大資料集時的速度比 AOF 的恢復速度要快。
♛ RDB的缺點
- 如果你需要儘量避免在伺服器故障時丟失資料，那麼 RDB 不適合你。 雖然 Redis 允許你設定不同的儲存點（save point）來控制儲存 RDB 檔案的頻率， 但是， 因為RDB 檔案需要儲存整個資料集的狀態， 所以它並不是一個輕鬆的操作。 因此你可能會至少 5 分鐘才儲存一次 RDB 檔案。 在這種情況下， 一旦發生故障停機， 你就可能會丟失好幾分鐘的資料。
- 每次儲存 RDB 的時候，Redis 都要
fork()出一個子程序，並由子程序來進行實際的持久化工作。 在資料集比較龐大時，fork()可能會非常耗時，造成伺服器在某某毫秒內停止處理客戶端； 如果資料集非常巨大，並且 CPU 時間非常緊張的話，那麼這種停止時間甚至可能會長達整整一秒。 雖然 AOF 重寫也需要進行fork()，但無論 AOF 重寫的執行間隔有多長，資料的耐久性都不會有任何損失。
♛ RDB工作機制
在預設情況下， Redis 將資料庫快照儲存在名字為 dump.rdb 的二進位制檔案中。
你可以對 Redis 進行設定， 讓它在“ N 秒內資料集至少有 M 個改動”這一條件被滿足時， 自動儲存一次資料集。
你也可以通過呼叫 SAVE 或者 BGSAVE ， 手動讓 Redis 進行資料集儲存操作。
圖片來源於網路，侵刪。
比如說， 以下設定會讓 Redis 在滿足“ 60 秒內有至少有 1000 個鍵被改動”這一條件時， 自動儲存一次資料集：
save 60 1000
這種持久化方式被稱為快照（snapshot）。
♛ RDB運作方式
當 Redis 需要儲存 dump.rdb 檔案時， 伺服器執行以下操作：
Redis 呼叫 fork() ，同時擁有父程序和子程序。
子程序將資料集寫入到一個臨時 RDB 檔案中。
當子程序完成對新 RDB 檔案的寫入時，Redis 用新 RDB 檔案替換原來的 RDB 檔案，並刪除舊的 RDB 檔案。
這種工作方式使得 Redis 可以從寫時複製（copy-on-write）機制中獲益。
圖片來源於網路，侵刪。
v AOF方式
♛ AOF的優點
- 使用 AOF 持久化會讓 Redis 變得非常耐久（much more durable）：你可以設定不同的
fsync策略，比如無fsync，每秒鐘一次fsync，或者每次執行寫入命令時fsync。 AOF 的預設策略為每秒鐘fsync一次，在這種配置下，Redis 仍然可以保持良好的效能，並且就算髮生故障停機，也最多隻會丟失一秒鐘的資料（fsync會在後臺執行緒執行，所以主執行緒可以繼續努力地處理命令請求）。 - AOF 檔案是一個只進行追加操作的日誌檔案（append only log）， 因此對 AOF 檔案的寫入不需要進行
seek， 即使日誌因為某些原因而包含了未寫入完整的命令（比如寫入時磁碟已滿，寫入中途停機，等等），redis-check-aof工具也可以輕易地修復這種問題。 - Redis 可以在 AOF 檔案體積變得過大時，自動地在後臺對 AOF 進行重寫： 重寫後的新 AOF 檔案包含了恢復當前資料集所需的最小命令集合。 整個重寫操作是絕對安全的，因為 Redis 在建立新 AOF 檔案的過程中，會繼續將命令追加到現有的 AOF 檔案裡面，即使重寫過程中發生停機，現有的 AOF 檔案也不會丟失。 而一旦新 AOF 檔案建立完畢，Redis 就會從舊 AOF 檔案切換到新 AOF 檔案，並開始對新 AOF 檔案進行追加操作。
- AOF 檔案有序地儲存了對資料庫執行的所有寫入操作， 這些寫入操作以 Redis 協議的格式儲存， 因此 AOF 檔案的內容非常容易被人讀懂， 對檔案進行分析（parse）也很輕鬆。 匯出（export） AOF 檔案也非常簡單： 舉個例子， 如果你不小心執行了
FLUSHALL命令， 但只要 AOF 檔案未被重寫， 那麼只要停止伺服器， 移除 AOF 檔案末尾的FLUSHALL命令， 並重啟 Redis ， 就可以將資料集恢復到FLUSHALL執行之前的狀態。
♛ AOF的缺點
- 對於相同的資料集來說，AOF 檔案的體積通常要大於 RDB 檔案的體積。
- 根據所使用的
fsync策略，AOF 的速度可能會慢於 RDB 。 在一般情況下， 每秒fsync的效能依然非常高， 而關閉fsync可以讓 AOF 的速度和 RDB 一樣快， 即使在高負荷之下也是如此。 不過在處理巨大的寫入載入時，RDB 可以提供更有保證的最大延遲時間（latency）。 - AOF 在過去曾經發生過這樣的 bug ： 因為個別命令的原因，導致 AOF 檔案在重新載入時，無法將資料集恢復成儲存時的原樣。 （舉個例子，阻塞命令 BRPOPLPUSH source destination timeout 就曾經引起過這樣的 bug 。） 測試套件裡為這種情況添加了測試： 它們會自動生成隨機的、複雜的資料集， 並通過重新載入這些資料來確保一切正常。 雖然這種 bug 在 AOF 檔案中並不常見， 但是對比來說， RDB 幾乎是不可能出現這種 bug 的。
♛ AOF工作機制
只進行追加操作的檔案（append-only file，AOF）
快照功能並不是非常耐久（durable）： 如果 Redis 因為某些原因而造成故障停機， 那麼伺服器將丟失最近寫入、且仍未儲存到快照中的那些資料。
儘管對於某些程式來說， 資料的耐久性並不是最重要的考慮因素， 但是對於那些追求完全耐久能力（full durability）的程式來說， 快照功能就不太適用了。
從 1.1 版本開始， Redis 增加了一種完全耐久的持久化方式： AOF 持久化。
你可以通過修改配置檔案來開啟 AOF 功能：
appendonly yes
從現在開始， 每當 Redis 執行一個改變資料集的命令時（比如 SET key value [EX seconds] [PX milliseconds] [NX|XX] ）， 這個命令就會被追加到 AOF 檔案的末尾。
這樣的話， 當 Redis 重新啟時， 程式就可以通過重新執行 AOF 檔案中的命令來達到重建資料集的目的。
AOF 重寫
因為 AOF 的運作方式是不斷地將命令追加到檔案的末尾， 所以隨著寫入命令的不斷增加， AOF 檔案的體積也會變得越來越大。
舉個例子， 如果你對一個計數器呼叫了 100 次 INCR key ， 那麼僅僅是為了儲存這個計數器的當前值， AOF 檔案就需要使用 100 條記錄（entry）。
然而在實際上， 只使用一條 SET key value [EX seconds] [PX milliseconds] [NX|XX] 命令已經足以儲存計數器的當前值了， 其餘 99 條記錄實際上都是多餘的。
為了處理這種情況， Redis 支援一種有趣的特性： 可以在不打斷服務客戶端的情況下， 對 AOF 檔案進行重建（rebuild）。
執行 BGREWRITEAOF 命令， Redis 將生成一個新的 AOF 檔案， 這個檔案包含重建當前資料集所需的最少命令。
Redis 2.2 需要自己手動執行 BGREWRITEAOF 命令； Redis 2.4 則可以自動觸發 AOF 重寫， 具體資訊請檢視 2.4 的示例配置檔案。
AOF 的耐久性如何？
你可以配置 Redis 多久才將資料 fsync 到磁碟一次。
有三個選項：
每次有新命令追加到 AOF 檔案時就執行一次 fsync ：非常慢，也非常安全。
每秒 fsync 一次：足夠快（和使用 RDB 持久化差不多），並且在故障時只會丟失 1 秒鐘的資料。
從不 fsync ：將資料交給作業系統來處理。更快，也更不安全的選擇。
推薦（並且也是預設）的措施為每秒 fsync 一次， 這種 fsync 策略可以兼顧速度和安全性。
總是 fsync 的策略在實際使用中非常慢， 即使在 Redis 2.0 對相關的程式進行了改進之後仍是如此 —— 頻繁呼叫 fsync 註定了這種策略不可能快得起來。
如果 AOF 檔案出錯了，怎麼辦？
伺服器可能在程式正在對 AOF 檔案進行寫入時停機， 如果停機造成了 AOF 檔案出錯（corrupt）， 那麼 Redis 在重啟時會拒絕載入這個 AOF 檔案， 從而確保資料的一致性不會被破壞。
當發生這種情況時， 可以用以下方法來修復出錯的 AOF 檔案：
- 為現有的 AOF 檔案建立一個備份。
-
使用 Redis 附帶的
redis-check-aof程式，對原來的 AOF 檔案進行修復。$ redis-check-aof --fix
- （可選）使用
diff -u對比修復後的 AOF 檔案和原始 AOF 檔案的備份，檢視兩個檔案之間的不同之處。 - 重啟 Redis 伺服器，等待伺服器載入修復後的 AOF 檔案，並進行資料恢復。
♛ AOF運作方式
AOF 重寫和 RDB 建立快照一樣，都巧妙地利用了寫時複製機制。
以下是 AOF 重寫的執行步驟：
fork()
圖片來源於網路，侵刪。
v RDB和AOF合講
♛ RDB VS AOF，選哪個好？
一般來說， 如果想達到足以媲美 PostgreSQL 的資料安全性， 你應該同時使用兩種持久化功能。
如果你非常關心你的資料， 但仍然可以承受數分鐘以內的資料丟失， 那麼你可以只使用 RDB 持久化。
有很多使用者都只使用 AOF 持久化， 但我們並不推薦這種方式： 因為定時生成 RDB 快照（snapshot）非常便於進行資料庫備份， 並且 RDB 恢復資料集的速度也要比 AOF 恢復的速度要快， 除此之外， 使用 RDB 還可以避免之前提到的 AOF 程式的 bug 。
怎麼從 RDB 持久化切換到 AOF 持久化
在 Redis 2.2 或以上版本，可以在不重啟的情況下，從 RDB 切換到 AOF ：
- 為最新的
dump.rdb檔案建立一個備份。 - 將備份放到一個安全的地方。
-
執行以下兩條命令：
redis-cli> CONFIG SET appendonly yes redis-cli> CONFIG SET save ""
- 確保命令執行之後，資料庫的鍵的數量沒有改變。
- 確保寫命令會被正確地追加到 AOF 檔案的末尾。
步驟 3 執行的第一條命令開啟了 AOF 功能： Redis 會阻塞直到初始 AOF 檔案建立完成為止， 之後 Redis 會繼續處理命令請求， 並開始將寫入命令追加到 AOF 檔案末尾。
步驟 3 執行的第二條命令用於關閉 RDB 功能。 這一步是可選的， 如果你願意的話， 也可以同時使用 RDB 和 AOF 這兩種持久化功能。
別忘了在 redis.conf 中開啟 AOF 功能！ 否則的話， 伺服器重啟之後， 之前通過 CONFIG SET 設定的配置就會被遺忘， 程式會按原來的配置來啟動伺服器。
♛ RDB 和 AOF 之間的相互作用
在版本號大於等於 2.4 的 Redis 中， BGSAVE 執行的過程中， 不可以執行 BGREWRITEAOF 。 反過來說， 在 BGREWRITEAOF 執行的過程中， 也不可以執行 BGSAVE 。
這可以防止兩個 Redis 後臺程序同時對磁碟進行大量的 I/O 操作。
如果 BGSAVE 正在執行， 並且使用者顯示地呼叫 BGREWRITEAOF 命令， 那麼伺服器將向用戶回覆一個 OK 狀態， 並告知使用者， BGREWRITEAOF 已經被預定執行： 一旦 BGSAVE 執行完畢， BGREWRITEAOF 就會正式開始。
當 Redis 啟動時， 如果 RDB 持久化和 AOF 持久化都被打開了， 那麼程式會優先使用 AOF 檔案來恢復資料集， 因為 AOF 檔案所儲存的資料通常是最完整的。
v 備份資料
♛ 備份Redis資料
在閱讀這個小節前， 先將下面這句話銘記於心： 一定要備份你的資料庫！
磁碟故障， 節點失效， 諸如此類的問題都可能讓你的資料消失不見， 不進行備份是非常危險的。
Redis 對於資料備份是非常友好的， 因為你可以在伺服器執行的時候對 RDB 檔案進行復制： RDB 檔案一旦被建立， 就不會進行任何修改。 當伺服器要建立一個新的 RDB 檔案時， 它先將檔案的內容儲存在一個臨時檔案裡面， 當臨時檔案寫入完畢時， 程式才使用 rename(2) 原子地用臨時檔案替換原來的 RDB 檔案。
這也就是說， 無論何時， 複製 RDB 檔案都是絕對安全的。
以下是我們的建議：
- 建立一個定期任務（cron job）， 每小時將一個 RDB 檔案備份到一個資料夾， 並且每天將一個 RDB 檔案備份到另一個資料夾。
- 確保快照的備份都帶有相應的日期和時間資訊， 每次執行定期任務指令碼時， 使用 find 命令來刪除過期的快照： 比如說， 你可以保留最近 48 小時內的每小時快照， 還可以保留最近一兩個月的每日快照。
- 至少每天一次， 將 RDB 備份到你的資料中心之外， 或者至少是備份到你執行 Redis 伺服器的物理機器之外。
♛ 容災備份
Redis 的容災備份基本上就是對資料進行備份， 並將這些備份傳送到多個不同的外部資料中心。
容災備份可以在 Redis 執行併產生快照的主資料中心發生嚴重的問題時， 仍然讓資料處於安全狀態。
- Amazon S3 ，以及其他類似 S3 的服務，是一個構建災難備份系統的好地方。 最簡單的方法就是將你的每小時或者每日 RDB 備份加密並傳送到 S3 。 對資料的加密可以通過 gpg -c 命令來完成（對稱加密模式）。 記得把你的密碼放到幾個不同的、安全的地方去（比如你可以把密碼複製給你組織裡最重要的人物）。 同時使用多個儲存服務來儲存資料檔案，可以提升資料的安全性。
- 傳送快照可以使用 SCP 來完成（SSH 的元件）。 以下是簡單並且安全的傳送方法： 買一個離你的資料中心非常遠的 VPS ， 裝上 SSH ， 建立一個無口令的 SSH 客戶端 key ， 並將這個 key 新增到 VPS 的 authorized_keys 檔案中， 這樣就可以向這個 VPS 傳送快照備份檔案了。 為了達到最好的資料安全性，至少要從兩個不同的提供商那裡各購買一個 VPS 來進行資料容災備份。
需要注意的是， 這類容災系統如果沒有小心地進行處理的話， 是很容易失效的。
最低限度下， 你應該在檔案傳送完畢之後， 檢查所傳送備份檔案的體積和原始快照檔案的體積是否相同。 如果你使用的是 VPS ， 那麼還可以通過比對檔案的 SHA1 校驗和來確認檔案是否傳送完整。
另外， 你還需要一個獨立的警報系統， 讓它在負責傳送備份檔案的傳送器（transfer）失靈時通知你。
其他參考資料：
作者： 請叫我頭頭哥
出處： http://www.cnblogs.com/toutou/
關於作者：專注於基礎平臺的專案開發。如有問題或建議，請多多賜教！
版權宣告：本文版權歸作者和部落格園共有，歡迎轉載，但未經作者同意必須保留此段宣告，且在文章頁面明顯位置給出原文連結。
特此宣告：所有評論和私信都會在第一時間回覆。也歡迎園子的大大們指正錯誤，共同進步。或者直接私信我
聲援博主：如果您覺得文章對您有幫助，可以點選文章右下角一下。您的鼓勵是作者堅持原創和持續寫作的最大動力！