1. 程式人生 > >Redis作者:深度剖析Redis持久化

Redis作者:深度剖析Redis持久化

Redis是一種面向“key-value”型別資料的分散式NoSQL資料庫系統,具有高效能、持久儲存、適應高併發應用場景等優勢。它雖然起步較晚,但發展卻十分迅速。

近日,Redis的作者在部落格中寫到,他看到的所有針對Redis的討論中,對Redis持久化的誤解是最大的,於是他寫了一篇長文來對Redis的持久化進行了系統性的論述。文章主要包含三個方面:Redis持久化是如何工作的、這一效能是否可靠以及和其它型別的資料庫比較。以下為文章內容:
一、Redis持久化是如何工作的?

什麼是持久化?簡單來講就是將資料放到斷電後資料不會丟失的裝置中,也就是我們通常理解的硬碟上。首先我們來看一下資料庫在進行寫操作時到底做了哪些事,主要有下面五個過程:

    客戶端向服務端傳送寫操作(資料在客戶端的記憶體中)。
    資料庫服務端接收到寫請求的資料(資料在服務端的記憶體中)。
    服務端呼叫write這個系統呼叫,將資料往磁碟上寫(資料在系統記憶體的緩衝區中)。
    作業系統將緩衝區中的資料轉移到磁碟控制器上(資料在磁碟快取中)。
    磁碟控制器將資料寫到磁碟的物理介質中(資料真正落到磁碟上)。

故障分析

寫操作大致有上面5個流程,下面我們結合上面的5個流程看一下各種級別的故障:

    當資料庫系統故障時,這時候系統核心還是完好的。那麼此時只要我們執行完了第3步,那麼資料就是安全的,因為後續作業系統會來完成後面幾步,保證資料最終會落到磁碟上。
    當系統斷電時,這時候上面5項中提到的所有快取都會失效,並且資料庫和作業系統都會停止工作。所以只有當資料在完成第5步後,才能保證在斷電後資料不丟失。

通過上面5步的瞭解,可能我們會希望搞清下面一些問題:

    資料庫多長時間呼叫一次write,將資料寫到核心緩衝區?
    核心多長時間會將系統緩衝區中的資料寫到磁碟控制器?
    磁碟控制器又在什麼時候把快取中的資料寫到物理介質上?

對於第一個問題,通常資料庫層面會進行全面控制。而對第二個問題,作業系統有其預設的策略,但是我們也可以通過POSIX API提供的fsync系列命令強制作業系統將資料從核心區寫到磁碟控制器上。對於第三個問題,好像資料庫已經無法觸及,但實際上,大多數情況下磁碟快取是被設定關閉的,或者是隻開啟為讀快取,也就是說寫操作不會進行快取,直接寫到磁碟。建議的做法是僅僅當你的磁碟裝置有備用電池時才開啟寫快取。

資料損壞

所謂資料損壞,就是資料無法恢復,上面我們講的都是如何保證資料是確實寫到磁碟上去,但是寫到磁碟上可能並不意味著資料不會損壞。比如我們可能一次寫請求會進行兩次不同的寫操作,當意外發生時,可能會導致一次寫操作安全完成,但是另一次還沒有進行。如果資料庫的資料檔案結構組織不合理,可能就會導致資料完全不能恢復的狀況出現。

這裡通常也有三種策略來組織資料,以防止資料檔案損壞到無法恢復的情況:

    第一種是最粗糙的處理,就是不通過資料的組織形式保證資料的可恢復性。而是通過配置資料同步備份的方式,在資料檔案損壞後通過資料備份來進行恢復。實際上MongoDB在不開啟操作日誌,通過配置Replica Sets時就是這種情況。
    另一種是在上面基礎上新增一個操作日誌,每次操作時記一下操作的行為,這樣我們可以通過操作日誌來進行資料恢復。因為操作日誌是順序追加的方式寫的,所以不會出現操作日誌也無法恢復的情況。這也類似於MongoDB開啟了操作日誌的情況。
    更保險的做法是資料庫不進行舊資料的修改,只是以追加方式去完成寫操作,這樣資料本身就是一份日誌,這樣就永遠不會出現資料無法恢復的情況了。實際上CouchDB就是此做法的優秀範例。

1、Redis的第一個持久化策略:RDB快照

Redis支援將當前資料的快照存成一個數據檔案的持久化機制。而一個持續寫入的資料庫如何生成快照呢。Redis藉助了fork命令的copy on write機制。在生成快照時,將當前程序fork出一個子程序,然後在子程序中迴圈所有的資料,將資料寫成為RDB檔案。
我們可以通過Redis的save指令來配置RDB快照生成的時機,比如你可以配置當10分鐘以內有100次寫入就生成快照,也可以配置當1小時內有1000次寫入就生成快照,也可以多個規則一起實施。這些規則的定義就在Redis的配置檔案中,你也可以通過Redis的CONFIG SET命令在Redis執行時設定規則,不需要重啟Redis。
Redis的RDB檔案不會壞掉,因為其寫操作是在一個新程序中進行的,當生成一個新的RDB檔案時,Redis生成的子程序會先將資料寫到一個臨時檔案中,然後通過原子性rename系統呼叫將臨時檔案重新命名為RDB檔案,這樣在任何時候出現故障,Redis的RDB檔案都總是可用的。
同時,Redis的RDB檔案也是Redis主從同步內部實現中的一環。
但是,我們可以很明顯的看到,RDB有它的不足,就是一旦資料庫出現問題,那麼我們的RDB檔案中儲存的資料並不是全新的,從上次RDB檔案生成到 Redis停機這段時間的資料全部丟掉了。在某些業務下,這是可以忍受的,我們也推薦這些業務使用RDB的方式進行持久化,因為開啟RDB的代價並不高。 但是對於另外一些對資料安全性要求極高的應用,無法容忍資料丟失的應用,RDB就無能為力了,所以Redis引入了另一個重要的持久化機制:AOF日誌。
2、Redis的第二個持久化策略:AOF日誌
AOF日誌的全稱是Append Only File,從名字上我們就能看出來,它是一個追加寫入的日誌檔案。與一般資料庫不同的是,AOF檔案是可識別的純文字,它的內容就是一個個的Redis標準命令。比如我們進行如下實驗,使用Redis2.6 版本,在啟動命令引數中設定開啟AOF功能:
程式碼


    ./redis-server --appendonly yes  




然後我們執行如下的命令:


程式碼


    redis 127.0.0.1:6379> set key1 Hello  
    OK  
    redis 127.0.0.1:6379> append key1 " World!"  
    (integer) 12  
    redis 127.0.0.1:6379> del key1  
    (integer) 1  
    redis 127.0.0.1:6379> del non_existing_key  
    (integer) 0  




這時我們檢視AOF日誌檔案,就會得到如下內容:


程式碼


    $ cat appendonly.aof  
    *2  
    $6  
    SELECT  
    $1  
    0  
    *3  
    $3  
    set  
    $4  
    key1  
    $5  
    Hello  
    *3  
    $6  
    append  
    $4  
    key1  
    $7  
     World!  
    *2  
    $3  
    del  
    $4  
    key1  




可以看到,寫操作都生成了一條相應的命令作為日誌。其中值得注意的是最後一個del命令,它並沒有被記錄在AOF日誌中,這是因為Redis判斷出 這個命令不會對當前資料集做出修改。所以不需要記錄這個無用的寫命令。另外AOF日誌也不是完全按客戶端的請求來生成日誌的,比如命令 INCRBYFLOAT 在記AOF日誌時就被記成一條SET記錄,因為浮點數操作可能在不同的系統上會不同,所以為了避免同一份日誌在不同的系統上生成不同的資料集,所以這裡只將操作後的結果通過SET來記錄。


AOF重寫


你可以會想,每一條寫命令都生成一條日誌,那麼AOF檔案是不是會很大?答案是肯定的,AOF檔案會越來越大,所以Redis又提供了一個功能,叫做AOF rewrite。其功能就是重新生成一份AOF檔案,新的AOF檔案中一條記錄的操作只會有一次,而不像一份老檔案那樣,可能記錄了對同一個值的多次操作。其生成過程和RDB類似,也是fork一個程序,直接遍歷資料,寫入新的AOF臨時檔案。在寫入新檔案的過程中,所有的寫操作日誌還是會寫到原來老的 AOF檔案中,同時還會記錄在記憶體緩衝區中。當重完操作完成後,會將所有緩衝區中的日誌一次性寫入到臨時檔案中。然後呼叫原子性的rename命令用新的 AOF檔案取代老的AOF檔案。


二、Redis持久化效能是否可靠?


從上面的流程我們能夠看到,RDB是順序IO操作,效能很高。而同時在通過RDB檔案進行資料庫恢復的時候,也是順序的讀取資料載入到記憶體中。所以也不會造成磁碟的隨機讀取錯誤。


而AOF是一個寫檔案操作,其目的是將操作日誌寫到磁碟上,所以它也同樣會遇到我們上面說的寫操作的5個流程。那麼寫AOF的操作安全性又有多高呢?實際上這是可以設定的,在Redis中對AOF呼叫write寫入後,何時再呼叫fsync將其寫到磁碟上,通過appendfsync選項來控制,下面appendfsync的三個設定項,安全強度逐漸變強。


1、appendfsync no


當設定appendfsync為no的時候,Redis不會主動呼叫fsync去將AOF日誌內容同步到磁碟,所以這一切就完全依賴於作業系統的除錯了。對大多數Linux作業系統,是每30秒進行一次fsync,將緩衝區中的資料寫到磁碟上。


2、appendfsync everysec


當設定appendfsync為everysec的時候,Redis會預設每隔一秒進行一次fsync呼叫,將緩衝區中的資料寫到磁碟。但是當這一 次的fsync呼叫時長超過1秒時。Redis會採取延遲fsync的策略,再等一秒鐘。也就是在兩秒後再進行fsync,這一次的fsync就不管會執行多長時間都會進行。這時候由於在fsync時檔案描述符會被阻塞,所以當前的寫操作就會阻塞。


所以,結論就是:在絕大多數情況下,Redis會每隔一秒進行一次fsync。在最壞的情況下,兩秒鐘會進行一次fsync操作。


這一操作在大多數資料庫系統中被稱為group commit,就是組合多次寫操作的資料,一次性將日誌寫到磁碟。


3、appednfsync always


當設定appendfsync為always時,每一次寫操作都會呼叫一次fsync,這時資料是最安全的,當然,由於每次都會執行fsync,所以其效能也會受到影響。


對於pipelining有什麼不同?


對於pipelining的操作,其具體過程是客戶端一次性發送N個命令,然後等待這N個命令的返回結果被一起返回。通過採用pipilining 就意味著放棄了對每一個命令的返回值確認。由於在這種情況下,N個命令是在同一個執行過程中執行的。所以當設定appendfsync為everysec 時,可能會有一些偏差,因為這N個命令可能執行時間超過1秒甚至2秒。但是可以保證的是,最長時間不會超過這N個命令的執行時間和。


三、和其它資料庫的比較


上面作業系統層面的資料安全我們已經講了很多,其實,不同的資料庫在實現上都大同小異。總之,最後的結論就是,在Redis開啟AOF的情況下,其單機資料安全性並不比這些成熟的SQL資料庫弱。


在資料匯入方面的比較


這些持久化的資料有什麼用,當然是用於重啟後的資料恢復。Redis是一個記憶體資料庫,無論是RDB還是AOF,都只是其保證資料恢復的措施。所以 Redis在利用RDB和AOF進行恢復的時候,都會讀取RDB或AOF檔案,重新載入到記憶體中。相對於MySQL等資料庫的啟動時間來說,會長很多,因為MySQL本來是不需要將資料載入到記憶體中的。


但是相對來說,MySQL啟動後提供服務時,其被訪問的熱資料也會慢慢載入到記憶體中,通常我們稱之為預熱,而在預熱完成前,其效能都不會太高。而Redis的好處是一次性將資料載入到記憶體中,一次性預熱。這樣只要Redis啟動完成,那麼其提供服務的速度都是非常快的。


而在利用RDB和利用AOF啟動上,其啟動時間有一些差別。RDB的啟動時間會更短,原因有兩個,一是RDB檔案中每一條資料只有一條記錄,不會像 AOF日誌那樣可能有一條資料的多次操作記錄。所以每條資料只需要寫一次就行了。另一個原因是RDB檔案的儲存格式和Redis資料在記憶體中的編碼格式是一致的,不需要再進行資料編碼工作。在CPU消耗上要遠小於AOF日誌的載入。

相關推薦

Redis作者深度剖析Redis持久化

Redis是一種面向“key-value”型別資料的分散式NoSQL資料庫系統,具有高效能、持久儲存、適應高併發應用場景等優勢。它雖然起步較晚,但發展卻十分迅速。 近日,Redis的作者在部落格中寫到,他看到的所有針對Redis的討論中,對Redis持久化的誤解是最大的

(轉)深度剖析Redis持久化

Redis是一種面向“key-value”型別資料的分散式NoSQL資料庫系統,具有高效能、持久儲存、適應高併發應用場景等優勢。它雖然起步較晚,但發展卻十分迅速。 近日,Redis的作者在部落格中寫到,他看到的所有針對Redis的討論中,對Redis持久化的誤解是最大的,於是他寫了一篇長文來對Redis的持

redis分散式鎖深度剖析

redis分散式鎖的實現主要是基於redis的setnx 命令(setnx命令解釋見:http://doc.redisfans.c

CDN高級技術專家周哲深度剖析短視頻分發過程中的用戶體驗優化技術點

獲取 對數 社群 其他 大數據分析 解碼 local 趨勢 DC 深圳雲棲大會已經圓滿落幕,在3月29日飛天技術匯-彈性計算、網絡和CDN專場中,阿裏雲CDN高級技術專家周哲為我們帶來了《海量短視頻極速分發》的主題分享,帶領我們從視頻內容采集、上傳、存儲和分發的角度介紹整體

Redis錯誤(error) MISCONF Redis is configured to save RDB snapshots, but it is currently not able...

今天執行redis命令:move key22 2 時,報如下錯誤: (error) MISCONF Redis is configured to save RDB snapshots, but it is currently not able to persist on disk. Comman

Redis(二)c#連線Redis

1、nuget StackExchange.Redis 2、建立RedisHelper類: public class RedisHelper { /// <summary> /// 連線字串 /// </summary>

官宣深度剖析免費OA系統是如何盈利

官宣:深度剖析免費OA系統是如何盈利 為了更好地管理企業內部員工的日常規範,越來越多的企業都會選擇免費OA辦公系統。現在大部分的免費OA辦公系統都是B/S架構的,所以安裝起來都非常簡單,使用起來也比較方便。 接下來就跟大家介紹一下一款免費OA辦公系統,和該免費OA系統是如何盈利的? 點晴OA是國內真

CDN高階技術專家周哲深度剖析短視訊分發過程中的使用者體驗優化技術點

深圳雲棲大會已經圓滿落幕,在3月29日飛天技術匯-彈性計算、網路和CDN專場中,阿里雲CDN高階技術專家周哲為我們帶來了《海量短視訊極速分發》的主題分享,帶領我們從視訊內容採集、上傳、儲存和分發的角度介紹整體方案,並且重點講解短視訊加速的注意事項和使用者體驗優化要點。

redis-migration獨創的redis線上資料遷移工具

一、常見redis資料遷移方式 業內,常見的redis資料遷移方式有以下三種:aof(日誌檔案)、rdb(快照檔案)、replication(主從複製)。 其中,aof和rdb兩種方式適用於跨網路(網路隔離)的redis例項之間的資料遷移,通過:在源例項上執行指令(bgr

Redis 使用指南深度解析 info 命令

命令 stat 獲取數據 tput ado 由於 onf client 一段時間 Redis 是一個使用 ANSI C 編寫的開源、基於內存、可選持久性的鍵值對存儲數據庫,被廣泛應用於大型電商網站、視頻網站和遊戲應用等場景,能夠有效減少數據庫磁盤 IO, 提高數據查詢效率

redis(三)redis事務和持久化

1. redis事務 1.1. redis資料庫相關特性 redis資料庫:redis總共有16個數據庫,編號分別為0-15,可以選擇資料庫:select 0,第一個資料庫。 移動key:move keyName 2,將keyName移動到第三個資料庫。 檢視型別:t

高可用Redis(七)Redis持久化

1.什麼是持久化 持久化就是將資料從掉電易失的記憶體同步到能夠永久儲存的裝置上的過程 2.Redis為什麼需要持久化 redis將資料儲存在記憶體中,一旦Redis伺服器被關閉,或者執行Redis服務的主機本身被關閉的話,儲存在記憶體裡面的資料就會丟失 如果僅僅將redis用作快取的話,那麼這種資料丟失帶來的

Spring Data RedisRedisTemplate實現事物問題剖析和解決

三、解決方案  只能自己實現RedisCallBack底層,採用RedisTemplate的SesionCallback來完成在同一個Connection中,完成多個操作的方法: SessionCallback<Object> sessionCallback=new SessionCa

Redis開發與運維 (數據庫技術叢書) PDF 下載,深度剖析Hadoop HDFS PDF 下載

RoCE 微信 大數 ask 關註 fff str 添加 ges 1、Redis開發與運維 (數據庫技術叢書) PDF 下載 2、深度剖析Hadoop HDFS (大數據技術叢書) PDF 下載 關註微信公眾號:職業開發者之路,百度雲免費 下載 PDF 電子書籍,或直接

Redis基礎(三)Redis持久化RDB與AOF

什麼是Redis持久化? --- Redis是鍵值對的記憶體資料庫,它將資料儲存在記憶體裡。客戶端傳送命令到伺服器,再由伺服器到記憶體裡查詢資料。 ![image](https://yxl-article.oss-cn-shenzhen.aliyuncs.com/images/redis-basic/03

Redis基礎篇(三)持久化AOF日誌

Redis是記憶體資料庫,但是一旦伺服器宕機,記憶體中的資料將會全部丟失。 最簡單的恢復方式是從後端資料庫恢復,但這種方式有兩個問題: 頻繁訪問資料庫,會給資料庫帶來巨大的壓力; 從資料庫中讀取相比從Redis中讀取要慢很多,會導致應用響應變慢 因此,Redis要實現持久化,避免從後端資料庫中進行恢復。

深度剖析智能手機如何誘變我們大腦“思維方式”

科學家發現 智能手機 手機客戶端 手機應用 觸屏手機 這是一個科技改變大腦的時代。互聯網的大量使用會對我們的大腦進行重塑。我們的思維方式、閱讀習慣以及記憶能力都在逐漸被改變。智能手機和PC終端正在慢慢地幹擾和影響著我們的註意力,日益強大的智能機正在悄然地改變著我們的生活,曾經的生活必需品已

springBoot(16)集成redis

springboot 集成redis 一、簡介redis是一種可以持久存儲的緩存系統,是一個高性能的key-value數據庫。二、使用2.1、添加依賴<dependency> <groupId>org.springframework.boot</groupId>

Redis源代碼剖析】 - Redis內置數據結構之壓縮字典zipmap

ordering struct 包裝 字符串長度 哈希 append 解決 註意 指針 原創作品,轉載請標明:http://blog.csdn.net/Xiejingfa/article/details/51111230 今天為大家帶來Redis中zi

Redis錯誤jedis.exceptions.JedisDataException: ERR Client sent AUTH, but no password is set

detail protocol 指定 inactive roo max binary load nio 原文鏈接:http://blog.csdn.net/rchm8519/article/details/48347797 redis.clients.util.Pool.