rsync數據同步
阿新 • • 發佈：2018-06-14
nor ans exclude stat rbo nop pro 目錄權限 簡單 一、rsync介紹
sync是一款開源的、快速的、多功能的、可實現全量及增量的本地或遠程同步數據備份的工具。
rsync是可以實現增量備份的工具。配合任務計劃，rsync能實現定時或間隔同步，配合inotify或sersync，可以實現觸發式的實時同步。
rsync可以實現scp的遠程拷貝(rsync不支持遠程到遠程的拷貝，但scp支持)、cp的本地拷貝、rm刪除和"ls -l"顯示文件列表等功能。但需要註意的是，rsync的最終目的或者說其原始目的是實現兩端主機的文件同步，因此實現的scp/cp/rm等功能僅僅只是同步的輔助手段，且rsync實現這些功能的方式和這些命令是不一樣的。事實上，rsync有一套自己的算法，其算法原理以及rsync對算法實現的機制可能比想象中要復雜一些。平時使用rsync實現簡單的備份、同步等功能足以，沒有多大必要去深究這些原理性的內容。但是想要看懂rsync命令的man文檔、使用"-vvvv"分析rsync執行過程，以及實現rsync更強大更完整的功能，沒有這些理論知識的支持是絕對不可能實現的。本篇文章將簡單介紹rsync的使用方法和它常用的功能。
rsync命令格式
SYNOPSIS
Local: rsync [OPTION...] SRC... [DEST]
Access via remote shell:
Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
Access via rsync daemon:
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST
rsync參數的具體解釋如下：
-v, --verbose 詳細模式輸出
-q, --quiet 精簡輸出模式
-c, --checksum 打開校驗開關，強制對文件傳輸進行校驗
-a, --archive 歸檔模式，表示以遞歸方式傳輸文件，並保持所有文件屬性，等於-rlptgoD
-r, --recursive 對子目錄以遞歸模式處理
-R, --relative 使用相對路徑信息
--backup-dir 將備份文件(如~filename)存放在在目錄下。
-suffix=SUFFIX 定義備份文件前綴
-u, --update 僅僅進行更新，也就是跳過所有已經存在於DST，並且文件時間晚於要備份的文件。(不覆蓋更新的文件)
-l, --links 保留軟鏈結
-L, --copy-links 想對待常規文件一樣處理軟鏈結
--copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹以外的鏈結
--safe-links 忽略指向SRC路徑目錄樹以外的鏈結
-H, --hard-links 保留硬鏈結
-p, --perms 保持文件權限
-o, --owner 保持文件屬主信息
-g, --group 保持文件屬組信息
-D, --devices 保持設備文件信息
-t, --times 保持文件時間信息
-S, --sparse 對稀疏文件進行特殊處理以節省DST的空間
-n, --dry-run現實哪些文件將被傳輸
-W, --whole-file 拷貝文件，不進行增量檢測
-x, --one-file-system 不要跨越文件系統邊界
-B, --block-size=SIZE 檢驗算法使用的塊尺寸，默認是700字節
-e, --rsh=COMMAND 指定使用rsh、ssh方式進行數據同步
--rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息
-C, --cvs-exclude 使用和CVS一樣的方法自動忽略文件，用來排除那些不希望傳輸的文件
--existing 僅僅更新那些已經存在於DST的文件，而不備份那些新創建的文件
--delete 刪除那些DST中SRC沒有的文件
--delete-excluded 同樣刪除接收端那些被該選項指定排除的文件
--delete-after 傳輸結束以後再刪除
--ignore-errors 及時出現IO錯誤也進行刪除
--max-delete=NUM 最多刪除NUM個文件
--partial 保留那些因故沒有完全傳輸的文件，以是加快隨後的再次傳輸
--force 強制刪除目錄，即使不為空
--numeric-ids 不將數字的用戶和組ID匹配為用戶名和組名
--timeout=TIME IP超時時間，單位為秒
-I, --ignore-times 不跳過那些有同樣的時間和長度的文件
--size-only 當決定是否要備份文件時，僅僅察看文件大小而不考慮文件時間
--modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口，默認為0
-T --temp-dir=DIR 在DIR中創建臨時文件
--compare-dest=DIR 同樣比較DIR中的文件來決定是否需要備份
-P 等同於 --partial
--progress 顯示備份過程
-z, --compress 對備份的文件在傳輸時進行壓縮處理
--exclude=PATTERN 指定排除不需要傳輸的文件模式
--include=PATTERN 指定不排除而需要傳輸的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 綁定到特定的地址
--config=FILE 指定其他的配置文件，不使用默認的rsyncd.conf文件
--port=PORT 指定其他的rsync服務端口
--blocking-io 對遠程shell使用阻塞IO
-stats 給出某些文件的傳輸狀態
--progress 在傳輸時現實傳輸過程
--log-format=formAT 指定日誌文件格式
--password-file=FILE 從FILE中得到密碼
--bwlimit=KBPS 限制I/O帶寬，KBytes per second
-h, --help 顯示幫助信息
三、rsync配置
1、服務器端配置
a.配置文件
vi /etc/rsyncd.conf
uid = rsync
gid = rsync
use chroot = no
max connections = 200
timeout = 300
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 192.168.100.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[data]
path = /data/
[backup]
path = /backup/
b.添加用戶
useradd rsync -s /sbin/nologin
c.配置密碼文件
echo "rsync_backuo:jiajunp" >/etc/rsync.password
d.修改文件權限
chmod 600 /etc/rsync.password
e.啟動rsync
rsync --daemon
f.查看日誌文件
tail -f /var/log/rsyncd.log
2018/06/12 13:46:24 [5306] rsyncd version 3.0.6 starting, listening on port 873
sync是一款開源的、快速的、多功能的、可實現全量及增量的本地或遠程同步數據備份的工具。
rsync是可以實現增量備份的工具。配合任務計劃，rsync能實現定時或間隔同步，配合inotify或sersync，可以實現觸發式的實時同步。
rsync可以實現scp的遠程拷貝(rsync不支持遠程到遠程的拷貝，但scp支持)、cp的本地拷貝、rm刪除和"ls -l"顯示文件列表等功能。但需要註意的是，rsync的最終目的或者說其原始目的是實現兩端主機的文件同步，因此實現的scp/cp/rm等功能僅僅只是同步的輔助手段，且rsync實現這些功能的方式和這些命令是不一樣的。事實上，rsync有一套自己的算法，其算法原理以及rsync對算法實現的機制可能比想象中要復雜一些。平時使用rsync實現簡單的備份、同步等功能足以，沒有多大必要去深究這些原理性的內容。但是想要看懂rsync命令的man文檔、使用"-vvvv"分析rsync執行過程，以及實現rsync更強大更完整的功能，沒有這些理論知識的支持是絕對不可能實現的。本篇文章將簡單介紹rsync的使用方法和它常用的功能。
rsync命令格式
SYNOPSIS
Local: rsync [OPTION...] SRC... [DEST]
Access via remote shell:
Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
Push: rsync [OPTION...] SRC... [USER@]HOST:DEST
Access via rsync daemon:
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST
rsync參數的具體解釋如下：
-v, --verbose 詳細模式輸出
-q, --quiet 精簡輸出模式
-c, --checksum 打開校驗開關，強制對文件傳輸進行校驗
-a, --archive 歸檔模式，表示以遞歸方式傳輸文件，並保持所有文件屬性，等於-rlptgoD
-r, --recursive 對子目錄以遞歸模式處理
-R, --relative 使用相對路徑信息
--backup-dir 將備份文件(如~filename)存放在在目錄下。
-suffix=SUFFIX 定義備份文件前綴
-u, --update 僅僅進行更新，也就是跳過所有已經存在於DST，並且文件時間晚於要備份的文件。(不覆蓋更新的文件)
-l, --links 保留軟鏈結
-L, --copy-links 想對待常規文件一樣處理軟鏈結
--copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹以外的鏈結
--safe-links 忽略指向SRC路徑目錄樹以外的鏈結
-H, --hard-links 保留硬鏈結
-p, --perms 保持文件權限
-o, --owner 保持文件屬主信息
-g, --group 保持文件屬組信息
-D, --devices 保持設備文件信息
-t, --times 保持文件時間信息
-S, --sparse 對稀疏文件進行特殊處理以節省DST的空間
-n, --dry-run現實哪些文件將被傳輸
-W, --whole-file 拷貝文件，不進行增量檢測
-x, --one-file-system 不要跨越文件系統邊界
-B, --block-size=SIZE 檢驗算法使用的塊尺寸，默認是700字節
-e, --rsh=COMMAND 指定使用rsh、ssh方式進行數據同步
--rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息
-C, --cvs-exclude 使用和CVS一樣的方法自動忽略文件，用來排除那些不希望傳輸的文件
--existing 僅僅更新那些已經存在於DST的文件，而不備份那些新創建的文件
--delete 刪除那些DST中SRC沒有的文件
--delete-excluded 同樣刪除接收端那些被該選項指定排除的文件
--delete-after 傳輸結束以後再刪除
--ignore-errors 及時出現IO錯誤也進行刪除
--max-delete=NUM 最多刪除NUM個文件
--partial 保留那些因故沒有完全傳輸的文件，以是加快隨後的再次傳輸
--force 強制刪除目錄，即使不為空
--numeric-ids 不將數字的用戶和組ID匹配為用戶名和組名
--timeout=TIME IP超時時間，單位為秒
-I, --ignore-times 不跳過那些有同樣的時間和長度的文件
--size-only 當決定是否要備份文件時，僅僅察看文件大小而不考慮文件時間
--modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口，默認為0
-T --temp-dir=DIR 在DIR中創建臨時文件
--compare-dest=DIR 同樣比較DIR中的文件來決定是否需要備份
-P 等同於 --partial
--progress 顯示備份過程
-z, --compress 對備份的文件在傳輸時進行壓縮處理
--exclude=PATTERN 指定排除不需要傳輸的文件模式
--include=PATTERN 指定不排除而需要傳輸的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 綁定到特定的地址
--config=FILE 指定其他的配置文件，不使用默認的rsyncd.conf文件
--port=PORT 指定其他的rsync服務端口
--blocking-io 對遠程shell使用阻塞IO
-stats 給出某些文件的傳輸狀態
--progress 在傳輸時現實傳輸過程
--log-format=formAT 指定日誌文件格式
--password-file=FILE 從FILE中得到密碼
--bwlimit=KBPS 限制I/O帶寬，KBytes per second
-h, --help 顯示幫助信息
三、rsync配置
1、服務器端配置
a.配置文件
vi /etc/rsyncd.conf
uid = rsync
gid = rsync
use chroot = no
max connections = 200
timeout = 300
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 192.168.100.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[data]
path = /data/
[backup]
path = /backup/
b.添加用戶
useradd rsync -s /sbin/nologin
c.配置密碼文件
echo "rsync_backuo:jiajunp" >/etc/rsync.password
d.修改文件權限
chmod 600 /etc/rsync.password
e.啟動rsync
rsync --daemon
f.查看日誌文件
tail -f /var/log/rsyncd.log
2018/06/12 13:46:24 [5306] rsyncd version 3.0.6 starting, listening on port 873
2、客戶段配置
a.配置密碼文件
echo "jiajunp">/etc/rsync.password
b.修改密碼文件權限
chmod 600 /etc/rsync.password
c.文件推送和拉取
推送文件
rsync -zva /jiajunp/ [email protected]::data --password-file=/etc/rsync.password
rsync -avz /jiajunp/ rsync://[email protected]/data --password-file=/etc/rsync.password
拉取文件
rsync -zva [email protected]::data /jiajunp --password-file=/etc/rsync.password
rsync -avz rsync://[email protected]/data /jiajunp --password-file=/etc/rsync.password
3、錯誤排查
a.檢查防火墻和selinux是否已關閉
b.在/var/log/rsyncd.log日誌文件中查看錯誤信息
列：
a.服務端文件夾目錄權限和所屬用戶和組不對
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1039) [sender=3.0.6]
rsync數據同步