linux下wget如何下載整個網站，或者特定目錄全部檔案
阿新 • • 發佈：2019-01-10
需要下載某個目錄下面的所有檔案。命令如下
wget -c -r -np -k -L -p www.xxx.org/pub/path/
在下載時。有用到外部域名的圖片或連線。如果需要同時下載就要用-H引數。
wget -np -nH -r –span-hosts www.xxx.org/pub/path/
-c 斷點續傳
-r 遞迴下載，下載指定網頁某一目錄下（包括子目錄）的所有檔案
-nd 遞迴下載時不建立一層一層的目錄，把所有的檔案下載到當前目錄
-np 遞迴下載時不搜尋上層目錄，如wget -c -r www.xxx.org/pub/path/
沒有加引數-np，就會同時下載path的上一級目錄pub下的其它檔案
-k 將絕對連結轉為相對連結，下載整個站點後離線瀏覽網頁，最好加上這個引數
-L 遞迴時不進入其它主機，如wget -c -r www.xxx.org/
如果網站內有一個這樣的連結：
www.yyy.org，不加引數-L，就會像大火燒山一樣，會遞迴下載www.yyy.org網站
-p 下載網頁所需的所有檔案，如圖片等
-A 指定要下載的檔案樣式列表，多個樣式用逗號分隔
-i 後面跟一個檔案，檔案內指明要下載的URL
還有其他的用法，我從網上搜索的，也一併寫上來，方便以後自己使用。
wget的常見用法
wget的使用格式
Usage: wget [OPTION]… [URL]…
* 用wget做站點映象:
wget -r -p -np -k http://dsec.pku.edu.cn/~usr_name/
# 或者
wget -m http://www.tldp.org/LDP/abs/html/
* 在不穩定的網路上下載一個部分下載的檔案，以及在空閒時段下載
wget -t 0 -w 31 -c http://dsec.pku.edu.cn/BBC.avi -o down.log &
# 或者從filelist讀入要下載的檔案列表
wget -t 0 -w 31 -c -B ftp://dsec.pku.edu.cn/linuxsoft -i filelist.txt -o
down.log &
上面的程式碼還可以用來在網路比較空閒的時段進行下載。我的用法是:在mozilla中將不方便當時下載的URL連結拷貝到記憶體中然後貼上到檔案filelist.txt中，在晚上要出去系統前執行上面程式碼的第二條。
* 使用代理下載
wget -Y on -p -k https://sourceforge.net/projects/wvware/
代理可以在環境變數或wgetrc檔案中設定
# 在環境變數中設定代理
export PROXY=http://211.90.168.94:8080/
# 在~/.wgetrc中設定代理
http_proxy = http://proxy.yoyodyne.com:18023/
ftp_proxy = http://proxy.yoyodyne.com:18023/
wget各種選項分類列表
* 啟動
-V, –version 顯示wget的版本後退出
-h, –help 列印語法幫助
-b, –background 啟動後轉入後臺執行
-e, –execute=COMMAND
執行`.wgetrc’格式的命令，wgetrc格式參見/etc/wgetrc或~/.wgetrc
* 記錄和輸入檔案
-o, –output-file=FILE 把記錄寫到FILE檔案中
-a, –append-output=FILE 把記錄追加到FILE檔案中
-d, –debug 列印除錯輸出
-q, –quiet 安靜模式(沒有輸出)
-v, –verbose 冗長模式(這是預設設定)
-nv, –non-verbose 關掉冗長模式，但不是安靜模式
-i, –input-file=FILE 下載在FILE檔案中出現的URLs
-F, –force-html 把輸入檔案當作HTML格式檔案對待
-B, –base=URL 將URL作為在-F -i引數指定的檔案中出現的相對連結的字首
–sslcertfile=FILE 可選客戶端證書
–sslcertkey=KEYFILE 可選客戶端證書的KEYFILE
–egd-file=FILE 指定EGD socket的檔名
* 下載
–bind-address=ADDRESS
指定本地使用地址(主機名或IP，當本地有多個IP或名字時使用)
-t, –tries=NUMBER 設定最大嘗試連結次數(0 表示無限制).
-O –output-document=FILE 把文件寫到FILE檔案中
-nc, –no-clobber 不要覆蓋存在的檔案或使用.#字首
-c, –continue 接著下載沒下載完的檔案
–progress=TYPE 設定程序條標記
-N, –timestamping 不要重新下載檔案除非比本地檔案新
-S, –server-response 列印伺服器的迴應
–spider 不下載任何東西
-T, –timeout=SECONDS 設定響應超時的秒數
-w, –wait=SECONDS 兩次嘗試之間間隔SECONDS秒
–waitretry=SECONDS 在重新連結之間等待1…SECONDS秒
–random-wait 在下載之間等待0…2*WAIT秒
-Y, –proxy=on/off 開啟或關閉代理
-Q, –quota=NUMBER 設定下載的容量限制
–limit-rate=RATE 限定下載輸率
* 目錄
-nd –no-directories 不建立目錄
-x, –force-directories 強制建立目錄
-nH, –no-host-directories 不建立主機目錄
-P, –directory-prefix=PREFIX 將檔案儲存到目錄 PREFIX/…
–cut-dirs=NUMBER 忽略 NUMBER層遠端目錄
* HTTP 選項
–http-user=USER 設定HTTP使用者名稱為 USER.
–http-passwd=PASS 設定http密碼為 PASS.
-C, –cache=on/off 允許/不允許伺服器端的資料快取 (一般情況下允許).
-E, –html-extension 將所有text/html文件以.html副檔名儲存
–ignore-length 忽略 `Content-Length’頭域
–header=STRING 在headers中插入字串 STRING
–proxy-user=USER 設定代理的使用者名稱為 USER
–proxy-passwd=PASS 設定代理的密碼為 PASS
–referer=URL 在HTTP請求中包含 `Referer: URL’頭
-s, –save-headers 儲存HTTP頭到檔案
-U, –user-agent=AGENT 設定代理的名稱為 AGENT而不是 Wget/VERSION.
–no-http-keep-alive 關閉 HTTP活動連結 (永遠連結).
–cookies=off 不使用 cookies.
–load-cookies=FILE 在開始會話前從檔案 FILE中載入cookie
–save-cookies=FILE 在會話結束後將 cookies儲存到 FILE檔案中
* FTP 選項
-nr, –dont-remove-listing 不移走 `.listing’檔案
-g, –glob=on/off 開啟或關閉檔名的 globbing機制
–passive-ftp 使用被動傳輸模式 (預設值).
–active-ftp 使用主動傳輸模式
–retr-symlinks 在遞迴的時候，將連結指向檔案(而不是目錄)
* 遞迴下載
-r, –recursive 遞迴下載－－慎用!
-l, –level=NUMBER 最大遞迴深度 (inf 或 0 代表無窮).
–delete-after 在現在完畢後區域性刪除檔案
-k, –convert-links 轉換非相對連結為相對連結
-K, –backup-converted 在轉換檔案X之前，將之備份為 X.orig
-m, –mirror 等價於 -r -N -l inf -nr.
-p, –page-requisites 下載顯示HTML檔案的所有圖片
* 遞迴下載中的包含和不包含(accept/reject)
-A, –accept=LIST 分號分隔的被接受副檔名的列表
-R, –reject=LIST 分號分隔的不被接受的副檔名的列表
-D, –domains=LIST 分號分隔的被接受域的列表
–exclude-domains=LIST 分號分隔的不被接受的域的列表
–follow-ftp 跟蹤HTML文件中的FTP連結
–follow-tags=LIST 分號分隔的被跟蹤的HTML標籤的列表
-G, –ignore-tags=LIST 分號分隔的被忽略的HTML標籤的列表
-H, –span-hosts 當遞迴時轉到外部主機
-L, –relative 僅僅跟蹤相對連結
-I, –include-directories=LIST 允許目錄的列表
-X, –exclude-directories=LIST 不被包含目錄的列表
-np, –no-parent 不要追溯到父目錄
wget -c -r -np -k -L -p www.xxx.org/pub/path/
在下載時。有用到外部域名的圖片或連線。如果需要同時下載就要用-H引數。
wget -np -nH -r –span-hosts www.xxx.org/pub/path/
-c 斷點續傳
-r 遞迴下載，下載指定網頁某一目錄下（包括子目錄）的所有檔案
-nd 遞迴下載時不建立一層一層的目錄，把所有的檔案下載到當前目錄
-np 遞迴下載時不搜尋上層目錄，如wget -c -r www.xxx.org/pub/path/
沒有加引數-np，就會同時下載path的上一級目錄pub下的其它檔案
-k 將絕對連結轉為相對連結，下載整個站點後離線瀏覽網頁，最好加上這個引數
-L 遞迴時不進入其它主機，如wget -c -r www.xxx.org/
如果網站內有一個這樣的連結：
www.yyy.org，不加引數-L，就會像大火燒山一樣，會遞迴下載www.yyy.org網站
-p 下載網頁所需的所有檔案，如圖片等
-A 指定要下載的檔案樣式列表，多個樣式用逗號分隔
-i 後面跟一個檔案，檔案內指明要下載的URL
還有其他的用法，我從網上搜索的，也一併寫上來，方便以後自己使用。
wget的常見用法
wget的使用格式
Usage: wget [OPTION]… [URL]…
* 用wget做站點映象:
wget -r -p -np -k http://dsec.pku.edu.cn/~usr_name/
# 或者
wget -m http://www.tldp.org/LDP/abs/html/
* 在不穩定的網路上下載一個部分下載的檔案，以及在空閒時段下載
wget -t 0 -w 31 -c http://dsec.pku.edu.cn/BBC.avi -o down.log &
# 或者從filelist讀入要下載的檔案列表
wget -t 0 -w 31 -c -B ftp://dsec.pku.edu.cn/linuxsoft -i filelist.txt -o
down.log &
上面的程式碼還可以用來在網路比較空閒的時段進行下載。我的用法是:在mozilla中將不方便當時下載的URL連結拷貝到記憶體中然後貼上到檔案filelist.txt中，在晚上要出去系統前執行上面程式碼的第二條。
* 使用代理下載
wget -Y on -p -k https://sourceforge.net/projects/wvware/
代理可以在環境變數或wgetrc檔案中設定
# 在環境變數中設定代理
export PROXY=http://211.90.168.94:8080/
# 在~/.wgetrc中設定代理
http_proxy = http://proxy.yoyodyne.com:18023/
ftp_proxy = http://proxy.yoyodyne.com:18023/
wget各種選項分類列表
* 啟動
-V, –version 顯示wget的版本後退出
-h, –help 列印語法幫助
-b, –background 啟動後轉入後臺執行
-e, –execute=COMMAND
執行`.wgetrc’格式的命令，wgetrc格式參見/etc/wgetrc或~/.wgetrc
* 記錄和輸入檔案
-o, –output-file=FILE 把記錄寫到FILE檔案中
-a, –append-output=FILE 把記錄追加到FILE檔案中
-d, –debug 列印除錯輸出
-q, –quiet 安靜模式(沒有輸出)
-v, –verbose 冗長模式(這是預設設定)
-nv, –non-verbose 關掉冗長模式，但不是安靜模式
-i, –input-file=FILE 下載在FILE檔案中出現的URLs
-F, –force-html 把輸入檔案當作HTML格式檔案對待
-B, –base=URL 將URL作為在-F -i引數指定的檔案中出現的相對連結的字首
–sslcertfile=FILE 可選客戶端證書
–sslcertkey=KEYFILE 可選客戶端證書的KEYFILE
–egd-file=FILE 指定EGD socket的檔名
* 下載
–bind-address=ADDRESS
指定本地使用地址(主機名或IP，當本地有多個IP或名字時使用)
-t, –tries=NUMBER 設定最大嘗試連結次數(0 表示無限制).
-O –output-document=FILE 把文件寫到FILE檔案中
-nc, –no-clobber 不要覆蓋存在的檔案或使用.#字首
-c, –continue 接著下載沒下載完的檔案
–progress=TYPE 設定程序條標記
-N, –timestamping 不要重新下載檔案除非比本地檔案新
-S, –server-response 列印伺服器的迴應
–spider 不下載任何東西
-T, –timeout=SECONDS 設定響應超時的秒數
-w, –wait=SECONDS 兩次嘗試之間間隔SECONDS秒
–waitretry=SECONDS 在重新連結之間等待1…SECONDS秒
–random-wait 在下載之間等待0…2*WAIT秒
-Y, –proxy=on/off 開啟或關閉代理
-Q, –quota=NUMBER 設定下載的容量限制
–limit-rate=RATE 限定下載輸率
* 目錄
-nd –no-directories 不建立目錄
-x, –force-directories 強制建立目錄
-nH, –no-host-directories 不建立主機目錄
-P, –directory-prefix=PREFIX 將檔案儲存到目錄 PREFIX/…
–cut-dirs=NUMBER 忽略 NUMBER層遠端目錄
* HTTP 選項
–http-user=USER 設定HTTP使用者名稱為 USER.
–http-passwd=PASS 設定http密碼為 PASS.
-C, –cache=on/off 允許/不允許伺服器端的資料快取 (一般情況下允許).
-E, –html-extension 將所有text/html文件以.html副檔名儲存
–ignore-length 忽略 `Content-Length’頭域
–header=STRING 在headers中插入字串 STRING
–proxy-user=USER 設定代理的使用者名稱為 USER
–proxy-passwd=PASS 設定代理的密碼為 PASS
–referer=URL 在HTTP請求中包含 `Referer: URL’頭
-s, –save-headers 儲存HTTP頭到檔案
-U, –user-agent=AGENT 設定代理的名稱為 AGENT而不是 Wget/VERSION.
–no-http-keep-alive 關閉 HTTP活動連結 (永遠連結).
–cookies=off 不使用 cookies.
–load-cookies=FILE 在開始會話前從檔案 FILE中載入cookie
–save-cookies=FILE 在會話結束後將 cookies儲存到 FILE檔案中
* FTP 選項
-nr, –dont-remove-listing 不移走 `.listing’檔案
-g, –glob=on/off 開啟或關閉檔名的 globbing機制
–passive-ftp 使用被動傳輸模式 (預設值).
–active-ftp 使用主動傳輸模式
–retr-symlinks 在遞迴的時候，將連結指向檔案(而不是目錄)
* 遞迴下載
-r, –recursive 遞迴下載－－慎用!
-l, –level=NUMBER 最大遞迴深度 (inf 或 0 代表無窮).
–delete-after 在現在完畢後區域性刪除檔案
-k, –convert-links 轉換非相對連結為相對連結
-K, –backup-converted 在轉換檔案X之前，將之備份為 X.orig
-m, –mirror 等價於 -r -N -l inf -nr.
-p, –page-requisites 下載顯示HTML檔案的所有圖片
* 遞迴下載中的包含和不包含(accept/reject)
-A, –accept=LIST 分號分隔的被接受副檔名的列表
-R, –reject=LIST 分號分隔的不被接受的副檔名的列表
-D, –domains=LIST 分號分隔的被接受域的列表
–exclude-domains=LIST 分號分隔的不被接受的域的列表
–follow-ftp 跟蹤HTML文件中的FTP連結
–follow-tags=LIST 分號分隔的被跟蹤的HTML標籤的列表
-G, –ignore-tags=LIST 分號分隔的被忽略的HTML標籤的列表
-H, –span-hosts 當遞迴時轉到外部主機
-L, –relative 僅僅跟蹤相對連結
-I, –include-directories=LIST 允許目錄的列表
-X, –exclude-directories=LIST 不被包含目錄的列表
-np, –no-parent 不要追溯到父目錄