1. 程式人生 > >GNU/Wget 使用手冊

GNU/Wget 使用手冊

wget是一個從網路上自動下載檔案的自由工具。它支援HTTP,HTTPS和FTP協議,可以使用HTTP代理.

所謂的自動下載是指,wget可以在使用者退出系統的之後在後臺執行。這意味這你可以登入系統,啟動一個wget下載任務,然後退出系統,wget將在後臺執行直到任務完成,相對於其它大部分瀏覽器在下載大量資料時需要使用者一直的參與,這省去了極大的麻煩。

wget可以跟蹤HTML頁面上的連結依次下載來建立遠端伺服器的本地版本,完全重建原始站點的目錄結構。這又常被稱作"遞迴下載"。在遞迴下載的時候, wget遵循Robot Exclusion標準(/robots.txt). wget可以在下載的同時,將連結轉換成指向本地檔案,以方便離線瀏覽。

wget非常穩定,它在頻寬很窄的情況下和不穩定網路中有很強的適應性.如果是由於網路的原因下載失敗,wget會不斷的嘗試,直到整個檔案下載完畢。如果是伺服器打斷下載過程,它會再次聯到伺服器上從停止的地方繼續下載。這對從那些限定了連結時間的伺服器上下載大檔案非常有用。

wget的常見用法

wget的使用格式

Usage: wget [OPTION]... [URL]...
  • 用wget做站點映象:
wget -r -p -np -k http://dsec.pku.edu.cn/~usr_name/
# 或者
wget -m http://dsec.pku.edu.cn/~usr_name/
  • 在不穩定的網路上下載一個部分下載的檔案,以及在空閒時段下載
wget -t 0 -w 31 -c http://dsec.pku.edu.cn/BBC.avi -o down.log &
# 或者從filelist讀入要下載的檔案列表
wget -t 0 -w 31 -c -B ftp://dsec.pku.edu.cn/linuxsoft -i filelist.txt -o down.log &
上面的程式碼還可以用來在網路比較空閒的時段進行下載。我的用法是:在mozilla中將不方便當時下載的URL連結拷貝到記憶體中然後貼上到檔案filelist.txt中,在晚上要出去系統前執行上面程式碼的第二條。
  • 使用代理下載
wget -Y on -p -k https://sourceforge.net/projects/wvware/
代理可以在環境變數或wgetrc檔案中設定
# 在環境變數中設定代理
export PROXY=http://211.90.168.94:8080/
# 在~/.wgetrc中設定代理
http_proxy = http://proxy.yoyodyne.com:18023/
ftp_proxy = http://proxy.yoyodyne.com:18023/

wget各種選項分類列表

  • 啟動
  -V,  --version           顯示wget的版本後退出
  -h,  --help              列印語法幫助
  -b,  --background        啟動後轉入後臺執行
  -e,  --execute=COMMAND   執行`.wgetrc'格式的命令,wgetrc格式參見/etc/wgetrc或~/.wgetrc
  • 記錄和輸入檔案
  -o,  --output-file=FILE     把記錄寫到FILE檔案中
  -a,  --append-output=FILE   把記錄追加到FILE檔案中
  -d,  --debug                列印除錯輸出
  -q,  --quiet                安靜模式(沒有輸出)
  -v,  --verbose              冗長模式(這是預設設定)
  -nv, --non-verbose          關掉冗長模式,但不是安靜模式
  -i,  --input-file=FILE      下載在FILE檔案中出現的URLs
  -F,  --force-html           把輸入檔案當作HTML格式檔案對待
  -B,  --base=URL             將URL作為在-F -i引數指定的檔案中出現的相對連結的字首
       --sslcertfile=FILE     可選客戶端證書
       --sslcertkey=KEYFILE   可選客戶端證書的KEYFILE
       --egd-file=FILE        指定EGD socket的檔名
  • 下載
       --bind-address=ADDRESS   指定本地使用地址(主機名或IP,當本地有多個IP或名字時使用)
  -t,  --tries=NUMBER           設定最大嘗試連結次數(0 表示無限制).
  -O   --output-document=FILE   把文件寫到FILE檔案中
  -nc, --no-clobber             不要覆蓋存在的檔案或使用.#字首
  -c,  --continue               接著下載沒下載完的檔案
       --progress=TYPE          設定程序條標記
  -N,  --timestamping           不要重新下載檔案除非比本地檔案新
  -S,  --server-response        列印伺服器的迴應
       --spider                 不下載任何東西
  -T,  --timeout=SECONDS        設定響應超時的秒數
  -w,  --wait=SECONDS           兩次嘗試之間間隔SECONDS秒
       --waitretry=SECONDS      在重新連結之間等待1...SECONDS秒
       --random-wait            在下載之間等待0...2*WAIT秒
  -Y,  --proxy=on/off           開啟或關閉代理
  -Q,  --quota=NUMBER           設定下載的容量限制
       --limit-rate=RATE        限定下載輸率
  • 目錄
  -nd  --no-directories            不建立目錄
  -x,  --force-directories         強制建立目錄
  -nH, --no-host-directories       不建立主機目錄
  -P,  --directory-prefix=PREFIX   將檔案儲存到目錄 PREFIX/...
       --cut-dirs=NUMBER           忽略 NUMBER層遠端目錄
  • HTTP 選項
       --http-user=USER      設定HTTP使用者名稱為 USER.
       --http-passwd=PASS    設定http密碼為 PASS.
  -C,  --cache=on/off        允許/不允許伺服器端的資料快取 (一般情況下允許).
  -E,  --html-extension      將所有text/html文件以.html副檔名儲存
       --ignore-length       忽略 `Content-Length'頭域
       --header=STRING       在headers中插入字串 STRING
       --proxy-user=USER     設定代理的使用者名稱為 USER
       --proxy-passwd=PASS   設定代理的密碼為 PASS
       --referer=URL         在HTTP請求中包含 `Referer: URL'頭
  -s,  --save-headers        儲存HTTP頭到檔案
  -U,  --user-agent=AGENT    設定代理的名稱為 AGENT而不是 Wget/VERSION.
       --no-http-keep-alive  關閉 HTTP活動連結 (永遠連結).
       --cookies=off         不使用 cookies.
       --load-cookies=FILE   在開始會話前從檔案 FILE中載入cookie
       --save-cookies=FILE   在會話結束後將 cookies儲存到 FILE檔案中
  • FTP 選項
  -nr, --dont-remove-listing   不移走 `.listing'檔案
  -g,  --glob=on/off           開啟或關閉檔名的 globbing機制
       --passive-ftp           使用被動傳輸模式 (預設值).
       --active-ftp            使用主動傳輸模式
       --retr-symlinks         在遞迴的時候,將連結指向檔案(而不是目錄)
  • 遞迴下載
  -r,  --recursive          遞迴下載--慎用!
  -l,  --level=NUMBER       最大遞迴深度 (inf 或 0 代表無窮).
       --delete-after       在現在完畢後區域性刪除檔案
  -k,  --convert-links      轉換非相對連結為相對連結
  -K,  --backup-converted   在轉換檔案X之前,將之備份為 X.orig
  -m,  --mirror             等價於 -r -N -l inf -nr.
  -p,  --page-requisites    下載顯示HTML檔案的所有圖片
  • 遞迴下載中的包含和不包含(accept/reject)
  -A,  --accept=LIST                分號分隔的被接受副檔名的列表
  -R,  --reject=LIST                分號分隔的不被接受的副檔名的列表
  -D,  --domains=LIST               分號分隔的被接受域的列表
       --exclude-domains=LIST       分號分隔的不被接受的域的列表
       --follow-ftp                 跟蹤HTML文件中的FTP連結
       --follow-tags=LIST           分號分隔的被跟蹤的HTML標籤的列表
  -G,  --ignore-tags=LIST           分號分隔的被忽略的HTML標籤的列表
  -H,  --span-hosts                 當遞迴時轉到外部主機
  -L,  --relative                   僅僅跟蹤相對連結
  -I,  --include-directories=LIST   允許目錄的列表
  -X,  --exclude-directories=LIST   不被包含目錄的列表
  -np, --no-parent                  不要追溯到父目錄