1. 程式人生 > >wget 下載整個網站,或者特定目錄

wget 下載整個網站,或者特定目錄

需要下載某個目錄下面的所有檔案。命令如下

在下載時。有用到外部域名的圖片或連線。如果需要同時下載就要用-H引數。

-c 斷點續傳
-r 遞迴下載,下載指定網頁某一目錄下(包括子目錄)的所有檔案
-nd 遞迴下載時不建立一層一層的目錄,把所有的檔案下載到當前目錄
-np 遞迴下載時不搜尋上層目錄,如wget -c -rwww.xxx.org/pub/path/
沒有加引數-np,就會同時下載path的上一級目錄pub下的其它檔案
-k 將絕對連結轉為相對連結,下載整個站點後離線瀏覽網頁,最好加上這個引數
-L 遞迴時不進入其它主機,如wget -c -rwww.xxx.org/
如果網站內有一個這樣的連結:
www.yyy.org,不加引數-L,就會像大火燒山一樣,會遞迴下載

www.yyy.org網站
-p 下載網頁所需的所有檔案,如圖片等
-A 指定要下載的檔案樣式列表,多個樣式用逗號分隔
-i 後面跟一個檔案,檔案內指明要下載的URL

還有其他的用法,我從網上搜索的,也一併寫上來,方便以後自己使用。

wget的常見用法

wget的使用格式
Usage: wget [OPTION]… [URL]…

* 在不穩定的網路上下載一個部分下載的檔案,以及在空閒時段下載
wget -t 0 -w 31 -chttp://dsec.pku.edu.cn/BBC.avi-o down.log &
# 或者從filelist讀入要下載的檔案列表
wget -t 0 -w 31 -c -B

ftp://dsec.pku.edu.cn/linuxsoft-i filelist.txt -o
down.log &

上面的程式碼還可以用來在網路比較空閒的時段進行下載。我的用法是:在mozilla中將不方便當時下載的URL連結拷貝到記憶體中然後貼上到檔案filelist.txt中,在晚上要出去系統前執行上面程式碼的第二條。

代理可以在環境變數或wgetrc檔案中設定

wget各種選項分類列表

* 啟動

-V, –version 顯示wget的版本後退出
-h, –help 列印語法幫助
-b, –background 啟動後轉入後臺執行
-e, –execute=COMMAND
執行`.wgetrc'格式的命令,wgetrc格式參見/etc/wgetrc或~/.wgetrc

* 記錄和輸入檔案

-o, –output-file=FILE 把記錄寫到FILE檔案中
-a, –append-output=FILE 把記錄追加到FILE檔案中
-d, –debug 列印除錯輸出
-q, –quiet 安靜模式(沒有輸出)
-v, –verbose 冗長模式(這是預設設定)
-nv, –non-verbose 關掉冗長模式,但不是安靜模式
-i, –input-file=FILE 下載在FILE檔案中出現的URLs
-F, –force-html 把輸入檔案當作HTML格式檔案對待
-B, –base=URL 將URL作為在-F -i引數指定的檔案中出現的相對連結的字首
–sslcertfile=FILE 可選客戶端證書
–sslcertkey=KEYFILE 可選客戶端證書的KEYFILE
–egd-file=FILE 指定EGD socket的檔名

* 下載

–bind-address=ADDRESS
指定本地使用地址(主機名或IP,當本地有多個IP或名字時使用)
-t, –tries=NUMBER 設定最大嘗試連結次數(0 表示無限制).
-O –output-document=FILE 把文件寫到FILE檔案中
-nc, –no-clobber 不要覆蓋存在的檔案或使用.#字首
-c, –continue 接著下載沒下載完的檔案
–progress=TYPE 設定程序條標記
-N, –timestamping 不要重新下載檔案除非比本地檔案新
-S, –server-response 列印伺服器的迴應
–spider 不下載任何東西
-T, –timeout=SECONDS 設定響應超時的秒數
-w, –wait=SECONDS 兩次嘗試之間間隔SECONDS秒
–waitretry=SECONDS 在重新連結之間等待1…SECONDS秒
–random-wait 在下載之間等待0…2*WAIT秒
-Y, –proxy=on/off 開啟或關閉代理
-Q, –quota=NUMBER 設定下載的容量限制
–limit-rate=RATE 限定下載輸率

* 目錄

-nd –no-directories 不建立目錄
-x, –force-directories 強制建立目錄
-nH, –no-host-directories 不建立主機目錄
-P, –directory-prefix=PREFIX 將檔案儲存到目錄 PREFIX/…
–cut-dirs=NUMBER 忽略 NUMBER層遠端目錄

* HTTP 選項

–http-user=USER 設定HTTP使用者名稱為 USER.
–http-passwd=PASS 設定http密碼為 PASS.
-C, –cache=on/off 允許/不允許伺服器端的資料快取 (一般情況下允許).
-E, –html-extension 將所有text/html文件以.html副檔名儲存
–ignore-length 忽略 `Content-Length'頭域
–header=STRING 在headers中插入字串 STRING
–proxy-user=USER 設定代理的使用者名稱為 USER
–proxy-passwd=PASS 設定代理的密碼為 PASS
–referer=URL 在HTTP請求中包含 `Referer: URL'頭
-s, –save-headers 儲存HTTP頭到檔案
-U, –user-agent=AGENT 設定代理的名稱為 AGENT而不是 Wget/VERSION.
–no-http-keep-alive 關閉 HTTP活動連結 (永遠連結).
–cookies=off 不使用 cookies.
–load-cookies=FILE 在開始會話前從檔案 FILE中載入cookie
–save-cookies=FILE 在會話結束後將 cookies儲存到 FILE檔案中

* FTP 選項

-nr, –dont-remove-listing 不移走 `.listing'檔案
-g, –glob=on/off 開啟或關閉檔名的 globbing機制
–passive-ftp 使用被動傳輸模式 (預設值).
–active-ftp 使用主動傳輸模式
–retr-symlinks 在遞迴的時候,將連結指向檔案(而不是目錄)

* 遞迴下載

-r, –recursive 遞迴下載--慎用!
-l, –level=NUMBER 最大遞迴深度 (inf 或 0 代表無窮).
–delete-after 在現在完畢後區域性刪除檔案
-k, –convert-links 轉換非相對連結為相對連結
-K, –backup-converted 在轉換檔案X之前,將之備份為 X.orig
-m, –mirror 等價於 -r -N -l inf -nr.
-p, –page-requisites 下載顯示HTML檔案的所有圖片

* 遞迴下載中的包含和不包含(accept/reject)

-A, –accept=LIST 分號分隔的被接受副檔名的列表
-R, –reject=LIST 分號分隔的不被接受的副檔名的列表
-D, –domains=LIST 分號分隔的被接受域的列表
–exclude-domains=LIST 分號分隔的不被接受的域的列表
–follow-ftp 跟蹤HTML文件中的FTP連結
–follow-tags=LIST 分號分隔的被跟蹤的HTML標籤的列表
-G, –ignore-tags=LIST 分號分隔的被忽略的HTML標籤的列表
-H, –span-hosts 當遞迴時轉到外部主機
-L, –relative 僅僅跟蹤相對連結
-I, –include-directories=LIST 允許目錄的列表
-X, –exclude-directories=LIST 不被包含目錄的列表
-np, –no-parent 不要追溯到父目錄

相關推薦

wget 下載整個網站或者特定目錄

需要下載某個目錄下面的所有檔案。命令如下 在下載時。有用到外部域名的圖片或連線。如果需要同時下載就要用-H引數。 -c 斷點續傳 -r 遞迴下載,下載指定網頁某一目錄下(包括子目錄)的所有檔案 -nd 遞迴下載時不建立一層一層的目錄,把所有的檔案下載到當前目錄 -np 遞迴下載時不搜尋上層目錄,如wget

linux下wget如何下載整個網站或者特定目錄全部檔案

需要下載某個目錄下面的所有檔案。命令如下wget -c -r -np -k -L -p www.xxx.org/pub/path/在下載時。有用到外部域名的圖片或連線。如果需要同時下載就要用-H引數。wget -np -nH -r –span-hosts www.xxx.o

wget下載整個網站目錄

分享一下我老師大神的人工智慧教程!零基礎,通俗易懂!http://blog.csdn.net/jiangjunshow 也歡迎大家轉載本篇文章。分享知識,造福人民,實現我們中華民族偉大復興!        

Wget下載整個網站(包含圖片/JS/CSS)

–http-user=USER 設定HTTP使用者名稱為 USER.–http-passwd=PASS 設定http密碼為 PASS.-C, –cache=on/off 允許/不允許伺服器端的資料快取 (一般情況下允許).-E, –html-extension 將所有text/html文件以.html副檔名儲

wget 下載整個網站

1: wget -r -np -k 網站連結 例如: wget -r -np -k http://www.textfiles.com/ 2: 制定檔案型別 wget -r -np -k -A txt,png,pdf,jpg (你可以自己定) 網站連結

Linux下wget下載整個FTP目錄(含子目錄)

wget -nH -m --ftp-user=your_username --ftp-password=your_password ftp://your_ftp_host/* 解釋: -nH:不建立以主機名命名的目錄。 –cut-dirs:希望去掉原來的目錄層數,從根目錄開始計算。如果想完全

wget下載指定URL下的特定屬性檔案

例子:下載指定URL下的kernel開頭的所有包 wget https://archives.fedoraproject.org/pub/fedora/linux/updates/28/Everything/x86_64/Packages/k/ -r -np -nd -A kernel*.rpm -e ro

如何利用.git資料夾下載整個網站洩漏的原始碼

參考: https://www.jianshu.com/p/edae09535ea3 完整命令: wget -r -p -np -k http://www.xxx.com/.git/ #先遞迴批量下載.git目錄 git log #檢視網站的提交記錄 git reset --hard [

wget下載網站目錄下的所有檔案

wget是linux下命令列的下載工具,功能很強大。 一般下在一些小東西都是直接用chrome自帶的下載功能下載,沒有必要用wget或者其他下載工具。但是某些時候卻不是瀏覽器自帶的下載功能和一些其他的下載軟體所能做的的,這時候就得用wget了。比如如果你想下載一個網頁目錄

利用WGET下載檔案並儲存到指定目錄

wget是Linux上一個非常不錯的下載指令,而其指令的內容雖然說是非常簡單,但內藏許多的引數,也算是Linux工作者常用的指令之一。 而這個指令我想在各大系統都預設有提供,包括了Ubuntu、Fedora等,而一般來說,要使用wget下載檔案,只需要打以下的

實用wget下載jdkappache等網站安裝包無法正常下載的問題

我們很容易找到官網的安裝包,實用wget http://download.oracle.com/otn-pub/java/jdk/8u151-b12/e758a0de34e24606bca991d704f6dcbf/jdk-8u151-linux-x64.tar.gz下載發

ftp 上傳下載整個目錄

linux下傳目錄 mirror DIRNAME上傳目錄 mirror -R DIRNAM下傳目錄方法一 > mget -d DIRNAME/*方法二 > mirror DIRNAME上傳目錄方法一 >mput -d DIRNAME/*方法二 >mirror -R DIRNAME下傳普

linux列出文件夾下最近修改的文件並將其copy到特定目錄

-m blank find work cnblogs 不知道 code 分段 class 由於我想把一個javaWeb項目的今天更改的文件移動到一個特定的文件夾,採用管道 先找到改動的文件,然後用管道移動這些文件 find ./ -mtime 0 -name *.java

python多線程下載網頁圖片並保存至特定目錄

loading eat start file ext thread end tex _for #!python3 #multidownloadXkcd.py - Download XKCD comics using multiple threads. import r

Git 本地提交時忽略特定檔案或目錄

https://blog.csdn.net/huzhenwei/article/details/7426093 在將某個目錄新增到git版本庫、或提交某個git版本庫的改動時,可能希望忽略掉一些檔案或目錄(如編譯時生成的.o、.a檔案等),可以修改.git/info/exclude檔案來實現。

如何批量下載一些網站上的壓縮包或者圖片

原創網址:http://blog.csdn.net/qq_24864285/article/details/79137514 因為專案需要,我們需要從網上下載很多圖片來做為資料集測試專案,經過一些研究,實現了批量下載ImageNet上的圖片的程式在這裡分享一個批量下載ImageNet圖片的經

用HTML5做一個個人網站此文僅展示個人主頁介面。內附原始碼下載地址

html5 ,用css去修飾自己的個人主頁 程式碼如下: <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitio

GNU Wget 1.20 釋出非互動式命令列下載工具

GNU Wget 1.20 已釋出,GNU Wget 是一個非互動式的命令列下載工具,支援 HTTP、HTTPS、FTP 和 FTPS 等廣泛使用的網路協議。 值得注意的更新: 新增 `--retry-on-host-error` 選項,用於將  local error 視為臨

wget下載檔案時指定新檔名和指定下載檔案存放的目錄

這是命令,很多部落格都寫了基礎的命令,但是這個坑沒人說  哎   那就是wget下載時既要指定新檔名又要指定下載目錄  我是這麼寫的 wget -O /data/1537186226/sadsad.jpg http://n.sinaimg.cn/news/transfor

CentOS7.5 通過wget下載檔案到指定目錄

在Linux命令列下面下載檔案,通過wget是比較普遍簡單的,比如在CentOS7 裡面也一樣。 我們先來看下自己的CentOS7 系統有沒有安裝wget: [[email protected