分分鐘學會用python爬蟲框架Scrapy
Scrapy主要包括了以下元件：
- 引擎(Scrapy)
用來處理整個系統的資料流處理, 觸發事務(框架核心) - 排程器(Scheduler)
用來接受引擎發過來的請求, 壓入佇列中, 並在引擎再次請求的時候返回. 可以想像成一個URL（抓取網頁的網址或者說是連結）的優先佇列, 由它來決定下一個要抓取的網址是什麼, 同時去除重複的網址 - 下載器(Downloader)
用於下載網頁內容, 並將網頁內容返回給蜘蛛(Scrapy下載器是建立在twisted這個高效的非同步模型上的) - 爬蟲(Spiders)
爬蟲是主要幹活的, 用於從特定的網頁中提取自己需要的資訊, 即所謂的實體(Item)。使用者也可以從中提取出連結,讓Scrapy繼續抓取下一個頁面 - 專案管道(Pipeline)
負責處理爬蟲從網頁中抽取的實體，主要的功能是持久化實體、驗證實體的有效性、清除不需要的資訊。當頁面被爬蟲解析後，將被髮送到專案管道，並經過幾個特定的次序處理資料。 - 下載器中介軟體(Downloader Middlewares)
位於Scrapy引擎和下載器之間的框架，主要是處理Scrapy引擎與下載器之間的請求及響應。 - 爬蟲中介軟體(Spider Middlewares)
介於Scrapy引擎和爬蟲之間的框架，主要工作是處理蜘蛛的響應輸入和請求輸出。 - 排程中介軟體(Scheduler Middewares)
介於Scrapy引擎和排程之間的中介軟體，從Scrapy引擎傳送到排程的請求和響應。
Scrapy執行流程大概如下：
- 引擎從排程器中取出一個連結(URL)用於接下來的抓取
- 引擎把URL封裝成一個請求(Request)傳給下載器
- 下載器把資源下載下來，並封裝成應答包(Response)
- 爬蟲解析Response
- 解析出實體（Item）,則交給實體管道進行進一步的處理
- 解析出的是連結（URL）,則把URL交給排程器等待抓取
一、安裝
因為python3並不能完全支援Scrapy，因此為了完美執行Scrapy，我們使用python2.7來編寫和執行Scrapy。
| 1 | pip install Scrapy |
注：windows平臺需要依賴pywin32，請根據自己系統32/64位選擇下載安裝，https://sourceforge.net/projects/pywin32/
其它可能依賴的安裝包：lxml-3.6.4-cp27-cp27m-win_amd64.whl，VCForPython27.msi百度下載即可
二、基本使用
1、建立專案
執行命令:
| 1 | scrapy startproject p1（your_project_name） |
2.自動建立目錄的結果：
檔案說明：
- scrapy.cfg 專案的配置資訊，主要為Scrapy命令列工具提供一個基礎的配置資訊。（真正爬蟲相關的配置資訊在settings.py檔案中）
- items.py 設定資料儲存模板，用於結構化資料，如：Django的Model
- pipelines 資料處理行為，如：一般結構化的資料持久化
- settings.py 配置檔案，如：遞迴的層數、併發數，延遲下載等
- spiders 爬蟲目錄，如：建立檔案，編寫爬蟲規則
注意：一般建立爬蟲檔案時，以網站域名命名
3、編寫爬蟲
在spiders目錄中新建 xiaohuar_spider.py 檔案
示例程式碼：
| 12345678910111213141516171819 | #!/usr/bin/env python# -*- coding:utf-8 -*-import scrapyclass XiaoHuarSpider(scrapy.spiders.Spider):name = "xiaohuar"allowed_domains = ["xiaohuar.com"]start_urls = ["http://www.xiaohuar.com/hua/",]def parse(self, response):# print(response, type(response))# from scrapy.http.response.html import HtmlResponse# print(response.body_as_unicode())current_url = response.url #爬取時請求的urlbody = response.body #返回的htmlunicode_body = response.body_as_unicode()#返回的html unicode編碼 |
備註：
- 1.爬蟲檔案需要定義一個類，並繼承scrapy.spiders.Spider
- 2.必須定義name，即爬蟲名，如果沒有name，會報錯。因為原始碼中是這樣定義的：
- 3.編寫函式parse，這裡需要注意的是，該函式名不能改變，因為Scrapy原始碼中預設callback函式的函式名就是parse；
- 4.定義需要爬取的url，放在列表中，因為可以爬取多個url，Scrapy原始碼是一個For迴圈，從上到下爬取這些url，使用生成器迭代將url傳送給下載器下載url的html。原始碼截圖：
4、執行
進入p1目錄，執行命令
| 1 | scrapy crawl xiaohau --nolog |
格式：scrapy crawl+爬蟲名 --nolog即不顯示日誌
5.scrapy查詢語法：
當我們爬取大量的網頁，如果自己寫正則匹配，會很麻煩，也很浪費時間，令人欣慰的是，scrapy內部支援更簡單的查詢語法，幫助我們去html中查詢我們需要的標籤和標籤內容以及標籤屬性。下面逐一進行介紹：
- 查詢子子孫孫中的某個標籤(以div標籤為例)：//div
- 查詢兒子中的某個標籤(以div標籤為例)：/div
- 查詢標籤中帶有某個class屬性的標籤：//div[@class='c1']即子子孫孫中標籤是div且class=‘c1’的標籤
- 查詢標籤中帶有某個class=‘c1’並且自定義屬性name=‘alex’的標籤：//div[@class='c1'][@name='alex']
- 查詢某個標籤的文字內容：//div/span/text() 即查詢子子孫孫中div下面的span標籤中的文字內容
- 查詢某個屬性的值（例如查詢a標籤的href屬性）：//a/@href
示例程式碼：
| 12345678910111213141516171819 | def parse(self, response):# 分析頁面# 找到頁面中符合規則的內容（校花圖片），儲存# 找到所有的a標籤，再訪問其他a標籤，一層一層的搞下去hxs = HtmlXPathSelector(response)#建立查詢物件# 如果url是 http://www.xiaohuar.com/list-1-\d+.htmlif re.match('http://www.xiaohuar.com/list-1-\d+.html', response.url): #如果url能夠匹配到需要爬取的url，即本站urlitems = hxs.select('//div[@class="item_list infinite_scroll"]/div') #select中填寫查詢目標，按scrapy查詢語法書寫for i in range(len(items)):src = hxs.select('//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/a/img/@src' % i).extract()
|