Python 中scrapy 的框架安裝以及簡單介紹
阿新 • • 發佈:2018-12-15
一、Scrapy的安裝
1. 如果電腦中安裝有Anaconda 直接輸入conda install scrapy 進行安裝.
2. 如果沒有安裝Anaconda,就需要進入http://www.lfd.uci.edu/~gohlke/pythonlibs/,從該網站找到lxml的相關檔案。假如是Python3.5版本,WIndows 64位系統,那就找到lxml‑3.7.2‑cp35‑cp35m‑win_amd64.whl 這個檔案並下載,然後在終端裡輸入pip install + 上面下載的檔案(找到檔案,拖拽到終端即可)。再執行命令conda install scrapy
3測試是否安裝成功 輸出scrapy按回車鍵 現實下圖即安裝成功
二、框架介紹
在安裝了scrapy之後,要設定建立的專案地址通過cd加上空格的形式將檔案拉進去
在pycharm中開啟,專案結構如圖
各部分元件介紹
(1)Scrapy Engine(引擎)
: 負責Spider
、ItemPipeline
、Downloader
、Scheduler
中間的通訊,訊號、資料傳遞等。
(2)Scheduler(排程器)
: 它負責接受引擎
傳送過來的Request請求,並按照一定的方式進行整理排列,入隊,當引擎
需要時,交還給引擎
。
(3)Downloader(下載器)
:負責下載Scrapy Engine(引擎)
傳送的所有Requests請求,並將其獲取到的Responses交還給Scrapy Engine(引擎)
引擎
交給Spider
來處理(4)
Spider(爬蟲)
:它負責處理所有Responses,從中分析提取資料,獲取Item欄位需要的資料,並將需要跟進的URL提交給引擎
,再次進入Scheduler(排程器)
(5)
Item Pipeline(管道)
:它負責處理Spider
中獲取到的Item,並進行進行後期處理(詳細分析、過濾、儲存等)的地方.(6)Downloader Middlewares(下載中介軟體)
:你可以當作是一個可以自定義擴充套件下載功能的元件。(7)
Spider Middlewares(Spider中介軟體)
:你可以理解為是一個可以自定擴充套件和操作引擎
和Spider
中間通訊
Spider
的Responses;和從Spider
出去的Requests)