Python爬蟲入門教程 31-100 36氪(36kr)數據抓取 scrapy
1. 36氪(36kr)數據----寫在前面
今天抓取一個新聞媒體，36kr的文章內容，也是為後面的數據分析做相應的準備的，預計在12月底，爬蟲大概寫到50篇案例的時刻，將會迎來一個新的內容，系統的數據分析博文，記得關註哦~
36kr 讓一部分人先看到未來，而你今天要做的事情確實要抓取它的過去。
網址 https://36kr.com/
2. 36氪(36kr)數據----數據分析
36kr的頁面是一個瀑布流的效果，當你不斷的下拉頁面的時候，數據從後臺追加過來，基於此，基本可以判斷它是ajax異步的數據，只需要打開開發者工具，就能快速的定位到想要的數據，我們嘗試一下！
捕獲鏈接如下
https://36kr.com/api/search-column/mainsite?per_page=20&page=1&_=1543840108547 https://36kr.com/api/search-column/mainsite?per_page=20&page=2&_=1543840108547 https://36kr.com/api/search-column/mainsite?per_page=20&page=3&_=1543840108547 https://36kr.com/api/search-column/mainsite?per_page=20&page=4&_=1543840108547
在多次嘗試之後，發現per_page最大可以擴展到300，但是當大於100的數據，返回的數據並不是很理想，所以，我們擬定為100即可，page就是頁碼，這個不斷循環疊加即可。
上面的參數還有一個更加重要的值，叫做total_count 總共有多少文章數目。有這個參數，我們就能快速的拼接出來，想要的頁碼了。
3. 36氪(36kr)數據----創建scrapy項目
scrapy startproject kr36 4. 36氪(36kr)數據----創建爬蟲入口頁面
scrapy genspider Kr36 "www.gaokaopai.com"5. 36氪(36kr)數據----編寫url生成器
頁面起始地址start_urls為第一頁數據，之後會調用parse函數，在函數內容，我們去獲取total_count這個參數
這個地方，需要註意 yield 返回數據為Request() 關於他的詳細說明，請參照
https://scrapy-chs.readthedocs.io/zh_CN/0.24/topics/request-response.html
所有參數清單，參數名字起得好，基本都能代表所有的意思了。比較重要的是url和callback
class scrapy.http.Request(url[, callback, method='GET', headers, body, cookies, meta, encoding='utf-8', priority=0, dont_filter=False, errback])
class Kr36Spider(scrapy.Spider):
name = 'Kr36'
allowed_domains = ['36kr.com']
start_urls = ['https://36kr.com/api/search-column/mainsite?per_page=100&page=1&_=']
def parse(self, response):
data = json.loads(response.body_as_unicode())
totle = int(data["data"]["total_count"])
#totle = 201
for page in range(2,int(totle/100)+2):
print("正在爬取{}頁".format(page),end="")
yield Request("https://36kr.com/api/search-column/mainsite?per_page=100&page={}&_=".format(str(page)), callback=self.parse_item)
6. 36氪(36kr)數據----解析數據
在解析數據過程中，發現有時候數據有缺失的情況發生，所以需要判斷一下 app_views_count ， mobile_views_count ， views_count ， favourite_num 是否出現在字典中。
註意下面代碼中的Kr36Item類，這個需要提前創建一下
Kr36Item
class Kr36Item(scrapy.Item):
# define the fields for your item here like:
# name = scrapy.Field()
app_views_count = scrapy.Field() # APP觀看數量
mobile_views_count = scrapy.Field() # 移動端觀看數量
views_count = scrapy.Field() # PC觀看數量
column_name = scrapy.Field() # 類別
favourite_num = scrapy.Field() # 收藏數量
title = scrapy.Field() # 標題
published_at = scrapy.Field() # 發布時間
is_free = scrapy.Field() # 是否免費
username = scrapy.Field()
def parse_item(self,response):
data = json.loads(response.body_as_unicode())
item = Kr36Item()
for one_item in data["data"]["items"]:
print(one_item)
item["app_views_count"] = one_item["app_views_count"] if "app_views_count" in one_item else 0# APP觀看數量
item["mobile_views_count"] = one_item["mobile_views_count"] if "mobile_views_count" in one_item else 0 # 移動端觀看數量
item["views_count"] = one_item["views_count"] if "views_count" in one_item else 0 # PC觀看數量
item["column_name"] = one_item["column_name"] # 類別
item["favourite_num"] = one_item["favourite_num"] if "favourite_num" in one_item else 0 # 收藏數量
item["title"] = one_item["title"] # 標題
item["published_at"] = one_item["published_at"] # 發布時間
item["is_free"] = one_item["is_free"] if "is_free" in one_item else 0# 是否免費
item["username"] = json.loads(one_item["user_info"])["name"]
yield item最後打開settings.py中的pipelines編寫數據持久化代碼
ITEM_PIPELINES = {
'kr36.pipelines.Kr36Pipeline': 300,
}import os
import csv
class Kr36Pipeline(object):
def __init__(self):
store_file = os.path.dirname(__file__)+'/spiders/36kr.csv'
self.file = open(store_file,"a+",newline="",encoding="utf_8_sig")
self.writer = csv.writer(self.file)
def process_item(self, item, spider):
try:
self.writer.writerow((
item["title"],
item["app_views_count"],
item["mobile_views_count"],
item["views_count"],
item["column_name"],
item["favourite_num"],
item["published_at"],
item["is_free"],
item["username"]
))
print("數據存儲完畢")
except Exception as e:
print(e.args)
def close_spider(self,spider):
self.file.close()7. 36氪(36kr)數據----獲取數據
運行上述代碼，沒有做過多的處理，也沒有調整並發速度，也沒有做反爬措施。跑了一下，大概獲取到了69936條數據，和預估的差了300多條，問題不大，原因沒細查，哈哈哈哈
Python爬蟲入門教程 31-100 36氪(36kr)數據抓取 scrapy