1. 程式人生 > >Python爬取美劇,再也不用劇荒了,哈哈~

Python爬取美劇,再也不用劇荒了,哈哈~

小編最近放元旦假期了,外面冰天雪地的又不想出去玩兒~還是宅在家裡吧~

但是身為宅女的我怎麼可能不追劇呢?最近小編迷上了美劇,無奈好多網站的美劇質量內容都參差不齊,於是本宅女就得自己動手啦,用Python爬美劇去。

走吧~


小編推薦大家可以加我的扣扣群 735934841  。 裡面有海量視訊教程和學習資料免費領取, 不失為是一個學習的好地方,歡迎你的到來。 一起交流學習!共同進步!!

 

美劇下載網站【天天美劇】

 

Python爬取美劇,再也不用劇荒了,哈哈~

 

寫了個爬蟲,抓取該網站上所有美劇連結,並儲存在文字文件中,想要哪部劇就直接打開復制連結到迅雷就可以下載啦。

效果圖:

Python爬取美劇,再也不用劇荒了,哈哈~

 

 

其實一開始打算寫那種發現一個url,使用requests開啟抓取下載連結,從主頁開始爬完全站。但是,好多重複連結,還有其網站的url不是我想的那麼規則,寫了半天也沒有寫出我想要的那種發散式的爬蟲,也許是自己火候還不到吧,繼續努力。。。

後來發現,其電視劇連結都是在文章裡面,然後文章url後面有個數字編號,就像這樣的http://cn163.net/archives/24016/,所以機智的我又用了之前寫過的爬蟲經驗,解決方法就是自動生成url,其後面的數字不是可以變的嗎,而且每部劇的都是唯一的,所以嘗試了一下大概有多少篇文章,然後用range函式直接連續生成數來構造url。

但是很多url是不存在的,所以會直接掛掉,別擔心,我們用的可是requests,其自帶的status_code就是用來判斷請求返回的狀態的,所以只要是返回的狀態碼是404的我們都把它跳過,其他的都進去爬取連結,這就解決了url的問題了。

以下就是上述步驟的實現程式碼。

def get_urls(self):
try:
for i in range(2015,25000):
base_url='http://cn163.net/archives/'
url=base_url+str(i)+'/'
if requests.get(url).status_code == 404:
continue
else:
self.save_links(url)
except Exception,e:
pass

其餘的就進行的很順利了,網上找到前人寫的類似的爬蟲,但是隻是爬取一篇文章的,所以借鑑了一下其正則表示式。自己用了BeautifulSoup還沒有正則效果好,所以果斷棄了,學海無涯啊。但是效果也不是那麼理想,有一半左右的連結不能正確抓取,還需繼續優化。

# -*- coding:utf-8 -*- import requests import re
import sys
import threading
import time
reload(sys)
sys.setdefaultencoding('utf-8')
class Archives(object):
def save_links(self,url):
try:
data=requests.get(url,timeout=3)
content=data.text
link_pat='"(ed2k://|file|[^"]+?.(Sd+)(Ed+)[^"]+?1024Xd{3}[^"]+?)"'
name_pat=re.compile(r'<h2 class="entry_title">(.*?)</h2>',re.S)
links = set(re.findall(link_pat,content))
name=re.findall(name_pat,content)
links_dict = {}
count=len(links)
except Exception,e:
pass
for i in links:
links_dict[int(i[1][1:3]) * 100 + int(i[2][1:3])] = i#把劇集按s和e提取編號
try:
with open(name[0].replace('/',' ')+'.txt','w') as f:
print name[0]
for i in sorted(list(links_dict.keys())):#按季數+集數排序順序寫入
f.write(links_dict[i][0] + ' ')
print "Get links ... ", name[0], count
except Exception,e:
pass
def get_urls(self):
try:
for i in range(2015,25000):
base_url='http://cn163.net/archives/'
url=base_url+str(i)+'/'
if requests.get(url).status_code == 404:
continue
else:
self.save_links(url)
except Exception,e:
pass
def main(self):
thread1=threading.Thread(target=self.get_urls())
thread1.start()
thread1.join()
if __name__ == '__main__':
start=time.time()
a=Archives()
a.main()
end=time.time()
print end-start

其中還用到了多執行緒,但是感覺沒什麼用,因為Python的GIL的緣故吧,看似有兩萬多部劇,本以為要很長時間才能抓取完成,但是除去url錯誤的和沒匹配到的,總共抓取時間20分鐘不到。搞得我本來還想使用Redis在兩臺Linux上爬取,但是折騰了一番之後感覺沒必要,所以就這樣吧,後面需要更大資料的時候再去弄。

還有過程中遇到一個很折磨我的問題是檔名的儲存,必須在此抱怨一下,txt文字格式的檔名能有空格,但是不能有斜線、反斜線、括號等。就是這個問題,一早上的時間都花在這上面的,一開始我以為是抓取資料的錯誤,後面查了半天才發現是爬取的劇名中帶有斜槓,這可把我坑苦了。

文章就到這裡啦~