Python爬蟲爬取BT之家找電影資源
一、寫在前面
最近看新聞說聖城家園(SCG)倒了,之前BT天堂倒了,暴風影音也不行了,可以說看個電影越來越費力,國內大廠如企鵝和愛奇藝最近也出現一些么蛾子,雖然目前版權意識雖然越來越強,但是很多資源在這些主流視訊網站上面依然沒有,我平時看電影又習慣下載下來再看,所以每次看電影找資源就很麻煩,花了點時間,於是就有了這個程式。
二、目的
輸入一部電影的名字,幫我到BT之家上面看看有沒有,如果有就把下載連結複製給我。
三、設計思路
本來想的是直接爬取首頁最近釋出的電影,然後取判斷有沒有,後來想了一下,為什麼不直接使用網站的搜尋功能呢?
四、開始爬蟲
4.1.分析網站
開啟網站搜尋一個結果,發現在網址裡面直接修改連結的內容就能到達搜尋頁面,那這樣就更簡單。
先讓使用者輸入一部電影的名字,直接生成連結。
# 要求輸入電影名
inputname = input('\n' + '請輸入您要搜尋的電影:')
# 連結是用網站的搜尋功能
url = "http://www.6btbtt.com/search-index-keyword-" + inputname + ".htm"
接下來再看搜尋結果是什麼樣的,使用審查元素看看,就會看到搜尋結果裡面電影名字和連結會在一個a標籤裡面,型別為subject_link thread-old read
至此網站就分析完成了
4.2.開始爬取過程
剛才已經得到了電影名和網站,那麼下面直接獲得搜尋結果頁面的內容就行,用requests獲取內容,獲取後順便用beautifulsoup解析一下,解析後的東西就是有格式的,這樣才能進行下一步操作。
# 獲取網頁內容並用beautifulsoup解析一下
soup = BeautifulSoup(requests.get(url).text,'lxml')
# 給出找到第一個結果,網站搜尋結果就是把最新的排在前面,所以一個結果就夠了
movies = soup.find('a','subject_link thread-old')
然而現在我們是得到一段內容,它不光包含電影標題和連結,還包含其他的東西,我們要做的就是把電影標題和連結分別提取出來。
# 直接輸出電影和連結 try: link = movies.get('href') name = movies.text ####這裡用的是text,因為標籤下面還有標籤,是string無法獲取文字內容 print('\n' + name) print(link + '\n') except: print("沒有找到這部電影或程式發生未知錯誤")
這裡用try和except來捕捉程式反饋,就是說假如獲取的內容有問題,那程式不崩潰,就執行其他的或者進行下一步操作
至此,我們已經得到了電影和連結了,爬蟲過程也算結束了。
4.3判斷爬取結果和使用者輸入
由於電影標題出來包含真正的電影名還包含清晰度、年代、格式等等這些資訊,通常是這樣的
[BT下載][小丑][BD- MKV/2.12GB][英語中英字幕][1080P][DC年度精彩大片藍光版]
這些我們都不要,在把它分割出來,單獨取出電影名字,分割方法就是前面是 “下載][” 後面是“][”,取中間文字就可以。
# 這是用於從網頁的電影標題裡面分割出真正的電影名
def get_str_btw(s,f,b):
par = s.partition(f)
return (par[2].partition(b))[0][:]
try:
mname = (get_str_btw(name,"下載][","]["))
except:
print("無法匹配搜尋結果")
單獨取出電影名字後進行比對,這裡只是簡單地進行文字匹配,本來應該可以多爬取幾個結果,然後模糊搜尋進行匹配的。
# 判斷輸入的和獲取到的電影名字是否匹配
if mname == inputname:
print("電影有啦!連結已複製!祝您觀影愉快!" + '\n')
pyperclip.copy(link)
else:
print("我給您找到了這個!")
最後再加上一個讓程式執行完等一下的命令
# 程式執行完不要馬上關閉視窗
os.system("pause")
至此,這個程式就完成了。
執行截圖
五:注意事項
5.1.匯入模組的時候如果發現不能匯入,可能是缺少c++執行庫,去下載官方工具安裝就行;
5.2網站裡面看似相同的元素標籤可能不同,比如那個熱門電影和新電影標籤不一樣,一開始遍歷爬取的時候發現總是報錯;
5.3一定要用tryexcept來避免出現意外;
程式可能沒有意義,但生命不息,折騰不止