1. 程式人生 > >Python爬蟲爬取BT之家找電影資源

Python爬蟲爬取BT之家找電影資源

一、寫在前面
最近看新聞說聖城家園(SCG)倒了,之前BT天堂倒了,暴風影音也不行了,可以說看個電影越來越費力,國內大廠如企鵝和愛奇藝最近也出現一些么蛾子,雖然目前版權意識雖然越來越強,但是很多資源在這些主流視訊網站上面依然沒有,我平時看電影又習慣下載下來再看,所以每次看電影找資源就很麻煩,花了點時間,於是就有了這個程式。

二、目的
輸入一部電影的名字,幫我到BT之家上面看看有沒有,如果有就把下載連結複製給我。

三、設計思路
本來想的是直接爬取首頁最近釋出的電影,然後取判斷有沒有,後來想了一下,為什麼不直接使用網站的搜尋功能呢?

四、開始爬蟲

4.1.分析網站

開啟網站搜尋一個結果,發現在網址裡面直接修改連結的內容就能到達搜尋頁面,那這樣就更簡單。

先讓使用者輸入一部電影的名字,直接生成連結。

# 要求輸入電影名
inputname = input('\n' + '請輸入您要搜尋的電影:')

# 連結是用網站的搜尋功能
url = "http://www.6btbtt.com/search-index-keyword-" + inputname + ".htm"

接下來再看搜尋結果是什麼樣的,使用審查元素看看,就會看到搜尋結果裡面電影名字和連結會在一個a標籤裡面,型別為subject_link thread-old read

至此網站就分析完成了

4.2.開始爬取過程

剛才已經得到了電影名和網站,那麼下面直接獲得搜尋結果頁面的內容就行,用requests獲取內容,獲取後順便用beautifulsoup解析一下,解析後的東西就是有格式的,這樣才能進行下一步操作。

# 獲取網頁內容並用beautifulsoup解析一下
soup = BeautifulSoup(requests.get(url).text,'lxml')

# 給出找到第一個結果,網站搜尋結果就是把最新的排在前面,所以一個結果就夠了
movies = soup.find('a','subject_link thread-old')

然而現在我們是得到一段內容,它不光包含電影標題和連結,還包含其他的東西,我們要做的就是把電影標題和連結分別提取出來。

# 直接輸出電影和連結
try:
    link = movies.get('href')
    name = movies.text  ####這裡用的是text,因為標籤下面還有標籤,是string無法獲取文字內容
    print('\n' + name)
    print(link + '\n')
except:
    print("沒有找到這部電影或程式發生未知錯誤")

這裡用try和except來捕捉程式反饋,就是說假如獲取的內容有問題,那程式不崩潰,就執行其他的或者進行下一步操作

至此,我們已經得到了電影和連結了,爬蟲過程也算結束了。

4.3判斷爬取結果和使用者輸入

由於電影標題出來包含真正的電影名還包含清晰度、年代、格式等等這些資訊,通常是這樣的

[BT下載][小丑][BD- MKV/2.12GB][英語中英字幕][1080P][DC年度精彩大片藍光版]

這些我們都不要,在把它分割出來,單獨取出電影名字,分割方法就是前面是 “下載][” 後面是“][”,取中間文字就可以。

# 這是用於從網頁的電影標題裡面分割出真正的電影名
def get_str_btw(s,f,b):
    par = s.partition(f)
    return (par[2].partition(b))[0][:]

try:
    mname = (get_str_btw(name,"下載][","]["))
except:
    print("無法匹配搜尋結果")

單獨取出電影名字後進行比對,這裡只是簡單地進行文字匹配,本來應該可以多爬取幾個結果,然後模糊搜尋進行匹配的。

# 判斷輸入的和獲取到的電影名字是否匹配
if mname == inputname:
    print("電影有啦!連結已複製!祝您觀影愉快!" + '\n')
    pyperclip.copy(link)
else:
    print("我給您找到了這個!")

最後再加上一個讓程式執行完等一下的命令

# 程式執行完不要馬上關閉視窗
os.system("pause")

至此,這個程式就完成了。

執行截圖

五:注意事項

5.1.匯入模組的時候如果發現不能匯入,可能是缺少c++執行庫,去下載官方工具安裝就行;
5.2網站裡面看似相同的元素標籤可能不同,比如那個熱門電影和新電影標籤不一樣,一開始遍歷爬取的時候發現總是報錯;
5.3一定要用tryexcept來避免出現意外;

程式可能沒有意義,但生命不息,折騰不止