1. 程式人生 > >用python爬蟲抓取視訊網站所有電影

用python爬蟲抓取視訊網站所有電影

執行環境
IDE丨pycharm
版本丨Python3.6
系統丨Windows

·實現目的與思路·
目的:
實現對騰訊視訊目標url的解析與下載,由於第三方vip解析,只提供線上觀看,隱藏想實現對目標視訊的下載

思路:
首先拿到想要看的騰訊電影url,通過第三方vip視訊解析網站進行解析,通過抓包,模擬瀏覽器傳送正常請求,通過拿到快取ts檔案,下載視訊ts檔案,最後通過轉換為mp4檔案,即可實現正常播放

完整程式碼

import re
import os,shutil
import requests,threading
from urllib.request import urlretrieve
from pyquery import PyQuery as pq
from multiprocessing import Pool
'''
Python學習資料或者需要程式碼、視訊加Python學習群:516107834
'''
class video_down():
    def __init__(self,url):
        # 拼接全民解析url
        self.api='https://jx.618g.com'
        self.get_url = 'https://jx.618g.com/?url=' + url
        #設定UA模擬瀏覽器訪問
        self.head = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36'}
        #設定多執行緒數量
        self.thread_num=32
        #當前已經下載的檔案數目
        self.i = 0
        # 呼叫網頁獲取
        html = self.get_page(self.get_url)
        if html:
            # 解析網頁
            self.parse_page(html)
    def get_page(self,get_url):
        try:
            print('正在請求目標網頁....',get_url)
            response=requests.get(get_url,headers=self.head)
            if response.status_code==200:
                #print(response.text)
                print('請求目標網頁完成....\n 準備解析....')
                self.head['referer'] = get_url
                return response.text
        except Exception:
            print('請求目標網頁失敗,請檢查錯誤重試')
            return None

    def parse_page(self,html):
        print('目標資訊正在解析........')
        doc=pq(html)
        self.title=doc('head title').text()
        print(self.title)
        url = doc('#player').attr('src')[14:]
        html=self.get_m3u8_1(url).strip()
        #self.url = url + '800k/hls/index.m3u8'
        self.url = url[:-10] +html
        print(self.url)
        print('解析完成,獲取快取ts檔案.........')
        self.get_m3u8_2(self.url)
    def get_m3u8_1(self,url):
        try:
            response=requests.get(url,headers=self.head)
            html=response.text
            print('獲取ts檔案成功,準備提取資訊')
            return html[-20:]
        except Exception:
            print('快取檔案請求錯誤1,請檢查錯誤')

    def get_m3u8_2(self,url):
        try:
            response=requests.get(url,headers=self.head)
            html=response.text
            print('獲取ts檔案成功,準備提取資訊')
            self.parse_ts_2(html)
        except Exception:
            print('快取檔案請求錯誤2,請檢查錯誤')
    def parse_ts_2(self,html):
        pattern=re.compile('.*?(.*?).ts')
        self.ts_lists=re.findall(pattern,html)
        print('資訊提取完成......\n準備下載...')
        self.pool()
    def pool(self):
        print('經計算需要下載%d個檔案' % len(self.ts_lists))
        self.ts_url = self.url[:-10]
        if self.title not in os.listdir():
            os.makedirs(self.title)
        print('正在下載...所需時間較長,請耐心等待..')
        #開啟多程序下載
        pool=Pool(16)
        pool.map(self.save_ts,[ts_list for ts_list in self.ts_lists])
        pool.close()
        pool.join()
        print('下載完成')
        self.ts_to_mp4()
    def ts_to_mp4(self):
        print('ts檔案正在進行轉錄mp4......')
        str='copy /b '+self.title+'\*.ts '+self.title+'.mp4'
        os.system(str)
        filename=self.title+'.mp4'
        if os.path.isfile(filename):
            print('轉換完成,祝你觀影愉快')
            shutil.rmtree(self.title)

    def save_ts(self,ts_list):
        try:
            ts_urls = self.ts_url + '{}.ts'.format(ts_list)
            self.i += 1
            print('當前進度%d/%d'%(self.i,len(self.ts_lists)))
            urlretrieve(url=ts_urls, filename=self.title + '/{}.ts'.format(ts_list))
        except Exception:
            print('儲存檔案出現錯誤')


if __name__ == '__main__':
    #電影目標url:狄仁傑之四大天王
    url='https://v.qq.com/x/cover/r6ri9qkcu66dna8.html'
    #電影碟中諜5:神祕國度
    url1='https://v.qq.com/x/cover/5c58griiqftvq00.html'
    #電視劇鬥破蒼穹
    url2='https://v.qq.com/x/cover/lcpwn26degwm7t3/z0027injhcq.html'
    url3='https://v.qq.com/x/cover/33bfp8mmgakf0gi.html'
    video_down(url2)

視訊快取ts檔案
這裡都是一些快取視訊檔案,每個只有幾秒鐘播放,最後需要合併成一個mp4格式的視訊,就可以正常播放,預設高清下載

注意這裡的進度因為使用多程序下載,進度僅供參考,沒有確切顯示進度,可以進資料夾檢視正常進度,可以理解為顯示一次進度,下載一個ts檔案