1. 程式人生 > >python爬去妹子網整個圖片資源教程(最詳細版)

python爬去妹子網整個圖片資源教程(最詳細版)

python爬蟲;

爬取妹子網的低級教程連接如下:[爬妹子網](https://blog.csdn.net/baidu_35085676/article/details/68958267)

ps:只支持單個套圖下載,不支持整體下載

在說說我的這個爬蟲代碼的設計思路:

①當我們瀏覽這個網站時,會發現,每一個頁面的URL都是以網站的域名+page+頁數組成,這樣我們就可以逐一的訪問該網站的網頁了

技術分享圖片

②當我們看圖片列表時中,把鼠標放到圖片,右擊檢查,我們發現,圖片的內容由ul包裹的li組成,箭頭所指的地方為每個套圖的地址,這樣我們就可以進入套圖,一個這樣的頁面包含有24個這樣的套圖,我們用BeautifulSoup,處理。





技術分享圖片

③我們進入套圖,鼠標放到40處,右擊,發現該套圖圖片的最大圖片數為第十個span的值,而且每個套圖的url同①原理相同為套圖的url+第幾張圖片(如下圖3為第二張圖片),最後下載的url由一個class為main-titleDIV組成。提取img標簽的src屬性即可獲得下載鏈接

技術分享圖片

技術分享圖片

技術分享圖片


技術分享圖片

from bs4 import BeautifulSoup

import requests

import os

base_url='http://www.mzitu.com/page/'

header = { 'Referer':'http://www.mzitu.com'}

#反‘反盜鏈’


for x in range(11,20):

#盜取第十一頁到19頁圖片

html_a=requests.get(base_url+str(x),headers=header)


soup_a=BeautifulSoup(html_a.text,features='lxml')

#解析第一個網頁

pages=soup_a.find('ul',{'id':'pins'}).find_all('a')

#選出a標簽,如第二步的箭頭所指的地方

b=1

for y in pages:

if(b%2!=0):

#因為一個li標簽裏面有兩個a標簽,所以要去除重復

html=requests.get(y['href'],headers=header)

soup_b=BeautifulSoup(html.text,features='lxml')

#進入套圖,解析套圖

pic_max=soup_b.find_all('span')[10].text

#選出該套圖的最大圖片數

tittle=soup_b.find('h2',{'class':'main-title'}).text


os.makedirs('./img/'+str(tittle))

#制造一個目錄

for i in range(1,int(pic_max)+1):

#循環,下載套圖圖片,

href=y['href']+'/'+str(i)

html2=requests.get(href,headers=header)

soup2=BeautifulSoup(html2.text,features='lxml')


pic_url=soup2.find('img',alt=tittle)

html_name=requests.get(pic_url['src'],headers=header,stream=True)

file_name=pic_url['src'].split(r'/')[-1]

with open('./img/'+str(tittle)+'/'+file_name,'wb') as f:

#按32字節下載

for x in html_name.iter_content(chunk_size=32):

f.write(x)

b=b+1

print('ok')

from bs4 import BeautifulSoup
import requests
import os
base_url='http://www.mzitu.com/page/'
header = { 'Referer':'http://www.mzitu.com'}
for x in range(13,20):
    html_a=requests.get(base_url+str(x),headers=header)
    soup_a=BeautifulSoup(html_a.text,features='lxml')
    pages=soup_a.find('ul',{'id':'pins'}).find_all('a')
    b=1
    for y in pages:
        if(b%2!=0):
            html=requests.get(y['href'],headers=header)
            soup_b=BeautifulSoup(html.text,features='lxml')
            pic_max=soup_b.find_all('span')[10].text
            tittle=soup_b.find('h2',{'class':'main-title'}).text
            os.makedirs('./img/'+str(tittle))
            for i in range(1,int(pic_max)+1):
                href=y['href']+'/'+str(i)
                html2=requests.get(href,headers=header)
                soup2=BeautifulSoup(html2.text,features='lxml')
                pic_url=soup2.find('img',alt=tittle)
                html_name=requests.get(pic_url['src'],headers=header,stream=True)
                file_name=pic_url['src'].split(r'/')[-1]
                
                with open('./img/'+str(tittle)+'/'+file_name,'wb') as f:
                    for x in html_name.iter_content(chunk_size=32):
                        f.write(x)
            
            
        b=b+1
print('ok')

以上代碼為原創代碼,

爬取結果如圖:

技術分享圖片

python爬去妹子網整個圖片資源教程(最詳細版)