1. 程式人生 > >爬蟲---批量下載美女圖片

爬蟲---批量下載美女圖片

import urllib.request
import os  #建立一個資料夾

def url_open(url):
       req=urllib.request.Request(url)#為它新增一個request頭,這樣更像是瀏覽器訪問
       req.add_header('User-Agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 SE 2.X MetaSr 1.0')
       response=urllib.request.urlopen(url)
       html=response.read()
       
       return html

def get_page(url):
      html=url_open(url).decode('utf-8')
       #查詢,字串查詢用find方法
      a=html.find('current-comment-page')+23#加上偏移,正好到44這個4的位置
      b=html.find(']',a)
      return html[a:b]
def find_imgs(url):
       html=url_open(url).decode('utf-8')
       img_addrs=[]#用一個列表進行儲存

       a=html.find('img src=')
       while a!=-1:#當a能找到就繼續迴圈,找不到則停止
              b=html.find('.jpg',a,a+255)

              if b!=-1:
                     img_addrs.append(html[a+9:b+4])
              else:
                     b=a+9
              a=html.find('img src=',b)#a的下一次起始位置就是上一次的最終位置
       return img_addrs

def save_imgs(folder,img_addrs):
       for each in img_addrs:
              filename=each.split('/')[-1]#把它最後的名字拿出來
              with open(filename,'wb') as f:
                     img=url_open(each)
                     f.write(img)
                     
       
       


def download_mm(folder='ooxx',pages=10):
       os.mkdir(folder)#建立一個檔名為floder的資料夾
       os.chdir(folder)#當前工作目錄切換過去
       
       url=' https://jandan.net/ooxx'
       page_num=int(get_page(url))#獲取後是字元型,要把它轉換為整型

       for i in range(pages):
              page_num-=i
              #https://jandan.net/ooxx/page-43#comments
              page_url=url+'/page-'+str(page_num)+'#comments'
              #獲取圖片的地址,然後寫成列表返回
              img_addrs=find_imgs(page_url)
              #儲存頁面到指定資料夾
              save_imgs(folder,img_addrs)

if __name__=='__main__':
       download_mm()