Selenium及Headless Chrome抓取動態HTML頁面
一般的的靜態HTML頁面可以使用requests等庫直接抓取，但還有一部分比較複雜的動態頁面，這些頁面的DOM是動態生成的，有些還需要使用者與其點選互動，這些頁面只能使用真實的瀏覽器引擎動態解析，Selenium和Chrome Headless可以很好的達到這種目的。
Headless Chrome
Headless Chrome 是 Chrome 瀏覽器的無介面形態，可以在不開啟瀏覽器的前提下，使用所有Chrome支援的特性，在命令列中執行你的指令碼。以前在爬蟲要使用Phantomjs來實現這些功能，但Phantomjs已經暫停開發，現在可以使用Headless Chrome來代替。
使用很簡單，保證chrome命令指向chrome瀏覽器的安裝路徑，ubuntu下為google-chrome。
輸出html：
google-chrome --headless --dump-dom https://www.cnblogs.com/
將目標頁面截圖：
google-chrome --headless --disable-gpu --screenshot https://www.cnblogs.com/ # 規定大小 google-chrome --headless --disable-gpu --screenshot --window-size=640,960 https://www.cnblogs.com/
儲存為pdf：
google-chrome --headless --disable-gpu --print-to-pdf https://www.cnblogs.com/
以上檔案會保存於當前目錄。
還可以使用--remote-debugging-port引數進行遠端除錯：
google-chrome --headless --disable-gpu --no-sandbox --remote-debugging-port=9222 --user-data-dir='/d/cnblogs' http://www.cnblogs.com
--user-data-dir引數可以設定儲存目錄，--user-agent引數可以設定請求agent。上述的命令打開了一個websocket除錯介面對當前Tab內頁面的DOM、網路、效能、儲存等等進行除錯。
開啟http://127.0.0.1:9222/連結可以看到可檢查的網頁，可以點選它們並看到使用了哪種Headless渲染。
還有一系列地址：
http://127.0.0.1:9222/json 檢視已經開啟的Tab列表：
[ {
"description": "",
"devtoolsFrontendUrl": "/devtools/inspector.html?ws=127.0.0.1:9222/devtools/page/5C7774203404DC082182AF4563CC7256",
"id": "5C7774203404DC082182AF4563CC7256",
"title": "部落格園 - 程式碼改變世界",
"type": "page",
"url": "https://www.cnblogs.com/",
"webSocketDebuggerUrl": "ws://127.0.0.1:9222/devtools/page/5C7774203404DC082182AF4563CC7256"
} ]
http://127.0.0.1:9222/json/version : 檢視瀏覽器版本資訊
{
"Browser": "HeadlessChrome/71.0.3578.98",
"Protocol-Version": "1.3",
"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) HeadlessChrome/71.0.3578.98 Safari/537.36",
"V8-Version": "7.1.302.31",
"WebKit-Version": "537.36 (@15234034d19b85dcd9a03b164ae89d04145d8368)",
"webSocketDebuggerUrl": "ws://127.0.0.1:9222/devtools/browser/ed156c0d-805c-4849-99d0-02e454260c17"
}
http://127.0.0.1:9222/json/new?http://www.baidu.com : 新開Tab開啟指定地址
http://127.0.0.1:9222/json/close/8795FFF09B01BD41B1F2931110475A67 : 關閉指定Tab,close後為tab頁面的id
http://127.0.0.1:9222/json/activate/5C7774203404DC082182AF4563CC7256 : 切換到目標Tab
tab頁面資訊中有一個devtoolsFrontendUrl，是開發者工具的前端地址，可以開啟：
http://127.0.0.1:9222/devtools/inspector.html?ws=127.0.0.1:9222/devtools/page/CE2E627C634EAAE3CE9193DC374C7B4A
在開發者工具裡切換到Performance，勾選Screenshots，點重新整理圖示，重新載入完成就可以看到逐幀載入的截圖：
Selenium
Selenium 是用於測試 Web 應用程式使用者介面的常用框架，它支援各種瀏覽器，包括 Chrome，Safari，Firefox 等，支援多種語言開發，比如 Java，C，Ruby等等，當然也有Python。
pip install selenium
使用時還需要下載瀏覽器驅動，以chromedriver為例，下載地址：
國內映象：
下載時注意與電腦的chrome版本保持一致，然後將chromedriver置於環境變數之中。
開啟一個淘寶商品網頁：
from selenium import webdriver
browser = webdriver.Chrome()
browser.get('https://market.m.taobao.com/app/dinamic/h5-tb-detail/index.html?id=568217064643')
瀏覽器會自動開啟並訪問網頁。
使用headless模式：
from selenium import webdriver
chrome_options = webdriver.ChromeOptions()
chrome_options.add_argument('--no-sandbox')
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
browser = webdriver.Chrome(options=chrome_options)
browser.get('https://market.m.taobao.com/app/dinamic/h5-tb-detail/index.html?id=568217064643')
data = browser.page_source
page_souce屬性可以獲取html網頁原始碼。
可以看到獲取的原始碼都是些js與css語句，dom並未生成，需要模擬瀏覽器滾動來生成dom：
for i in range(1, 11):
browser.execute_script(
"window.scrollTo(0, document.body.scrollHeight/10*%s);" % i
)
time.sleep(0.5)
execute_script方法可以用來執行js指令碼。
現在獲取的原始碼基本是完整的，還存在一些小問題，比如網頁為了讓img延遲載入，img的地址是放在data-img屬性上的，等到瀏覽器滑動至圖片時才修改src屬性，可以使用pyquery修改：
import time
from selenium import webdriver
from pyquery import PyQuery as pq
base_dir = os.path.dirname(__file__)
chrome_options = webdriver.ChromeOptions()
chrome_options.add_argument('--no-sandbox')
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
browser = webdriver.Chrome(options=chrome_options)
# browser.implicitly_wait(10)
browser.get('https://market.m.taobao.com/app/dinamic/h5-tb-detail/index.html?id=568217064643')
for i in range(1, 11):
browser.execute_script(
"window.scrollTo(0, document.body.scrollHeight/10*%s);" % i
)
time.sleep(0.5)
data = browser.page_source.encode('utf-8')
doc = pq(data)
for img in doc('img'):
img = pq(img)
if img.attr['data-img']:
img.attr.src = img.attr['data-img']
data = doc.html(method='html').replace('src="//', 'src="http://')
f = open(os.path.join(base_dir, 'detail.html'), 'w')
f.write(data.encode('utf-8'))
f.close()
儲存為html後開啟可以看到網頁爬取成功。
selenium還提供了很多element提取介面：
提取單個element：
elem = browser.find_element_by_id("description")
提取多個：
elem = browser.find_elements_by_class_name("detail-desc")
批量爬取
可以使用concurrent.futures 執行緒池進行多執行緒批量爬取：
# -*- coding: utf-8 -*-
import threading
import time
import os
from concurrent.futures import ThreadPoolExecutor, as_completed
from pyquery import PyQuery as pq
class TaobaoCrawler(object):
def __init__(self, ids):
self.ids = ids
self.browsers = {}
self.timeout_spus = []
self.url = 'https://market.m.taobao.com/app/dinamic/h5-tb-detail/index.html?id='
def _create_new_browser(self):
from selenium import webdriver
chrome_options = webdriver.ChromeOptions()
chrome_options.add_argument('--no-sandbox')
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
# chrome_options.add_argument('--blink-settings=imagesEnabled=false')
browser = webdriver.Chrome(options=chrome_options)
return browser
def get_browser(self):
current_thread_id = threading.currentThread().ident
existed = self.browsers.get(current_thread_id)
if existed:
return existed
new_browser = self._create_new_browser()
self.browsers[current_thread_id] = new_browser
return new_browser
def close_browsers(self):
for _, browser in self.browsers.iteritems():
browser.quit()
self.browsers = {}
def scroll_browser(self, browser, num):
'''模擬瀏覽器滾動 保證js全部執行完成'''
for i in range(1, num+1):
browser.execute_script(
"window.scrollTo(0, document.body.scrollHeight/%d*%d);" % (
num, i)
)
time.sleep(0.5)
def handle_detail_doc(self, detail):
doc = pq(detail)
for img in doc('img'):
img = pq(img)
if img.attr['data-img']:
img.attr.src = img.attr['data-img']
detail = doc.html(method='html')
detail = detail.replace('src="//', 'src="http://')
return detail
def crawl_taobao_detail(self, taobao_id):
browser = self.get_browser()
url = self.url + str(taobao_id)
browser.execute_script("window.stop();")
browser.get(url)
self.scroll_browser(browser, 20)
data = browser.page_source.encode('utf-8')
data = self.handle_detail_doc(data)
return taobao_id, data
def start_crawl(self):
if not self.ids:
return
with ThreadPoolExecutor(max_workers=4) as executor:
futures = [executor.submit(self.crawl_taobao_detail, _)
for _ in self.ids]
for task in as_completed(futures):
if task.done():
taobao_id, data = task.result()
base_dir = os.path.dirname(__file__)
f = open(os.path.join(base_dir, str(taobao_id) + '.html'), 'w')
f.write(data.encode('utf-8'))
f.close()
self.close_browsers()
def test_crawl():
ids = [568217064643, 584126060993, 581555053584, 581002124614]
c = TaobaoCrawler(ids)
c.start_crawl()
if __name__ == '__main__':
test_crawl()