1. 程式人生 > >使用億牛雲爬蟲代理失敗的原因

使用億牛雲爬蟲代理失敗的原因

錯誤提示 進行 應該 策略 http請求 自動 嚴格 設置 毫秒

http狀態碼407
原因:代理認證信息失敗,讓對方嚴格按照demo配置代理信息
http狀態碼429
原因:請求超過代理限制,嚴格按照所開代理的請求數,按照300毫秒為單位進行管理。如果限制之後,既然大量429,需要優化爬蟲策略,應該是目標網站返回的錯誤提示。
http狀態碼302
原因:訪問的是https網站,會自動跳轉一次,正常現象;訪問的http網站,網站拒絕服務,大量302需要優化爬蟲策略
http狀態碼403或504
原因:少量不影響,大量403或504需要優化爬蟲策略
http請求超時
原因:http請求的超時設置為10秒,尤其是對方訪問國外網站的時候。

使用億牛雲爬蟲代理失敗的原因