1. 程式人生 > >億牛雲爬蟲代理如何保證24小時穩定運行

億牛雲爬蟲代理如何保證24小時穩定運行

復雜 雙機 連接 外網 時間間隔 時間 自動更新 集群 進行

如何保證7×24小時穩定運行
由於代理IP分布於全國,線路多、集群結構復雜,加上部分線路不定期升級,可能會偶爾會出現代理鏈接不上的情況,平臺提供雙機熱備代理服務器(1分鐘左右切換時間)確保代理服務實時在線,同時需要爬蟲程序進行相應的優化,有兩種方案:
(1)代理提取鏈接自動更新(優先推薦,實時更新)
爬蟲程序需要開啟專用線程,每1分鐘訪問“代理提取鏈接”,如果發現代理IP和PORT有變化,爬蟲程序需要自動更新代理信息。(因為爬蟲服務器外網IP變化或其他網絡原因,可能會偶爾造成代理信息獲取失敗,重新發起請求即可)。
(2)域名訪問模式(被動更新,延遲較長)
通知專屬客服開啟“域名訪問模式”,爬蟲程序通過“域名與端口”連接代理服務器。平臺進行定期檢查,一旦發現在線代理服務器異常,後臺進行域名指向更新,由於DNS服務器同步時間較長,加上在線檢測時間間隔,因此該方案作為備選。

億牛雲爬蟲代理如何保證24小時穩定運行