如何用客戶端ip實作分散式爬蟲

WBOY
發布: 2016-08-08 09:06:43
原創
1320 人瀏覽過

如果用服務端爬蟲會遇到各種問題,如何實現訪客打開網頁時用訪客的ip訪問被爬的網站,然後把資料上傳,這樣可以實現分佈式爬蟲嗎? ajax取得被爬的資料然後傳到自己的伺服器?

是否已有類似的例子或開源專案?

回覆內容:

如果用服務端爬蟲會遇到各種問題,如何實現訪客打開網頁時用訪客的ip訪問被爬的網站,然後把資料上傳,這樣可以實現分佈式爬蟲嗎? ajax取得被爬的資料然後傳到自己的伺服器?

是否已有類似的例子或開源專案?

你這是在竊取用戶隱私,行不通的~

基本原理是建立一個隱藏的iframe然後請求目標網站,請求成功後使用ajax儲存到本機伺服器。 。因為許多網站都做了反爬蟲策略,所以服務端爬蟲經常失效,這種情況下使用客戶端爬蟲很好用。

但是,使用者體驗不太好。 。 。 。

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板