網頁爬蟲 - node.js 爬蟲 外部呼叫函數無法取得變數值

最近想自己寫個爬蟲爬點小說看一下,但是碰到了一些困難console.log(catalogUrl)能夠打印出所需要的網址但是我期望的是我在外部調用var xxx = getCatalogUrl(book)這個函數能夠獲取catalogUrl這個變數的值我試...

習慣沉默 2017-05-16 13:25:17 0  2  529

PHP爬蟲是如何連接到動態爬蟲代理的？

php爬蟲是如何接入爬蟲代理的呢，之前用的是python  和php一樣的 嗎 接入方式？

Laical 2020-03-13 17:10:19 0  0  1092

網頁爬蟲 - Python爬蟲入門知識

本人快大二了，自習了Python，文法基本上會。想學下爬蟲，但是感覺這牽涉到好多知識啊，有沒有過來人總結下都有什麼知識，或者Python爬蟲該怎麼學？

欧阳克 2017-07-05 10:34:11 0  3  1187

python - 關於爬蟲爬取圖片的問題？

現在的爬蟲通常都是從html裡面解析出圖片，但問題是有的圖片路徑寫在js裡面。這個怎麼爬？我知道瀏覽器打開f12點source可以看裡面的圖片，但要怎麼用爬蟲把source裡面的資源爬出來？

我想大声告诉你 2017-06-28 09:25:40 0  2  1033

node.js - node爬蟲，如何使用IP池防反爬？

問題是這樣的，本菜鳥剛開始學node，當然，明顯是衝著爬蟲去的。然後我最近在看一本小說，但是那些免費的小說網站廣告太多，所以計劃寫個爬蟲把整本小說爬下來，但是遇到url請求次數太頻繁，以至於會遭反爬，被屏. ..

为情所困 2017-06-05 11:13:33 0  1  1220

html - 爬蟲時出現'DNS lookup failed”，開啟網頁卻沒問題，這是什麼情況？

RT，在使用python進行爬蟲，一開始一切正常，突然網頁卡死，等待了一會兒後恢復正常，然而這時候再進行爬蟲時，就會報“DNS lookup failed”，試過很多網站，網頁卻是正常打開。請教原因及解決方法。跪謝！ ！

PHP中文网 2017-06-14 10:50:53 0  1  1212

網頁爬蟲 - python requests爬蟲問題

我在使用requests爬蟲的時候，出現了這樣一個問題，我提交帳號密碼後，網頁首先不會提交，而是會有一個防刷的標識，url也沒有改變，然後刷新之後，網頁的data才被提交到另一個頁面，請問我如何直接提交，或者可以...

仅有的幸福 2017-05-27 17:39:37 0  1  560

python - 爬蟲內容儲存成文字檔案 編碼問題

測試一個非常簡單的爬蟲，把一個非常簡約風格的網頁的文字內容儲存到本地的電腦上。最後出現錯誤： {代碼...} 代碼如下： {代碼...}

欧阳克 2017-06-12 09:26:21 0  1  856

網頁爬蟲 - Python requests.get 爬蟲 設定代理 IP位址未改變

工作需要爬取亞馬遜上面的訊息，但是亞馬遜反爬蟲太厲害，同一個IP位址會被封。 Python版本：3.6， IDE：Pycharm 2017.1上網查了很多資料，requests函式庫的手冊也讀過，但是都是同一個方法，程式碼如下： {程式碼...} ...

typecho 2017-06-12 09:24:11 0  1  1200

網頁爬蟲 - python3.4.1 request模組報錯 'list' object has no attribute 'get'

用python 寫了一個爬取ip位址的爬蟲，由於該網站是反爬蟲的，所以寫了代理使用線程池開啟10個線程來爬取ip地址然而直接報錯'list' object has no attribute 'get'不知道如何解決，貼上本人代碼。 from bs4 import...

世界只因有你 2017-06-12 09:24:16 0  3  3491

網頁爬蟲 - Java爬蟲已取得圖片連結但是無法下載圖片

利用爬蟲在html中獲取的相應圖片資源src的代碼是這樣的但是再通過代碼將資源轉成鏈接的形式下載圖片的時候，就報了400的錯誤然而，我使用chrome去測試鏈接是否存在是，發現，真正對方網站伺服器能夠辨識的是也...

黄舟 2017-05-17 10:01:58 0  2  578

python - csdn爬蟲評論

https://github.com/xchaoinfo/fuck-login/blob/master/015%20CSDN/csdn.py 根據87-88行的註釋說明，為什麼用爬蟲去評論csdn文章的時候需要轉化成這個鏈接，這個連結是怎麼得來的，我看了下網頁程式碼沒有相關連結...

仅有的幸福 2017-05-18 10:53:42 0  2  854

java - 爬蟲爬取圖片問題？

剛剛修改了下POM,大家可以重新下載源碼這是我寫的爬蟲的項目地址項目不報錯，但是問題是下載圖片到本地後經常性的是圖片不完整，如下： 這是下載圖片的核心代碼，如下： {程式碼...} 經過資料查詢，感覺是範圍請...

天蓬老师 2017-06-23 09:12:30 0  1  839

redis - 行python爬蟲時，MySQL版本是5.7，總是報錯

執行python爬蟲時，MySQL版本是5.7，總是報錯 {程式碼...} 問題出在什麼地方？怎麼解決呢？

扔个三星炸死你 2017-06-12 09:19:42 0  2  912

各位python爬蟲大牛看過來,這個網站的反爬蟲怎麼處理

https://www.everysaving.co.uk透過python爬取這個網站的資料,然而回不了資料,！我加入了header和代理IP去抓取,也不行,望各位大牛們不妨試試看。 。 。

曾经蜡笔没有小新 2017-05-18 11:01:00 0  4  758

如何使用PHP爬蟲採集亞馬遜？

由於上次亞馬遜網站升級，導致爬蟲掛掉，現在亞馬遜的反扒策略更加嚴格。導致無法正常採集。有新的採集策略嗎？

Laical 2020-03-26 17:20:49 0  0  1199

selenium - 請教 Python 爬蟲工具

1)我要抓的是Instagram 某明星的粉絲2)Instagram pc 站使用了大量的js 渲染3)沒寫過爬蟲,老闆明天就要數據我目前使用的是BeautifulSoup, selenium 和phantomjs 代碼demo 大概是{代碼...} 問題是:1) 我不知道...

阿神 2017-06-28 09:22:20 0  1  994

python - 爬蟲模擬登入後，爬取csdn後台文章清單遇到的問題

爬蟲確實已經登入進去了，因為我爬取個人資料是可以抓出來的，但是下圖的這個網址抓不出來： 網址是：http://write.blog.csdn.net/postlist，就是你的csdn後台。我貼下程式碼吧，py2.7的 {程式碼...} 上面的程式碼輸出...

ringa_lee 2017-05-18 10:51:59 0  2  1068

python - 怎麼用爬蟲批次抓取網頁中的圖片？

如圖，透過network查看載入圖片，要一張一張右鍵保存很麻煩，有沒有辦法寫個爬蟲批量抓取這裡的圖片》？

给我你的怀抱 2017-06-28 09:25:48 0  3  1180

python - 阿里巴巴爬蟲源碼的應用疑惑

1.目前問題：運行該py文件，沒有任何反應，請問是什麼問題？ 2.純新手，沒接觸過py，只學完初淺的html+css。但由於公司一個專案需要蒐集區域的供應商信息，想到了py爬蟲，便在一個科學怪咖的網站找到了一個爬取阿...

阿神 2017-06-22 11:51:27 0  1  1880