javascript - Python 爬虫 Ajax 页面直接request获取居然速度比selenium慢。
高洛峰
高洛峰 2017-04-18 10:32:35
0
1
583

因为在爬取的网站需要账号登陆,不方便公开。
因此我只能这样大致性的咨询,实在抱歉。

我需要爬一个目标网站的数据,发现在点击下一页时候,网址并没有改变.通过源码确定是使用了js外加ajax的样子.
通过chrome的控制台,捕获到点击下一页时候,向指定地址发送了一条带多个参数的get指令。

原先采用selenium+phantomjs的方式暴力无脑方式爬取,一个页面大概5S左右就能获取,实际用浏览器打开也是这个速度。
为了爬取大量的数据,准备改用多线程+直接requests.get目标地址的方式来采集,但是发现采集速度非常的慢,从5S降到的20s左右。

请教下,出现这样现象的原因可能是什么?
我该如何解决?
请指教

高洛峰
高洛峰

拥有18年软件开发和IT教学经验。曾任多家上市公司技术总监、架构师、项目经理、高级软件工程师等职务。 网络人气名人讲师,...

모든 응답(1)
大家讲道理

시간낭비해서 죄송해요 - -
테스트를 시작했는데 주변에서 썬더를 또 다운받았는데 네트워크가 다운되더라구요.
미안해요 미안

최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿
회사 소개 부인 성명 Sitemap
PHP 중국어 웹사이트:공공복지 온라인 PHP 교육,PHP 학습자의 빠른 성장을 도와주세요!