python - 基于scrapy-redis的分布式爬虫运行的时候不能正常运行 遇到的问题如下截图所示
PHPz
PHPz 2017-04-18 10:32:53
0
1
617

爬虫运行时一直是这样的每一分钟出现一条这样的信息,无限循环。不能爬取下来数据

这是redis服务端的显示

这样是什么问题,望有高手可以为我解惑,谢谢。

PHPz
PHPz

学习是最好的投资!

모든 응답(1)
大家讲道理

scrapy_redis를 사용하여 스파이더가 크롤링할 URL을 배치해야 합니다.
예를 들어

으아악
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿
회사 소개 부인 성명 Sitemap
PHP 중국어 웹사이트:공공복지 온라인 PHP 교육,PHP 학습자의 빠른 성장을 도와주세요!