php爬虫链接池和链接调度怎么写?

WBOY
发布: 2016-06-06 20:27:53
原创
1089 人浏览过

php爬虫链接池和链接调度怎么写?

链接池功能:1、 存储链接;2、 对链接去重;3、对链接设置优先级。
实践方案有:1、保存在数据库;2、redis;3、内存集合;4、队列。

链接池和抓取调度的代码怎么写?

回复内容:

php爬虫链接池和链接调度怎么写?

链接池功能:1、 存储链接;2、 对链接去重;3、对链接设置优先级。
实践方案有:1、保存在数据库;2、redis;3、内存集合;4、队列。

链接池和抓取调度的代码怎么写?

先将所有待爬取的链接取到,然后将每个链接的抓取动作放到队列中,推荐使用beanstalk,最后又队列执行这些动作。

相关标签:
php
来源:php.cn
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责声明 Sitemap
PHP中文网:公益在线PHP培训,帮助PHP学习者快速成长!