首頁 > 後端開發 > php教程 > php爬虫链接池和链接调度怎么写?

php爬虫链接池和链接调度怎么写?

WBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWB
發布: 2016-06-06 20:27:53
原創
1158 人瀏覽過

php爬虫链接池和链接调度怎么写?

链接池功能:1、 存储链接;2、 对链接去重;3、对链接设置优先级。
实践方案有:1、保存在数据库;2、redis;3、内存集合;4、队列。

链接池和抓取调度的代码怎么写?

回复内容:

php爬虫链接池和链接调度怎么写?

链接池功能:1、 存储链接;2、 对链接去重;3、对链接设置优先级。
实践方案有:1、保存在数据库;2、redis;3、内存集合;4、队列。

链接池和抓取调度的代码怎么写?

先将所有待爬取的链接取到,然后将每个链接的抓取动作放到队列中,推荐使用beanstalk,最后又队列执行这些动作。

相關標籤:
php
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板