python - scrapy 处理 文章 分页的内容
PHP中文网
PHP中文网 2017-04-18 10:32:48
0
3
399

如一篇文章有2-3页,然后想把这些内容页爬下来,拼接成一页,然后再放入数据库。
文章url如:article_1.html,article_2.html
item有:item['title'],item['content']
item['content']就是拼接成一页的内容。
大概怎么写呢?

PHP中文网
PHP中文网

认证0级讲师

全部回复(3)
大家讲道理

找到分页接口url

大家讲道理

找到那个下一页的链接,加入到爬取url列表中

洪涛

可以在rules里面写正则自动扫描符合的url

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责声明 Sitemap
PHP中文网:公益在线PHP培训,帮助PHP学习者快速成长!