python - scrapy 处理 文章 分页的内容
PHP中文网
PHP中文网 2017-04-18 10:32:48
0
3
432

如一篇文章有2-3页,然后想把这些内容页爬下来,拼接成一页,然后再放入数据库。
文章url如:article_1.html,article_2.html
item有:item['title'],item['content']
item['content']就是拼接成一页的内容。
大概怎么写呢?

PHP中文网
PHP中文网

认证0级讲师

répondre à tous(3)
大家讲道理

Trouver l'URL de l'interface de pagination

大家讲道理

Trouvez le lien vers la page suivante et ajoutez-le à la liste des URL explorées

洪涛

Vous pouvez écrire des règles régulières dans les règles pour analyser automatiquement les URL correspondantes

Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal