python - 用scrapy-splash爬取网站 为啥iframe下的内容没有被返回
巴扎黑
巴扎黑 2017-04-18 10:31:05
0
1
1478

用scrapy-splash爬取网站 为啥iframe下的内容没有被返回?

import scrapy
from scrapy import Selector



class Music163Spider(scrapy.Spider):
    name = "music163"
    allowed_domains = ["music.163.com/#/discover/toplist"]
    start_urls = ['http://music.163.com/#/discover/toplist/']

    def parse(self, response):
        print("parse:",response.text)
        

    def start_requests(self):
        for url in self.start_urls:
            yield scrapy.Request(url, self.parse, meta={
                'splash': {
                    'endpoint': 'render.html',
                    'args': {
                        'wait': 0.5,
                    }
                }
            })
巴扎黑
巴扎黑

全員に返信(1)
大家讲道理

コンテンツを再度リクエストするには、解析で iframe の URL を取得する必要があります。

いいねを押す +0
人気のチュートリアル
詳細>
最新のダウンロード
詳細>
ウェブエフェクト
公式サイト
サイト素材
フロントエンドテンプレート