利用python中的scrapy框架的css选择器对具体标签内容进行获取,但是获取不到内容。
当前网页源码(是js渲染之前的代码):
css选择器代码:urllist = response.css('ul.nav li a::attr(href)')[0::3].extract()
运行结果是:
urllist===================[]
urllist长度============ 0
css选择器内的代码应该是没有错误的,为什么获取不到内容?
由于怀疑是css选择器出现了问题,因此替换xpath选择器,
xpath选择器代码:urllist=response.xpath('//ul[@class ="nav"]/li/a/@href').extract()
但是运行结果和css选择器相同。内容仍为空,长度为0
CSS セレクター コードに問題があるのではない可能性があります。応答の内容が Web ページに表示されている内容と一致しているかどうかを確認してください。
コマンドラインでscrapyシェルを使用してターゲットURLを追加すると、応答オブジェクトが正常であるかどうかを最初に確認できます。 Web ページのソース コード
をクロールし、この応答オブジェクトを使用して CSS セレクターのコードをデバッグします