python - scrapy无法抓取css选择器指定的内容
大家讲道理
大家讲道理 2017-04-17 17:01:43
0
2
304

我在ubuntu14.04上工作,使用google chrome浏览器。想使用scrapy(1.0)把拉勾网上有关python的工作都爬一遍,但是得不到想要的结果。代码如下

#!/usr/bin/python
# -*- coding: utf-8 -*-
#Filename: dmoz_spider.py

import scrapy

class DmozSpider(scrapy.Spider):
    name = "dmoz"
    start_urls = [
    'http://www.lagou.com/jobs/list_python?gj=1-3%E5%B9%B4&px=default&city=%E6%88%90%E9%83%BD#filterBox'
    ]

    def parse(self, response):
        total = response.css('.money').extract()
        print('note:', total)
        for res in total:
            print(res)

这里是拉勾网的地址,地点成都,python相关
我想要获取的内容如下:"6k-9k" 即每个岗位的薪资

使用chrome的一个插件SelectorGadgets得到了要抓取的内容的css selector表达hi为.money。然后在终端用命令scrapy crawl dmoz开始启动爬虫,但是却没有得到任何结果,请教各位大神,这是怎么回事?
PS:该selector在chrome的F12工具里都可以正确地选出内容。

大家讲道理
大家讲道理

光阴似箭催人老,日月如移越少年。

모든 응답(2)
Peter_Zhu

어떤 콘텐츠가 Ajax 동적일 수 있나요? 응답에 HTML을 인쇄하여 콘텐츠가 있는지 확인하세요.

阿神

이 상황이 발생할 경우 일반적으로 다음과 같은 가능성이 있습니다.
1. 반환된 응답 자체가 비어 있는 경우 IP가 차단되어야 합니다.
2. 반환된 응답이 비어 있지 않습니다. 으아악

검색결과 목록 페이지


bJob 세부정보 페이지


c 직위 세부정보 소스 코드 페이지


최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿