python爬虫 - python爬取豆瓣电影,无法抓取到内容
阿神
阿神 2017-04-17 17:05:11
0
2
1097

代码:

# /usr/bin/python
#coding:utf-8
__author__ = 'eyu Fanne'

import requests,re
from bs4 import BeautifulSoup

move_url = 'https://movie.douban.com/'

def Robot():
    res_url = requests.get(move_url)
    print res_url.status_code
    soup = BeautifulSoup(res_url.text,'lxml')
    print soup.title
    soup_a = soup.find_all("a",class_="item")
    for i in soup_a:
        print i
    print soup_a



if __name__=='__main__':
    Robot()

结果:
200
<title>

    豆瓣电影

</title>
[]

抓取

<a class='item' ....>

这个标签内的值,但获取到的空,这是为何。

阿神
阿神

闭关修行中......

Antworte allen(2)
大家讲道理

查看一下页面源代码,里面并没有电影信息。其实是JS渲染到页面上的。
可以看下这个链接 https://movie.douban.com/j/search_subjects?type=movie&tag=%E7%83%AD%E9%97%A8&sort=recommend&page_limit=20&page_start=0

Peter_Zhu

豆瓣电影有公开API接口。。为什么要去爬页面。。
http://developers.douban.com/wiki/?title=movie_v2

Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage