代码:
# /usr/bin/python
#coding:utf-8
__author__ = 'eyu Fanne'
import requests,re
from bs4 import BeautifulSoup
move_url = 'https://movie.douban.com/'
def Robot():
res_url = requests.get(move_url)
print res_url.status_code
soup = BeautifulSoup(res_url.text,'lxml')
print soup.title
soup_a = soup.find_all("a",class_="item")
for i in soup_a:
print i
print soup_a
if __name__=='__main__':
Robot()
结果:
200
<title>
豆瓣电影
</title>
[]
抓取
<a class='item' ....>
这个标签内的值,但获取到的空,这是为何。
查看一下页面源代码,里面并没有电影信息。其实是JS渲染到页面上的。
可以看下这个链接 https://movie.douban.com/j/search_subjects?type=movie&tag=%E7%83%AD%E9%97%A8&sort=recommend&page_limit=20&page_start=0
豆瓣电影有公开API接口。。为什么要去爬页面。。
http://developers.douban.com/wiki/?title=movie_v2