之前在網路上也寫了不少關於爬蟲爬取網頁的程式碼，最近還是想把寫的爬蟲記錄一下，方便大家使用吧！
程式碼一共分為4部分：
第一部分：找一個網站。
我这里还是找了一个比较简单的网站，就是大家都知道的https://movie.douban.com/top250?start= 大家可以登录里面看一下。
這裡大家可能會有一些函式庫沒有進行安裝，先上圖讓大家安裝完爬取網頁所需的函式庫，其中我本次用到的函式庫有：bs4，urllib， xlwt, re。
（免費學習推薦：python影片教學）
如圖
在這裡選擇file -setting-Project-然後選擇左下角的加號，自行去安裝自己所需的檔案就可以了。
下面的程式碼是爬取網頁的原始碼：
#
import urllib.requestfrom bs4 import BeautifulSoupimport xlwtimport redef main():
# 爬取网页
baseurl = 'https://movie.douban.com/top250?start='
datalist = getData(baseurl)
savepath = '豆瓣电影Top250.xls'
# 保存数据
saveData(datalist,savepath)
# askURL("https://movie.douban.com/top250?start=1")#影片详情的规则findLink = re.compile(r'<a>') #创建从正则表达式，表示规则findImgSrc = re.compile(r'<img . alt="介紹python爬取網頁" >(.*)')#影片的评分findReating = re.compile(r'<span>(.*)</span>')#找到评价人数findJudge = re.compile(r'<span>(\d*)人评价</span>')#找到概况findInq = re.compile(r'<span>(.*)</span>')#找到影片的相关内容findBb = re.compile(r'<p>(.*?)</p>', re.S)#re.S忽视换行符</img.></a>第二部分：爬取網頁。
def getData(baseurl):
datalist = []
for i in range(0, 10):
url = baseurl + str(i*25)
html = askURL(url) #保存获取到的网页源码
#对网页进行解析
soup = BeautifulSoup(html, 'html.parser')
for item in soup.find_all('p', class_="item"): #查找符合要求的字符串 形成列表
#print(item) #测试查看电影信息
data = []
item = str(item)
link = re.findall(findLink, item)[0] #re库用来查找指定的字符串
data.append(link)
imgSrc = re.findall(findImgSrc, item)[0]
data.append(imgSrc) #添加图片
titles = re.findall(finTitle, item) #
if (len(titles) == 2):
ctitle = titles[0] #添加中文名
data.append(ctitle)
otitle = titles[1].replace("/", "") #replace("/", "")去掉无关的符号
data.append(otitle) #添加英文名
else:
data.append(titles[0])
data.append(' ')#外国名字留空
rating = re.findall(findReating, item)[0] #添加评分
data.append(rating)
judgeNum = re.findall(findJudge,item) #评价人数
data.append(judgeNum)
inq = re.findall(findInq, item) #添加概述
if len(inq) != 0:
inq = inq[0].replace(".", "") #去掉句号
data.append(inq)
else:
data.append(" ") #留空
bd = re.findall(findBb,item)[0]
bd = re.sub('<br>(\s+)?',' ', bd) #去掉br 后面这个bd表示对bd进行操作
bd = re.sub('/', ' ', bd) #替换/
data.append(bd.strip()) #去掉前后的空格strip()
datalist.append(data) #把处理好的一部电影放入datalist当中
return datalist第三部分：得到一個指定的url資訊。
#得到指定的一个url网页信息def askURL(url):
head = {
"User-Agent": "Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.141 Mobile Safari/537.36"}
request = urllib.request.Request(url,headers=head) # get请求不需要其他的的，而post请求需要 一个method方法
html = ""
try:
response = urllib.request.urlopen(request)
html = response.read().decode('utf-8')
# print(html)
except Exception as e:
if hasattr(e,'code'):
print(e.code)
if hasattr(e,'reason'):
print(e.reason)
return html第四部分：儲存資料
# 3:保存数据def saveData(datalist,savepath):
book = xlwt.Workbook(encoding="utf-8", style_compression=0)
sheet = book.add_sheet('豆瓣电影Top250', cell_overwrite_ok=True)
col = ('电影详情链接', '图片链接', '影片中文名', '影片外国名', '评分', '评价数', '概况', '相关信息')
for i in range(0,8):
sheet.write(0,i,col[i]) #列名
for i in range(0,250):
print("第%d条"%i)
data = datalist[i]
for j in range(0,8):
sheet.write(i+1,j,data[j])
book.save(savepath) #保存這裡大家看一下程式碼，關於程式碼的標註我寫的還是挺清楚的。
其中關於學習這個爬蟲，還需要學習一些基本的正規表示式，當然python基本的語法是必不可少的希望對大家有幫助吧。
相關免費學習推薦：python教學（影片）
以上是介紹python爬取網頁的詳細內容。更多資訊請關注PHP中文網其他相關文章！
