Python网络爬虫requests库怎么使用-Python教程-PHP中文网

1. 什么是网络爬虫

为什么需要网络爬虫

网络爬虫的应用

2. 网络传输协议HTTP

3. requests库（不喜欢理论知识的同学们可以直接来这里哦）

1. requests库的安装

2. 实战

首页

后端开发

Python教程

Python网络爬虫requests库怎么使用

WBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWB

May 15, 2023 am 10:34 AM

python requests

1. 什么是网络爬虫

简单来说，就是构建一个程序，以自动化的方式从网络上下载、解析和组织数据。

就像我们浏览网页的时候，对于我们感兴趣的内容我们会复制粘贴到自己的笔记本中，方便下次阅读浏览——网络爬虫帮我们自动完成这些内容

当然如果遇到一些无法复制粘贴的网站——网络爬虫就更能显示它的力量了

为什么需要网络爬虫

当我们需要做一些数据分析的时候——而很多时候这些数据存储在网页中，手动下载需要花费的时间太长，这时候我们就需要网络爬虫帮助我们自动爬取这些数据来（当然我们会过滤掉网页上那些没用的东西）

网络爬虫的应用

访问和收集网络数据有十分广泛的应用，其中很多属于数据科学领域我们来看看下面这些例子：

淘宝网的卖家需要从海量的评价中寻找到有用的正面的和反面的信息，来帮助他进一步抓住顾客的心，分析顾客的购物心理有学者在twitter、微博等社交媒体上爬取信息来构建一个数据集，从而建立一个识别抑郁症和自杀念头的预测模型——让更多需要援助的人得到帮助——当然我们也需要考虑到隐私相关的问题——但这很酷不是吗？

作为一名人工智能工程师，他们从Ins上爬取志愿者所展示的喜好的图片，来训练深度学习模型，从而预测给出的图像是否会被志愿者所喜好——手机制造商将这些模型纳入他们的图片应用程序中，推送给你。电商平台的数据科学家爬取用户浏览商品的信息，进行分析和预测，以便推送给用户他最想要了解和购买的商品

是的！网络爬虫的应用十分广泛，小到我们日常用来批量爬取一些高清的壁纸，图片；大到人工智能、深度学习、商业策略制定的数据来源等。

这个时代是数据的时代，数据就是“新石油”

2. 网络传输协议HTTP

没错，讲到网络爬虫一定绕不开的就是这个HTTP，当然我们不需要像网络工程师那样详细的了解协议定义的方方面面，但是作为入门我们还是得具有一定的认识才行

国际标准化组织ISO维护了开放式通信系统互联参考模型OSI，而该模型将计算机通信结构分为七层

物理层：包括以太网协议、USB协议、蓝牙协议等
数据链路层：包含以太网协议
网络层：包含IP协议
传输层：包含TCP、UDP协议
会话层：包含用于打开/关闭和管理会话的协议
表示层：包含保护格式还和翻译数据的协议
应用层：包含HTTP和DNS网络服务协议

现在来看看HTTP请求和响应是什么样子的（因为后面会涉及自定义请求头）一般请求消息由一下内容构成：

请求行
多个请求头
空行
可选的消息主体

具体的请求消息：

GET https://www.baidu.com/?tn=80035161_1_dg HTTP/1.1
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8
Accept-Language: zh-Hans-CN,zh-Hans;q=0.8,en-GB;q=0.5,en;q=0.3
Upgrade-Insecure-Requests: 1
User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.102 Safari/537.36 Edge/18.18362
Accept-Encoding: gzip, deflate, br
Host: www.baidu.com
Connection: Keep-Alive

登录后复制

这个是访问百度时的请求，当然里面的很多细节我们也不需要知道，因为python的request包会帮助我们完成我们的爬取

当然我们也能查看网页对我们的请求返回的信息：

HTTP/1.1 200 OK //这边的状态码为200表示我们的请求成功
Bdpagetype: 2
Cache-Control: private
Connection: keep-alive
Content-Encoding: gzip
Content-Type: text/html;charset=utf-8
Date: Sun, 09 Aug 2020 02:57:00 GMT
Expires: Sun, 09 Aug 2020 02:56:59 GMT
X-Ua-Compatible: IE=Edge,chrome=1
Transfer-Encoding: chunked

登录后复制

3. requests库（不喜欢理论知识的同学们可以直接来这里哦）

我们知道其实python还预置了另外的处理HTTP的库——urllib和urllib3，但是requests库学起来更容易——代码更简洁易懂。当然当我们成功爬取下网页时，将要将里面我们感兴趣的东西提取出来的时候，我们会提到另一个十分有用的库——美丽汤（Beautiful Soup）——这又是后话了

1. requests库的安装

这里我们可以直接找到requests的.whl文件安装，也可以直接使用pip来安装（当然如果有pycharm的同学可以直接从里面的环境加载中下载）

2. 实战

下面我们开始正式爬取网页

代码如下：

import requests
target = &#39;https://www.baidu.com/&#39;
get_url = requests.get(url=target)
print(get_url.status_code)
print(get_url.text)

登录后复制

输出结果

200 //返回状态码200表示请求成功
<!DOCTYPE html>//这里删除了很多内容，实际上输出的网页信息比这要多得多
<!--STATUS OK--><html> <head><meta http-equiv=content-type content=text/html;
charset=utf-8><meta http-equiv=X-UA-Compatible content=IE=Edge>
<meta content=always name=referrer>
<link rel=stylesheet type=text/css 
src=//www.baidu.com/img/gs.gif> 
</p> </div> </div> </div> </body> </html>

登录后复制

上面五行代码做了很多事情，我们已经可以将网页的HTML内容全部抓取

第一行代码：加载requests库第二行代码：给出需要爬取的网站第三行代码：使用requests进行请求一般的格式如下：

对象 = requests.get(url=你想要爬取的网站地址)

登录后复制

第四行代码：返回请求的状态码第五行代码：输出相应的内容主体

当然我们还可以打印更多的内容

import requests

target = &#39;https://www.baidu.com/&#39;
get_url = requests.get(url=target)
# print(get_url.status_code)
# print(get_url.text)
print(get_url.reason)//返回状态
print(get_url.headers)
//返回HTTP响应中包含的服务器头的内容（和上面展示的内容差不多）
print(get_url.request)
print(get_url.request.headers)//返回请求中头的内容

登录后复制

OK
{&#39;Cache-Control&#39;: &#39;private, no-cache, no-store, proxy-revalidate, no-transform&#39;, 
&#39;Connection&#39;: &#39;keep-alive&#39;, 
&#39;Content-Encoding&#39;: &#39;gzip&#39;, 
&#39;Content-Type&#39;: &#39;text/html&#39;, 
&#39;Date&#39;: &#39;Sun, 09 Aug 2020 04:14:22 GMT&#39;,
&#39;Last-Modified&#39;: &#39;Mon, 23 Jan 2017 13:23:55 GMT&#39;, 
&#39;Pragma&#39;: &#39;no-cache&#39;, 
&#39;Server&#39;: &#39;bfe/1.0.8.18&#39;, 
&#39;Set-Cookie&#39;: &#39;BDORZ=27315; max-age=86400; domain=.baidu.com; path=/&#39;, &#39;Transfer-Encoding&#39;: &#39;chunked&#39;}
<PreparedRequest [GET]>
{&#39;User-Agent&#39;: &#39;python-requests/2.22.0&#39;, 
&#39;Accept-Encoding&#39;: &#39;gzip, deflate&#39;, 
&#39;Accept&#39;: &#39;*/*&#39;, 
&#39;Connection&#39;: &#39;keep-alive&#39;}

登录后复制

以上是Python网络爬虫requests库怎么使用的详细内容。更多信息请关注PHP中文网其他相关文章！

本站声明

本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn

热AI工具

热工具

热门话题

gmail邮箱登陆入口在哪里

7663

CakePHP 教程

1393

C# 教程

1205

steam的账户名称是什么格式

win11激活密钥永久

显示更多

Related knowledge

PHP和Python：解释了不同的范例 Apr 18, 2025 am 12:26 AM

PHP主要是过程式编程，但也支持面向对象编程（OOP）；Python支持多种范式，包括OOP、函数式和过程式编程。PHP适合web开发，Python适用于多种应用，如数据分析和机器学习。

在PHP和Python之间进行选择：指南 Apr 18, 2025 am 12:24 AM

PHP适合网页开发和快速原型开发，Python适用于数据科学和机器学习。1.PHP用于动态网页开发，语法简单，适合快速开发。2.Python语法简洁，适用于多领域，库生态系统强大。

visual studio code 可以用于 python 吗 Apr 15, 2025 pm 08:18 PM

VS Code 可用于编写 Python，并提供许多功能，使其成为开发 Python 应用程序的理想工具。它允许用户：安装 Python 扩展，以获得代码补全、语法高亮和调试等功能。使用调试器逐步跟踪代码，查找和修复错误。集成 Git，进行版本控制。使用代码格式化工具，保持代码一致性。使用 Linting 工具，提前发现潜在问题。

vs code 可以在 Windows 8 中运行吗 Apr 15, 2025 pm 07:24 PM

VS Code可以在Windows 8上运行，但体验可能不佳。首先确保系统已更新到最新补丁，然后下载与系统架构匹配的VS Code安装包，按照提示安装。安装后，注意某些扩展程序可能与Windows 8不兼容，需要寻找替代扩展或在虚拟机中使用更新的Windows系统。安装必要的扩展，检查是否正常工作。尽管VS Code在Windows 8上可行，但建议升级到更新的Windows系统以获得更好的开发体验和安全保障。