요청 라이브러리를 사용하여 Python을 사용하여 크롤러를 작성하는 예제에 대한 자세한 설명

기본 가져오기 요청:

#-*- coding:utf-8 -*-import requests
url = 'www.baidu.com'r = requests.get(url)print r.text

매개변수가 포함된 요청 가져오기:

#-*- coding:utf-8 -*-import requests
url = 'http://www.baidu.com'payload = {'key1': 'value1', 'key2': 'value2'}
r = requests.get(url, params=payload)print r.text

로그인 및 개체 반환의 일부 방법을 시뮬레이션하기 위한 POST 요청:

#-*- coding:utf-8 -*-import requests
url1 = 'www.exanple.com/login'#登陆地址url2 = "www.example.com/main"#需要登陆才能访问的地址data={"user":"user","password":"pass"}
headers = { "Accept":"text/html,application/xhtml+xml,application/xml;",            "Accept-Encoding":"gzip",            "Accept-Language":"zh-CN,zh;q=0.8",            "Referer":"www.example.com/",            "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36"
            }
res1 = requests.post(url1, data=data, headers=headers)
res2 = requests.get(url2, cookies=res1.cookies, headers=headers)print res2.conten

t#바이너리 응답 콘텐츠 가져오기 print res2.raw#원래 응답 콘텐츠 가져오기, 스트림 =Trueprint가 필요합니다 res2.raw.read(50)print type(res2.text)#디코딩된 콘텐츠를 유니코드로 반환 print res2.urlprint res2.history#트래디렉션 print res2.cookiesprint res2.cookies['example_cookie_name']print res2 .headersprint res2 .headers['Content-Type']print res2.headers.get('content-type')print res2.json#콘텐츠 인코딩을 json으로 반환print res2.encoding#콘텐츠 인코딩 반환 print res2.status_code#http 상태 반환 코드 인쇄 res2.raise_for_status()#오류 상태 코드 반환

Session() 객체 쓰기 사용(준비된 요청):

#-*- coding:utf-8 -*-import requests
s = requests.Session()
url1 = 'www.exanple.com/login'#登陆地址url2 = "www.example.com/main"#需要登陆才能访问的地址data={"user":"user","password":"pass"}
headers = { "Accept":"text/html,application/xhtml+xml,application/xml;",            "Accept-Encoding":"gzip",            "Accept-Language":"zh-CN,zh;q=0.8",            "Referer":"http://www.example.com/",            "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36"
            }
prepped1 = requests.Request('POST', url1,
    data=data,
    headers=headers
).prepare()
s.send(prepped1)'''
也可以这样写
res = requests.Request('POST', url1,
data=data,
headers=headers
)
prepared = s.prepare_request(res)
# do something with prepped.body
# do something with prepped.headers
s.send(prepared)
'''prepare2 = requests.Request('POST', url2,
    headers=headers
).prepare()
res2 = s.send(prepare2)print res2.content

다른 쓰기 방법:

#-*- coding:utf-8 -*-import requestss = requests.Session()url1 = 'www.exanple.com/login'#登陆地址url2 = "www.example.com/main"#需要登陆才能访问的页面地址data={"user":"user","password":"pass"}headers = { "Accept":"text/html,application/xhtml+xml,application/xml;",            "Accept-Encoding":"gzip",            "Accept-Language":"zh-CN,zh;q=0.8",            "Referer":"http://www.example.com/",            "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36"            }res1 = s.post(url1, data=data)res2 = s.post(url2)print(resp2.content)
SessionApi
其他的一些请求方式
>>> r = requests.put("http://httpbin.org/put")>>> r = requests.delete("http://httpbin.org/delete")>>> r = requests.head("http://httpbin.org/get")>>> r = requests.options("http://httpbin.org/get")

발생한 문제:

cmd에서 실행 중 작은 오류 발생 :

UnicodeEncodeError: 'gbk' 코덱은 위치 23460의 u'xbb' 문자를 인코딩할 수 없습니다: 잘못된 멀티바이트 시퀀스

분석:
1. 유니코드 인코딩인가요, 아니면 디코딩인가요?

UnicodeEncodeError

분명히 오류입니다. 인코딩 중에 발생했습니다

2. 어떤 인코딩이 사용되었는지

'gbk' 코덱이 문자를 인코딩할 수 없습니다

GBK 인코딩 사용 중 오류가 발생했습니다

해결책:

현재 문자열을 확인하세요. 예:

#-*- coding:utf-8 -*-import requests
url = 'www.baidu.com'r = requests.get(url)print r.encoding
>utf-8

이미 html 문자열이 UTF-8이면 UTF-8을 통해 직접 인코딩할 수 있습니다.

인쇄 r.text.encode('utf-8')

위 내용은 요청 라이브러리를 사용하여 Python을 사용하여 크롤러를 작성하는 예제에 대한 자세한 설명의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!