网页爬虫 - python中使用lxml解析中文网页出现编码问题,如何解决?
大家讲道理
大家讲道理 2017-04-18 09:13:54
0
1
506

问题

爬取IT之家网页http://it.ithome.com/category...
在使用requests.get得到网页后用lxml解析,但是打印出来后中文无法正常显示,
而打印requests.get得到的内容却可以正常显示。求原因及解决方法(BeautifulSoup可正常解析)。

代码

# coding: utf-8
import requests
from lxml import etree
from io import StringIO

init_url = 'http://it.ithome.com/category/31_4.html'
init_page = requests.get(init_url).text
print init_page.encode('utf-8')


parser = etree.HTMLParser()
html = etree.parse(StringIO(init_page), parser)
result = etree.tostring(html, pretty_print=True, method="html")
print result


news_titles = html.xpath('//p[@class="block"]/h2')
print len(news_titles)
for news_title in news_titles:
    print news_title.text

输出结果

  • 使用print init_page.encode('utf-8')能正常输出

  • 使用print result无法正常显示中文

大家讲道理
大家讲道理

光阴似箭催人老,日月如移越少年。

모든 응답(1)
PHPzhong

이 문장에 인코딩 매개변수 추가

으아악

저는 Windows 사용자이므로 gb2312를 사용하고 있으며 Linux 사용자라면 utf-8로 변경하면 정상적으로 테스트가 나옵니다

최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿