字符串 - Python编码问题？

Question

我用Python3的requests库从一个api请求一个json数据，然后试图去print出来：

    res = requests.get("http://aaa.com/bbb.php")
    res.encoding='utf-8'
    name = res.json(encoding = "utf8")["name"]
    print(name)

也试了一下方法：

name.encode('utf8').decode("utf8")
print(name)

我这个name字符串有可能有中文，数字，英文，也有可能有阿拉伯文。或者只有他们之中的一个。
我每次print的时候有时候能输出成功，有时候有以下错误：

  File "demo.py", line 53, in play_one
    print(json.loads(result_str)["name"])
UnicodeEncodeError: 'gbk' codec can't encode character '\u062f' in position 0: illegal multibyte sequence

我该怎么处理这个字符串，有可能同一个字符串混有不同的编码？还是我获取到的字符串每次都是不同编码的，我应该怎么正确输去这个不确定的字符串？

Answer 1

标准 JSON 是不需要指定编码的。

你使用的是 Windows 简体中文版，系统控制台需要输出以 GBK 编码来输出字符，但是你的字符「U+062F د ARABIC LETTER DAL」在 GBK 编码中没有对应，因此无法输出。

你可以选择写到文件，或者安装阿拉伯文版的 Windows。或者使用其它对 Unicode 支持更好的操作系统 / 终端。

Answer 2

1. 首先你要弄明白requests为什么会出现这个问题

requests会从服务器返回的响应头的 Content-Type 去获取字符集编码，如果content-type有charset字段那么requests才能正确识别编码，否则就使用默认的 ISO-8859-1. 详情请看这篇博客代码分析Python requests库中文编码问题

文中提到了几个办法，不过似乎3.x已经修复了这个问题。

1. 我的建议
   首先手动去页面看这个页面header部分的charset到底是什么编码，假设是GBK

resp = requests.get(item_info_url)
resp.encoding = 'GBK'
html = resp.text
name = json.loads(html)['name']

# or
# 我不太用res.json这个方法＝＝

res = requests.get("http://aaa.com/bbb.php")
res.encoding='GBK'
name = res.json()["name"]
print(name)