1. 程式人生 > >徹底搞懂 Python 編碼

徹底搞懂 Python 編碼

腳本文件 syntax 文件編碼 一次 sci tail 關聯 習慣 class

因為中文的特殊編碼,導致 Python2 和 Python3 使用過程中的各種編碼問題,如果不清楚其中的關聯關系,那麽這就一直是個大坑,不是懵逼就還是懵逼,所以就目前碰到的情況徹底梳理下 Python2 和 Python3 中編碼的關系和區別,以作備忘。

先說下涉及編碼格式的幾個地方:

  1. 腳本字符編碼:就是經常在腳本文件開頭看到的 # -*- coding: utf-8 -*-,如果使用 Python2,沒有顯式聲明的話默認使用 ASCII 格式,Python3 默認使用 utf-8 格式;
  2. 解釋器字符編碼:可以通過函數 sys.getdefaultencoding() 查看,Python2 默認是 ASCII,Python3 默認使用 utf-8;
  3. 腳本文件存儲編碼:就是 py 腳本文件本身在物理介質上面的存儲格式,通常有 ASCII、GBK、utf-8 等格式。

下面我們把上述編碼分別在腳本中進行組合使用後,再使用 Python2.6 和 Python3.4 運行,看看實際都什麽效果。

1.默認腳本文件編碼 + 文件存儲使用 gbk

腳本內容:

import sys

print(sys.getdefaultencoding())
print(‘中文‘)

使用 Python2.6 運行的結果如下,提示gbk 編碼字符 \xd6 非 ASCII 字符:

> python26 test_gbk.py
  File "test_gbk.py", line 4
SyntaxError: Non-ASCII character ‘\xd6‘ in file test_gbk.py on line 4, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

使用 Python3.4 運行的結果如下,提示gbk 編碼字符 \xd6 非 utf-8 字符:

> python26 test_gbk.py
  File "test_gbk.py", line 4
SyntaxError: Non-UTF-8 code starting with ‘\xd6‘ in file test_gbk.py on line 4, but no encoding declared; see http://python.org/dev/peps/pep-0263/ for details

結論:默認的 gbk 編碼中文,Python2的解釋器字符編碼(ASCII)和 Python3的解釋器字符編碼(utf-8)格式都沒法識別,因為 ASCII 編碼不包含中文,而 utf-8 是 3 字節編碼,gbk 是 2 字節編碼,所以都識別不了了。

2.腳本文件編碼 gbk + 文件存儲使用 gbk

在剛才的腳本頭部顯式聲明腳本文件編碼格式為 gbk:

#coding:gbk

import sys

print(sys.getdefaultencoding())
print(‘中文‘)

使用 Python2.6 運行的結果:

> python26 test_gbk.py
ascii
中文

使用 Python3.4 運行的結果:

> python34 test_gbk.py
utf-8
中文

結論:文件使用的 gbk 格式存儲,同時顯式聲明了腳本文件編碼為 gbk,Python2 和 Python3 都可以正常處理。

3.腳本文件編碼 utf-8 + 文件存儲使用 gbk

在剛才的腳本頭部顯式聲明腳本文件編碼格式為 utf-8:

# -*- coding: utf-8 -*-

import sys

print(sys.getdefaultencoding())
print(‘中文‘)

使用 Python2.6 運行的結果正常:

> python26 test_gbk.py
ascii
中文

使用 Python3.4 運行的結果如下,提示嘗試使用 utf-8 解碼字符 0xd6 時異常:

> python34 test_gbk.py
File "test_gbk.py", line 6
SyntaxError: (unicode error) ‘utf-8‘ codec can‘t decode byte 0xd6 in position 0: invalid continuation byte

結論:文件使用的 gbk 格式存儲,同時顯式聲明了腳本文件編碼為 utf-8時,但是 Python2 在 Windows 平臺還是使用 gbk 進行輸出,所以解析正常,而 Python3 使用 utf-8 所以解析異常。

4.默認腳本文件編碼 + 文件存儲使用 utf-8

去掉之前腳本頭部的聲明,然後使用 utf-8 格式存儲文件(註意,不能在剛才的文件基礎上強制修改存儲編碼,強制轉換會出現中文亂碼的問題,建議先新建一個 utf-8 格式的文件,然後再輸入中文):

import sys

print(sys.getdefaultencoding())
print(‘中文‘)

使用 Python2.6 運行的結果如下,ASCII 也識別不了 utf-8 格式的字符 \xe4

> python26 test.py
  File "test.py", line 4
SyntaxError: Non-ASCII character ‘\xe4‘ in file test.py on line 4, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

使用 Python3.4 運行的結果,可以正常識別,因為 Python3 默認使用 utf-8 編碼:

> python34 test.py
utf-8
中文

結論:默認的 utf-8 編碼中文,Python2 會默認使用 ASCII 讀取,所以沒法識別,Python3 可以正常識別。

5.腳本文件編碼 gbk + 文件存儲使用 utf-8

腳本頭部顯式聲明腳本文件編碼格式為 gbk,同時使用 utf-8 格式存儲文件:

#coding:gbk
import sys

print(sys.getdefaultencoding())
print(‘中文‘)

使用 Python2.6 運行的結果如下,使用 gbk 根本讀取不了 utf-8 格式任何內容:

> python26 test.py
File "test.py", line 6
SyntaxError: ‘gbk‘ codec can‘t decode bytes in position 9-10: illegal multibyte sequence

使用 Python3.4 運行的結果如下,其實和上面錯誤一樣,但是提示更直接了:

> python34 test.py
File "test.py", line 1
SyntaxError: encoding problem: gbk

結論:默認的 utf-8 編碼中文,如果顯式指定使用 gbk 讀取,Python2 和 Python3 都沒法做到。

6.腳本文件編碼 utf-8 + 文件存儲使用 utf-8

腳本頭部顯式聲明腳本文件編碼格式為 utf-8,同時使用 utf-8 格式存儲文件:

# -*- coding: utf-8 -*-
import sys

print(sys.getdefaultencoding())
print(‘中文‘)

使用 Python2.6 運行的結果如下,雖然讀取正確了,但是 Python2 在 Windows 系統會默認使用 gbk 對中文進行解碼,所以輸出亂碼:

> python26 test.py
ascii
涓枃

使用 Python3.4 運行的結果正常:

> python34 test.py
utf-8
中文

結論:雖然文件存儲編碼和腳本文件編碼都是 utf-8,但是 Windows 平臺上,Python2 會按 gbk 解析中文,所以會輸出亂碼,可以在中文前面加 u 來解決u‘中文‘,或者顯式使用 utf-8 進行一次 decode。

匯總下驗證結果,可以得到如下的表格:

不同組合下 Python3 和 Python2 處理結果 Python3 Python2
默認腳本文件編碼 + 文件存儲使用 gbk SyntaxError,解析錯誤 SyntaxError,解析錯誤
腳本文件編碼 gbk + 文件存儲使用 gbk 正常輸出中文 正常輸出中文
腳本文件編碼 utf-8 + 文件存儲使用 gbk SyntaxError,解析錯誤 正常輸出中文
默認腳本文件編碼 + 文件存儲 utf-8 正常輸出中文 SyntaxError,解析錯誤
腳本文件編碼 gbk + 文件存儲使用 utf-8 SyntaxError,解析錯誤 SyntaxError,編碼錯誤
腳本文件編碼 utf-8 + 文件存儲使用 utf-8 正常輸出中文 中文輸出亂碼

總結下結論:

  1. 如果使用 Python2 請一定要使用 gbk 格式存儲文件;
  2. 如果使用 Python2 盡可能使用 gbk 存儲文件且顯式聲明腳本文件編碼為 gbk,方便後續兼容 Python3;
  3. 如果使用 Python3 不管使用什麽格式存儲文件,但請一定保證顯式聲明腳本文件編碼和存儲格式一致;
  4. 不管是使用 Python2 還是 Python3,保持顯式聲明腳本文件編碼的好習慣;
  5. 如果腳本有跨平臺需求,推薦使用 Python3 + 腳本文件編碼 utf-8 + utf-8 格式存儲文件的組合;

徹底搞懂 Python 編碼