之前寫程式時也出現過類似錯誤，每次解決了到第二次遇見又忘了具體方法，這次記錄一下。

一、字元編碼問題

先介紹一下字元編碼問題

1.ASCLL與GB2312

由於計算機是美國人發明的，因此，最早只有127個字元被編碼到計算機裡，也就是大小寫英文字母、數字和一些符號，這個編碼表被稱為ASCII編碼，比如大寫字母A的編碼是65，小寫字母z的編碼是122。

但是要處理中文顯然一個位元組是不夠的，至少需要兩個位元組，而且還不能和ASCII編碼衝突，所以，中國製定了GB2312編碼，用來把中文編進去。

國標碼是漢字的國家標準編碼，目前主要有GB2312、GBK、GB18030三種。

1. GB2312編碼方案於1980年釋出，收錄漢字6763個，採用雙位元組編碼。
2. GBK編碼方案於1995年釋出，收錄漢字21003個，採用雙位元組編碼。
3. GB18030編碼方案於2000年釋出第一版，收錄漢字27533個；2005年釋出第二版，收錄漢字70000餘個，以及多種少數民族文字。GB18030採用單位元組、雙位元組、四位元組分段編碼。

新版向下相容舊版，也就是說GBK是在GB2312已有碼位基礎上增加新碼位，GB18030是在GBK已有碼位基礎上增加新碼位，各種編碼方案中共有的字元編碼相同。現在的中文資訊處理應優先採用GB18030編碼方案。

2.Unicode

全世界有上百種語言，日本把日文編到Shift_JIS裡，韓國把韓文編到Euc-kr裡，各國有各國的標準，就會不可避免地出現衝突，結果就是，在多語言混合的文字中，顯示出來會有亂碼。因此，Unicode應運而生。Unicode把所有語言都統一到一套編碼裡，這樣就不會再有亂碼問題了。Unicode標準也在不斷髮展，但最常用的是用兩個位元組表示一個字元（如果要用到非常偏僻的字元，就需要4個位元組）。

ASCLL與Unicode的關係

現在，捋一捋ASCII編碼和Unicode編碼的區別：ASCII編碼是1個位元組，而Unicode編碼通常是2個位元組。

字母A用ASCII編碼是十進位制的65，二進位制的01000001；

字元0用ASCII編碼是十進位制的48，二進位制的00110000，注意字元'0'和整數0是不同的；

漢字'中'已經超出了ASCII編碼的範圍，用Unicode編碼是十進位制的20013，二進位制的01001110 00101101。

你可以猜測，如果把ASCII編碼的A用Unicode編碼，只需要在前面補0就可以，因此，A的Unicode編碼是00000000 01000001。

3.UTF-8

UTF-8編碼把一個Unicode字元根據不同的數字大小編碼成1-6個位元組，常用的英文字母被編碼成1個位元組，漢字通常是3個位元組，只有很生僻的字元才會被編碼成4-6個位元組。如果你要傳輸的文字包含大量英文字元，用UTF-8編碼就能節省空間。

ASCLL與utf-8編碼的關係

從上面的表格可以發現，UTF-8編碼有一個額外的好處，就是ASCII編碼實際上可以被看成是UTF-8編碼的一部分，所以，大量只支援ASCII編碼的歷史遺留軟體可以在UTF-8編碼下繼續工作。

計算機系統通用的字元編碼工作方式

搞清楚了ASCII、Unicode和UTF-8的關係，我們就可以總結一下現在計算機系統通用的字元編碼工作方式：

在計算機記憶體中，統一使用Unicode編碼，當需要儲存到硬碟或者需要傳輸的時候，就轉換為UTF-8編碼。

用記事本編輯的時候，從檔案讀取的UTF-8字元被轉換為Unicode字元到記憶體裡，編輯完成後，儲存的時候再把Unicode轉換為UTF-8儲存到檔案。

str與bytes,encode() 與 decode()

Python的字串型別是str，在記憶體中以Unicode表示，一個字元對應若干個位元組。如果要在網路上傳輸，或者儲存到磁碟上，就需要把str變為以位元組為單位的bytes。Python對bytes型別的資料用帶b字首的單引號或雙引號表示：

x = b'ABC'

要注意區分'ABC'和b'ABC'，前者是str，後者雖然內容顯示得和前者一樣，但bytes的每個字元都只佔用一個位元組。bytes型別中把單個位元組能顯示的字元顯示，不能顯示的用\x##。

以Unicode表示的str通過encode()方法可以編碼為指定的bytes，例如：

>>> 'ABC'.encode('ascii')
b'ABC'
>>> '中文'.encode('utf-8')
b'\xe4\xb8\xad\xe6\x96\x87'
>>> '中文'.encode('ascii')
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)

 純英文的str可以用ASCII編碼為bytes，內容是一樣的，含有中文的str可以用UTF-8編碼為bytes。含有中文的str無法用ASCII編碼，因為中文編碼的範圍超過了ASCII編碼的範圍，Python會報錯。

在bytes中，無法顯示為ASCII字元的位元組，用\x##顯示。（b'ABC'可以顯示為ASCLL字元的位元組，b'\xe4\xb8\xad\xe6\x96\x87'無法顯示為ASCLL字元的位元組）

反過來，如果我們從網路或磁碟上讀取了位元組流，那麼讀到的資料就是bytes。要把bytes變為str，就需要用decode()方法：

>>> b'ABC'.decode('ascii')
'ABC'
>>> b'\xe4\xb8\xad\xe6\x96\x87'.decode('utf-8')
'中文'

 如果bytes中包含無法解碼的位元組，decode()方法會報錯，如果bytes中只有一小部分無效的位元組，可以傳入errors='ignore'忽略錯誤的位元組：

>>> b'\xe4\xb8\xad\xff'.decode('utf-8')
Traceback (most recent call last):
  ...
UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 3: invalid start byte
>>> b'\xe4\xb8\xad\xff'.decode('utf-8', errors='ignore')
'中'

 可見，1箇中文字元經過UTF-8編碼後通常會佔用3個位元組，而1個英文字元只佔用1個位元組。

在操作字串時，我們經常遇到str和bytes的互相轉換。為了避免亂碼問題，應當始終堅持使用UTF-8編碼對str和bytes進行轉換。

二、問題解決

現在看遇到的問題

df = pd.read_csv('catering_sale.csv')

然後出現了

UnicodeDecodeError: 'utf-8' codec can't decode byte 0xc8 in position 0: invalid continuation byte

 pd.read_csv（）：

encoding : str, default None

Encoding to use for UTF when reading/writing (e.g. 'utf-8'). List of Python standard encodings

預設的encoding 是utf-8，所以問題是出現了utf-8不能解碼的位元組。

該情況是由於出現了無法進行轉換的 二進位制資料造成的，可以寫一個小的指令碼來判斷下，是整體的字符集引數選擇上出現了問題，還是出現了部分的無法轉換的二進位制塊：

#python3
#以讀入檔案為例：
f = open("catering_sale.csv","rb")#二進位制格式讀檔案
i = 0
while True:
    i += 1 
    print(i)
    line = f.readline()
    if not line:
        break
    else:
        try:
#             print(line)
#             print(line.decode('utf8'))
            line.decode('utf8')
            #為了暴露出錯誤，最好此處不print
        except:
            print(str(line))

輸出 

1
b'\xc8\xd5\xc6\xda,\xcf\xfa\xc1\xbf\r\n'
2
3
4
5
6

從輸出中可以看出是第一行中的位元組編碼無法解碼。這是可以看自己的第一行資料。我的情況是中文。

找到了問題，嘗試了一下修改方法：

使用國標碼編碼 

df = pd.read_csv('catering_sale.csv', encoding = 'gb2312')

讀取時也可以用二進位制模式開啟的檔案（包括模式引數中的'b'）將內容作為位元組物件，而不進行任何解碼。

然後使用line.decode(‘gbk’)解碼，其中的errors引數:

1. 修改字符集引數，一般這種情況出現得較多是在國標碼(GBK)和utf8之間選擇出現了問題。
2. 出現異常報錯是由於設定了decode()方法的第二個引數errors為嚴格（strict）形式造成的，因為預設就是這個引數，將其更改為ignore等即可。