1. 程式人生 > >python序列化-復習

python序列化-復習

clas cep std [] 規則 rar 數據類型 靈活 err

序列化

From https://www.liaoxuefeng.com/

在程序運行的過程中,所有的變量都是在內存中,比如,定義一個dict:
d = dict(name=‘Bob‘, age=20, score=88)

可以隨時修改變量,比如把name改成‘Bill‘,但是一旦程序結束,變量所占用的內存就被操作系統全部回收。如果沒有把修改後的‘Bill‘存儲到磁盤上,下次重新運行程序,變量又被初始化為‘Bob‘

我們把變量從內存中變成可存儲或傳輸的過程稱之為序列化,在Python中叫pickling,在其他語言中也被稱之為serialization,marshalling,flattening等等,都是一個意思。

序列化之後,就可以把序列化後的內容寫入磁盤,或者通過網絡傳輸到別的機器上。

反過來,把變量內容從序列化的對象重新讀到內存裏稱之為反序列化,即unpickling。

Python提供兩個模塊來實現序列化:cPicklepickle。這兩個模塊功能是一樣的,區別在於cPickle是C語言寫的,速度快,pickle是純Python寫的,速度慢,跟cStringIOStringIO一個道理。用的時候,先嘗試導入cPickle,如果失敗,再導入pickle

try:
    import cPickle as pickle
except ImportError:
    import pickle

首先,我們嘗試把一個對象序列化並寫入文件:

>>> d = dict(name=‘Bob‘, age=20, score=88)
>>> pickle.dumps(d)
"(dp0\nS‘age‘\np1\nI20\nsS‘score‘\np2\nI88\nsS‘name‘\np3\nS‘Bob‘\np4\ns."

pickle.dumps()方法把任意對象序列化成一個str,然後,就可以把這個str寫入文件。或者用另一個方法pickle.dump()直接把對象序列化後寫入一個file-like Object:

>>> f = open(‘dump.txt‘, ‘wb‘)
>>> pickle.dump(d, f)
>>> f.close()

看看寫入的dump.txt文件,一堆亂七八糟的內容,這些都是Python保存的對象內部信息。

當我們要把對象從磁盤讀到內存時,可以先把內容讀到一個str,然後用pickle.loads()方法反序列化出對象,也可以直接用pickle.load()方法從一個file-like Object中直接反序列化出對象。我們打開另一個Python命令行來反序列化剛才保存的對象:

>>> f = open(‘dump.txt‘, ‘rb‘)
>>> d = pickle.load(f)
>>> f.close()
>>> d
{‘age‘: 20, ‘score‘: 88, ‘name‘: ‘Bob‘}

變量的內容又回來了!

當然,這個變量和原來的變量是完全不相幹的對象,它們只是內容相同而已。

Pickle的問題和所有其他編程語言特有的序列化問題一樣,就是它只能用於Python,並且可能不同版本的Python彼此都不兼容,因此,只能用Pickle保存那些不重要的數據,不能成功地反序列化也沒關系。

JSON

如果我們要在不同的編程語言之間傳遞對象,就必須把對象序列化為標準格式,比如XML,但更好的方法是序列化為JSON,因為JSON表示出來就是一個字符串,可以被所有語言讀取,也可以方便地存儲到磁盤或者通過網絡傳輸。JSON不僅是標準格式,並且比XML更快,而且可以直接在Web頁面中讀取,非常方便。

JSON表示的對象就是標準的JavaScript語言的對象,JSON和Python內置的數據類型對應如下:

JSON類型 Python類型
{} dict
[] list
"string" ‘str‘或u‘unicode‘
1234.56 int或float
true/false True/False
null None

Python內置的json模塊提供了非常完善的Python對象到JSON格式的轉換。我們先看看如何把Python對象變成一個JSON:

>>> import json
>>> d = dict(name=‘Bob‘, age=20, score=88)
>>> json.dumps(d)
‘{"age": 20, "score": 88, "name": "Bob"}‘

dumps()方法返回一個str,內容就是標準的JSON。類似的,dump()方法可以直接把JSON寫入一個file-like Object

要把JSON反序列化為Python對象,用loads()或者對應的load()方法,前者把JSON的字符串反序列化,後者從file-like Object中讀取字符串並反序列化:

>>> json_str = ‘{"age": 20, "score": 88, "name": "Bob"}‘
>>> json.loads(json_str)
{u‘age‘: 20, u‘score‘: 88, u‘name‘: u‘Bob‘}

有一點需要註意,就是反序列化得到的所有字符串對象默認都是unicode而不是str。由於JSON標準規定JSON編碼是UTF-8,所以我們總是能正確地在Python的strunicode與JSON的字符串之間轉換。

JSON進階

Python的dict對象可以直接序列化為JSON的{},不過,很多時候,我們更喜歡用class表示對象,比如定義Student類,然後序列化:

import json

class Student(object):
    def __init__(self, name, age, score):
        self.name = name
        self.age = age
        self.score = score

s = Student(‘Bob‘, 20, 88)
print(json.dumps(s))

運行代碼,毫不留情地得到一個TypeError

Traceback (most recent call last):
  ...
TypeError: <__main__.Student object at 0x10aabef50> is not JSON serializable

錯誤的原因是Student對象不是一個可序列化為JSON的對象。

如果連class的實例對象都無法序列化為JSON,這肯定不合理!

別急,我們仔細看看dumps()方法的參數列表,可以發現,除了第一個必須的obj參數外,dumps()方法還提供了一大堆的可選參數:

https://docs.python.org/2/library/json.html#json.dumps

這些可選參數就是讓我們來定制JSON序列化。前面的代碼之所以無法把Student類實例序列化為JSON,是因為默認情況下,dumps()方法不知道如何將Student實例變為一個JSON的{}對象。

可選參數default就是把任意一個對象變成一個可序列為JSON的對象,我們只需要為Student專門寫一個轉換函數,再把函數傳進去即可:

def student2dict(std):
    return {
        ‘name‘: std.name,
        ‘age‘: std.age,
        ‘score‘: std.score
    }

print(json.dumps(s, default=student2dict))

這樣,Student實例首先被student2dict()函數轉換成dict,然後再被順利序列化為JSON。

不過,下次如果遇到一個Teacher類的實例,照樣無法序列化為JSON。我們可以偷個懶,把任意class的實例變為dict

print(json.dumps(s, default=lambda obj: obj.__dict__))

因為通常class的實例都有一個__dict__屬性,它就是一個dict,用來存儲實例變量。也有少數例外,比如定義了__slots__的class。

同樣的道理,如果我們要把JSON反序列化為一個Student對象實例,loads()方法首先轉換出一個dict對象,然後,我們傳入的object_hook函數負責把dict轉換為Student實例:

def dict2student(d):
    return Student(d[‘name‘], d[‘age‘], d[‘score‘])

json_str = ‘{"age": 20, "score": 88, "name": "Bob"}‘
print(json.loads(json_str, object_hook=dict2student))

運行結果如下:

<__main__.Student object at 0x10cd3c190>

打印出的是反序列化的Student實例對象。

小結

Python語言特定的序列化模塊是pickle,但如果要把序列化搞得更通用、更符合Web標準,就可以使用json模塊。

json模塊的dumps()loads()函數是定義得非常好的接口的典範。當我們使用時,只需要傳入一個必須的參數。但是,當默認的序列化或反序列機制不滿足我們的要求時,我們又可以傳入更多的參數來定制序列化或反序列化的規則,既做到了接口簡單易用,又做到了充分的擴展性和靈活性。

python序列化-復習