1. 程式人生 > >Python中的內存管理機制

Python中的內存管理機制

lock sed 如果 進行 種類 img pan alloc epo

Python是如何進行內存管理的

python引用了一個內存池(memory pool)機制,即pymalloc機制,用於管理對小塊內存的申請和釋放

  • 1.介紹

python和其他高級語言一樣,會進行自動的內存管理。它使用引用計數機制檢測為對象分配的內存是否可以被釋放。然後,在Python中內存永遠不會返還給操作系統,Python會持有這些內存並在需要時重新使用它們。在很多場景下,這個特性可以減少內存申請和釋放所帶來的性能損耗;但對於需要長時間運行的Python進程來講,Python將會占用大量的內存。如果進程使用內存的峰值遠大於平均值,這將會造成內存的浪費從而影響本進程甚至是系統中其他進程的性能。

  • 2.Pymalloc

Python使用pymalloc管理內存。在Python中,會頻繁的創建和刪除很多小對象,如果這些對象的內存申請和釋放都使用malloc()和free(),將會帶來嚴重的性能問題。因此,pymalloc分配一系列256KB內存塊,稱之為arena。每個arena分割為4KB大小的內存池Pool,每個Pool在切分為固定大小的Block。在內存分配時,分配給進程的就是這些Blocks。

技術分享

技術分享

  • 3.內存分配

技術分享

技術分享

上圖中展示了一個usedpool數組,此數組按內存大小組織,每個大小對應一個pool鏈表,每個pool鏈表中有多個空閑的Block。在分配內存時,Pymalloc先判斷是否存在要申請的大小的pool,如果存在的話,直接從pool中獲取一個free Block返回給應用程序,這個過程非常迅速。如果分配完這個Block後此pool變為一個空pool,則將這個Pool從鏈表中移除。

如果在usedpool中找不到大小匹配的pool,需要在freepool中查找可用的pool。在找不到的情況下,首先會嘗試在最後一個arena中是否存在可用的內存,如果有的話則分配一個非freepool使用;如果不存在這樣的arena,將會通過malloc()分配一個新的arena。在freepool中找到一個可用的Pool後,會將此Pool切分為固定大小的Pool並加入到userdpool中,並在其中分配一個Free Block應用程序。

  • 4.內存釋放

技術分享

在應用程序要釋放一個Block時,過程和分配的過程比較相似。首先會根據Block找到此Block所歸屬的ool,然後將此Block加入到Pool的Free Block列表中。如果Pool當前是空的,還會將這個Pool加入到usedpool的鏈表中。如果在Block加入到Free Block後所有的Block都是Free的,會將此Pool從usedpool移動到freepool中

技術分享

上面的過程可以看到,內存釋放的過程基本就是內存申請的反過程,但唯一的區別是缺少了將freepool反換費arena,並將arena通過free()返還給操作系統的步驟。

  • 5.基本數據類型的內存分配

Python中有一小部分的對象是不使用pymalloc進程內存分配的,主要是integer/float/list/dict。為了提升這些常用對象的內存使用效率,這些對象是保存在單獨的列表中的。

Python通過malloc()為Integer/Floal兩種類型分配大約1KB大小的內存塊列表,這些列表被當做Integer/Float的數組使用,而不是使用Pymalloc的分配的8字節的整數倍大小的Block,以減少內存消耗。在創建一個新的Integer/Float對象時,字直接從這個內存列表中獲取數據,或是重新分配一塊新的Block;在釋放時對應的Block重新加入到列表中。這些Block也是不會被返還給操作系統的。

Python為list/dict采用不同的策略,會最多保留80個空閑的list/dict,如果多余80個,多出的會被釋放

Python中的內存管理機制