1. 程式人生 > >JavaGC專家(1)—深入淺出Java垃圾回收機制

JavaGC專家(1)—深入淺出Java垃圾回收機制

java性能優化 追蹤 jdk5 structure 每一個 內存管理 過程 hot ati

在學習GC之前,你首先應該記住一個單詞:“stop-the-world”。Stop-the-world會在任何一種GC算法中發生。Stop-the-world意味著 JVM 因為要執行GC而停止了應用程序的執行。當Stop-the-world發生時,除了GC所需的線程以外,所有線程都處於等待狀態,直到GC任務完成。GC優化很多時候就是指減少Stop-the-world發生的時間。

按代的垃圾回收機制

在Java程序中不能顯式地分配和註銷內存。有些人把相關的對象設置為null或者調用System.gc()來試圖顯式地清理內存。設置為null至少沒什麽壞處,但是調用System.gc()會顯著地影響系統性能,必須徹底杜絕(還好,我還沒有見到NHN的哪個開發者調用這個方法)。

在Java中,開發人員無法直接在程序代碼中清理內存,而是由垃圾回收器自動尋找不必要的垃圾對象,並且清理掉他們。垃圾回收器會在下面兩種假設(hypotheses)成立的情況下被創建(稱之為假設不如改為推測(suppositions)或者前提(preconditions))。

  • 大多數對象會很快變得不可達
  • 只有很少的由老對象(創建時間較長的對象)指向新生對象的引用

這些假設我們稱之為弱年代假設weak generational hypothesis)。為了強化這一假設,HotSpot虛擬機將其物理上劃分為兩個–新生代(young generation)和老年代(old generation

)。
新生代(Young generation): 絕大多數最新被創建的對象會被分配到這裏,由於大部分對象在創建後會很快變得不可到達,所以很多對象被創建在新生代,然後消失。對象從這個區域消失的過程我們稱之為”minor GC“。

老年代(Old generation): 對象沒有變得不可達,並且從新生代中存活下來,會被拷貝到這裏。其所占用的空間要比新生代多。也正由於其相對較大的空間,發生在老年代上的GC要比新生代少得多。對象從老年代中消失的過程,我們稱之為”major GC“(或者”full GC“)

請看下面這個圖表。

技術分享

圖1 : GC 空間 & 數據流

上圖中的持久代( permanent generation

)也被稱為方法區method area)。他用來保存類常量以及字符串常量。因此,這個區域不是用來永久的存儲那些從老年代存活下來的對象。這個區域也可能發生GC。並且發生在這個區域上的GC事件也會被算為major GC。

有些人可能會問:
如果老年代的對象需要引用一個新生代的對象,會發生什麽呢?
為了解決這個問題,老年代中存在一個”card table“,他是一個512 byte大小的塊。所有老年代的對象指向新生代對象的引用都會被記錄在這個表中。當針對新生代執行GC的時候,只需要查詢card table來決定是否可以被收集,而不用查詢整個老年代。這個card table由一個write barrier來管理。write barrier給GC帶來了很大的性能提升,雖然由此可能帶來一些開銷,但GC的整體時間被顯著的減少。

技術分享

圖 2: Card Table 結構

新生代的構成

為了更好地理解GC,我們現在來學習新生代,新生代是用來保存那些第一次被創建的對象,他可以被分為三個空間

  • 一個伊甸園空間(Eden
  • 兩個幸存者空間(Survivor

一共有三個空間,其中包含兩個幸存者空間。每個空間的執行順序如下:

  1. 絕大多數剛剛被創建的對象會存放在伊甸園空間。
  2. 在伊甸園空間執行了第一次GC之後,存活的對象被移動到其中一個幸存者空間。
  3. 此後,在伊甸園空間執行GC之後,存活的對象會被堆積在同一個幸存者空間。
  4. 當一個幸存者空間飽和,還在存活的對象會被移動到另一個幸存者空間。之後會清空已經飽和的那個幸存者空間。
  5. 在以上的步驟中重復幾次依然存活的對象,就會被移動到老年代。

如果你仔細觀察這些步驟就會發現,其中一個幸存者空間必須保持是空的。如果兩個幸存者空間都有數據,或者兩個空間都是空的,那一定標誌著你的系統出現了某種錯誤。
通過頻繁的minor GC將數據移動到老年代的過程可以用下圖來描述:

技術分享

圖 3: GC執行前後對比

需要註意的是HotSpot虛擬機使用了兩種技術來加快內存分配。他們分別是是”bump-the-pointer“和“TLABs(Thread-Local Allocation Buffers)”。

Bump-the-pointer技術跟蹤在伊甸園空間創建的最後一個對象。這個對象會被放在伊甸園空間的頂部。如果之後再需要創建對象,只需要檢查伊甸園空間是否有足夠的剩余空間。如果有足夠的空間,對象就會被創建在伊甸園空間,並且被放置在頂部。這樣以來,每次創建新的對象時,只需要檢查最後被創建的對象。這將極大地加快內存分配速度。但是,如果我們在多線程的情況下,事情將截然不同。如果想要以線程安全的方式以多線程在伊甸園空間存儲對象,不可避免的需要加鎖,而這將極大地的影響性能。TLABs 是HotSpot虛擬機針對這一問題的解決方案。該方案為每一個線程在伊甸園空間分配一塊獨享的空間,這樣每個線程只訪問他們自己的TLAB空間,再與bump-the-pointer技術結合可以在不加鎖的情況下分配內存。
以上是針對新生代空間GC技術的簡要介紹,你不需要刻意記住我剛剛提到的兩種技術。不知道他們不會對你產生什麽影響,但是請務必記住在對象剛剛被創建之後,是保存在伊甸園空間的。那些長期存活的對象會經由幸存者空間轉存在老年代空間。

老年代GC處理機制

老年代空間的GC事件基本上是在空間已滿時發生,執行的過程根據GC類型不同而不同,因此,了解不同的GC類型將有助於你理解本節的內容。
JDK7一共有5種GC類型:

  1. Serial GC
  2. Parallel GC
  3. Parallel Old GC (Parallel Compacting GC)
  4. Concurrent Mark & Sweep GC (or “CMS”)
  5. Garbage First (G1) GC

其中,Serial GC不應該被用在服務器上。這種GC類型在單核CPU的桌面電腦時代就存在了。使用Serial GC會顯著的降低應用的性能指標。
現在,讓我們共同學習每一種GC類型

1. Serial GC (-XX:+UseSerialGC)

新生代空間的GC方式我們在前面已經介紹過了,在老年代空間中的GC采取稱之為”mark-sweep-compact“的算法。

  1. 算法的第一步是標記老年代中依然存活對象。(標記)
  2. 第二步,從頭開始檢查堆內存空間,並且只留下依然幸存的對象。(清理)

最後一步,從頭開始,順序地填滿堆內存空間,並且將對內存空間分成兩部分:一個保存著對象,另一個空著(壓縮)。

2. Parallel GC (-XX:+UseParallelGC)

技術分享

圖 4: Serial GC 與 Parallel GC的區別

從上圖中,你可以輕易地看出serial GC和parallel GC的區別,serial GC只使用一個線程執行GC,而parallel GC使用多個線程,因此parallel GC更高效。這種GC在內存充足以及多核的情況下會很有用,因此我們也稱之為”throughput GC“。

3. Parallel Old GC(-XX:+UseParallelOldGC)

Parallel Old GC在JDK5之後出現。與parallel GC相比,唯一的區別在於針對老年代的GC算法。Parallel Old GC分為三步:標記-匯總-壓縮(mark – summary – compaction)。匯總(summary)步驟與清理(sweep)的不同之處在於,其將依然幸存的對象分發到GC預先處理好的不同區域,算法相對清理來說略微復雜一點。

4. CMS GC (-XX:+UseConcMarkSweepGC)

技術分享

圖 5: Serial GC & CMS GC

就像你從上圖看到的那樣, CMS GC比我之前解釋的各種算法都要復雜很多。第一步初始化標記(initial mark) 比較簡單。這一步驟只是查找那些距離類加載器最近的幸存對象。因此,停頓的時間非常短暫。在之後的並行標記( concurrent mark )步驟,所有被幸存對象引用的對象會被確認是否已經被追蹤和校驗。這一步的不同之處在於,在標記的過程中,其他的線程依然在執行。在重新標記(remark)步驟,會再次檢查那些在並行標記步驟中增加或者刪除的與幸存對象引用的對象。最後,在並行交換( concurrent sweep )步驟,轉交垃圾回收過程處理。垃圾回收工作會在其他線程的執行過程中展開。一旦采取了這種GC類型,由GC導致的暫停時間會極其短暫。CMS GC也被稱為低延遲GC。它經常被用在那些對於響應時間要求十分苛刻的應用之上。

當然,這種GC類型在擁有stop-the-world時間很短的優點的同時,也有如下缺點:

  • 它會比其他GC類型占用更多的內存和CPU
  • 默認情況下不支持壓縮步驟

在使用這個GC類型之前你需要慎重考慮。如果因為內存碎片過多而導致壓縮任務不得不執行,那麽stop-the-world的時間要比其他任何GC類型都長,你需要考慮壓縮任務的發生頻率以及執行時間。

5. G1 GC

最後,我們來學習垃圾回收優先(G1)GC類型。

技術分享

圖 6: G1 GC的結構

如果你想要理解G1,首先你要忘記你所學過的新生代和老年代的概念。正如你在上圖所看到的,每個對象被分配到不同的格子,隨後GC執行。當一個區域裝滿之後,對象被分配到另一個區域,並執行GC。這中間不再有從新生代移動到老年代的三個步驟。這個類型是為了替代CMS GC而被創建的,因為CMS GC在長時間持續運作時會產生很多問題。

G1最大的好處是性能,他比我們在上面討論過的任何一種GC都要快。但是在JDK 6中,他還只是一個早期試用版本。在JDK7之後才由官方正式發布。就我個人看來,NHN在將JDK 7正式投入商用之前需要很長的一段測試期(至少一年)。因此你可能需要再等一段時間。並且,我也聽過幾次使用了JDK 6中的G1而導致Java虛擬機宕機的事件。請耐心的等到它更穩定吧。

下一次我將討論GC優化相關的問題,但是在此之前我要先明確一件事情,假如應用中創建的所有對象的大小和類型都是統一的,那麽公司使用的WAS的GC參數可以是相同的。但是WAS所創建對象的大小和生命周期根據服務以及硬件的不同而不同。換句話說,不能因為某個應用使用的GC參數“A”,就說明同樣的參數也能給其他服務帶來最佳的效果。而是要因地制宜,有的放矢。我們需要找到適合每個WAS線程的參數,並且持續的監控和優化每個設備上的WAS實例。這並不是我的一家之談,而是負責Oracle Java虛擬機研發的工程師在 JavaOne 2010上已經討論過的。

本文中我們簡略的介紹了Java的GC機制,請繼續關於我們的後續文章,我們將會討論如何監控Java GC狀態以及優化GC。

另外,我特別推薦一本2011年12月發布的《Java性能》(Amazon,也可以通過safari在線閱讀),還有在Oracle官網發布的白皮書《Java HotSpotTM虛擬機內存管理》(這本書與Java性能優化不是同一本) 作者Sangmin Lee, NHN公司,性能工程師實驗室高級工程師。

譯文地址: http://www.importnew.com/1993.html

此文只為自己學習方便:轉載 http://www.importnew.com/1993.html

JavaGC專家(1)—深入淺出Java垃圾回收機制