Java內存區域劃分和GC機制
Java 內存區域和GC機制
目錄
- Java垃圾回收概況
- Java內存區域
- Java對象的訪問方式
- Java內存分配機制
- Java GC機制
- 垃圾收集器
Java垃圾回收概況
Java GC（Garbage Collection，垃圾收集，垃圾回收）機制，是Java與C++/C的主要區別之一，作為Java開發者，一般不需要專門編寫內存回收和垃圾清理代 碼，對內存泄露和溢出的問題，也不需要像C程序員那樣戰戰兢兢。這是因為在Java虛擬機中，存在自動內存管理和垃圾清掃機制。概括地說，該機制對 JVM（Java Virtual Machine）中的內存進行標記，並確定哪些內存需要回收，根據一定的回收策略，自動的回收內存，永不停息（Nerver Stop）的保證JVM中的內存空間，放置出現內存泄露和溢出問題。
關於JVM，需要說明一下的是，目前使用最多的Sun公司的JDK中，自從 1999年的JDK1.2開始直至現在仍在廣泛使用的JDK6，其中默認的虛擬機都是HotSpot。2009年，Oracle收購Sun，加上之前收購 的EBA公司，Oracle擁有3大虛擬機中的兩個：JRockit和HotSpot，Oracle也表明了想要整合兩大虛擬機的意圖，但是目前在新發布 的JDK7中，默認的虛擬機仍然是HotSpot，因此本文中默認介紹的虛擬機都是HotSpot，相關機制也主要是指HotSpot的GC機制。
Java GC機制主要完成3件事：確定哪些內存需要回收，確定什麽時候需要執行GC，如何執行GC。經過這麽長時間的發展（事實上，在Java語言出現之前，就有 GC機制的存在，如Lisp語言），Java GC機制已經日臻完善，幾乎可以自動的為我們做絕大多數的事情。然而，如果我們從事較大型的應用軟件開發，曾經出現過內存優化的需求，就必定要研究 Java GC機制。
學習Java GC機制，可以幫助我們在日常工作中排查各種內存溢出或泄露問題，解決性能瓶頸，達到更高的並發量，寫出更高效的程序。
我們將從4個方面學習Java GC機制，1，內存是如何分配的；2，如何保證內存不被錯誤回收（即：哪些內存需要回收）；3，在什麽情況下執行GC以及執行GC的方式；4，如何監控和優化GC機制。
Java內存區域
了解Java GC機制，必須先清楚在JVM中內存區域的劃分。在Java運行時的數據區裏，由JVM管理的內存區域分為下圖幾個模塊：
其中：
1，程序計數器（Program Counter Register）：程序計數器是一個比較小的內存區域，用於指示當前線程所執行的字節碼執行到了第幾行，可以理解為是當前線程的行號指示器。字節碼解釋器在工作時，會通過改變這個計數器的值來取下一條語句指令。
每個程序計數器只用來記錄一個線程的行號，所以它是線程私有（一個線程就有一個程序計數器）的。
如果程序執行的是一個Java方法，則計數器記錄的是正在執行的虛擬機字節碼指令地址；如果正在執行的是一個本地（native，由C語言編寫 完成）方法，則計數器的值為Undefined，由於程序計數器只是記錄當前指令地址，所以不存在內存溢出的情況，因此，程序計數器也是所有JVM內存區 域中唯一一個沒有定義OutOfMemoryError的區域。
2，虛擬機棧（JVM Stack）：一個線程的每個方法在執行的同時，都會創建一個棧幀（Statck Frame），棧幀中存儲的有局部變量表、操作站、動態鏈接、方法出口等，當方法被調用時，棧幀在JVM棧中入棧，當方法執行完成時，棧幀出棧。
局部變量表中存儲著方法的相關局部變量，包括各種基本數據類型，對象的引用，返回地址等。在局部變量表中，只有long和double類型會占 用2個局部變量空間（Slot，對於32位機器，一個Slot就是32個bit），其它都是1個Slot。需要註意的是，局部變量表是在編譯時就已經確定 好的，方法運行所需要分配的空間在棧幀中是完全確定的，在方法的生命周期內都不會改變。
虛擬機棧中定義了兩種異常，如果線程調用的棧深度大於虛擬機允許的最大深度，則拋出StatckOverFlowError（棧溢出）；不過多 數Java虛擬機都允許動態擴展虛擬機棧的大小(有少部分是固定長度的)，所以線程可以一直申請棧，知道內存不足，此時，會拋出 OutOfMemoryError（內存溢出）。
每個線程對應著一個虛擬機棧，因此虛擬機棧也是線程私有的。
3，本地方法棧（Native Method Statck）：本地方法棧在作用，運行機制，異常類型等方面都與虛擬機棧相同，唯一的區別是：虛擬機棧是執行Java方法的，而本地方法棧是用來執行native方法的，在很多虛擬機中（如Sun的JDK默認的HotSpot虛擬機），會將本地方法棧與虛擬機棧放在一起使用。
本地方法棧也是線程私有的。
4，堆區（Heap）：堆區是理解Java GC機制最重要的區域，沒有之一。在JVM所管理的內存中，堆區是最大的一塊，堆區也是Java GC機制所管理的主要內存區域，堆區由所有線程共享，在虛擬機啟動時創建。堆區的存在是為了存儲對象實例，原則上講，所有的對象都在堆區上分配內存（不過現代技術裏，也不是這麽絕對的，也有棧上直接分配的）。
一般的，根據Java虛擬機規範規定，堆內存需要在邏輯上是連續的（在物理上不需要），在實現時，可以是固定大小的，也可以是可擴展的，目前主 流的虛擬機都是可擴展的。如果在執行垃圾回收之後，仍沒有足夠的內存分配，也不能再擴展，將會拋出OutOfMemoryError:Java heap space異常。
關於堆區的內容還有很多，將在下節“Java內存分配機制”中詳細介紹。
5，方法區（Method Area）：在Java虛擬機規範中，將方法區作為堆的一個邏輯部分來對待，但事實 上，方法區並不是堆（Non-Heap）；另外，不少人的博客中，將Java GC的分代收集機制分為3個代：青年代，老年代，永久代，這些作者將方法區定義為“永久代”，這是因為，對於之前的HotSpot Java虛擬機的實現方式中，將分代收集的思想擴展到了方法區，並將方法區設計成了永久代。不過，除HotSpot之外的多數虛擬機，並不將方法區當做永 久代，HotSpot本身，也計劃取消永久代。本文中，由於筆者主要使用Oracle JDK6.0，因此仍將使用永久代一詞。
方法區是各個線程共享的區域，用於存儲已經被虛擬機加載的類信息（即加載類時需要加載的信息，包括版本、field、方法、接口等信息）、final常量、靜態變量、編譯器即時編譯的代碼等。
方法區在物理上也不需要是連續的，可以選擇固定大小或可擴展大小，並且方法區比堆還多了一個限制：可以選擇是否執行垃圾收集。一般的，方法區上 執行的垃圾收集是很少的，這也是方法區被稱為永久代的原因之一（HotSpot），但這也不代表著在方法區上完全沒有垃圾收集，其上的垃圾收集主要是針對 常量池的內存回收和對已加載類的卸載。
在方法區上進行垃圾收集，條件苛刻而且相當困難，效果也不令人滿意，所以一般不做太多考慮，可以留作以後進一步深入研究時使用。
在方法區上定義了OutOfMemoryError:PermGen space異常，在內存不足時拋出。
運行時常量池（Runtime Constant Pool）是方法區的一部分，用於存儲編譯期就生成的字面常量、符號引用、翻譯出來的直接引用（符號引用就是編碼是用字符串表示某個變量、接口的位置，直接引用就是根據符號引用翻譯出來的地址，將在類鏈接階段完成翻譯）；運行時常量池除了存儲編譯期常量外，也可以存儲在運行時間產生的常量（比如String類的intern()方法，作用是String維護了一個常量池，如果調用的字符“abc”已經在常量池中，則返回池中的字符串地址，否則，新建一個常量加入池中，並返回地址）。
6，直接內存（Direct Memory）：直接內存並不是JVM管理的內存，可以這樣理解，直接內存，就是 JVM以外的機器內存，比如，你有4G的內存，JVM占用了1G，則其余的3G就是直接內存，JDK中有一種基於通道（Channel）和緩沖區 （Buffer）的內存分配方式，將由C語言實現的native函數庫分配在直接內存中，用存儲在JVM堆中的DirectByteBuffer來引用。 由於直接內存收到本機器內存的限制，所以也可能出現OutOfMemoryError的異常。
Java對象的訪問方式
一般來說，一個Java的引用訪問涉及到3個內存區域：JVM棧，堆，方法區。
以最簡單的本地變量引用：Object obj = new Object()為例：
- Object obj表示一個本地引用，存儲在JVM棧的本地變量表中，表示一個reference類型數據；
- new Object()作為實例對象數據存儲在堆中；
- 堆中還記錄了Object類的類型信息（接口、方法、field、對象類型等）的地址，這些地址所執行的數據存儲在方法區中；
在Java虛擬機規範中，對於通過reference類型引用訪問具體對象的方式並未做規定，目前主流的實現方式主要有兩種：
1，通過句柄訪問（圖來自於《深入理解Java虛擬機：JVM高級特效與最佳實現》）：
通過句柄訪問的實現方式中，JVM堆中會專門有一塊區域用來作為句柄池，存儲相關句柄所執行的實例數據地址（包括在堆中地址和在方法區中的地址）。這種實現方法由於用句柄表示地址，因此十分穩定。
2，通過直接指針訪問：（圖來自於《深入理解Java虛擬機：JVM高級特效與最佳實現》）
通過直接指針訪問的方式中，reference中存儲的就是對象在堆中的實際地址，在堆中存儲的對象信息中包含了在方法區中的相應類型數據。這種方法最大的優勢是速度快，在HotSpot虛擬機中用的就是這種方式。
Java內存分配機制
這裏所說的內存分配，主要指的是在堆上的分配，一般的，對象的內存分配都是在堆上進行，但現代技術也支持將對象拆成標量類型（標量類型即原子類型，表示單個值，可以是基本類型或String等），然後在棧上分配，在棧上分配的很少見，我們這裏不考慮。
Java內存分配和回收的機制概括的說，就是：分代分配，分代回收。對象將根據存活的時間被分為：年輕代（Young Generation）、年老代（Old Generation）、永久代（Permanent Generation，也就是方法區）。如下圖（來源於《成為JavaGC專家part I》，http://www.importnew.com/1993.html）：
年輕代（Young Generation）：對象被創建時，內存的分配首先發生在年輕代（大對象可以直接 被創建在年老代），大部分的對象在創建後很快就不再使用，因此很快變得不可達，於是被年輕代的GC機制清理掉（IBM的研究表明，98%的對象都是很快消 亡的），這個GC機制被稱為Minor GC或叫Young GC。註意，Minor GC並不代表年輕代內存不足，它事實上只表示在Eden區上的GC。
年輕代上的內存分配是這樣的，年輕代可以分為3個區域：Eden區（伊甸園，亞當和夏娃偷吃禁果生娃娃的地方，用來表示內存首次分配的區域，再 貼切不過）和兩個存活區（Survivor 0 、Survivor 1）。內存分配過程為（來源於《成為JavaGC專家part I》，http://www.importnew.com/1993.html）：
- 絕大多數剛創建的對象會被分配在Eden區，其中的大多數對象很快就會消亡。Eden區是連續的內存空間，因此在其上分配內存極快；
- 當Eden區滿的時候，執行Minor GC，將消亡的對象清理掉，並將剩余的對象復制到一個存活區Survivor0（此時，Survivor1是空白的，兩個Survivor總有一個是空白的）；
- 此後，每次Eden區滿了，就執行一次Minor GC，並將剩余的對象都添加到Survivor0；
- 當Survivor0也滿的時候，將其中仍然活著的對象直接復制到Survivor1，以後Eden區執行Minor GC後，就將剩余的對象添加Survivor1（此時，Survivor0是空白的）。
- 當兩個存活區切換了幾次（HotSpot虛擬機默認15次，用-XX:MaxTenuringThreshold控制，大於該值進入老年代）之後，仍然存活的對象（其實只有一小部分，比如，我們自己定義的對象），將被復制到老年代。
從上面的過程可以看出，Eden區是連續的空間，且Survivor總有一個為空。經過一次GC和復制，一個Survivor中保存著當前還活 著的對象，而Eden區和另一個Survivor區的內容都不再需要了，可以直接清空，到下一次GC時，兩個Survivor的角色再互換。因此，這種方 式分配內存和清理內存的效率都極高，這種垃圾回收的方式就是著名的“停止-復制（Stop-and-copy）”清理法（將Eden區和一個Survivor中仍然存活的對象拷貝到另一個Survivor中），這不代表著停止復制清理法很高效，其實，它也只在這種情況下高效，如果在老年代采用停止復制，則挺悲劇的。
在Eden區，HotSpot虛擬機使用了兩種技術來加快內存分配。分別是bump-the-pointer和TLAB（Thread- Local Allocation Buffers），這兩種技術的做法分別是：由於Eden區是連續的，因此bump-the-pointer技術的核心就是跟蹤最後創建的一個對象，在對 象創建時，只需要檢查最後一個對象後面是否有足夠的內存即可，從而大大加快內存分配速度；而對於TLAB技術是對於多線程而言的，將Eden區分為若幹 段，每個線程使用獨立的一段，避免相互影響。TLAB結合bump-the-pointer技術，將保證每個線程都使用Eden區的一段，並快速的分配內 存。
年老代（Old Generation）：對象如果在年輕代存活了足夠長的時間而沒有被清理掉（即在幾次 Young GC後存活了下來），則會被復制到年老代，年老代的空間一般比年輕代大，能存放更多的對象，在年老代上發生的GC次數也比年輕代少。當年老代內存不足時， 將執行Major GC，也叫 Full GC。
可以使用-XX:+UseAdaptiveSizePolicy開關來控制是否采用動態控制策略，如果動態控制，則動態調整Java堆中各個區域的大小以及進入老年代的年齡。如果對象比較大（比如長字符串或大數組），Young空間不足，則大對象會直接分配到老年代上（大對象可能觸發提前GC，應少用，更應避免使用短命的大對象）。用-XX:PretenureSizeThreshold來控制直接升入老年代的對象大小，大於這個值的對象會直接分配在老年代上。
可能存在年老代對象引用新生代對象的情況，如果需要執行Young GC，則可能需要查詢整個老年代以確定是否可以清理回收，這顯然是低效的。解決的方法是，年老代中維護一個512 byte的塊——”card table“，所有老年代對象引用新生代對象的記錄都記錄在這裏。Young GC時，只要查這裏即可，不用再去查全部老年代，因此性能大大提高。
Java GC機制
GC機制的基本算法是：分代收集，這個不用贅述。下面闡述每個分代的收集方法。
年輕代：
事實上，在上一節，已經介紹了新生代的主要垃圾回收方法，在新生代中，使用“停止-復制”算法進行清理，將新生代內存分為2部分，1部分 Eden區較大，1部分Survivor比較小，並被劃分為兩個等量的部分。每次進行清理時，將Eden區和一個Survivor中仍然存活的對象拷貝到 另一個Survivor中，然後清理掉Eden和剛才的Survivor。
這裏也可以發現，停止復制算法中，用來復制的兩部分並不總是相等的（傳統的停止復制算法兩部分內存相等，但新生代中使用1個大的Eden區和2個小的Survivor區來避免這個問題）
由於絕大部分的對象都是短命的，甚至存活不到Survivor中，所以，Eden區與Survivor的比例較大，HotSpot默認是 8:1，即分別占新生代的80%，10%，10%。如果一次回收中，Survivor+Eden中存活下來的內存超過了10%，則需要將一部分對象分配到 老年代。用-XX:SurvivorRatio參數來配置Eden區域Survivor區的容量比值，默認是8，代表Eden：Survivor1：Survivor2=8:1:1.
老年代：
老年代存儲的對象比年輕代多得多，而且不乏大對象，對老年代進行內存清理時，如果使用停止-復制算法，則相當低效。一般，老年代用的算法是標記-整理算法，即：標記出仍然存活的對象（存在引用的），將所有存活的對象向一端移動，以保證內存的連續。 在發生Minor GC時，虛擬機會檢查每次晉升進入老年代的大小是否大於老年代的剩余空間大小，如果大於，則直接觸發一次Full GC，否則，就查看是否設 置了-XX:+HandlePromotionFailure（允許擔保失敗），如果允許，則只會進行MinorGC，此時可以容忍內存分配失敗；如果不 允許，則仍然進行Full GC（這代表著如果設置-XX:+Handle PromotionFailure，則觸發MinorGC就會同時觸發Full GC，哪怕老年代還有很多內存，所以，最好不要這樣做）。方法區（永久代）：
永久代的回收有兩種：常量池中的常量，無用的類信息，常量的回收很簡單，沒有引用了就可以被回收。對於無用的類進行回收，必須保證3點：
- 類的所有實例都已經被回收
- 加載類的ClassLoader已經被回收
- 類對象的Class對象沒有被引用（即沒有通過反射引用該類的地方）
垃圾收集器
在GC機制中，起重要作用的是垃圾收集器，垃圾收集器是GC的具體實現，Java虛擬機規範中對於垃圾收集器沒有任何規定，所以不同廠商實現的垃圾 收集器各不相同，HotSpot 1.6版使用的垃圾收集器如下圖（圖來源於《深入理解Java虛擬機：JVM高級特效與最佳實現》，圖中兩個收集器之間有連線，說明它們可以配合使用）：
在介紹垃圾收集器之前，需要明確一點，就是在新生代采用的停止復制算法中，“停 止（Stop-the-world）”的意義是在回收內存時，需要暫停其他所 有線程的執行。這個是很低效的，現在的各種新生代收集器越來越優化這一點，但仍然只是將停止的時間變短，並未徹底取消停止。
- Serial收集器：新生代收集器，使用停止復制算法，使用一個線程進行GC，其它工作線程暫停。使用-XX:+UseSerialGC可以使用Serial+Serial Old模式運行進行內存回收（這也是虛擬機在Client模式下運行的默認值）
- ParNew收集器：新生代收集器，使用停止復制算法，Serial收集器的多線程版，用多個線程進行GC，其它工作線程暫停，關註縮短垃圾收集時間。使用-XX:+UseParNewGC開關來控制使用ParNew+Serial Old收集器組合收集內存；使用-XX:ParallelGCThreads來設置執行內存回收的線程數。
- Parallel Scavenge 收集器：新生代收集器，使用停止復制算法，關註CPU吞吐量，即運行用戶代碼的時間/總時間，比如：JVM運行100分鐘，其中運行用戶代碼99分鐘，垃 圾收集1分鐘，則吞吐量是99%，這種收集器能最高效率的利用CPU，適合運行後臺運算（關註縮短垃圾收集時間的收集器，如CMS，等待時間很少，所以適 合用戶交互，提高用戶體驗）。使用-XX:+UseParallelGC開關控制使用 Parallel Scavenge+Serial Old收集器組合回收垃圾（這也是在Server模式下的默認值）；使用-XX:GCTimeRatio來設置用戶執行時間占總時間的比例，默認99，即 1%的時間用來進行垃圾回收。使用-XX:MaxGCPauseMillis設置GC的最大停頓時間（這個參數只對Parallel Scavenge有效）
- Serial Old收集器：老年代收集器，單線程收集器，使用標記整理（整理的方法是Sweep（清理）和Compact（壓縮），清理是將廢棄的對象幹掉，只留幸存 的對象，壓縮是將移動對象，將空間填滿保證內存分為2塊，一塊全是對象，一塊空閑）算法，使用單線程進行GC，其它工作線程暫停（註意，在老年代中進行標 記整理算法清理，也需要暫停其它線程），在JDK1.5之前，Serial Old收集器與ParallelScavenge搭配使用。
- Parallel Old收集器：老年代收集器，多線程，多線程機制與Parallel Scavenge差不錯，使用標記整理（與Serial Old不同，這裏的整理是Summary（匯總）和Compact（壓縮），匯總的意思就是將幸存的對象復制到預先準備好的區域，而不是像Sweep（清 理）那樣清理廢棄的對象）算法，在Parallel Old執行時，仍然需要暫停其它線程。Parallel Old在多核計算中很有用。Parallel Old出現後（JDK 1.6），與Parallel Scavenge配合有很好的效果，充分體現Parallel Scavenge收集器吞吐量優先的效果。使用-XX:+UseParallelOldGC開關控制使用Parallel Scavenge +Parallel Old組合收集器進行收集。
- CMS（Concurrent Mark Sweep）收集器：老年代收集器，致力於獲取最短回收停頓時間，使用標記清除算法，多線程，優點是並發收集（用戶線程可以和GC線程同時工作），停頓小。使用-XX:+UseConcMarkSweepGC進行ParNew+CMS+Serial Old進行內存回收，優先使用ParNew+CMS（原因見後面），當用戶線程內存不足時，采用備用方案Serial Old收集。
CMS收集的方法是：先3次標記，再1次清除，3次標記中前兩次是初始標記和重新標記（此時仍然需要停止（stop the world））， 初始標記（Initial Remark）是標記GC Roots能關聯到的對象（即有引用的對象），停頓時間很短；並發標記（Concurrent remark）是執行GC Roots查找引用的過程，不需要用戶線程停頓；重新標記（Remark）是在初始標記和並發標記期間，有標記變動的那部分仍需要標記，所以加上這一部分 標記的過程，停頓時間比並發標記小得多，但比初始標記稍長。在完成標記之後，就開始並發清除，不需要用戶線程停頓。 所以在CMS清理過程中，只有初始標記和重新標記需要短暫停頓，並發標記和並發清除都不需要暫停用戶線程，因此效率很高，很適合高交互的場合。 CMS也有缺點，它需要消耗額外的CPU和內存資源，在CPU和內存資源緊張，CPU較少時，會加重系統負擔（CMS默認啟動線程數為(CPU數量+3)/4）。 另外，在並發收集過程中，用戶線程仍然在運行，仍然產生內存垃圾，所以可能產生“浮動垃圾”，本次無法清理，只能下一次Full GC才清理，因此在GC期間，需要預留足夠的內存給用戶線程使用。所以使用CMS的收集器並不是老年代滿了才觸發Full GC，而是在使用了一大半（默認68%，即2/3，使用-XX:CMSInitiatingOccupancyFraction來設置）的時候就要進行Full GC，如果用戶線程消耗內存不是特別大，可以適當調高-XX:CMSInitiatingOccupancyFraction以降低GC次數，提高性能，如果預留的用戶線程內存不夠，則會觸發Concurrent Mode Failure，此時，將觸發備用方案：使用Serial Old 收集器進行收集，但這樣停頓時間就長了，因此-XX:CMSInitiatingOccupancyFraction不宜設的過大。 還有，CMS采用的是標記清除算法，會導致內存碎片的產生，可以使用-XX：+UseCMSCompactAtFullCollection來設置是否在Full GC之後進行碎片整理，用-XX：CMSFullGCsBeforeCompaction來設置在執行多少次不壓縮的Full GC之後，來一次帶壓縮的Full GC。
- G1收集器：在JDK1.7中正式發布，與現狀的新生代、老年代概念有很大不同，目前使用較少，不做介紹。
Java內存區域劃分和GC機制