1. 程式人生 > >Tomcat 調優測試

Tomcat 調優測試

sys print out odi 大並發 棧內存 模擬請求 級別 重啟tomcat

測試環境:

OS: Ubuntu14.04 64位 (運行在Docker1.9)

CPU: Intel i3 雙核四線程

Mem: 8G

Tomcat版本: Tomcat8.5

Java SDK版本: JDK 8

測試軟件: Apache JMeter 2.8

測試說明:

測試代碼為接受一個http請求,返回一個String變量s.

該變量初始化為””, 循環10000次,每次添加內容”test ”

public class Test extends HttpServlet { @Override public void doGet(HttpServletRequest request, HttpServletResponse response) throws IOException{ StringBuffer ret = new StringBuffer(); for(int i=0;i < 10000; i++) { ret.append(String.valueOf(i) + " test "); } PrintWriter printWriter = response.getWriter(); printWriter.println(ret); }}

采用JMeter模擬5000個(用戶),在10s內對該接口不斷發起Get請求,並循環10次.

最後統計結果.

對每個配置的修改都會關閉並重啟tomcat

調優方式一 : 修改…/bin/catalina.sh(啟動時優化)

Windows下為catalina.bat

  • 添加參數:

export JAVA_OPTS=”-server”

  • 作用:tomcat默認以java –client方式運行, 添加”server”參數將tomcat切換為生產模式,使得tomcat能支持更高的並發數和吞吐量.
  • 測試結果:
  • 修改前:
技術分享圖片

技術分享圖片

  • 修改後:
技術分享圖片

技術分享圖片

  • 總結:
  • 最大並發數和吞吐量有明顯的提升.
  • 添加參數:

export JAVA_OPTS=”-server -Xms256M -Xmx256M”

  • 作用:Xms參數表示初始堆的大小,也是堆大小的最小值,默認值是總共的物理內存1/64, 且小於1G(下面是-Xmx同), Xmx參數表示堆的最大值.在本機中這個參數的值大約為128m.這裏將其擴大一倍.正常情況下應當將這個參數的數值設置為相同.還有另外一些參數,如Xss,表示每個線程的棧內存,默認為1M,但經過查閱資料表明這些參數一般情況下不需要改動.即增加堆內存是提高tomcat內存性能最好最安全的做法.
  • 測試結果:
技術分享圖片

技術分享圖片

  • 總結:
  • 對比上個參數,可以明顯看到並發請求的平均值,中值都有2-3倍的提升,最大值和吞吐率出現了下降.個人猜測吞吐率的下降是因為在吞吐量一定的情況下,每秒並發數的提高拉低了該數值.並發最大值的降低,平均值的升高表明在此配置下系統的處理能力已經有了提高,並且穩定性也得到提升.
  • 添加參數:

export JAVA_OPTS=”-server -Xms512M -Xmx512M”

  • 作用: 在上條參數的基礎上,將堆內存起始值和最大值都提高一倍
  • 測試結果:
技術分享圖片

技術分享圖片

  • 總結:
  • 並發平均數和吞吐率變化不大,但並發最大值提升2倍左右.
  • 測試代碼按最少的字節算,處理單個用戶請求需要50000bytes,在本測試中模擬的用戶數是5000,即使5000用戶並發處理,所需內存也只在200MB這個級別,所以堆內存設置為512MB與256MB,某些數據項可能已經遇到瓶頸.
  • 添加參數:

export JAVA_OPTS=”-server -Xms512M -Xmx512M -XX:+AggressiveOpts”

  • 作用: -XX:+AggressiveOpts表示每當JDK版本升級時,你的JVM都會使用最新加入的優化技術(如果有的話).建議加上,但也要註意若升級JDK版本後系統出現意外情況,應該對該參數的影響進行測試.
  • 添加參數:

export JAVA_OPTS=”-server -Xms512M -Xmx512M -XX:+AggressiveOpts -XX:+UseBiasedLocking”

  • 作用: 啟用一個優化的線程鎖.對於tomcat來說,每個http請求都會啟用線程,啟動該線程鎖可以讓tomcat對線程進行最優調配.
  • 測試結果:
技術分享圖片

技術分享圖片

  • 總結:
  • 除了吞吐率其他都降得很厲害.個人猜測因為本次測試代碼並不復雜,如果是執行復雜的業務邏輯可能優化效果會比較明顯,尤其是設計到當業務的計算量相差較大時.
  • 添加參數:

export JAVA_OPTS=”-server -Xms512M -Xmx512M -XX:+AggressiveOpts -XX:+UseBiasedLocking -XX:+DisableExplicitGC”

  • 作用: 禁止顯示調用System.gc().若在代碼中顯示調用System.gc()讓JVM進行垃圾回收,會極大降低系統響應時間.

調優方式二: 更改…/confrver.xml (容器內優化)

在server.xml內定位到標簽,以下的內容均值在該標簽中修改內容

  • 添加參數:

URIEncoding=”UTF-8”

  • 作用: 使得tomcat可以解析含有中文名的文件的url
  • 添加參數

protocol=”org.apache.coyote.http11.Http11Nio2Protocol”

若tomcat為8可改為上面的參數,若為tomcat6建議改為”org.apache.coyote.http11.Http11NioProtocol”

  • 添加參數

enableLookups=”false”

  • 添加參數

acceptCount=”1000”

  • 指定當所有可以使用的處理請求的線程數都被使用時,可以放到處理隊列中的請求數,超過這個數的請求將不予處理,默認設置 100.這裏設置為1000
  • 添加參數

maxThreads=”5000”

  • 最大並發數,默認設置 200,這裏設置為JMeter中的模擬請求數5000
  • 測試結果:
  • 將上述幾個參數添加去本機的配置文件中,測試數據沒有明顯差距,故不貼出.
  • 可能因為測試用例簡單,在這方面進行優化有點殺雞焉用牛刀了.
  • 總結
  • 在本測試中,堆內存的更改對tomcat的優化效果非常明顯.其實這是屬於JVM優化的範疇,只不過作用於tomcat身上.
  • 其他參數的優化在本測試中效果不明顯,但我相信對於業務復雜的場景,這些優化都是非常必要的,尤其是對server.xml的優化.
  • 另外,測試過程中出現讓我很費解的事.相同的配置運行多次,得到的數據會有較大的出入.比如我晚上測試了一邊.第二天起來用該配置再測一邊,得到的數據會同比波動會非常大.
  • 結合多次實驗,發現數據的波動會出現在物理機和Docker容器的喚醒,重新打開JMeter軟件等行為之後,這些行為都會導致內存使用率的大量變化,這些都導致JVM的運行環境不夠穩定,
  • 所以,該測試的結果並不嚴謹,僅可作為參考而不可盡信.務必在您的環境親自測試一遍.

參考配置

catalina.sh

export JAVA_OPTS=”-server -Xms1400M -Xmx1400M -Xss512k -XX:+AggressiveOpts -XX:+UseBiasedLocking -XX:PermSize=128M -XX:MaxPermSize=256M -XX:+DisableExplicitGC -XX:MaxTenuringThreshold=31 -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullCollection -XX:LargePageSizeInBytes=128m -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -Djava.awt.headless=true “

server.xml

[objc] view plain copy

  1. Connectorport="8080"
  2. protocol="org.apache.coyote.http11.Http11Nio2Protocol"
  3. connectionTimeout="20000"
  4. redirectPort="8443"
  5. enableLookups="false"
  6. acceptCount="100"
  7. maxThreads="200"
  8. minSpareThreads="10"
  9. compression="on"
  10. compressionMinSize="2048"
  11. compressableMimeType="text/html,text/xml,text/plain,text/css,text/javascript,application/javascript"
  12. URIEncoding="utf-8"

Tomcat 調優測試