本文由凈地發表於雲+社區專欄

記一次Java線上服務器CPU過載問題的排查過程，詳解排查過程中用到的Java性能監測工具：jvisualvm、jstack、jstat、jmap。

背景：Java線上服務運行一周後，某個周六晚上CPU使用率突然持續99%，Java進程處於假死狀態，不響應請求。秉著先恢復服務再排查問題的原則，在我連接×××采用重啟大法後，CPU使用率恢復正常，服務也正常響應了，如下圖一所示：

（圖一）CPU使用率圖

但是，當晚的並發量也沒有比平時高出許多，為什麽會突然出現這種CPU爆表的情況？帶著這個疑問，我走上了問題排查的道路。

首先，我查了相關的錯誤日誌，發現故障的時間段內有大量的ckv請求超時，但請求超時並不是ckv server的問題，而是ckv client的請求並沒有發出去。那麽，為什麽ckv client的請求沒有發出去呢？日誌並沒有提供更多的信息給我。

於是，我在Java服務上開啟了JMX，本地采用jvisualvm來觀察Java進程運行時的堆棧內存、線程使用情況。JMX（Java Management Extensions，即Java管理擴展）是Java平臺上為應用程序、設備、系統等植入管理功能的框架；jvisualvm是JDK內置的性能分析工具，位於JDK根目錄的bin文件夾下面，它可以通過JMX從Java程序獲取運行時的實時數據，從而進行動態的性能分析，如圖二所示：

（圖二）jvisualvm

通過觀察Heap內存的使用情況，發現其是緩慢增加的，每隔一小段時間被GC回收，圖形呈鋸齒狀，似乎沒有什麽問題；Threads也沒有存在死鎖的問題，線程運行良好；在Sampler查看Thread CPU Time的時候發現，log4j的異步日誌線程占用的CPU時間是最多的。於是，初步懷疑這是log4j的鍋。接著，我對項目代碼進行了review，發現某些接口打印了大量的無用日誌，日誌級別使用也不規範。最後，我對項目的日誌進行了整體的梳理，優化後發布上線，並繼續觀察。

我本以為問題已經解決了。然而，幾天後又出現了CPU爆表的情況，這時，我才發現自己錯怪了log4j。與上次爆表的情況不同，這次我在公司（表示很淡定），於是我機智地保留了一臺機器來做觀察，其他機器做重啟處理。現在，要開始我的表演了，具體如下：

（1）登陸機器，用 top 命令查看進程資源占用情況。不出所料，Java進程把CPU撐爆了，如下圖三所示：

（圖三）進程資源占用情況

（2）Java進程把CPU都占用完了，那麽具體是進程內的哪些線程占用的呢？於是，我用了 top -H -p6902 （6902是Java進程的PID）命令找出了具體的線程資源占用情況，如下圖四所示：

（圖四）Java線程資源占用情況

圖四中的PID為Java線程的id，可以看到id為6904、6905、6906、6907這四個線程基本把CPU資源全部吃完了。

（3）現在，我們已經拿到耗盡CPU資源的線程id了。這時，我們就可以使用jstack來查找這些id對應的具體線程堆棧信息了。jstack是JDK內置的堆棧跟蹤工具，位於JDK根目錄的bin文件夾下面，可用於打印的Java堆棧信息。我用命令 jstack 6902 > jstack.txt （6902是Java進程的PID）打印出了Java進程的堆棧信息放到jstack.txt文件了；由於堆棧打印的線程的native id是十六機制的，所以，我把十進制的線程id（6904、6905、6906、6907）轉化成十六進制（0x1af8、0x1af9、0x1afa、0x1afb）；最後，通過 cat jstack.txt | grep -C 20 0x1af8 命令找到了具體的線程信息，如下圖五所示：

（圖五）線程堆棧信息

通過圖五可以發現，把CPU占滿的線程是GC的線程，Java的垃圾回收把CPU的資源耗盡了。

（4）現在，我們已經定位到是GC的問題了。那麽，我們就來看看GC的回收情況，我們可以通過jstat來觀察。jstat是JDK內置的JVM檢測統計工具，位於JDK根目錄的bin文件夾下面，可以對堆內存的使用情況進行實時統計。我使用了命令 jstat -gcutil 6902 2000 10 （6902是Java進程的PID）來觀察GC的運行信息，如下圖六所示：

（圖六）GC運行信息

通過圖六可以知道，E（Eden區）跟O（Old區）的內存已經被耗盡了，FGC（Full GC）的次數高達6989次，FGCT（Full GC Time）的時間高達36453秒，即平均每次FGC的時間為：36453/6989 ≈ 5.21秒。也就是說，Java進程都把時間花在GC上了，所以就沒有時間來處理其他事情。

（5）GC出現圖六的這種情況，基本可以確認是在程序中存在內存泄露的問題。那麽，如何確定是哪些代碼導致的這個問題呢？這時候，我們就可以使用jmap查看Java的內存占用信息。jmap是JDK內置的內存映射工具，位於JDK根目錄的bin文件夾下面，可用於獲取java進程的內存映射信息。通過命令 jmap -histo 6902 （6902是Java進程的PID）打印出了Java的內存占用信息，如下圖七所示：

（圖七）Java內存占用信息

由圖七可以得到，占用內存資源的TOP10類（[C 是指char[]，String類內部使用char[]來保存數據）的名稱、實例數以及占用內存大小（單位：byte），於是問題排查就變得非常簡單了。最後，通過review代碼確定了問題所在：

1. 部分接口使用到了L5QOSPacket這個L5的工具類沒有做單例，每次請求接口都會生成一個新的實例，浪費了大量的內存。
2. 代碼裏邊用到的一個第三方提供的QcClient客戶端存在內存泄露問題，代碼中不恰當地new了大量的對象，而且對存儲在ConcurrentHashMap的數據沒有做清除清理，從而導致數據一直累計，內存占用持續增加。

解決以上兩個問題後，Heap內存的占用維持在2.5G左右，已經沒有持續增長的跡象了，業務已正常運行。

以上就是我排查問題的整個過程，以及在這個過程中用到的一些Java性能監測工具。除了本文提及的jvisualvm、jstack、jstat、jmap這些工具，在JDK根目錄的bin文件夾下面還有其他許多非常有用的工具，例如：使用 jinfo 查看Java進程相關信息，感興趣的童鞋可以去研究下。

相關閱讀
WCF系列教程之WCF服務配置
php異步執行
***用Python：檢測並繞過Web應用程序防火墻
【每日課程推薦】機器學習實戰！快速入門在線廣告業務及CTR相應知識

此文已由作者授權騰訊雲+社區發布，更多原文請點擊

搜索關註公眾號「雲加社區」，第一時間獲取技術幹貨，關註後回復1024 送你一份技術課程大禮包！

海量技術實踐經驗，盡在雲加社區！

做JAVA開發的同學一定遇到過的爆表問題，看這裏解決