2. 程式人生 > >spark 原始碼學習之列印執行緒堆疊

spark 原始碼學習之列印執行緒堆疊

阿新 • • 發佈：2019-01-09

thread dump

spark頁面中有個列印executor的堆疊的，很好用，最近自己的web專案也想把堆疊用servlet的方式去展現出來，於是跟了下spark原始碼

SparkContext中：

  /**
   * Called by the web UI to obtain executor thread dumps.  This method may be expensive.
   * Logs an error and returns None if we failed to obtain a thread dump, which could occur due
   * to an executor being dead or unresponsive or due to network issues while sending the thread
   * dump message back to the driver.
   */
 

  private[spark] def getExecutorThreadDump(executorId: String): Option[Array[ThreadStackTrace]] = {
    try {
      if (executorId == SparkContext.DRIVER_IDENTIFIER) {
        Some(Utils.getThreadDump())
      } else {
        val endpointRef = env.blockManager.master.getExecutorEndpointRef(executorId).get
        Some(endpointRef.askWithRetry[Array[ThreadStackTrace]](TriggerThreadDump))
      }
    } catch
 
 {
      case e: Exception =>
        logError(s"Exception getting thread dump from executor $executorId", e)
        None
    }
  }

於是依葫蘆畫瓢 ：


package com.scalatoy.studycase.thread

import java.lang.management.ManagementFactory
import java.util.concurrent.locks.ReentrantLock

/**
  * @author todd.chen at 12/12/2016 20:48.
  *         email : todd.chen@ximalaya
 
.com
  */
object ManagementFactoryCase {
  private val logger = org.slf4j.LoggerFactory.getLogger(this.getClass)


  val lock = new ReentrantLock()

  def main(args: Array[String]): Unit = {
    new Thread(new Runnable {
      override def run() = {
        lock.lock()
        logger.info(s"${Thread.currentThread().getName} get lock")
        Thread sleep 10000
        lock.unlock()
        logger.info(s"${Thread.currentThread().getName} unlock")
      }
    }).start()

    new Thread(new Runnable {
      override def run() = {
        logger.info(s"${Thread.currentThread().getName} want to get lock")
        while (!lock.tryLock()) {
          Thread sleep 1000
          logger.info("retry get lock")
        }
        logger.info(s"${Thread.currentThread().getName} get lock")
        lock.unlock()
      }
    }).start()

    ManagementFactory.getThreadMXBean.dumpAllThreads(true,true).foreach(println)
  }


}

日誌輸出

21:04:44.163 [Thread-2] INFO  c.s.s.thread.ManagementFactoryCase$ - 1 loop dump thread
21:04:44.163 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - Thread-1 want to get lock
21:04:44.163 [Thread-0] INFO  c.s.s.thread.ManagementFactoryCase$ - Thread-0 get lock
"DestroyJavaVM" Id=13 RUNNABLE


"Thread-2" Id=12 RUNNABLE
    at sun.management.ThreadImpl.dumpThreads0(Native Method)
    at sun.management.ThreadImpl.dumpAllThreads(ThreadImpl.java:454)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$3$$anonfun$run$1.apply$mcVI$sp(ManagementFactoryCase.scala:60)
    at scala.collection.immutable.Range.foreach$mVc$sp(Range.scala:160)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$3.run(ManagementFactoryCase.scala:58)
    at java.lang.Thread.run(Thread.java:745)


"Thread-1" Id=11 TIMED_WAITING
    at java.lang.Thread.sleep(Native Method)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$2.run(ManagementFactoryCase.scala:47)
    at java.lang.Thread.run(Thread.java:745)


"Thread-0" Id=10 TIMED_WAITING
    at java.lang.Thread.sleep(Native Method)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$1.run(ManagementFactoryCase.scala:37)
    at java.lang.Thread.run(Thread.java:745)

    Number of locked synchronizers = 1
    - java.util.concurrent.locks.ReentrantLock$NonfairSync@1e38eccd


"Monitor Ctrl-Break" Id=9 RUNNABLE (in native)
    at java.net.PlainSocketImpl.socketAccept(Native Method)
    at java.net.AbstractPlainSocketImpl.accept(AbstractPlainSocketImpl.java:409)
    at java.net.ServerSocket.implAccept(ServerSocket.java:545)
    at java.net.ServerSocket.accept(ServerSocket.java:513)
    at com.intellij.rt.execution.application.AppMain$1.run(AppMain.java:79)
    at java.lang.Thread.run(Thread.java:745)


"Signal Dispatcher" Id=4 RUNNABLE


"Finalizer" Id=3 WAITING on java.lang.ref.ReferenceQueue$Lock@6b505041
    at java.lang.Object.wait(Native Method)
    -  waiting on java.lang.ref.ReferenceQueue$Lock@6b505041
    at java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:143)
    at java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:164)
    at java.lang.ref.Finalizer$FinalizerThread.run(Finalizer.java:209)


"Reference Handler" Id=2 WAITING on java.lang.ref.Reference$Lock@7b1bf96e
    at java.lang.Object.wait(Native Method)
    -  waiting on java.lang.ref.Reference$Lock@7b1bf96e
    at java.lang.Object.wait(Object.java:502)
    at java.lang.ref.Reference.tryHandlePending(Reference.java:191)
    at java.lang.ref.Reference$ReferenceHandler.run(Reference.java:153)


21:04:45.172 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:46.176 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:47.180 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:48.186 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:49.189 [Thread-2] INFO  c.s.s.thread.ManagementFactoryCase$ - 2 loop dump thread
21:04:49.189 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
"DestroyJavaVM" Id=13 RUNNABLE


"Thread-2" Id=12 RUNNABLE
    at sun.management.ThreadImpl.dumpThreads0(Native Method)
    at sun.management.ThreadImpl.dumpAllThreads(ThreadImpl.java:454)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$3$$anonfun$run$1.apply$mcVI$sp(ManagementFactoryCase.scala:60)
    at scala.collection.immutable.Range.foreach$mVc$sp(Range.scala:160)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$3.run(ManagementFactoryCase.scala:58)
    at java.lang.Thread.run(Thread.java:745)


"Thread-1" Id=11 RUNNABLE
    at ch.qos.logback.classic.pattern.TargetLengthBasedClassNameAbbreviator.computeLengthArray(TargetLengthBasedClassNameAbbreviator.java:96)
    at ch.qos.logback.classic.pattern.TargetLengthBasedClassNameAbbreviator.abbreviate(TargetLengthBasedClassNameAbbreviator.java:52)
    at ch.qos.logback.classic.pattern.NamedConverter.convert(NamedConverter.java:53)
    at ch.qos.logback.classic.pattern.NamedConverter.convert(NamedConverter.java:18)
    at ch.qos.logback.core.pattern.FormattingConverter.write(FormattingConverter.java:37)
    at ch.qos.logback.core.pattern.PatternLayoutBase.writeLoopOnConverters(PatternLayoutBase.java:119)
    at ch.qos.logback.classic.PatternLayout.doLayout(PatternLayout.java:149)
    at ch.qos.logback.classic.PatternLayout.doLayout(PatternLayout.java:39)
    ...

    Number of locked synchronizers = 1
    - java.util.concurrent.locks.ReentrantLock$FairSync@48032d99


"Thread-0" Id=10 TIMED_WAITING
    at java.lang.Thread.sleep(Native Method)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$1.run(ManagementFactoryCase.scala:37)
    at java.lang.Thread.run(Thread.java:745)

    Number of locked synchronizers = 1
    - java.util.concurrent.locks.ReentrantLock$NonfairSync@1e38eccd


"Monitor Ctrl-Break" Id=9 RUNNABLE (in native)
    at java.net.PlainSocketImpl.socketAccept(Native Method)
    at java.net.AbstractPlainSocketImpl.accept(AbstractPlainSocketImpl.java:409)
    at java.net.ServerSocket.implAccept(ServerSocket.java:545)
    at java.net.ServerSocket.accept(ServerSocket.java:513)
    at com.intellij.rt.execution.application.AppMain$1.run(AppMain.java:79)
    at java.lang.Thread.run(Thread.java:745)


"Signal Dispatcher" Id=4 RUNNABLE


"Finalizer" Id=3 WAITING on java.lang.ref.ReferenceQueue$Lock@6b505041
    at java.lang.Object.wait(Native Method)
    -  waiting on java.lang.ref.ReferenceQueue$Lock@6b505041
    at java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:143)
    at java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:164)
    at java.lang.ref.Finalizer$FinalizerThread.run(Finalizer.java:209)


"Reference Handler" Id=2 WAITING on java.lang.ref.Reference$Lock@7b1bf96e
    at java.lang.Object.wait(Native Method)
    -  waiting on java.lang.ref.Reference$Lock@7b1bf96e
    at java.lang.Object.wait(Object.java:502)
    at java.lang.ref.Reference.tryHandlePending(Reference.java:191)
    at java.lang.ref.Reference$ReferenceHandler.run(Reference.java:153)


21:04:50.198 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:51.204 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:52.208 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:53.211 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:54.173 [Thread-0] INFO  c.s.s.thread.ManagementFactoryCase$ - Thread-0 unlock
21:04:54.200 [Thread-2] INFO  c.s.s.thread.ManagementFactoryCase$ - 3 loop dump thread
"DestroyJavaVM" Id=13 RUNNABLE


"Thread-2" Id=12 RUNNABLE
    at sun.management.ThreadImpl.dumpThreads0(Native Method)
    at sun.management.ThreadImpl.dumpAllThreads(ThreadImpl.java:454)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$3$$anonfun$run$1.apply$mcVI$sp(ManagementFactoryCase.scala:60)
    at scala.collection.immutable.Range.foreach$mVc$sp(Range.scala:160)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$3.run(ManagementFactoryCase.scala:58)
    at java.lang.Thread.run(Thread.java:745)


"Thread-1" Id=11 TIMED_WAITING
    at java.lang.Thread.sleep(Native Method)
    at com.scalatoy.studycase.thread.ManagementFactoryCase$$anon$2.run(ManagementFactoryCase.scala:47)
    at java.lang.Thread.run(Thread.java:745)


"Monitor Ctrl-Break" Id=9 RUNNABLE (in native)
    at java.net.PlainSocketImpl.socketAccept(Native Method)
    at java.net.AbstractPlainSocketImpl.accept(AbstractPlainSocketImpl.java:409)
    at java.net.ServerSocket.implAccept(ServerSocket.java:545)
    at java.net.ServerSocket.accept(ServerSocket.java:513)
    at com.intellij.rt.execution.application.AppMain$1.run(AppMain.java:79)
    at java.lang.Thread.run(Thread.java:745)


"Signal Dispatcher" Id=4 RUNNABLE


"Finalizer" Id=3 WAITING on java.lang.ref.ReferenceQueue$Lock@6b505041
    at java.lang.Object.wait(Native Method)
    -  waiting on java.lang.ref.ReferenceQueue$Lock@6b505041
    at java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:143)
    at java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:164)
    at java.lang.ref.Finalizer$FinalizerThread.run(Finalizer.java:209)


"Reference Handler" Id=2 WAITING on java.lang.ref.Reference$Lock@7b1bf96e
    at java.lang.Object.wait(Native Method)
    -  waiting on java.lang.ref.Reference$Lock@7b1bf96e
    at java.lang.Object.wait(Object.java:502)
    at java.lang.ref.Reference.tryHandlePending(Reference.java:191)
    at java.lang.ref.Reference$ReferenceHandler.run(Reference.java:153)


21:04:54.216 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - retry get lock
21:04:54.216 [Thread-1] INFO  c.s.s.thread.ManagementFactoryCase$ - Thread-1 get lock

效果還可以，媽媽再也不用擔心運維不給我打堆疊了

相關推薦

spark 原始碼學習之列印執行緒堆疊

spark頁面中有個列印executor的堆疊的，很好用，最近自己的web專案也想把堆疊用servlet的方式去展現出來，於是跟了下spark原始碼 SparkContext中： /** * Called by the web UI to ob

JVM學習之java執行緒實現&排程和狀態轉換

以下blog內容來自《深入理解Java虛擬機器_JVM高階特性與最佳實踐》感謝作者！ 1 謹慎使用java 多執行緒   如何提升效率：      使用java時推薦利用多執行緒處理一些操作絕大多數情況下確實能提高效率，提高效率的原理

JVM學習之java執行緒實現&排程和狀態轉換

1 謹慎使用java 多執行緒   如何提升效率：      使用java時推薦利用多執行緒處理一些操作絕大多數情況下確實能提高效率，提高效率的原理在哪裡呢，為什麼說絕大多說情況呢。        在CPU單核時代，我們知道某一時刻工作的執行緒只能是一條，那多執行緒為什

Linux學習之多執行緒程式設計（二）

言之者無罪，聞之者足以戒。 ——《詩序》 （二）、執行緒的基本控制 1、終止程序： 如果程序中的任意一個程序呼叫了exit、_exit、_Exit，那麼整個程序就會終止 普通的單個程序有以下3種退出方式，這樣不會終止程序： （1）從啟動例程中返回，返回值是執行緒的退

Linux學習之多執行緒程式設計（四）

言之者無罪，聞之者足以戒。 ——《詩序》 三、Linux執行緒的高階控制 1、一次性初始化 有些事需要且只能執行一次（比如互斥量初始化）。通常當初始化應用程式時，可以比較容易地將其放在main函式中。但當你寫一個庫函式時，就不能在main裡面初始化了，你可以用靜態初始化

Linux學習之多執行緒程式設計（六）

言之者無罪，聞之者足以戒。 ——《詩序》 4、執行緒私有屬性 應用程式設計中有必要提供一種變數，使得多個函式多個執行緒都可以訪問這個變數（看起來是個全域性變數），但是執行緒對這個變數的訪問都不會彼此產生影響（貌似不是全域性變數哦），但是你需要這樣的資料，比如errno。那

Java學習之多執行緒、內部類

內部類：    定義在類中的類，成為內部類。    好處是可以直接訪問外部類中的成員（包括私有）。    外部類想訪問內部類需要建立內部類物件。    匿名內部類：就是內部類的簡化格式。        內部類必須繼承一個類或者實現介面，這種情況下的內部類可以簡化成匿名內部類。

libevent原始碼分析之多執行緒準備工作

libevent中是預設不開啟多執行緒的,也就沒有什麼鎖, 條件變數等的說法了 我們可以使用evthread_use_pthreads()開啟linux下的pthread#ifdef WIN32 int evthread_use_windows_threads(void);

Java問題定位之Java執行緒堆疊分析

"main" prio=1 tid=0x0805c988 nid=0xd28 runnable [0xfff65000..0xfff659c8] at java.lang.String.indexOf(String.java:1352) at java.io.PrintStream.write

openjdk-alpine映象無法列印執行緒堆疊和記憶體堆疊問題

基於openjdk:8u171-alpine構建的java映象，使用jstack命令列印執行緒的時候會提示以下錯誤： /opt # ps -ef PID USER TIME COMMAND 1 root 0:28 /usr/lib/jvm/java-1.8-openjdk/bin/java -jar

Netty原始碼分析之Reactor執行緒模型

一、背景  最近在研究netty的原始碼，今天發表一篇關於netty的執行緒框架--Reactor執行緒模型，作為最近研究成果。如果有還不瞭解Reactor模型請自行百度，網上有很多關於Reactor模式。  研究netty的時候，先看了下《netty權威指南》，裡面講解不

C++學習之STL執行緒安全性考慮

條款12：對STL容器執行緒安全性的期待現實一些 標準C++的世界是相當保守和陳舊的。在這個純潔的世界，所有可執行檔案都是靜態連結的。不存在記憶體對映檔案和共享記憶體。沒有視窗系統，沒有網路，沒有資料庫，沒有其他程序。在這種情況下，當發現標準沒有提到任何關於執行緒的東西時你

Ruby學習之多執行緒的使用方式

每個正在系統上執行的程式都是一個程序。每個程序包含一到多個執行緒。執行緒是程式中一個單一的順序控制流程，在單個程式中同時執行多個執行緒完成不同的工作,稱為多執行緒。Ruby 中我們可以通過 Thread 類來建立多執行緒，Ruby的執行緒是一個輕量級的，可以以高效的方式來實現並行的程式碼，來看下

Qt學習 之 多執行緒程式設計

QT通過三種形式提供了對執行緒的支援。它們分別是， 一、平臺無關的執行緒類 二、執行緒安全的事件投遞 三、跨執行緒的訊號-槽連線。 這使得開發輕巧的多執行緒Qt程式更為容易，並能充分利用多處理器機器的優勢。多執行緒程式設計也是一個有用的模式，它用於解決執

Golang原始碼學習：監控執行緒

監控執行緒是在runtime.main執行的時候在系統棧中建立的，監控執行緒與普通的工作執行緒區別在於，監控執行緒不需要繫結p來執行。 ## 監控執行緒的建立與啟動 ### 簡單的呼叫圖 先給出個簡單的呼叫圖，好心裡有數，逐個分析完後做個小結。 ![](https://img2020.cnblogs.com/

Java併發包原始碼學習系列：執行緒池ThreadPoolExecutor原始碼解析

[toc] 系列傳送門： - [Java併發包原始碼學習系列：AbstractQueuedSynchronizer](https://blog.csdn.net/Sky_QiaoBa_Sum/article/details/112254373) - [Java併發包原始碼學習系列：CLH同步佇列及同步資源

Java併發包原始碼學習系列：執行緒池ScheduledThreadPoolExecutor原始碼解析

[toc] ## ScheduledThreadPoolExecutor概述 我們在上一篇學習了ThreadPoolExecutor的實現原理：[Java併發包原始碼學習系列：執行緒池ThreadPoolExecutor原始碼解析](https://blog.csdn.net/Sky_QiaoBa_Sum

Java併發包原始碼學習之執行緒池（一）ThreadPoolExecutor原始碼分析

Java中使用執行緒池技術一般都是使用Executors這個工廠類，它提供了非常簡單方法來建立各種型別的執行緒池： public static ExecutorService newFixedThreadPool(int nThreads) public static ExecutorService

原始碼學習之執行緒池

大家面試過程中肯定被問道過執行緒池。為什麼要使用執行緒池呢？因為在系統中頻繁建立執行緒會造成很大的CPU消耗。而且用完的執行緒要等待GC回收也會造成消耗。 下面我們就來學習下最常用的執行緒池 ThreadPoolExecutor， 首先先來看看它的構造方法： public ThreadPo

jstack-檢視Java程序的執行緒堆疊資訊，鎖定高消耗資原始碼

gracetest jstack-檢視Java程序的執行緒堆疊資訊，鎖定高消耗資原始碼  jstack主要用來檢視某個Java程序內的執行緒堆疊資訊。語法格式如下： jstack [option] pid jstack [option]