.NetCore實踐篇：成功解決分散式監控ZipKin聚合依賴問題（三）

讀本篇文章之前，可以先讀前兩篇文章。為了照顧沒看過的朋友，我也會稍作複習。

思考大綱：  .Net架構篇:思考如何設計一款實用的分散式監控系統？

實踐篇一： .NetCore實踐篇：分散式監控客戶端ZipkinTracer從入門到放棄之路

實踐篇二： .NetCore實踐篇：分散式監控系統zipkin踩坑之路（二）

上一章節，我們遺留了兩個問題，

聚合呼叫span傳送到zipkin時，沒有產生聚合的span。

選單dependencies沒有聚合資料，zipkin-dependencies啟動失敗問題。

很慶幸，這兩個問題都在本篇文章得到完美解決。沒有什麼比一步一步解決問題更開心了，我又收集了一堆寶貴的連結。非常感謝社群，所以我也將自己的實踐之路分享出來，為.net社群繁榮增一點力氣。

zipkin為分散式鏈路呼叫監控系統，聚合各業務系統呼叫延遲資料，達到鏈路呼叫監控跟蹤；

zipkin通過採集跟蹤資料可以幫助開發者深入瞭解在分散式系統中某一個特定的請求時如何執行的；

zipkin4net是.NET客戶端庫。

它為您提供：

• Zipkin 原語（跨度，註釋，二進位制註釋，......）【Zipkin primitives (spans, annotations, binary annotations, ...)】
• 非同步跟蹤傳送
• 跟蹤傳輸抽象

這是一個Spark作業，它將從您的資料儲存區收集跨度，分析服務之間的連結，並存儲它們以供以後在 Web UI中 呈現（例如 http://localhost:8080/dependency )。

什麼是Spark?

Apache Spark 是專為大規模資料處理而設計的快速通用的計算引擎。

此作業以UTC時間分析當天的所有跟蹤。這意味著您應該將其安排在UTC午夜之前執行。

支援所有Zipkin  儲存元件 ，包括Cassandra，SQL/">MySQL和Elasticsearch。

上次被zipkin-dependencies的啟動問題卡了很晚，就結束了那篇文章，今天繼續解決問題。我從網上搜到一篇類似的博文 部署生產環境時踩到的一些坑 ，裡面提到直接在tomcat的catalina.sh的JAVA_OPTS註釋處，加一行JAVA_OPTS="-server -Xms1024m -Xmx1624m -XX:PermSize=128M -XX:MaxPermSize=256m"，即可解決。

#JAVA_OPTS(Optional) Java runtime options used when any command
#is executed.
#Include here and not in CATALINA_OPTS all options, that
#should be used by Tomcat and also by the stop process,
#the version command etc.
#Most options should go into CATALINA_OPTS.
JAVA_OPTS="-server -Xms1024m -Xmx1624m -XX:PermSize=128M -XX:MaxPermSize=256m"

tomcat啟動成功。

[root@izwz9fwifc2eniq3lbdzmgz bin]# ./startup.sh 
Using CATALINA_BASE:/usr/local/tomcat/apache-tomcat-8.5.32
Using CATALINA_HOME:/usr/local/tomcat/apache-tomcat-8.5.32
Using CATALINA_TMPDIR: /usr/local/tomcat/apache-tomcat-8.5.32/temp
Using JRE_HOME:/usr/lib/jdk1.8.0_181
Using CLASSPATH:/usr/local/tomcat/apache-tomcat-8.5.32/bin/bootstrap.jar:/usr/local/tomcat/apache-tomcat-8.5.32/bin/tomcat-juli.jar
Tomcat started.

後來又搜到這條連結 how to increase heap size?

原來直接在執行java命令時，追加-Xmx就行了，腦袋太死板，想不到這個點。

[root@izwz9fwifc2eniq3lbdzmgz cusD]# java -Xmx1024m -version
java version "1.8.0_181"
Java(TM) SE Runtime Environment (build 1.8.0_181-b13)
Java HotSpot(TM) 64-Bit Server VM (build 25.181-b13, mixed mode)

提示記憶體不足，分配失敗。

[root@izwz9fwifc2eniq3lbdzmgz cusD]# STORAGE_TYPE=cassandra3java -Xmx1024m -Xms1024m -jar zipkin-dependencies.jar `date -u -d '1 day ago' +%F`
Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000000d5550000, 715849728, 0) failed; error='Cannot allocate memory' (errno=12)
#
# There is insufficient memory for the Java Runtime Environment to continue.
# Native memory allocation (mmap) failed to map 715849728 bytes for committing reserved memory.
# An error report file with more information is saved as:
# /cusD/hs_err_pid6871.log

解決步驟 :

執行剛才的vi catalina.sh,清理掉設定的JAVA_OPTs資訊，關掉mysql，重啟tomcat等步驟。利用 free 或 top 檢視記憶體消耗。

[root@izwz9fwifc2eniq3lbdzmgz cusD]# free -h
totalusedfreesharedbuff/cacheavailable
Mem:1.8G228M1.2G388K396M1.4G
Swap:0B0B0B

[root@izwz9fwifc2eniq3lbdzmgz cusD]# STORAGE_TYPE=cassandra3java -Xmx512m -Xms128m -jar zipkin-dependencies.jar `date -u -d '1 day ago' +%F`
18/09/17 16:42:21 INFO CassandraDependenciesJob: Running Dependencies job for 2018-09-16: 1537056000000000 ≤ Span.timestamp 1537142399999999
18/09/17 16:42:21 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
18/09/17 16:42:22 WARN Java7Support: Unable to load JDK7 types (annotations, java.nio.file.Path): no Java7 support added
Exception in thread "main" java.io.IOException: Failed to open native connection to Cassandra at {127.0.0.1}:9042

未能載入JDK7 types,不過日誌級別為Warn,可以忽略。

啟動成功後，dependency依然沒有資料， 需要繼續查詢問題。

上次是由於啟動問題，今天解決了啟動問題，再看不到資料，就需要深思整個流程了。

再讓我們回憶下下面這張圖，parentid為空，是不是意味著跨站點需要強指定parentid或站點名稱?

裡指定了applicationName，也許這才是能顯示出聚合站點的關鍵！

namespace frontend
{
public class Startup : CommonStartup
{
public override void ConfigureServices(IServiceCollection services)
{
services.AddHttpClient("Tracer").AddHttpMessageHandler(provider =>
TracingHandler.WithoutInnerHandler(provider.GetService<IConfiguration>()["applicationName"]));
}

protected override void Run(IApplicationBuilder app, IConfiguration config)
{
app.Run(async (context) =>
{
var callServiceUrl = config["callServiceUrl"];
var clientFactory = app.ApplicationServices.GetService<IHttpClientFactory>();
using (var httpClient = clientFactory.CreateClient("Tracer"))
{
var response = await httpClient.GetAsync(callServiceUrl);
if (!response.IsSuccessStatusCode)
{
await context.Response.WriteAsync(response.ReasonPhrase);
}
else
{
var content = await response.Content.ReadAsStringAsync();
await context.Response.WriteAsync(content);
}
}
});
}
}
}

繼續按照示例程式碼，修改我們的邏輯,封裝一個可供其他站點呼叫的HTTPHelper幫助類，提供能追蹤站點的 GetAsync 方法，

namespace Demo.ZipkinCommon
{
public class HTTPHelper : ControllerBase
{
/// <summary>
/// 獲取
/// </summary>
/// <param name="url"></param>
/// <param name="keyValues"></param>
/// <param name="timeout"></param>
/// <param name="encoding"></param>
/// <returns></returns>
public static async Task<string> GetAsync(string url, Dictionary<string, string> keyValues, int timeout = 0, Encoding encoding = null)
{
if (encoding == null)
{
encoding = Encoding.UTF8;
}
var appName = ConfigureSettings.AppSettingConfig["applicationName"];

using (var httpClient = new HttpClient(new TracingHandler(appName)))
{
var response = await httpClient.GetAsync(url);
if (!response.IsSuccessStatusCode)
{
return response.ReasonPhrase;
}
else
{
var content = await response.Content.ReadAsStringAsync();
return content;
}
}
}
}
}

兩個站點的Add方法做出修正，然後檢視監控資料。

[HttpPost]
public IActionResult Add([FromBody]User user)
{
_userService.AddUser(user);

//模擬呼叫其他站點請求。
var url = $"{ConfigEx.WebSite}/user/get?id={user.Id}";
var content = HTTPHelper.GetAsync(url, null);
return Content(content.Result);
}

監控spans有兩級了，達到了我們要的效果

監控層級

點開檢視效果

站點聚合

聚合效果圖

經測試，重啟linux後，不開啟zipkin-dependencies的情況下，記憶體模式下依然能實時聚合，上篇文章的結論是本人不熟悉所導致。

how to increase heap size?

部署生產環境時踩到的一些坑

Linux下如何同時註釋多行/同時取消多行註釋

利用Zipkin追蹤Mysql資料庫呼叫鏈

微服務呼叫鏈追蹤中心搭建

微服務監控zipkin+asp.net core