1. 程式人生 > >在linux中使用shell來分析統計日誌中的信息

在linux中使用shell來分析統計日誌中的信息

brush pri 臨時文件 日誌文件 all mmd 監控 bash 特定

在運維工作中,要經常分析後臺系統的日誌,通過抓取日誌中的關鍵字信息,對抓取結果進行統計,從而為監控結果提供基礎數據。
下面的shell演示了如何從大量的日誌中取得想要的統計結果。其中展示了各種有趣的命令和shell的用法。
具體功能就是統計出某個關鍵字在不同時段的出現次數。結果格式為“HH 次數”

#!/bin/sh

# 取得YYYYMMDD格式的日期,以確定所要抓取的日誌文件範圍
current_date=`date "+%Y%m%d"`;

# 拼接組成需要抓取的日誌文件名稱
file_name=$current_date"*all*";

# 在一批日誌文件中查找某個關鍵字,並將查找結果形成一個臨時文件。
# 臨時文件的結果格式為:文件名:日誌內容
#./pmclog/20171020_all_000000.log:00:00:00.876652|D|38|0327|get|CAccumulate.cpp|delete main
grep ‘delete main‘ ./pmclog/$file_name >> term_del.log;

# 從臨時文件中取得時段信息,該信息是原始日誌內容的前兩個字符,並將結果保存到臨時文件中
# 如果需要其他信息,那麽就需要修改awk的命令參數了。
awk -F ‘:‘ ‘{print $2}‘ term_del.log >> term_del_hour.log;

rm term_del.log;
rm term_del_hour_times.log;

# 取得當前的時段
hour=`date "+%H"`;

# 使用循環,對今天的每個時段進行統計
for(( i=0; i<= $hour; i++))
do
    # 作為數字的時候,變量i的前面是沒有0的,這裏要格式化出來一個0來,0點就是“00”,這樣可以與臨時文件中的信息相匹配
    hour2=$(printf ‘%02d‘ $i);
    
    # 使用 grep -o 和 wc -l的結合操作,就可以統計一個特定字符在文件中出現的次數。
    # 在前面使用echo 可以標記出來每一個次數是哪個時段的數據
    # 最終的term_del_hour_times.log就是最終的結果文件。
    echo $hour2 `grep -o $hour2 term_del_hour.log | wc -l` >> term_del_hour_times.log;
done;

rm term_del_hour.log ;

在linux中使用shell來分析統計日誌中的信息