在linux中使用shell來分析統計日誌中的信息
阿新 • • 發佈:2017-10-20
brush pri 臨時文件 日誌文件 all mmd 監控 bash 特定
在運維工作中,要經常分析後臺系統的日誌,通過抓取日誌中的關鍵字信息,對抓取結果進行統計,從而為監控結果提供基礎數據。
下面的shell演示了如何從大量的日誌中取得想要的統計結果。其中展示了各種有趣的命令和shell的用法。
具體功能就是統計出某個關鍵字在不同時段的出現次數。結果格式為“HH 次數”
#!/bin/sh # 取得YYYYMMDD格式的日期,以確定所要抓取的日誌文件範圍 current_date=`date "+%Y%m%d"`; # 拼接組成需要抓取的日誌文件名稱 file_name=$current_date"*all*"; # 在一批日誌文件中查找某個關鍵字,並將查找結果形成一個臨時文件。 # 臨時文件的結果格式為:文件名:日誌內容 #./pmclog/20171020_all_000000.log:00:00:00.876652|D|38|0327|get|CAccumulate.cpp|delete main grep ‘delete main‘ ./pmclog/$file_name >> term_del.log; # 從臨時文件中取得時段信息,該信息是原始日誌內容的前兩個字符,並將結果保存到臨時文件中 # 如果需要其他信息,那麽就需要修改awk的命令參數了。 awk -F ‘:‘ ‘{print $2}‘ term_del.log >> term_del_hour.log; rm term_del.log; rm term_del_hour_times.log; # 取得當前的時段 hour=`date "+%H"`; # 使用循環,對今天的每個時段進行統計 for(( i=0; i<= $hour; i++)) do # 作為數字的時候,變量i的前面是沒有0的,這裏要格式化出來一個0來,0點就是“00”,這樣可以與臨時文件中的信息相匹配 hour2=$(printf ‘%02d‘ $i); # 使用 grep -o 和 wc -l的結合操作,就可以統計一個特定字符在文件中出現的次數。 # 在前面使用echo 可以標記出來每一個次數是哪個時段的數據 # 最終的term_del_hour_times.log就是最終的結果文件。 echo $hour2 `grep -o $hour2 term_del_hour.log | wc -l` >> term_del_hour_times.log; done; rm term_del_hour.log ;
在linux中使用shell來分析統計日誌中的信息