Linux下awk命令詳解

阿新 • • 發佈：2019-02-04

grep 或 egrep 或awk 過濾兩個或多個關鍵詞:
grep -E ‘123|abc’ filename // 找出檔案（filename）中包含123或者包含abc的行
egrep ‘123|abc’ filename //用egrep同樣可以實現
awk ‘/123|abc/’ filename // awk 的實現方式

假如某個廣告點選資料記錄在檔案裡面，檔案中每一行資料由‘時間’，‘uid’兩個欄位組成，要求每分鐘統計某個uid帶來的點選量並計入資料庫，可以用shell來實現該功能。

#!/bin/bash
#廣告點選統計,統計前一分鐘的點選數
stat_time=`date -d "- minutes ago" +"%Y-%m-%d %k:%M"`
log_date=`date -d "$stat_time" +%Y-%m-%d`;
log_month=`date -d "$stat_time" +%Y-%m`
stat_minute=`date -d "$stat_time" +%k:%M`;
log_time=`date +%s -d"$stat_time"`

datadir=/opt
sqlDir=$datadir/data/sql/$log_month
logDir=$datadir/log/$log_month

host="192.168.1.1"
name="root"
password="root"
db="ad"

if [ ! -d "$sqlDir" ]
then
        mkdir -p "$sqlDir"
fi

logfile=$logDir/'ad_click_'$log_date.txt
echo $logfile;
if [ -f $logfile ]
then
  grep $stat_minute $logfile | awk '{a[$3]++}END{for(i in a)print "INSERT INTO ad_clicks(from_id,clicks,log_time) VALUES ("i","a[i]",'$log_time');"}' >$sqlDir/ad_click.sql
  mysql -h$host -u$name -p$password $db -e "delete from ad_clicks where log_time ='$log_time'"
  mysql -h$host -u$name -p$password $db < $sqlDir/ad_click.sql
else
  echo $logfile" not exist"
fi

http://www.cnblogs.com/notedd/archive/2011/12/20/2294349.html

簡介

awk是一個強大的文字分析工具，相對於grep的查詢，sed的編輯，awk在其對資料分析並生成報告時，顯得尤為強大。簡單來說awk就是把檔案逐行的讀入，以空格為預設分隔符將每行切片，切開的部分再進行各種分析處理。

awk有3個不同版本: awk、nawk和gawk，未作特別說明，一般指gawk，gawk 是 AWK 的 GNU 版本。

awk其名稱得自於它的創始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首個字母。實際上 AWK 的確擁有自己的語言： AWK 程式設計語言，三位建立者已將它正式定義為“樣式掃描和處理語言”。它允許您建立簡短的程式，這些程式讀取輸入檔案、為資料排序、處理資料、對輸入執行計算以及生成報表，還有無數其他的功能。

使用方法

awk '{pattern + action}' {filenames}

儘管操作可能會很複雜，但語法總是這樣，其中 pattern 表示 AWK 在資料中查詢的內容，而 action 是在找到匹配內容時所執行的一系列命令。花括號（{}）不需要在程式中始終出現，但它們用於根據特定的模式對一系列指令進行分組。 pattern就是要表示的正則表示式，用斜槓括起來。

awk語言的最基本功能是在檔案或者字串中基於指定規則瀏覽和抽取資訊，awk抽取資訊後，才能進行其他文字操作。完整的awk指令碼通常用來格式化文字檔案中的資訊。

通常，awk是以檔案的一行為處理單位的。awk每接收檔案的一行，然後執行相應的命令，來處理文字。

呼叫awk

有三種方式呼叫awk

1.命令列方式
awk [-F  field-separator]  'commands'  input-file(s)
其中，commands 是真正awk命令，[-F域分隔符]是可選的。 input-file(s) 是待處理的檔案。
在awk中，檔案的每一行中，由域分隔符分開的每一項稱為一個域。通常，在不指名-F域分隔符的情況下，預設的域分隔符是空格。

2.shell指令碼方式
將所有的awk命令插入一個檔案，並使awk程式可執行，然後awk命令直譯器作為指令碼的首行，一遍通過鍵入指令碼名稱來呼叫。
相當於shell指令碼首行的：#!/bin/sh
可以換成：#!/bin/awk

3.將所有的awk命令插入一個單獨檔案，然後呼叫：
awk -f awk-script-file input-file(s)
其中，-f選項載入awk-script-file中的awk指令碼，input-file(s)跟上面的是一樣的。

本章重點介紹命令列方式。

入門例項

假設last -n 5的輸出如下

[[email protected] ~]# last -n 5 <==僅取出前五行
root     pts/1   192.168.1.100  Tue Feb 10 11:21   still logged in
root     pts/1   192.168.1.100  Tue Feb 10 00:46 - 02:28  (01:41)
root     pts/1   192.168.1.100  Mon Feb  9 11:41 - 18:30  (06:48)
dmtsai   pts/1   192.168.1.100  Mon Feb  9 11:41 - 11:41  (00:00)
root     tty1                   Fri Sep  5 14:09 - 14:10  (00:01)

如果只是顯示最近登入的5個帳號

#last -n 5 | awk  '{print $1}'
root
root
root
dmtsai
root

awk工作流程是這樣的：讀入有'\n'換行符分割的一條記錄，然後將記錄按指定的域分隔符劃分域，填充域，$0則表示所有域,$1表示第一個域,$n表示第n個域。預設域分隔符是"空白鍵" 或 "[tab]鍵",所以$1表示登入使用者，$3表示登入使用者ip,以此類推。

如果只是顯示/etc/passwd的賬戶

#cat /etc/passwd |awk  -F ':'  '{print $1}'  
root
daemon
bin
sys

這種是awk+action的示例，每行都會執行action{print $1}。

-F指定域分隔符為':'。

如果只是顯示/etc/passwd的賬戶和賬戶對應的shell,而賬戶與shell之間以tab鍵分割

#cat /etc/passwd |awk  -F ':'  '{print $1"\t"$7}'
root    /bin/bash
daemon  /bin/sh
bin     /bin/sh
sys     /bin/sh

如果只是顯示/etc/passwd的賬戶和賬戶對應的shell,而賬戶與shell之間以逗號分割,而且在所有行新增列名name,shell,在最後一行新增"blue,/bin/nosh"。

cat /etc/passwd |awk  -F ':'  'BEGIN {print "name,shell"}  {print $1","$7} END {print "blue,/bin/nosh"}'
name,shell
root,/bin/bash
daemon,/bin/sh
bin,/bin/sh
sys,/bin/sh
....
blue,/bin/nosh

awk工作流程是這樣的：先執行BEGIN，然後讀取檔案，讀入有/n換行符分割的一條記錄，然後將記錄按指定的域分隔符劃分域，填充域，$0則表示所有域,$1表示第一個域,$n表示第n個域,隨後開始執行模式所對應的動作action。接著開始讀入第二條記錄······直到所有的記錄都讀完，最後執行END操作。

搜尋/etc/passwd有root關鍵字的所有行

#awk -F: '/root/' /etc/passwd
root:x:0:0:root:/root:/bin/bash

這種是pattern的使用示例，匹配了pattern(這裡是root)的行才會執行action(沒有指定action，預設輸出每行的內容)。

搜尋支援正則，例如找root開頭的: awk -F: '/^root/' /etc/passwd

搜尋/etc/passwd有root關鍵字的所有行，並顯示對應的shell

# awk -F: '/root/{print $7}' /etc/passwd             
/bin/bash

這裡指定了action{print $7}

awk內建變數

awk有許多內建變數用來設定環境資訊，這些變數可以被改變，下面給出了最常用的一些變數。

ARGC               命令列引數個數
ARGV               命令列引數排列
ENVIRON            支援佇列中系統環境變數的使用
FILENAME           awk瀏覽的檔名
FNR                瀏覽檔案的記錄數
FS                 設定輸入域分隔符，等價於命令列 -F選項
NF                 瀏覽記錄的域的個數
NR                 已讀的記錄數
OFS                輸出域分隔符
ORS                輸出記錄分隔符
RS                 控制記錄分隔符

此外,$0變數是指整條記錄。$1表示當前行的第一個域,$2表示當前行的第二個域,......以此類推。

統計/etc/passwd:檔名，每行的行號，每行的列數，對應的完整行內容:

#awk  -F ':'  '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd
filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash
filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/sh
filename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/sh
filename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh

使用printf替代print,可以讓程式碼更加簡潔，易讀

 awk  -F ':'  '{printf("filename:%10s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd

print和printf

awk中同時提供了print和printf兩種列印輸出的函式。

其中print函式的引數可以是變數、數值或者字串。字串必須用雙引號引用，引數用逗號分隔。如果沒有逗號，引數就串聯在一起而無法區分。這裡，逗號的作用與輸出檔案的分隔符的作用是一樣的，只是後者是空格而已。

printf函式，其用法和c語言中printf基本相似,可以格式化字串,輸出複雜時，printf更加好用，程式碼更易懂。

awk程式設計

變數和賦值

除了awk的內建變數，awk還可以自定義變數。

下面統計/etc/passwd的賬戶人數

awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwd
root:x:0:0:root:/root:/bin/bash
......
user count is  40

count是自定義變數。之前的action{}裡都是隻有一個print,其實print只是一個語句，而action{}可以有多個語句，以;號隔開。

這裡沒有初始化count，雖然預設是0，但是妥當的做法還是初始化為0:

awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd
[start]user count is  0
root:x:0:0:root:/root:/bin/bash
...
[end]user count is  40

統計某個資料夾下的檔案佔用的位元組數

ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}'
[end]size is  8657198

如果以M為單位顯示:

ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}' 
[end]size is  8.25889 M

注意，統計不包括資料夾的子目錄。

條件語句

awk中的條件語句是從C語言中借鑑來的，見如下宣告方式：

if (expression) {
    statement;
    statement;
    ... ...
}

if (expression) {
    statement;
} else {
    statement2;
}

if (expression) {
    statement1;
} else if (expression1) {
    statement2;
} else {
    statement3;
}

統計某個資料夾下的檔案佔用的位元組數,過濾4096大小的檔案(一般都是資料夾):

ls -l |awk 'BEGIN {size=0;print "[start]size is ", size} {if($5!=4096){size=size+$5;}} END{print "[end]size is ", size/1024/1024,"M"}' 
[end]size is  8.22339 M

迴圈語句

awk中的迴圈語句同樣借鑑於C語言，支援while、do/while、for、break、continue，這些關鍵字的語義和C語言中的語義完全相同。

陣列

因為awk中陣列的下標可以是數字和字母，陣列的下標通常被稱為關鍵字(key)。值和關鍵字都儲存在內部的一張針對key/value應用hash的表格裡。由於hash不是順序儲存，因此在顯示陣列內容時會發現，它們並不是按照你預料的順序顯示出來的。陣列和變數一樣，都是在使用時自動建立的，awk也同樣會自動判斷其儲存的是數字還是字串。一般而言，awk中的陣列用來從記錄中收集資訊，可以用於計算總和、統計單詞以及跟蹤模板被匹配的次數等等。

顯示/etc/passwd的賬戶

awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd
0 root
1 daemon
2 bin
3 sys
4 sync
5 games
......

這裡使用for迴圈遍歷陣列

http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858470.html

awk指令碼是由模式和操作組成的：: pattern {action} 如$ awk '/root/' test，或$ awk '$3 < 100' test。

兩者是可選的，如果沒有模式，則action應用到全部記錄，如果沒有action，則輸出匹配全部記錄。預設情況下，每一個輸入行都是一條記錄，但使用者可通過RS變數指定不同的分隔符進行分隔。

3.1. 模式

模式可以是以下任意一個：

/正則表示式/：使用萬用字元的擴充套件集。
關係表示式：可以用下面運算子表中的關係運算符進行操作，可以是字串或數字的比較，如$2>%1選擇第二個欄位比第一個欄位長的行。
模式匹配表示式：用運算子~(匹配)和~!(不匹配)。
模式，模式：指定一個行的範圍。該語法不能包括BEGIN和END模式。
BEGIN：讓使用者指定在第一條輸入記錄被處理之前所發生的動作，通常可在這裡設定全域性變數。
END：讓使用者在最後一條輸入記錄被讀取之後發生的動作。

3.2. 操作

操作由一人或多個命令、函式、表示式組成，之間由換行符或分號隔開，並位於大括號內。主要有四部份：

變數或陣列賦值
輸出命令
內建函式
控制流命令

4. awk的環境變數

Table 1. awk的環境變數

變數	描述
$n	當前記錄的第n個欄位，欄位間由FS分隔。
$0	完整的輸入記錄。
ARGC	命令列引數的數目。
ARGIND	命令列中當前檔案的位置(從0開始算)。
ARGV	包含命令列引數的陣列。
CONVFMT	數字轉換格式(預設值為%.6g)
ENVIRON	環境變數關聯陣列。
ERRNO	最後一個系統錯誤的描述。
FIELDWIDTHS	欄位寬度列表(用空格鍵分隔)。
FILENAME	當前檔名。
FNR	同NR，但相對於當前檔案。
FS	欄位分隔符(預設是任何空格)。
IGNORECASE	如果為真，則進行忽略大小寫的匹配。
NF	當前記錄中的欄位數。
NR	當前記錄數。
OFMT	數字的輸出格式(預設值是%.6g)。
OFS	輸出欄位分隔符(預設值是一個空格)。
ORS	輸出記錄分隔符(預設值是一個換行符)。
RLENGTH	由match函式所匹配的字串的長度。
RS	記錄分隔符(預設是一個換行符)。
RSTART	由match函式所匹配的字串的第一個位置。
SUBSEP	陣列下標分隔符(預設值是\034)。

5. awk運算子

Table 2. 運算子

運算子	描述
= += -= = /= %= ^= *=	賦值
?:	C條件表示式
\|\|	邏輯或
&&	邏輯與
~ ~!	匹配正則表示式和不匹配正則表示式
< <= > >= != ==	關係運算符
空格	連線
+ -	加，減
* / &	乘，除與求餘
+ - !	一元加，減和邏輯非
^ ***	求冪
++ --	增加或減少，作為字首或字尾
$	欄位引用
in	陣列成員

6. 記錄和域

6.1. 記錄

awk把每一個以換行符結束的行稱為一個記錄。

記錄分隔符：預設的輸入和輸出的分隔符都是回車，儲存在內建變數ORS和RS中。

$0變數：它指的是整條記錄。如$ awk '{print $0}' test將輸出test檔案中的所有記錄。

變數NR：一個計數器，每處理完一條記錄，NR的值就增加1。如$ awk '{print NR,$0}' test將輸出test檔案中所有記錄，並在記錄前顯示記錄號。

6.2. 域

記錄中每個單詞稱做“域”，預設情況下以空格或tab分隔。awk可跟蹤域的個數，並在內建變數NF中儲存該值。如$ awk '{print $1,$3}' test將列印test檔案中第一和第三個以空格分開的列(域)。

6.3. 域分隔符

內建變數FS儲存輸入域分隔符的值，預設是空格或tab。我們可以通過-F命令列選項修改FS的值。如$ awk -F: '{print $1,$5}' test將列印以冒號為分隔符的第一，第五列的內容。

可以同時使用多個域分隔符，這時應該把分隔符寫成放到方括號中，如$awk -F'[:\t]' '{print $1,$3}' test，表示以空格、冒號和tab作為分隔符。

輸出域的分隔符預設是一個空格，儲存在OFS中。如$ awk -F: '{print $1,$5}' test，$1和$5間的逗號就是OFS的值。

7. gawk專用正則表示式元字元

以下幾個是gawk專用的，不適合unix版本的awk。

\Y: 匹配一個單詞開頭或者末尾的空字串。
\B: 匹配單詞內的空字串。
\<: 匹配一個單詞的開頭的空字串，錨定開始。
\>: 匹配一個單詞的末尾的空字串，錨定末尾。
\w: 匹配一個字母數字組成的單詞。
\W: 匹配一個非字母數字組成的單詞。
\‘: 匹配字串開頭的一個空字串。
\': 匹配字串末尾的一個空字串。

8. POSIX字符集

9. 匹配操作符(~)

用來在記錄或者域內匹配正則表示式。如$ awk '$1 ~/^root/' test將顯示test檔案第一列中以root開頭的行。

10. 比較表示式

conditional expression1 ? expression2: expression3，例如：$ awk '{max = {$1 > $3} ? $1: $3: print max}' test。如果第一個域大於第三個域，$1就賦值給max，否則$3就賦值給max。

$ awk '$1 + $2 < 100' test。如果第一和第二個域相加大於100，則列印這些行。

$ awk '$1 > 5 && $2 < 10' test,如果第一個域大於5，並且第二個域小於10，則列印這些行。

11. 範圍模板

範圍模板匹配從第一個模板的第一次出現到第二個模板的第一次出現之間所有行。如果有一個模板沒出現，則匹配到開頭或末尾。如$ awk '/root/,/mysql/' test將顯示root第一次出現到mysql第一次出現之間的所有行。

12. 一個驗證passwd檔案有效性的例子

$ cat /etc/passwd | awk -F: '\
NF != 7{\
printf("line %d,does not have 7 fields:%s\n",NR,$0)}\
$1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\ $2 == "*" {printf("line %d, no password: %s\n",NR,$0)}'

	cat把結果輸出給awk，awk把域之間的分隔符設為冒號。
	如果域的數量(NF)不等於7，就執行下面的程式。
	printf列印字串"line ?? does not have 7 fields"，並顯示該條記錄。
	如果第一個域沒有包含任何字母和數字，printf列印“no alpha and numeric user id" ，並顯示記錄數和記錄。
	如果第二個域是一個星號，就列印字串“no passwd”，緊跟著顯示記錄數和記錄本身。

13. 幾個例項

$ awk '/^(no|so)/' test-----列印所有以模式no或so開頭的行。
$ awk '/^[ns]/{print $1}' test-----如果記錄以n或s開頭，就列印這個記錄。
$ awk '$1 ~/[0-9][0-9]$/(print $1}' test-----如果第一個域以兩個數字結束就列印這個記錄。
$ awk '$1 == 100 || $2 < 50' test-----如果第一個或等於100或者第二個域小於50，則列印該行。
$ awk '$1 != 10' test-----如果第一個域不等於10就列印該行。
$ awk '/test/{print $1 + 10}' test-----如果記錄包含正則表示式test，則第一個域加10並打印出來。
$ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test-----如果第一個域大於5則列印問號後面的表示式值，否則列印冒號後面的表示式值。
$ awk '/^root/,/^mysql/' test----列印以正則表示式root開頭的記錄到以正則表示式mysql開頭的記錄範圍內的所有記錄。如果找到一個新的正則表示式root開頭的記錄，則繼續列印直到下一個以正則表示式mysql開頭的記錄為止，或到檔案末尾。

14. awk程式設計

14.1. 變數

在awk中，變數不需要定義就可以直接使用，變數型別可以是數字或字串。
賦值格式：Variable = expression，如$ awk '$1 ~/test/{count = $2 + $3; print count}' test,上式的作用是,awk先掃描第一個域，一旦test匹配，就把第二個域的值加上第三個域的值，並把結果賦值給變數count，最後打印出來。
awk可以在命令列中給變數賦值，然後將這個變數傳輸給awk指令碼。如$ awk -F: -f awkscript month=4 year=2004 test，上式的month和year都是自定義變數，分別被賦值為4和2004。在awk指令碼中，這些變數使用起來就象是在指令碼中建立的一樣。注意，如果引數前面出現test，那麼在BEGIN語句中的變數就不能被使用。
域變數也可被賦值和修改，如$ awk '{$2 = 100 + $1; print }' test,上式表示，如果第二個域不存在，awk將計算表示式100加$1的值，並將其賦值給$2，如果第二個域存在，則用表示式的值覆蓋$2原來的值。再例如：$ awk '$1 == "root"{$1 ="test";print}' test，如果第一個域的值是“root”，則把它賦值為“test”，注意，字串一定要用雙引號。
內建變數的使用。變數列表在前面已列出，現在舉個例子說明一下。$ awk -F: '{IGNORECASE=1; $1 == "MARY"{print NR,$1,$2,$NF}'test，把IGNORECASE設為1代表忽略大小寫，列印第一個域是mary的記錄數、第一個域、第二個域和最後一個域。

14.2. BEGIN模組

BEGIN模組後緊跟著動作塊，這個動作塊在awk處理任何輸入檔案之前執行。所以它可以在沒有任何輸入的情況下進行測試。它通常用來改變內建變數的值，如OFS,RS和FS等，以及列印標題。如：$ awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test。上式表示，在處理輸入檔案以前，域分隔符(FS)被設為冒號，輸出檔案分隔符(OFS)被設定為製表符，輸出記錄分隔符(ORS)被設定為兩個換行符。$ awk 'BEGIN{print "TITLE TEST"}只打印標題。

14.3. END模組

END不匹配任何的輸入檔案，但是執行動作塊中的所有動作，它在整個輸入檔案處理完成後被執行。如$ awk 'END{print "The number of records is" NR}' test，上式將列印所有被處理的記錄數。

14.4. 重定向和管道

awk可使用shell的重定向符進行重定向輸出，如：$ awk '$1 = 100 {print $1 > "output_file" }' test。上式表示如果第一個域的值等於100，則把它輸出到output_file中。也可以用>>來重定向輸出，但不清空檔案，只做追加操作。
輸出重定向需用到getline函式。getline從標準輸入、管道或者當前正在處理的檔案之外的其他輸入檔案獲得輸入。它負責從輸入獲得下一行的內容，並給NF,NR和FNR等內建變數賦值。如果得到一條記錄，getline函式返回1，如果到達檔案的末尾就返回0，如果出現錯誤，例如開啟檔案失敗，就返回-1。如：

$ awk 'BEGIN{ "date" | getline d; print d}' test。執行linux的date命令，並通過管道輸出給getline，然後再把輸出賦值給自定義變數d，並列印它。

$ awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}' test。執行shell的date命令，並通過管道輸出給getline，然後getline從管道中讀取並將輸入賦值給d，split函式把變數d轉化成陣列mon，然後列印陣列mon的第二個元素。

$ awk 'BEGIN{while( "ls" | getline) print}'，命令ls的輸出傳遞給geline作為輸入，迴圈使getline從ls的輸出中讀取一行，並把它列印到螢幕。這裡沒有輸入檔案，因為BEGIN塊在開啟輸入檔案前執行，所以可以忽略輸入檔案。

$ awk 'BEGIN{printf "What is your name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on line ", NR "."} END{print "See you," name "."} test。在螢幕上列印”What is your name?",並等待使用者應答。當一行輸入完畢後，getline函式從終端接收該行輸入，並把它儲存在自定義變數name中。如果第一個域匹配變數name的值，print函式就被執行，END塊列印See you和name的值。

$ awk 'BEGIN{while (getline < "/etc/passwd" > 0) lc++; print lc}'。awk將逐行讀取檔案/etc/passwd的內容，在到達檔案末尾前，計數器lc一直增加，當到末尾時，列印lc的值。注意，如果檔案不存在，getline返回-1，如果到達檔案的末尾就返回0，如果讀到一行，就返回1，所以命令 while (getline < "/etc/p