1. 程式人生 > >Linux系統下把一個目錄下所有的檔案合併到一個檔案中

Linux系統下把一個目錄下所有的檔案合併到一個檔案中

備忘:
查詢目錄下的所有檔案中是否含有某個字串
find .|xargs grep -ri "IBM"
查詢目錄下的所有檔案中是否含有某個字串,並且只打印出檔名
find .|xargs grep -ri "IBM" -l
1.正則表示式
(1)正則表示式一般用來描述文字模式的特殊用法,由普通字元(例如字元a-z)以及特殊字元(稱為元字元,如/、*、?等)組成。
(2)基本元字符集及其含義
^ :只匹配行首。 如^a 匹配以a開頭的行abc,a2e,a12,aaa,......
$ :只匹配行尾。 如^a 匹配以a結尾的行bca,12a,aaa,.......
* :匹配0個或多個此單字元。 如(a)* 匹配 空,a,aa,aaa,....
[] :只匹配[]內字元。可以是一個單字元,也可以是字元序列,用","將裡面要匹配的不同字串分開。也可以使用-來表示[]內字元序列的範圍,如[1-5]表示[12345]
\ :只用來遮蔽一個元字元的特殊含義。 如\*,\',\",\|,\+,\^,\. 等
.:(點)只匹配任意單字元。
pattern\{n\}:只用來匹配前面pattern出現的次數.n為次數。如a\{2\}匹配aa.
pattern\{n,\}:含義同上,但次數最少為n.如a\{2,\}匹配aa,aaa,aaaa,.....
pattern\{n,m\}:含義同上,但次數在n和m之間。如a\{2,4\}匹配aa,aaa,aaaa三個
(3)舉例說明:
^$ :匹配空行
^.$ :匹配包含一個字元的行
\*\.pas :匹配以*.pas結尾的所有字元或檔案
[0123456789]或[0-9] :假定要匹配任意一個數字
[a-z] :任意小寫字母
[A-Za-z] :任意大小寫字母
[S,s] :匹配大小寫S
[0-9]\{3\}\.[0-9]\{3\}\.[0-9]\{3\}\.[0-9]\{3\} :匹配IP地址 [0-9]\{3\}三個0-9組成的字串;\. :匹配點(注意這裡點是特殊的字元,所以要用"\"來遮蔽其含義)
2.find介紹 (1)查詢具有某些特徵檔案的命令,可遍歷當前目錄甚至於整個檔案系統來檢視某些檔案或目錄,其遍歷大的檔案系統時一般放在後臺執行。
(2)find命令的一般形式
find pathname -options [-print -exec -ok]
-pathname :find命令所查詢的目錄路徑。如用"."來表示當前的目錄,用/來表示系統根目錄
-print :find命令將匹配的檔案輸出到標準輸出
-exec: find命令對匹配的檔案執行該引數所給出的shell命令,相應的命令形式為
'command'{} \; (注意{}和\之間的空格)
-ok 和 -exec的作用相同,只不過以一種更為安全的模式來執行該引數所給出的shell命令,在執行每一個命令之前,都會給出提示,讓使用者來確定是否執行。
options有如下幾種:
-name :按照檔名查詢檔案
-perm :按照檔案許可權來查詢檔案
-user :按照檔案屬主來查詢檔案
-group :按照檔案所屬的組來查詢檔案
-mtime -n +n 按照檔案的更改時間來查詢檔案,-n表示檔案更改時間距現在n天以內,+n表示檔案更改時間距現在n天以前。find命令還有-atime 和-ctime選項,但它們都和-mtime選項相似。
-size n[c]查詢檔案長度為n塊的檔案,帶有c時表示檔案長度以位元組計。
-nogroup 查詢無有效所屬組的檔案,即該檔案所屬的組在/etc/groups中不存在
-newer file1 !file2查詢更改時間比檔案file1新但比檔案file2舊的檔案
-depth 先查詢指定目錄有無匹配檔案,若無則再在子目錄中查詢
-type 查詢某一型別的檔案,如
b :塊裝置檔案
d:目錄
e:字元裝置檔案
p;管道檔案
l:符號連結檔案
f:普通檔案
(3)find命令舉例
find -name "*.txt" -print 查詢txt結尾的檔案並輸出到螢幕上
find /cmd ".sh" -print 查詢/cmd目錄下所有sh檔案,並輸出
find . -perm 755 -print 查詢當前目錄下許可權為755的檔案,並輸出
find `pwd` -user root -print 查詢當前目錄下屬主為root的檔案,並輸出
find ./ -group sunwill -print 查詢當前目錄下所屬主是sunwill的檔案
find /var -mtime -5 -print 查詢/var目錄下更改時間為5天內的所有檔案
find /var -mtime +5 -print 查詢/var目錄下更改時間為5天以前的所有檔案
find /var -newer "myfile1" ! -newer "myfile2" -print 查詢/var目錄下比myfile1新,但是比myfile2舊的所有檔案。
find /var -type d -print 查詢/var目錄下所有目錄
find /var -type l -print 查詢/var目錄下所有的符號連結檔案。
find . -size +1000000c -print 查詢當前目錄下大於1000000位元組的檔案
find / -name "con.file" -depth -print 查詢根目錄下有無"con.file",若無則在其子目錄中查詢
find . -type f -exec ls -l {} \; 查詢當前目錄下是否有普通檔案,若有則執行ls -l
(4)xargs命令
在 使用find命令的-exec選項處理匹配到的檔案時,find命令將所有匹配到的檔案一起傳遞給exec。不幸的是,有些系統對能夠傳遞給exec的命 令長度有限制,這樣find命令執行幾分鐘之後就算出現溢位錯誤。錯誤資訊通常是“引數列太長”或“引數列溢位”。這就是xargs的用處所在,特別是與 find命令一起使用,exec會發起多個程序,而xargs會多個,只有一個
find ./ -perm -7 -print | xargs chmod o-w 查詢許可權為7的檔案並傳遞給chmod處理
3.grep介紹 (1)grep 的一般格式為 grep [options] 基本正則表示式 [檔案]
字串引數最好採用是雙引號括,一是以防被誤解為shell命令,二是可以用來查詢多個單片語成的字串
-c:只輸出匹配行的記數
-i:不區分大小寫(只適用於單個字元)
-h:查詢多個檔案時不顯示檔名
-H:只顯示檔名
-l:查詢多檔案時只輸出包含匹配字元的檔名
-n:只顯示匹配行及其行號
-s:不顯示不存在或無匹配文字的錯誤資訊。
-v:顯示不包含匹配文字的所有行。
(2)舉例說明:
grep ^[^210] myfile 匹配myfile中以非2、1、0開頭的行
grep "[5-8][6-9][0-3]" myfile 匹配myfile中第一位為5|6|7|8,第二位6|7|8|9,第三位為0|1|2|3的三個字元的行
grep "4\{2,4\}" myfile 匹配myfile中含有44,444或4444的行
grep "\?" myfile匹配myfile中含有任意字元的行
(3)grep命令類名
[[:upper:]] 表示[A-Z]
[[:alnum:]] 表示[0-9a-zA-Z]
[[:lower:]] 表示[a-z]
[[:space:]] 表示空格或者tab鍵
[[:digit:]] 表示[0-9]
[[:alpha:]] 表示[a-zA-Z]
如:grep "5[[:digit:]][[:digit:]]" myfile 匹配myfile中含有5開頭接下去兩位都是數字的行。
4.awk介紹
可以從檔案或字串中基於指定規則瀏覽和抽取資訊,是一種自解釋的變成語言。
(1)awk命令列方式 awk [-F filed-spearator] 'command' input-files
awk指令碼:所有awk命令插入一個檔案,並使awk程式可執行,然後用awk命令直譯器作為指令碼的首行,以便通過鍵入指令碼名稱來呼叫它。awk指令碼是由各種操作和模式組成。
模式部分決定動作語句何時觸發及觸發事件。(BEGIN,END)
動作對資料進行處理,放在{}內指明(print)
(2)分隔符、域和記錄
awk執行時,其瀏覽域標記為$1,$2,...$n.這種方法成為域標識。$0為所有域。
(3)舉例說明:
awk '{print $0}' test.txt |tee test.out 輸出test.txt中所有行$0表示所有域
awk -F : '{print $1} test.txt |tee test.out' 同上。。只是分隔符為":"
awk 'BEGIN {print "IPDate\n"}{print $1 "\t" $4} END{print "end-of-report"}' test.txt
開始時列印“IPDate”結束時列印“end-of-report”中間列印主體資訊,比如總共匹配三條資訊,則輸出如下:
IPDate
1 first
2 second
3 third
end-of-report
(4)匹配操作符 ~ 匹配,!~ 不匹配
cat test.txt |awk '$0~/210.34.0.13/' 匹配test.txt中為210.34.0.13的行
awk '$0!~/210.34.0.13' test.txt 匹配test.txt中不是210.34.0.13的行
awk '{if($1=="210.34.0.13") print $0}' test.txt 匹配 test.txt中第一個域為210.34.0.13的行。
5.sed介紹 sed不與初始化檔案打交道,它操作的只是一個拷貝,然後所有的改動如果沒有重定向到一個檔案,將輸出到螢幕。
sed是一種很重要的文字過濾工具,使用一行命令或者使用管道與grep與awk相結合。是一種非互動性文字流編輯。
(1)呼叫sed的三種方式
使用sed命令列格式為:sed [options] sed命令 輸入檔案
使用sed指令碼檔案格式為:sed[options] -f sed指令碼檔案 輸入檔案
sed指令碼檔案[options] 輸入檔案
--不管是使用shell命令列方式或指令碼檔案方式,如果沒有指定輸入檔案,sed從標準輸入中接受輸入,一般是鍵盤或重定向結果。
(2)sed 命令的options如下
-n:不列印
-c:下一命令是編輯命令
-f:如果正在呼叫sed指令碼檔案
(3)sed在檔案中查詢文字的方式
--使用行號,可以是一個簡單的數字,或是一個行號的範圍
--使用正則表示式
(4)讀取文字的方式
x x為一行號
x,y 表示行號範圍從x到y
/pattern/ 查詢包含模式的行
/pattern/pattern/ 查詢包含兩個模式的行
pattern/,x 在給定的行號上查詢包含模式的行
x,/pattern/ 通過行號和模式查詢匹配行
x,y! 查詢不包含指定行號x和y的行
(5)基本sed編輯命令
p 列印匹配行
d 刪除匹配行
= 顯示檔案行號
a\ 在定位行號後附加新文字資訊
i\ 在定位行號後插入新文字資訊
c\ 用新文字替換定位文字
s 使用替換模式替換相應模式
r 從另一個檔案中讀檔案
w 寫文字到一個檔案
q 第一個模式匹配完成後推出或立即退出
l 顯示與八禁止ASCII程式碼等價的控制字元
{} 在定位行執行的命令組
n 從另一個檔案中讀文字下一行,並附加在下一行
g 將模式2貼上到/pattern n/
y 傳送字元
(6)舉例說明:
sed -n '2p' test.txt 列印第二行的資訊(注意:-n是不列印不匹配的資訊,若沒加-n,則列印檔案的所有資訊而不是匹配資訊)
sed -n '1,4p' test.txt 列印第一行到第四行的資訊
sed -n '/los/p' test.txt模式匹配los,並打印出來
sed -n '2,/los/p' test.txt 從第二行開始。。知道匹配第一個los
sed -n '/^$/p' test.txt 匹配空行
sed -n -e '/^$/p' -e '/^$/=' test.txt 列印空行及行號
sed -n '/good/a\morning' test.txt 在匹配到的good後面附加morning
sed -n '/good/i\morning' test.txt 在匹配到的good前面插入morning
sed -n '/good/c\morning' test.txt 將匹配到的good替換成morning
sed '1,2d' test.txt 刪除第1和2行
sed 's/good/good morning/g' test.txt 匹配good並替換成goodmorning
send 's/good/& hello /p' test.txt 匹配到good就在其後面加上hello
send 's/good/ hello &/p' test.txt 匹配到good就在其前面加上hello
6.合併與分割(sort,uniq,join,cut,paste,split) (1)sot命令
sort [options] files 許多不同的域按不同的列順序排序
-c 測試檔案是否已經排序
-m 合併兩個排序檔案
-u 刪除所有同樣行
-o 儲存sort結果的輸出檔名
-t 域分隔符,用非空格或tab開始排序
+n :n 為列號,使用此列號開始排序
-n 指定排序是域上的數字分類項
-r 比較求逆
sort -c test.txt 測試檔案是否分類過
sort -u test.txt 排序併合並一樣的行
sort -r test.txt 以相反的順序排列
sort -t "/" +2 test.txt 以"/"分隔,第二個域開始分類
(2)uniq命令
uniq [options ] files 從一個文字檔案中去除或禁止重複行
-u 只顯示不重複行
-d 只顯示有重複資料行,每種重複行只顯示其中一行
-c 列印每一重複行出現次數
-f :n為數字,前n個域被忽略
uniq -f 2 test.txt 忽略前2個域
(3)join 命令
join [options] file1 file2 用來將來自兩個分類文字檔案的行連在一起
-an,n為一數字,用於連線時從檔案n中顯示不匹配行
-onm ,連線域,n為檔案號,m為域號
-jnm,n為檔案號,m為域號,使用其他域作連線域
-t ,域分隔符。用來設定非空格或tab鍵的域分隔符。
(4)split命令
split -output_file_size intput_filename output_filename
用來將大檔案分割成小檔案。
-b n,每個分割檔案的大小n
-C n,每個分割檔案一行最多n位元組
-l n,每個分割檔案的行數
-n,同-l n
split -10 test.txt 將test.txt分割成10行的小檔案
(5)cut 命令
cut -c n1-n2 filename 顯示每行從開頭算起 n1 到 n2 的文字。
cut -c 3-5 test.txt 顯示test.txt中每行從第3到第5個字元