Linux三剑客-grep 命令详解

Linux三剑客-grep 命令详解

说明

转载自:https://www.cnblogs.com/kongzhongqijing/articles/4462793.html

grep (global search regular expression(RE) and print out the line,全面搜索正则表达式并把行打印出来)是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。

简介

Unix的grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的扩展,支持更多的re元字,fgrep就是fixed grep或fast grep,它们把所有的字母都看作单词,也就是说,正则表达式中的元字符表示回其自身的字面意义,不再特殊。linux使用GNU版本的grep。它功能更强,可以通过-G、-E、-F命令行选项来使用egrep和fgrep的功能。


grep的工作方式是这样的,它在一个或多个文件中搜索字符串模板。如果模板包括空格,则必须被引用,模板后的所有字符串被看作文件名。搜索的结果被送到标准输出,不影响原文件内容。grep可用于shell脚本,因为grep通过返回一个状态值来说明搜索的状态,如果模板搜索成功,则返回0,如果搜索不成功,则返回1,如果搜索的文件不存在,则返回2。我们利用这些返回值就可进行一些自动化的文本处理工作。


命令格式

[root@www ~]# grep [-acinv] [--color=auto] '搜寻字符串' filename
    -a   --text   #不要忽略二进制的数据。 将 binary 文件以 text 文件的方式搜寻数据 
    -A<显示行数>   --after-context=<显示行数>   #除了显示符合范本样式的那一列之外,并显示该行之后的内容。   
    -b   --byte-offset   #在显示符合样式的那一行之前,标示出该行第一个字符的编号。   
    -B<显示行数>   --before-context=<显示行数>   #除了显示符合样式的那一行之外,并显示该行之前的内容。   
    -c    --count   #计算符合样式的行数。   
    -C<显示行数>    --context=<显示行数>或-<显示行数>   #除了显示符合样式的那一行之外,并显示该行之前后的内容。   
    -d <动作>      --directories=<动作>   #当指定要查找的是目录而非文件时,必须使用这项参数,否则grep指令将回报信息并停止动作。   
    -e<范本样式>  --regexp=<范本样式>   #指定字符串做为查找文件内容的样式。   
    -E      --extended-regexp   #将样式为延伸的普通表示法来使用。   
    -f<规则文件>  --file=<规则文件>   #指定规则文件,其内容含有一个或多个规则样式,让grep查找符合规则条件的文件内容,格式为每行一个规则样式。   
    -F   --fixed-regexp   #将样式视为固定字符串的列表。   
    -G   --basic-regexp   #将样式视为普通的表示法来使用。   
    -h   --no-filename   #在显示符合样式的那一行之前,不标示该行所属的文件名称。   
    -H   --with-filename   #在显示符合样式的那一行之前,表示该行所属的文件名称。   
    -i    --ignore-case   #忽略字符大小写的差别。   
    -l    --file-with-matches   #列出文件内容符合指定的样式的文件名称。   
    -L   --files-without-match   #列出文件内容不符合指定的样式的文件名称。   
    -n   --line-number   #在显示符合样式的那一行之前,标示出该行的列数编号。   
    -q   --quiet或--silent   #不显示任何信息。   
    -r   --recursive   #此参数的效果和指定“-d recurse”参数相同。   
    -s   --no-messages   #不显示错误信息。   
    -v   --revert-match   #显示不包含匹配文本的所有行。   
    -V   --version   #显示版本信息。   
    -w   --word-regexp   #只显示全字符合的列。   
    -x    --line-regexp   #只显示全列符合的列。   
    -y   #此参数的效果和指定“-i”参数相同。
    --color=auto :可以将找到的关键词部分加上颜色的显示

常用用法

查找指定进程

命令:ps -ef|grep java

查找指定进程个数

命令:ps -ef|grep -c java
或ps -ef|grep java -c

从文件中读取关键词进行搜索,默认是显示的是行

命令1:cat test.txt | grep -f test2.txt
命令2(显示行号):cat test.txt | grep -nf test2.txt
作用:输出test.txt文件中含有从test2.txt文件中读取出的关键词的内容行,可用于按指定关键词(放到一个文件中)搜索日志文件。

另一种用法:将多个文件之间相同的行输出来

# cd /etc/sysconfig/network-scripts/
# grep  "IPADDR" ifcfg-eth0  ifcfg-lo      #默认不加参数指定过滤关键字,外加多个文件,只是将多个文件里面有匹配的行输出
ifcfg-eth0:IPADDR=192.168.1.108
ifcfg-lo:IPADDR=127.0.0.1
# grep -f ifcfg-eth0  ifcfg-lo  #grep -f 文件1 文件2 ,会将多个文件之间相同的行输出出来
ONBOOT=yes
-o:只显示被模式匹配到的字符串,而不是整个行
命令:grep -o "you" ab.log 
 
# grep "root"  /etc/passwd  #先看下正常的过滤,会将整个一行过滤出来
operator:x:11:0:operator:/root:/sbin/nologin

# grep -o "root" /etc/passwd  #加o之后的操作,只过滤关键字出来
root

# grep -o "root:.*0" /etc/passwd    #加上正则表达式,这样才是正确的用法,不用输出一整行,只是输出一小段
root:x:0:0

# grep -o "root" -b   /etc/passwd  
-b和-o一般是配合使用的,一行中字符串的字符是从该行的第一个字符开始计算,起始值为0。这里左边的数字就是此关键字在此文件中的起始位置,第一个root出现在0位置,然后字符字母有一个算一个,你就一个个的向右数吧,下一个root出现在11位置以此类推。
0:root 11:root 17:root 414:root

从文件中查找关键词,忽略大小写,默认情况区分大小写

命令1:grep 'linux' test.txt
命令2(从多个文件中查找):grep 'linux' test.txt test2.txt
  多文件时,输出查询到的信息内容行时,会把文件的命名在行最前面输出并且加上":"作为标示符
命令3(忽略大小写):grep -i  'linux' test.txt
命令:find . -name ".log" | grep -i error | grep -vi "info"
1)使用find -name 来列出所有log文件,重定向给grep
2)使用grep -i 来查找包含error的行
3)使用grep -vi 来查找不包含info的行

grep不显示本身

ps aux|grep \[s]sh
ps aux | grep ssh | grep -v "grep"      #不包含grep ssh这条命令
grep -v root /etc/passwd | grep -v nologin  #将/etc/passwd,将没有出现 root 和nologin的行取出来

-r 递归查找子目录

查找当前目录及其子目录下面包含匹配字符的文件
# grep ‘ab’ * #在当前目录搜索带'ab'行的文件
# grep -r ‘ab’ * #在当前目录及其子目录下搜索'ab'行的文件
# grep -l -r ‘ab’ * #在当前目录及其子目录下搜索'ab'行的文件,但是不显示匹配的行,只显示匹配的文件
# grep -nr BLOG* . # 查找子目录,匹配后输出行号,这里的点表示当前目录
# grep -lr BLOG* . #查找子目录,匹配后只输出文件名
查询不包含某个目录
#grep -R --exclude-dir=node_modules 'some pattern' /path/to/search   #不包含txt目录 

列出关键字所在行的前几行与后几行也一起显示

很多时候,我们并关心匹配行而是关心匹配行的上下文。这时候-A -B -C就有用了
-A n 后n行,A记忆为(After)
-B n 前n行,B记忆为(Before)
-C n 前n行,后n行,C记忆为(Center)
[root@www ~]# dmesg | grep -n -A3 -B2 --color=auto 'eth'
245-PCI: setting IRQ 10 as level-triggered
246-ACPI: PCI Interrupt 0000:00:0e.0[A] -> Link [LNKB] ...
247:eth0: RealTek RTL8139 at 0xee846000, 00:90:cc:a6:34:84, IRQ 10
248:eth0: Identified 8139 chip type 'RTL-8139C'
249-input: PC Speaker as /class/input/input2
250-ACPI: PCI Interrupt 0000:00:01.4[B] -> Link [LNKB] ...
251-hdb: ATAPI 48X DVD-ROM DVD-R-RAM CD-R/RW drive, 2048kB Cache, UDMA(66)
# 如上所示,你会发现关键字 247 所在的前两行及 248 后三行也都被显示出来!

--line-buffered 打开buffering 模式

有一个文件是动态的,它不断地添加信息到文件的尾部,而你想要输出包含某些信息的行。即持续的grep一个动态的流

e与E区别

grep想同时过滤多个条件或操作
错误写法:
# netstat -an|grep "ESTABLISHED|WAIT"      #默认grep不支持多条件匹配    
正确写法:
# netstat -an|grep -E "ESTABLISHED|WAIT"     #加上-E 多条件用""包起来,然后多条件之间用|管道符分开
tcp        0     52 192.168.1.108:22            192.168.1.104:54127         ESTABLISHED 
# ps -aux|grep -e udevd -e master|awk {'print $(NF-1)'}|sort|uniq    #而-e呢不用""包起来,-e 指定一个匹配条件
/sbin/udevd
/usr/bin/salt-master
grep -E '123|abc' filename  // 找出文件(filename)中包含123或者包含abc的行
egrep '123|abc' filename    // 用egrep同样可以实现
awk '/123|abc/' filename   // awk 的实现方式
与操作
grep pattern1 files | grep pattern2 :显示既匹配 pattern1 又匹配 pattern2 的行。

-c 统计行数

# grep -i "abc" test.txt|wc -l  #不分大小写。test.txt里面包含abc过滤条件的为2行
# grep -yc "abc" test.txt  #-c呢,就是不显示行的内容,直接显示有几行
# cat  /etc/passwd|wc -l 
# grep  -c "^.*$" /etc/passwd  #那么我们除了wc -l用来统一一个文件有多少行以外,又多了一种统计文件多少行的方法

-m的使用

# grep -m 3 "abc" test2.txt  #只匹配到了第三行就退出了

正则表达式

grep的规则表达式:
\     反义字符:如"\"\""表示匹配""
[ - ] 匹配一个范围,[0-9a-zA-Z]匹配所有数字和字母
* 所有字符,长度可为0
+ 前面的字符出现了一次或者多次
^  #匹配行的开始 如:'^grep'匹配所有以grep开头的行。    
$  #匹配行的结束 如:'grep$'匹配所有以grep结尾的行。    
.  #匹配一个非换行符的字符 如:'gr.p'匹配gr后接一个任意字符,然后是p。    
*  #匹配零个或多个先前字符 如:'*grep'匹配所有一个或多个空格后紧跟grep的行。    
.*   #一起用代表任意字符。   
[]   #匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep。    
[^]  #匹配一个不在指定范围内的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。    
\(..\)  #标记匹配字符,如'\(love\)',love被标记为1。    
\<      #到匹配正则表达式的行开始,如:'\<grep'匹配包含以grep开头的单词的行。    
\>      #到匹配正则表达式的行结束,如'grep\>'匹配包含以grep结尾的单词的行。    
x\{m\}  #重复字符x,m次,如:'0\{5\}'匹配包含5个o的行。    
x\{m,\}  #重复字符x,至少m次,如:'o\{5,\}'匹配至少有5个o的行。    
x\{m,n\}  #重复字符x,至少m次,不多于n次,如:'o\{5,10\}'匹配5--10个o的行。   
\w    #匹配文字和数字字符,也就是[A-Za-z0-9],如:'G\w*p'匹配以G后跟零个或多个文字或数字字符,然后是p。   
\W    #\w的反置形式,匹配一个或多个非单词字符,如点号句号等。   
\b    #单词锁定符,如: '\bgrep\b'只匹配grep。  

POSIX字符:
为了在不同国家的字符编码中保持一至,POSIX(The Portable Operating System Interface)增加了特殊的字符类,如[:alnum:]是[A-Za-z0-9]的另一个写法。要把它们放到[]号内才能成为正则表达式,如[A- Za-z0-9]或[[:alnum:]]。在linux下的grep除fgrep外,都支持POSIX的字符类。
[:alnum:]    #文字数字字符   
[:alpha:]    #文字字符   
[:digit:]    #数字字符   
[:graph:]    #非空字符(非空格、控制字符)   
[:lower:]    #小写字符   
[:cntrl:]    #控制字符   
[:print:]    #非空字符(包括空格)   
[:punct:]    #标点符号   
[:space:]    #所有空白字符(新行,空格,制表符)   
[:upper:]    #大写字符   
[:xdigit:]   #十六进制数字(0-9,a-f,A-F)

通过管道过滤ls -l输出的内容,只显示以a开头的行。

首与行尾字节 ^ $,^ 符号,在字符类符号(括号[])之内与之外是不同的! 在 [] 内代表『反向选择』,在 [] 之外则代表定位在行首的意义!
$ ls -l | grep \'^a\'
$ ls -l | grep  ^a
$ ls -l | grep  ^[^a]      #输出非a开头的行,反向选择
$ grep -n '^$' express.txt      #找出空白行,因为只有行首跟行尾 (^$)

显示所有以d开头的文件中包含test的行

$ grep \'test\' d*

输出以hat结尾的行内容

$ cat test.txt |grep hat$

显示在aa,bb,cc文件中匹配test的行

$ grep \'test\' aa bb cc

显示所有包含每个字符串至少有5个连续小写字符的字符串的行

在一组集合字节中,如果该字节组是连续的,例如大写英文/小写英文/数字等等,就可以使用[a-z],[A-Z],[0-9]等方式来书写,那么如果我们的要求字串是数字与英文呢?就将他全部写在一起,变成:[a-zA-Z0-9]。
$ grep \'[a-z]{5}\' aa
$ grep -n '[0-9]' regular_express.txt    #取得有数字的那一行
$ grep -n '^[a-z]' regular_express.txt    #只输出开头是小写字母的那一行
$ grep -n '^[^a-zA-Z]' regular_express.txt   #不输出开头是英文的
$ grep -n '\.$' regular_express.txt        #只输出行尾结束为小数点 (.) 的那一行
注意:小数点具有其他意义,所以必须要使用转义字符(\)来加以解除其特殊意义!

显示包含ed或者at字符的内容行

命令:cat test.txt |grep -E "ed|at"

显示当前目录下面以.txt 结尾的文件中的所有包含每个字符串至少有7个连续小写字符的字符串的行

命令:grep '[a-z]\{7\}' *.txt

任意一个字节 . 与重复字节 *

. (小数点):代表『一定有一个任意字节』的意思;
* (星号):代表『重复前一个字符, 0 到无穷多次』的意思,为组合形态
$ grep -n '[0-9][0-9]*' regular_express.txt     #找出『任意数字』的行
$ grep -n 'g.*g' regular_express.txt       #找出以g行首与行尾的行,当中的字符可有可无
这个 .* 的 RE 表示任意字符是很常见的.

限定连续 RE 字符范围 {}

利用.与RE字符及*来配置0个到无限多个重复字节
打算找出两个到五个o的连续字串,该如何作?这时候就得要使用到限定范围的字符{}了。但因为{与}的符号在 shell 是有特殊意义的,因此, 我们必须要使用字符\来让他失去特殊意义才行。 
$ grep -n 'o\{2\}' regular_express.txt
$ grep -n 'go\{2,5\}g' regular_express.txt  #要找出 g 后面接 2 到 5 个 o ,然后再接一个 g 的字串
$ grep -n 'go\{2,\}g' regular_express.txt    #想要的是 2 个 o 以上的 goooo....g 呢?除了可以是 gooo*g 

结尾

你是我的半截的诗,不许别人更改一个字--《半截的诗》

添加新评论