1. grep简介 grep (global search regular expression(RE) and print out the line)全面搜索正则表达式并把行打印出来)是一种强大的文本搜索工具 ,它能使用正则表达式搜索文本 ,并把匹配的行打印出来。Unix的grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的扩展,支持更多的re元字符, fgrep就是fixed grep或fast grep,它们把所有的字母都看作单词,也就是说,正则表达式中的元字符表示回其自身的字面意义,不再特殊。Linux使用GNU版本的grep。它功能更强,可以通过-G、-E、-F命令行选项来使用egrep和fgrep的功能。
grep可用于shell脚本,因为grep通过返回一个状态值来说明搜索的状态,如果模板搜索成功,则返回0,如果搜索不成功,则返回1,如果搜索的文件不存在,则返回2。我们利用这些返回值就可进行一些自动化的文本处理工作。
2. grep正则表达式元字符集(基本集)
^ 锚定行的开始 如:'^grep'匹配所有以grep开头的行。
$ 锚定行的结束 如:'grep$'匹配所有以grep结尾的行。
. 匹配非换行符的任意一个字符 如:'gr.p'匹配gr后接一个任意字符,然后是p。
* 匹配零个或多个先前字符 如:'*grep'匹配所有一个或多个空格后紧跟grep的行。 .*一起用代表任意字符。
[] 匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep。
[^] 匹配一个不在指定范围内的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。
(..)
标记匹配字符,如'(love)',love被标记为1。
<
锚定单词的开始,如:'
>
锚定单词的结束,如'grep>'匹配包含以grep结尾的单词的行。
x
重复字符x,m次,如:'0'匹配包含5个o的行。
x
重复字符x,至少m次,如:'o'匹配至少有5个o的行。
x
重复字符x,至少m次,不多于n次,如:'o'匹配5--10个o的行。
w
匹配文字和数字字符,也就是[A-Za-z0-9],如:'Gw*p'匹配以G后跟零个或多个文字或数字字符,然后是p。
W
w的反置形式,匹配一个或多个非单词字符,如点号句号等。
b
单词锁定符,如: 'bgrepb'只匹配grep。
3. 用于egrep和 grep -E的元字符扩展集
+
匹配一个或多个先前的字符。如:'[a-z]+able',匹配一个或多个小写字母后跟able的串,如loveable,enable,disable等。
?
匹配零个或多个先前的字符。如:'gr?p'匹配gr后跟一个或没有字符,然后是p的行。
a|b|c
匹配a或b或c。如:grep|sed匹配grep或sed
()
分组符号,如:love(able|rs)ov+匹配loveable或lovers,匹配一个或多个ov。
x,x,x
作用同x,x,x
4. POSIX字符类
为了在不同国家的字符编码中保持一至,POSIX(The Portable Operating System Interface)增加了特殊的字符类,如[:alnum:]是A-Za-z0-9的另一个写法。要把它们放到[]号内才能成为正则表达式,如[A- Za-z0-9]或[[:alnum:]]。在Linux下的grep除fgrep外,都支持POSIX的字符类。
[:alnum:]
文字数字字符
[:alpha:]
文字字符
[:digit:]
数字字符
[:graph:]
非空字符(非空格、控制字符)
[:lower:]
小写字符
[:cntrl:]
控制字符
[:print:]
非空字符(包括空格)
[:punct:]
标点符号
[:space:]
所有空白字符(新行,空格,制表符)
[:upper:]
大写字符
[ digit:]
十六进制数字(0-9,a-f,A-F)
5. Grep命令选项
-?
同时显示匹配行上下的?行,如:grep -2 pattern filename同时显示匹配行的上下2行。
-b,--byte-offset
打印匹配行前面打印该行所在的块号码。
-c,--count
只打印匹配的行数,不显示匹配的内容。
-f File,--file=File
从文件中提取模板。空文件中包含0个模板,所以什么都不匹配。
-h,--no-filename
当搜索多个文件时,不显示匹配文件名前缀。
-i,--ignore-case
忽略大小写差别。
-q,--quiet
取消显示,只返回退出状态。0则表示找到了匹配的行。
-l,--files-with-matches
打印匹配模板的文件清单。
-L,--files-without-match
打印不匹配模板的文件清单。
-n,--line-number
在匹配的行前面打印行号。
-s,--silent
不显示关于不存在或者无法读取文件的错误信息。
-v,--revert-match
反检索,只显示不匹配的行。
-w,--word-regexp
如果被<和>引用,就把表达式做为一个单词搜索。
-V,--version
显示软件版本信息。
-E, --extended-regexp PATTERN被视为一个扩展的正则表达式
-F, --fixed-stringsPATTERN是一个以换行符格开的字符串集合
-G, --basic-regexp PATTERN被视为一个基本的正则表达式
-P, --perl-regexp PATTERN被视为一个Perl的正则表达式
-e,--regexp=PATTERN 把PATTERN视为正则表达式
-f,--file=FILE 从FILE中获取PATTERN
-i,--ignor-case 忽略大小写指令
-w,--word-regexp 强迫PATTERN只匹配完整的词
-x,--line-regexp 强迫PATTERN只匹配完整的行
-z,--null-data 数据行以零字节而不是以换行符结束
杂项:
-s,--no-messages 不显示错误信息
-v,--invert-match 选择不匹配的行
-V,--version 打印版本信息并退出
--help 显示本帮助并退出
--mmap 如果可能,使用内存映象作为输入
输出控制:
-m,--max-count=次数 在匹配过指定的<次数>后停止工作
-b,--byte-offset 输出匹配行并显示字节偏移
-n,--line-number 输出匹配行并显示行号
--line-buffered 在每一行 flush 输出
-H, --with-filename 输出每个匹配的文件名
-h, --no-filename 输出不显示前缀的文件名
--label=标志 以指定<标志>作为标准输出的文件名
-o, --only-matching 只显示能匹配模式的行
-q, --quiet, --silent 不显示所有正常的输出
--binary-files=类型 假设参数是指定<类型>的二进制文件,
<类型>可以是“binary”、“text”或者“without-match”
-a, --text 等同于 --binary-files=text
-I 等同于 --binary-files=without-match
-d, --directories=行为 指定处理目录的<行为>方式
<行为>可以是“read”、“recurse”或者“skip”
-D, --devices=行为 指定处理设备文件、管道文件和套接字文件的<行为方式>
<行为>可以是“read”或者“skip”
-R, -r, --recursive 等同于 --directories=recurse 递归搜索 ,把所有匹配的文件都列举出来。
--include=模式 匹配指定<模式>的文件将被检查
-- exclude=模式 匹配指定<模式>的文件将被略过
--exclude-from=文件 匹配指定<文件>中的模式的文件将被略过
-L, --files-without-match 只打印不匹配的<文件>名称
-l, --files-with-matches 只打印匹配的<文件>名称
-c, --count 只打印每个<文件>的匹配行数
-Z, --null 在<文件名称>名字后输出“0”字节
上下文控制:
-B,--before-context=NUM 打印前<NUM>行的内容
-A,--after-context=NUM 打印后<NUM>行的内容
-C,--context=NUM 打印<NUM>行的输出内容
-NUM 和 --context=NUM 相同
--color [=WHEN],
--color [=WHEN] 使用标志来区分匹配的字符串。
WHEN 可以是“always”、“never”或者“auto”。
-U,--binary 在MSDOS风格文件尾部标记<EOL>处不去除回车符<CR>
-u,--unix-byte-offsets 如果不存在<CR>回车符则报告偏移量
“egrep”表示“grep -E”,“fgrep”表示“grep -F”。
如果没有给定<文件>,或者<文件>是-,那么从标准输入读取。如果
给定的<文件>数量少于2,则假定有 -h 选项。 退出状态0表示匹配,
1表示不匹配,2表示出错。
6. 实例
要用好grep这个工具,其实就是要写好正则表达式,所以这里不对grep的所有功能进行实例讲解,只列几个例子,讲解一个正则表达式的写法。
$ ls -l | grep '^a'
通过管道过滤ls -l输出的内容,只显示以a开头的行。
$ grep 'test' d*
显示所有以d开头的文件中包含test的行。
$ grep 'test' aa bb cc
显示在aa,bb,cc文件中匹配test的行。
$ grep '[a-z]' aa
显示所有包含每个字符串至少有5个连续小写字符的字符串的行。
$ grep 'w(es)t.*' aa
如果west被匹配,则es就被存储到内存中,并标记为1,然后搜索任意个字符(.*),这些字符后面紧跟着另外一个es(),找到就显示该行。如果用egrep或grep -E,就不用""号进行转义,直接写成'w(es)t.*'就可以了。
【示例】
grep -r 'SF' . | wc -l #统计当前目录下有多少处匹配上了。
grep -r '\$' ./ #当前目录下(./ or .)查找含有'$'字符(转义)的所有文件,将匹配的行打印
grep -r -l '\$' . #当前目录下含有'$'字符的文件列表
2.find和grep组合
查找以".vm"结尾的文件,找到这些文件后,看是否含有"SF",将匹配的部分输出。
find -name "*.vm" -exec grep SF {}; #问题:find: missing argument to `-exec'
3.
ps -ef #输出所有进程
ps -ef |grep java #输出与java相关的进程
ps -ef |grep '^djboss' #输出属于djboss用户的进程
grep SF ./* && grep -c SF ./* #获得当前目录下含有字符SF的行,并且计算在每个文件中总行数。如果想要
计算在所有文件中的总行数呢?
4.
统计当前目录下,普通文件的个数
第一种方法:
ls -l|grep "^-"|wc -l
解释:ls -l 长列表输出该目录下文件信息(注意这里的“文件”,不同于一般的文件,可能是目录、链接、设备
文件等)。
ls -lR|grep "^-"|wc-l 可以连子目录下的文件一起统计。grep ^- 这里将长列表输出信息过滤一部分,只保留一
般文件,如果只保留目录就是 ^d
wc -l 统计输出信息的行数,因为已经过滤得只剩一般文件了,所以统计结果就是一般文件信息的行数,又由于一
行信息对应一个文件,所以也就是文件的个数。
第二种方法:
find ./ -type f|wc -l 由于默认find会去子目录查找,如果只想查找当前目录的文件用find ./ -maxdepth 1 -
type f|wc -l即可。
需要说明的是第二种方法会比第一种方法快很多,尤其是也统计子目录时