1 cut
(字符串切割)
- d
,指定字段分隔符,默认是空格
- -d' '
,按照空格切割
- -f
,指定要显示的字段
- -f 1,3
- -f 1-3
2 sort
(文本排序)
-n
,数值排序-r
,降序-t
,字段分隔符-k
,以哪个字段为关键字进行排序-u
,排序后相同的行只显示一次-f
,排序时忽略字符大小写
3 wc
(文本统计)
-l
,行数-w
,单词数-c
,字节数-L
,
4 sed
(Stream Editor,行编辑器)
- 全屏编辑器,vi
- 默认不编辑原文件,仅对模式空间中的数据做处理;而后,处理结束后,将模式空间打印至屏幕;
4.1 sed [options] 'AddressCommand' file ...
-n
, 静默模式,不再默认显示模式空间中的内容-i
,直接修改原文件-e
,SCRIPT -e SCRIPT:可以同时执行多个脚本-f
, /PATH/TO/SED_SCRIPT,sed -f /path/to/scripts file
-r
,表示使用扩展正则表达式
4.2 Command
d
,删除符合条件的行p
,显示符合条件的行;a \string
,在指定的行后面追加新行,内容为string,\n:可以用于换行i \string
,在指定的行前面添加新行,内容为stringr FILE
, 将指定的文件的内容添加至符合条件的行处w FILE
,将地址指定的范围内的行另存至指定的文件中;s/pattern/string/修饰符
,查找并替换,默认只替换每行中第一次被模式匹配到的字符串,g: 全局替换,i: 忽略字符大小写s///
4.3 sed 练习
- 删除/etc/grub.conf文件中行首的空白符,`sed -r ‘s@^[[:space:]]+@@g’ /etc/grub.conf
- 替换/etc/inittab文件中”id:3:initdefault:”一行中的数字为5,
sed 's@\(id:\)[0-9]\(:initdefault:\)@\15\2@g' /etc/inittab
- 删除/etc/inittab文件中的空白行;
sed '/^$/d' /etc/inittab
5 awk
awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大。简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理。
5.1 awk '{pattern + action}' {commands}
其中 pattern 表示 AWK 在数据中查找的内容,而 action 是在找到匹配内容时所执行的一系列命令。花括号({})不需要在程序中始终出现,但它们用于根据特定的模式对一系列指令进行分组,pattern就是要表示的正则表达式,用斜杠括起来。
5.2 #last -n 5 | awk '{print $1}'
读入有'\n'换行符分割的一条记录,然后将记录按指定的域分隔符划分域,填充域
$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键" 或 "[tab]键",所以$1表示登录用户,$3表示登录用户ip,以此类推。
5.3 显示/etc/passwd的账户
5.4 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割
5.5 搜索/etc/passwd有root关键字的所有行
awk -F: '/root/' /etc/passwd
5.6 awk内置变量
awk有许多内置变量用来设置环境信息,这些变量可以被改变,下面给出了最常用的一些变量。
- ARGC
,命令行参数个数
- ARGV
, 命令行参数排列
- ENVIRON
, 支持队列中系统环境变量的使用
- FILENAME
,awk浏览的文件名
- FNR
,浏览文件的记录数
- FS
,设置输入域分隔符,等价于命令行 -F选项
- NF
, 浏览记录的域的个数
- NR
, 已读的记录数
- OFS
,输出域分隔符
- ORS
,输出记录分隔符
- RS
,控制记录分隔符
5.7 统计/etc/passwd:文件名,每行的行号,每行的列数,对应的完整行内容
#awk -F ':' '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd