sort、uniq、tr命令及正则表达式
一、sort命令
1. 作用
以行为单位对文件内容进行排序,也可以根据不同的数据类型来排序
语法格式:
sort [选项] 参数
cat file | sort [选项]
2. 常用选项
选项 | 说明 |
---|---|
-f | 忽略大小写,默认会大写字母排在前面 |
-b | 忽略每行前面的空格 |
-n | 按照数字进行排序 |
-r | 反向排序 |
-u | 等同uniq,表示相同的数据仅显示一行,去重 |
-t | 指定字段分隔符,默认使用tab键分隔 |
-k | 指定排序字段 |
-o <输出文件> | 将排序后的结果转存至指定文件 |
二、uniq命令
1. 作用
用于报告或者忽略文件中连续的重复行,常与sort命令结合使用
语法格式:
uniq [选项] 参数
cat file | uniq [选项]
2. 常用选项
选项 | 说明 |
---|---|
-c | 进行计数,并删除文件中重复出现的行 |
-d | 仅显示连续的重复行 |
-u | 仅显示出现一次的行 |
uniq testfile
sort -n testfile | uniq -c
三、tr命令
1. 作用
常用于对来自标准输入的字符进行替换、压缩和删除
语法格式:
tr [选项] [参数]
2. 常用选项
选项 | 说明 |
---|---|
-c | 保留字符集1的字符,其他的字符(包括换行符\n)用字符集2替换 |
-d | 删除所有属于字符集1的字符 |
-s | 将重复出现的字符串压缩为一个字符串,用字符集2 替换 字符集1 |
-t | 字符集2 替换 字符集1,不加选项同结果 |
四、cut命令
1. 作用
显示行中的指定部分,删除文件中指定字段
语法格式:
cut [选项] [参数]
cat file | cut [选项]
2. 常用选项
选项 | 说明 |
---|---|
-f | 通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分隔符 |
-d | “TAB”是默认的分隔符,使用此选项可以更改为其他的分隔符 |
–complement | 此选项用于排除所指定的字段 |
–output-delimiter | 更改输出内容的分隔符 |
3. 删除windows文件造成的‘^M’字符
Linux中遇到换行符("\n")会进行回车+换行的操作,回车符反而只会作为控制字符("“W”")显示,不发生回车的操作。而windors中要回车符+换行符("\r\n")才会回车+换行,缺少一个控制符或者顺序不对都不能正确的另起一行
cat 77.txt | tr -s "\r" "\n" > 777.txt #方法一
cat 77.txt | tr -d "\r" > 7777.txt #方法二
yum install -y dos2unix #方法三
dos2unix 777.txt
五、正则表达式
- 通常用于判断语句中,用于检查某一字符串是否满足某一格式
- 正则表达式是由普通字符与元字符组成
- 普通字符包括大小写字母、数字、标点符号及一些其他符号
- 元字符是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符)在目标对象中的出现模式
1. 基础正则表达式常见元字符
支持的工具: grep、egrep、sed、awk
\ :转义字符,用于取消特殊符号的含义,例: \!、\n、\$等
^ :匹配字符串开始的位置,例: ^a、 ^the、 ^#、^[a-z]
$ :匹配字符串结束的位置,例: word$、 ^$匹配空行
. :匹配除\n之外的任意的一个字符,例: go.d、 g..d
* :匹配前面子表达式0次或者多次,例: goo*d、 go.*d
[list] :匹配list列表中的一个字符,例: go[ola]d, [abc]、 [a-z]、 [a-z0-9]、 [0-9]匹配任意一位数字
[^list] :匹配任意非list列表中的一个字符,例: [^0-9]、 [^A-20-9]、 [^a-z]匹配任意一位非小写字母
\{
n\} :匹配前面的子表达式n次,例: go\{
2\}d、 '[0-9]\{2\} '匹配两位数字
\{
n,\} :匹配前而的子表达式不少于n次,例: go\{
2, \}d、'[0-9]\{2, \}'匹配两位及两位以上数字
\{
n,m\} :匹配前面的子表达式n到m次,例: go\{
2,3\}d、 ' [0-9]\{2,3\}'匹配两位到三位数字
注: egrep、 awk使用{
n}、{
n,小、{
n, m}匹配时“{
}”前不用加“\”
2. 扩展正则表达式元字符
支持的工具: egrep、 awk
+ :匹配前面子表达式1次以上,例: go+d, 将匹配至少一个o, 如god、 good、 goood等
? :匹配前面子表达式0次或者1次,例: go?d, 将匹配gd或god
() :将括号中的字符串作为h一个整体,例1: g(oo)+d," 将匹配oo整体1次以上,如good、gooood等
| :以或的方式匹配字条串,例: g (oo|la)d," 将匹配good或者glad