字符串相似性的几种度量方法

原文链接:https://blog.csdn.net/shijing_0214/article/details/53100992

若有侵权,联系我删除。

无论是做科学研究,还是工程项目,我们总是会碰上要比较字符串的相似性,比如拼写纠错、文本去重、上下文相似性等。度量的方法有很多,到底使用哪一种方法来计算相似性,这就需要我们根据情况选择合适的方法来计算。这里把几种常用到的度量字符串相似性的方法罗列一下,仅供参考,欢迎大家补充指正。

1、余弦相似性(cosine similarity) 
余弦相似性大家都非常熟悉,它是定义在向量空间模型(VSM)中的。它的定义如下: 


余弦公式 


其中,A,B为向量中间中的两个向量。 
在使用它来做字符串相似性度量的时候,需要先将字符串向量化,通常使用词袋模型(BOW)来向量化。举个例子如下: 


String1 = “apple” 
String2 = “app” 


则词包为{’a’,’e’,’l’,’p’},若使用0,1判断元素是否在词包中,字符串1、2可以转化为: 


StringA = [1111] 
StringB = [1001] 


那么,根据余弦公式,可以计算字符串相似性为:0.707。

2、欧氏距离(Euclidean distance) 
欧氏距离大家非常熟悉,定义在向量空间模型中,计算使用欧氏距离公式: 


这里写图片描述 

3、编辑距离(edit distance) 
编辑距离,有的地方也会称为Levenshtein距离,表示从一个字符串转化为另一个字符串所需要的最少编辑次数,这里的编辑是指将字符串中的一个字符替换成另一个字符,或者插入删除字符。例如上例String1通过删除’l’与’e’转化为String2,所以其最小编辑次数为2。 
编辑距离的核心就是如何计算出一对字符串间的最小编辑次数,考虑到问题的特点,我们可以使用动态规划的思想来计算其最小编辑次数,根据维基百科:两个字符串a=a1a2⋯an,b=b1b2⋯bma=a1a2⋯an,b=b1b2⋯bm的编辑距离递归计算公式如下: 


距离递归定义 


其中,w表示增删改三种操作的权重,一般定义为: 


w={1,0,若有操作无操作w={1,若有操作0,无操作 


di0=idi0=i表示从b′=b1⋯bib′=b1⋯bi删除为空的编辑次数;d0j=jd0j=j表示从空插入成a′=a1⋯aja′=a1⋯aj所需的编辑次数;dijdij则是对动态规划中分解子问题的过程。 
仍以(1)中的两个字符串为例: 
则编辑距离d53=min⎧⎩⎨⎪⎪d43+5d52+3d42+0,删除操作,插入操作,替换操作d53=min{d43+5,删除操作d52+3,插入操作d42+0,替换操作,继续通过不断递归可以得出其编辑距离。

4、海明距离(hamming distance) 
海明距离用于表示两个等长字符串对应位置不同字符的总个数,也即把一个字符串换成另一个字符串所需要的替换操作次数。根据定义,可以把海明距离理解为编辑距离的一种特殊情况,即只计算等长情况下替换操作的编辑次数。举个例子来讲,字符串“bob”与“pom”的海明距离为2,因为需要至少两次的替换操作两个字符串才能一致。海明距离较常用与二进制串上的操作,如对编码进行检错与纠错。在计算长字符串的相似性时可以 通过hash函数将字符串映射成定长二进制串再利用海明距离来计算相似性。 
海明距离的计算比较简单,通过一个循环来比较对应位置的字符是否相同即可。

5、Dice 距离 
Dice距离用于度量两个集合的相似性,因为可以把字符串理解为一种集合,因此Dice距离也会用于度量字符串的相似性。此外,Dice系数的一个非常著名的使用即实验性能评测的F1值。Dice系数定义如下: 


这里写图片描述 


其中,X,Y表示两个集合,分子表示两个集合的相交操作后的长度,分母表示两个集合长度之和。以(1)中的例子来讲的话,dice12=2×35+3=0.75dice12=2×35+3=0.75。若集合表示成向量的话,计算可以定义为: 


这里写图片描述 


其中,A,B表示两个向量。

6、Jaccard distance 
杰卡德系数的定义如下, 


这里写图片描述 


可以看出与Dice系数的定义比较相似,分子部分是个两倍关系,Dice系数的分母比Jaccard系数的分母多减去了一项分子,即|A∩B||A∩B|。 
Jaccard与Dice之间具有一种转化关系: 


J=D2−DJ=D2−D, 


或: 


D=2J1+JD=2J1+J 

7、J-W距离(Jaro–Winkler distance) 
J-W距离也常用来度量两个字符串的相似性,它实际上 Jaro distance的一种变种。 Jaro distance距离属于编辑距离的一类,被用于记录链接领域来将异构数据源中的records链接到同义实体中,也可以用于拼写纠错。Jaro distance定义如下: 


这里写图片描述 


其中,m是两个字符串匹配上的字符数目,t是字符中换位数目的一半,即若在字符串的第i位出现了a,b,在第j位又出现了b,a,则表示两者出现了换位。举个例子来讲: 
s1=MARTHAs1=MARTHA 
s2=MARHTAs2=MARHTA 
则m=6,|s1|=6,|s2|=6,T/H和H/T属于两对换位字符对,故t=1+12=1m=6,|s1|=6,|s2|=6,T/H和H/T属于两对换位字符对,故t=1+12=1 
代入公式可得:J1,2=0.944J1,2=0.944。一般定义当J值不大于这里写图片描述时两个字符串被匹配上。 
有了Jaro distance,我们定义J-W距离: 


这里写图片描述 


其中,djdj即为Jaro距离;ll是字符串的起始最大公共前缀,最大不超过4;pp为一个缩放因子,用于对l进行调整,避免dwdw超出1,一般设为0.1;btbt为boost threshold,当值超过该值时激发Jaro距离为J-W距离,该值一般设为0.7。 
仍以上面的两个字符串为例,dj=0.944>0.7,l=3,p=0.1dj=0.944>0.7,l=3,p=0.1,代入公式可算出dw=0.961dw=0.961。

猜你喜欢

转载自blog.csdn.net/fanzonghao/article/details/82765278