本文主要摘选自参考文献 Varshney P K. Distributed Detection and Data Fusion[M]. 1997.(section 2.2)
我们考虑简单的二元假设检验问题。二元假设分别为
H0以及
H1。用
y表示观测变量,可以得到条件概率密度函数为
p(y∣Hi), i=0,1。两种假设的先验概率分别为
P0和
P1。显然,一共有四种可能的检测结果,其中两种为正确判决,两种为错误判决。下面我们为每种情况分配代价,即用
Cij, i,j=0,1来表示
Hj情况下判决为
Hi的代价。在贝叶斯公式中,判决规则为最小化平均代价。这里的平均代价,或者贝叶斯风险函数,用
R表示,定义为
R=i=0∑1j=0∑1CijPjP(Hi∣Hj)=i=0∑1j=0∑1CijPj∫Zip(y∣Hj)dy,(1)其中,
Zi为
Hi的判决域。进一步,我们假定
Z为总的观测空间,则
R=P0C00∫Z0p(y∣H0)dy+P0C10∫Z−Z0p(y∣H0)dy+P1C01∫Z0p(y∣H1)dy+P1C11∫Z−Z0p(y∣H1)dy.(2)注意到
∫Zp(y∣Hj)dy=1, j=0,1我们对(2)进行整理,可以得到
R=P0C10+P1C11+∫Z0{P1(C01−C11)p(y∣H1)−P0(C10−C00)p(y∣H0)}dy.(3)前面两项为固定值。通过将
Z中的点分配到
Z0中,从而使得(3)中的积分式为负值,可以最小化风险
R。假定
C10>C00,
C01>C11,最小化后的结果为似然概率比检验(likelihood ratio test, LRT)
p(y∣H0)p(y∣H1)H1><H0P1(C01−C11)P0(C10−C00),(4)进一步可以表示为
Λ(y)H1><H0 η,(5)其中
Λ(y)=p(y∣H0)p(y∣H1)为似然比,
η=P1(C01−C11)P0(C10−C00)为门限;等效地,我们有对数形式
logΛ(y)H1><H0 logη.(6)
对于特殊情况
C00=C11=0,
C01>C10=1,正确判决的代价为0,而错误判决的代价为1,此时
R=P0∫Z1p(y∣H0)dy+P1∫Z0p(y∣H1)dy(7)正好是平均错误概率。此时,贝叶斯检验就是最小化平均错误概率,判决门限
η=P1P0。如果
P0=P1,则
η=1,
logη=0,在通信系统中称为最小误差接收机。
下面我们定义虚检概率及误检分别为
PF=P(H1∣H0)=∫Z1p(y∣H0)dy,(8)以及
PM=P(H0∣H1)=∫Z0p(y∣H1)dy,(9)则检测概率为
PD=1−PF=P(H1∣H1)=∫Z1p(y∣H1)dy,(10)因此可以将贝叶斯风险函数表示为
R=P0C10+P1C11+P1(C01−C11)PM−P0(C10−C00)(1−PF),(11)考虑到
P0=1−P1,有
R=C00(1−PF)+C10PF+P1[(C11−C00)+(C01−C11)PM−(C10−C00)PF].(12)根据最优判决区域替代
PF和
PM的值,可以最小化
R。下面我们采用另外的方法来最小化
R。
根据贝叶斯准则
Pjp(y∣Hj)=P(Hj∣y)p(y),(13)其中,
y的概率密度函数为
p(y)=P0p(y∣H0)+P1p(y∣H1).(16)我们可以把(1)表示为
R=i=0∑1j=0∑1Cij∫ZiP(Hj∣y)p(y)dy,(17)交换积分和求和顺序,有
R=i=0∑1∫Zij=0∑1CijP(Hj∣y)p(y)dy=i=0∑1∫Ziβi(y)p(y)dy,(18)其中
βi(y)=j=0∑1CijP(Hj∣y)(19)为观测空间中每个点
y对应的条件代价。最小化贝叶斯代价
R的最优接收机采用判决准则
β0(y)H1><H0 β1(y).(20)
令
r(y)表示最优接收机的条件代价,则
r(y)=min[β0(y),β1(y)],(21)利用数学等式
min(a,b)=21(a+b)−21∣a−b∣,(22)我们将
r(y)表示为
r(y)=21[β0(y)+β1(y)]−21∣β0(y)−β1(y)∣.(23)利用
β0(y)以及
β1(y)的定义以及贝叶斯准则
P(Hj∣y)=p(y)Pjp(y∣Hj),我们可以把(23)表示为
r(y)=2P(y)1[P0(C00+C10)p(y∣H0)+P1(C01+C11)p(y∣H1)−∣P1(C01−C11)p(y∣H1)−P0(C10+C00)p(y∣H0∣].(24)基于(18)以及(21),可以得到
R=∫Zr(y)p(y)dy.(25)将(24)代入(25),得
Rmin=C0−21∫Z∣(C01−C11)P1p(y∣H1)−(C10−C00)P0p(y∣H0)∣dy,(26)其中
C0=21(C00+C10)P0+21(C01+C11)P1.特殊情况下,
C00=C11=0,
C01=C10=1,我们得到
Rmin=21−21∫Z∣P1p(y∣H1)−P0p(y∣H0)∣dy.(27)由此得到最优贝叶斯检测系统的最小可达错误率,称为Kolmogorov variational distance。