最近在学习随机数学(概率论),在随机变量及其分布这一章节中提到了一个切比雪夫不等式,对于其具体意义暂还不太理解,但是证明在结合了网上的一些资料了解了一下,这里给出其证明方法。
定义
首先给出我们这里会用到的几个定义:
方差的定义
若
E(X−E(X))2存在,则称
E(X−E(X))2为
X的方差,记为
Var(X)或者
D(X)。
Var(X)=E(X−E(X))2=⎩⎨⎧i∑(xi−E(X))2P(xi)∫−∞+∞(x−E(X))2P(x)dx离散情况下连续情况下
因为不同的书中表述方式不同,现在解释一下里面各个函数的意义,
E(X)即期望,
P(X)即为概率/密度函数,
Var(X)为方差(也可写作
D(X))
一个常用的不等式
∣x−a∣≥b 可以推导出
(x−a)2≥b2
切比雪夫不等式
下面给出切比雪夫不等式的定义:
P(∣X−E(X)∣≥ϵ)P(∣X−E(X)∣<ϵ)≤≥ϵ2Var(X)1−ϵ2Var(X)大偏差小偏差
证明
那么现在我们开始证明切比雪夫不等式中的大偏差。
这里为了方程简单一点,我们设
E(X)=e
首先由方差的定义(连续情况下)可以知道
Var(X)=∫−∞+∞(X−e)2P(X)dX
那么我们以
e−ϵ和
e+ϵ为分界线(由
∣X−E(X)∣<ϵ得),将积分裂开,然后我们用到前面的不等式那里讲的
∣x−a∣≥b 可以推导出
(x−a)2≥b2,化为以下结果:
Var(X)=∫−∞+∞(X−e)2P(X)dX≥∫−∞e−ϵϵ2P(X)dX+∫e+ϵ+∞ϵ2P(X)dX
当且仅当
ϵ=0的时候等于号成立。
这一步因为
ϵ是一个常数,所以在积分中可以把
ϵ2提出来,那么可以化成下面的式子。
Var(X)=∫−∞+∞(X−e)2P(X)dX≥∫−∞e−ϵϵ2P(X)dX+∫e+ϵ+∞ϵ2P(X)dX=ϵ2(∫−∞e−ϵP(X)dX+∫e+ϵ+∞P(X)dX)
这一步之后,可以推导出下面的式子:
Var(X)=∫−∞+∞(X−e)2P(X)dX≥∫−∞e−ϵϵ2P(X)dX+∫e+ϵ+∞ϵ2P(X)dX=ϵ2(∫−∞e−ϵP(X)dX+∫e+ϵ+∞P(X)dX)=ϵ2P(x≤e−ϵ∣x≥e+ϵ)=ϵ2P(∣x−e∣<ϵ)
小偏差和大偏差互为对立事件可证。
理解仍有不到位,如果有错误,请指正。