对一元回归模型
Yi=β0+β1Xi+μi
若异方差情况为Var(
μi)=
σi2=σ2
-
估计量有偏吗?
我们知道
β~1=∑xi2∑xiyi=∑xi2∑xi(β1Xi+μi)=β1+∑xi2∑xiμi
那么
E(β~1)=β1+∑∑xi2xiE(μi)=β1
-
方差怎样变化呢?
Var(β~1)=Var(∑xi2∑xiμi)=∑(∑xi2xi)2Var(μi)+i=j∑∑xi2xi∑xj2xjCov(μi,μj)=(∑xi2)2∑xi2σ2
-
加权最小二乘法的估计量
对原模型除以权重
σi:
σiYi=β0σi1+β1σiXi+σiμi
对以上模型用OLS估计就是加权最小二乘。
容易看出变换后的模型是同方差的。
记变换后的样本函数为
σiYi=β0∗σi1+β1∗σiXi+ei∗
最小化:
∑(ei∗)2=∑σ21(Yi−β0∗−βi∗Xi)2
FOC:
β0∗∑wi+β1∗∑wiXi=∑wiYiβ0∗∑wiXi+β1∗∑wiXi2=∑wiXiYi
解得
β1∗=∑wi∑wiXi2−(∑wiXi)2∑wi∑wiXiYi−∑wiXi∑wiYi
其中
wi=1/σi2。
进一步,令
X∗=∑wi∑wiXi,Y∗=∑wi∑wiYiyi=Yi−Y∗,xi=Xi−X∗
则估计式可简化为
β1∗=∑wi(xi∗)2∑wixi∗yi∗