笔记：多元回归OLS估计量有效性证明

OLS估计量$\hat\beta=CY$
假设$\beta^*$是其他方法得到的关于无偏估计量:
$\beta^*=C^*Y$
其中$C^*=C+D=(X'X)^{-1}X'+D$，$D$为固定矩阵。于是
$\beta^*=C^*Y=C^*X\beta+C^*\mu \\E(\beta^*)=C^*X\beta+C^*E(\mu)=C^*X\beta$
根据无偏性要求$C^*X=I$。而
$C^*X=(X'X)^{-1}X'X+DX$
所以需要$DX=0$。

${\rm Cov}(\beta^*)=E[(\beta^*-\beta)(\beta^*-\beta)']\\ =E[(C^*Y-\beta)(C^*Y-\beta)]=E[(C^*\mu)(C^*\mu)']=E[C^*\mu\mu'{C^* }']\\=[(X'X)^{-1}X'+D]E(\mu \mu')[X(X'X)^{-1}+D']\\=\sigma^2[(X'X)^{-1}X'X(X'X)^{-1}+DX(X'X)^{-1}+(X'X)^{-1}X'D'+DD']\\=\sigma^2(X'X)^{-1}+\sigma^2DD'={\rm Cov}(\hat\beta)+\sigma^2DD'\geq {\rm Cov}( \hat \beta)$

来源：CSDN

作者：数据科学小白

链接：https://blog.csdn.net/weixin_39174856/article/details/104042060