多元回归

OLS估计量 β ^ = C Y \hat\beta=CY β ^ ​ = C Y 假设 β ∗ \beta^* β ∗ 是其他方法得到的关于无偏估计量: β ∗ = C ∗ Y \beta^*=C^*Y β ∗ = C ∗ Y 其中 C ∗ = C + D = ( X ′ X ) − 1 X ′ + D C^*=C+D=(X'X)^{-1}X'+D C ∗ = C + D = ( X ′ X ) − 1 X ′ + D ， D D D 为固定矩阵。于是 β ∗ = C ∗ Y = C ∗ X β + C ∗ μ E ( β ∗ ) = C ∗ X β + C ∗ E ( μ ) = C ∗ X β \beta^*=C^*Y=C^*X\beta+C^*\mu \\E(\beta^*)=C^*X\beta+C^*E(\mu)=C^*X\beta β ∗ = C ∗ Y = C ∗ X β + C ∗ μ E ( β ∗ ) = C ∗ X β + C ∗ E ( μ ) = C ∗ X β 根据无偏性要求 C ∗ X = I C^*X=I C ∗ X = I 。而 C ∗ X = ( X ′ X ) − 1 X ′ X + D X C^*X=(X'X)^{-1}X'X+DX C ∗ X = ( X ′ X ) − 1 X ′ X + D X 所以需要 D X = 0 DX=0 D X

UA MATH571A 多元线性回归IV 广义线性模型 广义线性模型 二值被解释变量 Probit模型 Logit模型 系数的最大似然估计 系数的推断 Wald检验 似然比检验 二项回归 拟合优度检验 Pearson卡方拟合优度检验 Deviance拟合优度检验 Hosmer-Lemeshow拟合优度检验 多值被解释变量 广义线性模型 Y 1 , Y 2 , . . . , Y N Y_1,Y_2,...,Y_N Y 1 ​ , Y 2 ​ , . . . , Y N ​ 是服从指数分布族某一分布的被解释变量，并且 E Y i = μ i EY_i=\mu_i E Y i ​ = μ i ​ ，存在某个函数 g g g 使得解释变量与 g ( μ i ) g(\mu_i) g ( μ i ​ ) 之间具有线性关系 g ( μ i ) = X i β g(\mu_i) = X_i \beta g ( μ i ​ ) = X i ​ β 这样的回归模型叫广义线性回归模型。显然当 g ( μ i ) = μ i g(\mu_i)=\mu_i g ( μ i ​ ) = μ i ​ 时，回归模型是多元线性回归，当 g g g 是Logistics函数的反函数时，是Logistics回归。 二值被解释变量 回归模型 Y i = X i β + ϵ i Y_i = X_i \beta +