平稳性

平稳性定义

时间序列 $X_t$ 来自于一个概率分布，且满足：

1、均值为与时间无关的常数；
2、方差是与时间无关的常数；
3、协方差至于时间间隔有关，与时间无关；
则称该随机时间序列是平稳的，该随机过程是一个平稳随机过程。

白噪声
$X_t=\mu_t,\qquad \mu ～N(0,\sigma^2)$
这个序列称为白噪声,由于具有相同的均值与方差，且协方差为零，满足以上定义，是平稳的。
随机游走
$X_t=X_{t-1}+\mu_t$
该序列有相同的均值。但是方差呢？我们递推可得：
$X_t=X_0+\mu_1+...+\mu_t$
则Var $(X_t)=t\sigma^2$ ,故非平稳。
但是可以取差分得到平稳序列：
$\Delta X_t=X_t-X_{t-1}=\mu_t$
事实上，随机游走是一阶自回归AR（1）过程 $X_t=\phi X_{t-1}+\mu_t$ 的特例。

平稳性的单位根检验

DF检验
我们知道随机游走模型可以看成是模型 $X_t=\rho X_{t-1}+\mu_t$
中 $\rho=1$ 的情形。若经检验 $\rho=1$ ，则称 $X_t$ 有一个单位根， $X_t$ 就是随机游走，是非平稳的。这就是平稳性的单位根检验。
将模型差分得：
$\Delta X_t=(\rho-1)X_{t-1}+\mu_t=\delta X_{t-1}+\mu_t$
检验 $\rho=1$ 就是检验 $\delta=0$ 。
ADF检验（augment Dickey-Fuller test）
在DF检验中，实际上假定了时间序列是有白噪声的一阶自回归过程AR（1），但若实际上不是则会导致DF检验无效。为了保证随机干扰项的白噪声特性，形成了ADF检验方法。这个方法是通过三个模型完成的：
模型1: $\Delta X_t=\delta X_{t-1}+\sum_{i = 1}^m \beta_i \Delta X_{t-1}+\varepsilon_t$
在模型1基础上加上一个截距项 $\alpha$ 得模型2:
$\Delta X_t=\alpha+\delta X_{t-1}+\sum_{i = 1}^m \beta_i \Delta X_{t-1}+\varepsilon_t$
在模型2基础上再加上一个时间趋势 $\beta T$ 得模型3:
$\Delta X_t=\alpha+\beta T+\delta X_{t-1}+\sum_{i = 1}^m \beta_i \Delta X_{t-1}+\varepsilon_t$
实际检验时一般采用拉格朗日乘数检验(LM test)确定滞后阶数 $m$ 。
三个模型零假设都是 $H_0:\delta=0$ (参见DF检验)。从模型3、2、1依次检验，若发现拒绝零假设，则说明不存在单位根，为平稳序列，可停止检验。当检验完成，三个模型都不能拒绝零假设，则认为时间序列是非平稳的。

单整时间序列

如果一个时间序列经过一次差分变成平稳的，就称原序列是一阶单整，记为 $I(1)$ 。 $d$ 次差分平稳记为 $I(d)$ 。显然， $I(0)$ 代表平稳的时间序列。

协整

协整定义

假设 $X$ 与 $Y$ 的长期均衡关系为：
$Y_t=\alpha_0+\alpha_1 X_t+\mu_t$
其中的 $\mu_t$ 也称为非均衡误差，它可写为：
$\mu_t=Y_t-\alpha_0-\alpha_1 X_t$
如果长期均衡关系正确，那么上式表示的应该是一个平稳时间序列，并且具有零均值。假如 $X$ 与 $Y$ 是 $I(1)$ 序列，但他们的先行组合可以平稳，这时我们称变量 $X$ 与 $Y$ 是协整的。
PS：只有当它们的单整阶相同时，才可能协整。
## 协整的检验

两变量的Engle_Granger 检验
第一步，用OLS估计并计算非均衡误差：
$\hat Y_t=\hat\alpha_0+\hat\alpha_1 X_t \\e_t=Y_t-\hat Y_t$
称为协整回归或静态回归。
第二步，用DF或者ADF检验 $e_t$ 的单整性。
多变量协整关系检验
多变量协整关系检验的难点在于，协整变量间可能存在多种稳定的线性组合。检验过程跟双变量基本相同，但是需要设置一个变量为被解释变量，其他为解释变量，并检验残差序列是否平稳。当所有变量都被作为被解释变量后仍不能得到平稳的残差序列，则认为这些变量间不存在协整。

格兰杰因果关系检验

时间序列自回归模型

时间序列自回归模型实质仅用它过去值及随机扰动下所建立起来的模型：
$X_t=F(X_{t-1},X_{t-2},...,\mu_t)$

$p$ 阶自回归过程AR（ $p$ ）：
$X_t=\phi_1X_{t-1}+...+\phi_pX_{t-p}+\mu_t$
若 $\mu_t=\varepsilon_t$ (白噪声)，则称上式为纯AR（ $p$ ）过程,写为:
$X_t=\phi_1X_{t-1}+...+\phi_pX_{t-p}+\varepsilon_t$
若 $\mu_t$ 不是白噪声，则认为它是一个q阶的移动平均过程MA( $q$ ):
$\mu_t=\varepsilon_t-\theta_t\varepsilon_{t-1}-...-\theta_q\varepsilon_{t-q}$
上式给出了一个纯MA（ $q$ )过程。若代入AR（ $p$ ），则会得到一个自回归移动平均过程ARMA(p,q):
$X_t=\phi_1X_{t-1}+...+\phi_pX_{t-p}+\varepsilon_t-\theta_t\varepsilon_{t-1}-...-\theta_q\varepsilon_{t-q}$

格兰杰因果关系检验的表述

若在包含了X、Y过去信息的条件下，对变量Y的预测效果要优于只单独由Y的过去信息对Y进行的预测效果，则认为变量X式引致变量Y的格兰杰原因。估计一下回归模型：
$Y_t=\beta_0+\sum_{i=1}^m\beta_iY_{t-i}+\sum_{i=1}^m \alpha_iX_{t-i}+\mu_t \\X_t=\delta_0+\sum_{i=1}^m\delta_iX_{t-i}+\sum_{i=1}^m\lambda Y_{t-i}+v_t$
格兰杰检验是通过受约束的F检验完成的。如针对X不是Y的格兰杰原因这一假设，即 $H_0:\alpha_i=0$ ，分别做包含与不包含X滞后项的回归，记前者的残差平方和为RSS $_U$ ,后者的残差平方和为RSS $_R$ ; 再计算F统计量：
$F=\frac{({\rm RSS}_R-{\rm TSS}_U)/m}{{\rm RSS}_U/(n-k)}$
其中 $m$ 为X的滞后项的个数， $n$ 为样本容量， $k$ 为包含可能存在的常数项及其他变量在哪的无约束回归模型的待估参数的个数。如果F大于 $F_\alpha(m,n-k)$ 则拒绝原假设，认为X是Y的格兰杰原因。