《线性平稳时间序列分析.ppt》由会员分享，可在线阅读，更多相关《线性平稳时间序列分析.ppt（75页珍藏版）》请在三一文库上搜索。
1、第三章 线性平稳时间序列分析,本章结构,线性过程 自回归过程 AR(p) 移动平均过程 MA(q) 自回归移动平均过程 ARMA(p，q) 自相关系数和偏自相关系数,线性平稳时间序列分析,在时间序列的统计分析中，平稳序列是一类重要的随机序列。在这方面已经有了比较成熟的理论知识，最常用的是ARMA (Autoregressive Moving Average)模型。 用ARMA模型去近似地描述动态数据在实际应用中有许多优点，例如它是线性模型，只要给出少量参数就可完全确定模型形式；另外，便于分析数据的结构和内在性质，也便于在最小方差意义下进行最佳预测和控制。,线性过程,方法性工具 这些工具会使得时
2、间序列模型表达和分析更为简洁和方便。 延迟算子 线性差分方程,延迟算子,定义：设B为一步延迟算子，如果当前序列乘以一个延迟算子，就表示把当前序列值的时间向过去拨一个时刻，即 BXt=Xt-1。 性质：,线性差分方程,线性差分方程 齐次线性差分方程,齐次线性差分方程的解,特征方程 特征方程的根称为特征根，记作 齐次线性差分方程的通解 不相等实数根场合 有相等实根场合 复根场合,非齐次线性差分方程的解,非齐次线性差分方程的特解 使得非齐次线性差分方程成立的任意一个解 非齐次线性差分方程的通解 zt 齐次线性差分方程的通解 和非齐次线性差分方程的特解 之和,一阶差分方程 P33,用递归替代法解差分方
3、程：假设已知y-1和的各期值 动态乘子 动态乘子为输入对输出yt的影响，依赖于j，即输入t和输出yt+j观察值之间的时间间隔。 当参数取不同的值，系统最后的状态也不同。,一阶差分方程 P33,动态乘子(动态乘子为输入对输出yt的影响) 当01，动态乘子指数增加；当1，动态系统发散；当=1，输入变量将对系统产生持久性影响。,线性过程,定义：Xt称为线性过程，若 ，其中 t是白噪声序列，系数序列Gj满足 。 系统是因果性的：若系数序列Gj满足Gj=0, j0，即 定理3.1：线性过程肯定是平稳过程，且是均方收敛的。,线性过程的因果性,在应用时间序列分析去解决实际问题时，所使用的线性过程是因果性的，
4、即： 用延迟算子表示：,条件：,线性过程的逆转形式,用t时刻及其以前时刻的Xt-j(j=0,1, )来表示白噪声t ，即： 为Xt的逆转形式 其中 称为逆函数。 例： Xt=t -0.1t-1 是因果的，可逆的,ARMA模型,AR模型 (Auto Regression Model) MA模型 (Moving Average Model) ARMA模型 (Auto Regression Moving Average Model),AR(p)模型：p 阶自回归模型,AR(1)模型的背景,如果时间序列是独立的，没有任何依赖关系，这样的资料所揭示的统计规律就是事物独立的随机变动，系统无记忆能力。如果情
5、况不是这样，资料之间有一定的依存性，那么最简单的关系就是后一时刻的行为主要与其前一时刻的行为有关，而与其前一时刻以前的行为无直接关系，即已知Xt-1，Xt主要与Xt-1相关。用记忆性来说，就是最短的记忆，即一期记忆，也就是一阶动态性。,AR(1)模型：一阶自回归模型,描述这种关系的数学模型就是一阶自回归模型，简记为AR(1)，即,其中Xt为零均值(即中心化处理后的)平稳序列。1为Xt对Xt-1的依赖程度,t为随机扰动，一般为零均值的白噪声序列。,AR(1)的中心化变换,一般情形： 此时 中心化：令Yt=Xt- ，Yt即为Xt的中心化序列，此时有,AR模型平稳性的判别,判别原因 AR模型是常用的
6、平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的。 判别方法 特征根判别法,AR(1)模型的平稳性条件,平稳条件：对应齐次差分方程的特征根在单位圆内 特征方程： 特征根:,考察下列模型的平稳性：,序列的期望和方差如何求？,AR(2)模型：二阶自回归模型,对于自回归模型来说，当Xt不仅与前期Xt-1有关，而且与Xt-2相关时，AR(1)模型就不再适用了。这时就需要用AR(2)模型。 中心化的AR(2)模型： 非中心化的AR(2)模型： 其中t为随机扰动，一般为零均值的白噪声序列。,AR(2)模型的平稳性条件,平稳条件：对应齐次差分方程的特征根在单位圆内 特征方程： 特征根:,AR(2)模型
7、的平稳性条件,平稳域,AR(2)平稳性判别： 特征根 平稳域,考察下列模型的平稳性：,序列的期望和方差如何求？,AR(p) 模型：一般自回归模型,中心化的AR(p)模型： 非中心化的AR(p)模型：,AR(p) 的自回归系数多项式,引进延迟算子，中心化的AR(p)模型又可以简记为 自回归系数多项式 对应齐次差分方程的特征多项式,AR模型平稳性判别方法,特征根判别 AR(p)模型平稳的充要条件是它的p个特征根都在单位圆内 根据特征根和自回归系数多项式的根成倒数的性质，等价判别条件是该模型的自回归系数多项式的根都在单位圆外,MA(q)模型：q阶移动平均模型,MA模型：Moving Average
8、Model,AR模型：是系统在t时刻的响应Xt仅与其以前时刻的响应Xt-j有关，而与其以前时刻进入系统的扰动t-j无关。 MA模型：如果一个系统在t时刻的响应Xt，与其以前时刻的响应Xt-j无关，而与其以前时刻 进入系统的扰动t-j存在着一定的相关关系，这时需要建立的是MA模型。,MA(1)模型：一阶移动平均模型,如果一个系统在t时刻的响应Xt仅与其前一时刻进入系统的扰动t-1存在着一定的相关关系，描述这种关系的数学模型就是一阶移动平均模型，记作MA(1)，即 为常数，是序列均值； t为零均值的白噪声序列； 为移动平均系数。,非中心化的MA(q)模型： 引进延迟算子， MA(q)模型又可以简记
9、为： q阶移动平均系数多项式：,MA(q)模型：q阶移动平均模型,MA(q)模型的统计性质,常数均值：模型两边求期望可得 常数方差： 【注】MA(q)模型一定为平稳模型。,MA(q)模型的可逆性,可逆MA模型定义 若一个MA模型能够表示成无穷阶的自回归模型，则称该MA模型称为可逆的。 例：,ARMA模型,自回归移动平均模型 Autoregressive-Moving Average Model,ARMA模型的背景,一个系统，如果它在t时刻的响应 Xt 不仅与其以前时刻的响应有关，而且还与其以前时刻进入系统的扰动存在着一定的相关关系，那么这个系统就是自回归移动平均系统，相应的模型记作ARMA模型
10、。 在此模型下，一个影响系统的扰动t 被“牢记”一定时期，从而影响系统的后继行为。正是系统的这种动态性，引起了时间序列中的依存关系，从而决定了序列中的依存关系不能用普通静态回归模型来描述，而只能用ARMA模型。,ARMA(p,q)模型,非中心化的ARMA(p,q)模型： 其中i为自回归系数，i为移动平均系数。 中心化的ARMA(p,q)模型,ARMA(p,q)模型的系数多项式,引进延迟算子，ARMA(p,q)模型又可以简记为 ： p阶自回归系数多项式： q阶移动平均系数多项式：,AR、MA和ARMA之间的关系,ARMA(p,q)模型： 当p=0时，ARMA(p,q) 模型就退化为MA(q)模型
11、； 当q=0时，ARMA(p,q) 模型就退化为AR(p)模型； AR(p)模型和MA(q) 模型实际上是ARMA(p,q)模型的特例，它们统称为 ARMA(p,q) 模型； ARMA(p,q)模型的性质也正是AR (p)模型和MA(q)模型性质的有机组合。,ARMA平稳域与可逆域的定义,平稳域 i：(B)=0的根都在单位圆外 可逆域 j：(B)=0的根都在单位圆外 平稳可逆域 i,j：(B)=0和(B)=0的根都在单位圆外,平稳与可逆性的说明,ARMA(p,q)模型的平稳条件 (B)=0的根都在单位圆外，完全由其自回归部分的平稳性决定 如果系统具有平稳性，说明系统对某一时刻进入的扰动的记忆逐
12、渐衰减，时间越远，它的影响作用越小，逐渐被完全忘掉。 ARMA(p,q)模型的可逆条件 (B)=0的根都在单位圆外，完全由其移动平均部分的可逆性决定 可逆性表示某一时刻的系统响应对后继时刻的响应的影响呈递减状态，离该时刻时间越远，影响作用越小。 对于ARMA(p,q)模型来说，只有平稳且可逆才是有意义的。,举例,问下列几个ARMA(1,1)模型是否平稳和可逆？,答：(1）平稳可逆，（2）平稳不可逆，（3）可逆不平稳,ARMA模型可以变形为： 定义：当Xt表示为 即称为ARMA(p,q)模型的传递形式，或 Xt的World 分解，称 Gj为Green函数或World系数。,ARMA(p,q)模型
13、的传递形式,Green函数,Gj是j个单位时间以前加入系统的冲击或扰动t 对现在影响的权重 Green函数表示了系统对冲击t-j有多大的记忆，也即如果有单个t 加入系统， Green函数决定了系统将用多久时间能够恢复到它的平衡位置。,ARMA模型可以变形为： 定义：当Xt表示为 即称为ARMA(p,q)模型的逆转形式，称 Ij为模型的 逆函数。,ARMA(p,q)模型的逆转形式,举例,ARMA(1,1)模型：Xt=0.6Xt-1+t-0.3t-1，写出模型的传递形式和逆转形式。 解：(1) 传递形式,(2) 逆转形式,ARMA(p,q)模型的统计性质,均值： 方差：借助于传递形式,自协方差：借
14、助于传递形式 自相关系数：,ARMA(p,q)模型的统计性质,三种模型之间的转换,当三种模型：AR、MA和ARMA都具有平稳可逆性时，它们之间可以有如下的转换关系： AR(p) MA () MA(q) MA () ARMA(p, q) AR()或MA(),ARMA模型的相关性,自相关系数 ACF 偏自相关系数 PACF,AR(p)模型的自相关系数ACF,在模型两边同乘Xt-k(k0)，再求期望，可得自协方差系数： 自相关系数的Yule-Walker方程： 设p阶差分方程特征根为 ，则自相关系数满足,AR(p)的自相关系数ACF-拖尾,例：考察如下AR模型的自相关图,-可以验证，这四个模型都是平
15、稳的,自相关系数按负指数单调收敛到零,自相关系数呈现出正负相间的衰减,自相关系数呈现出“伪周期”性,自相关系数不规则衰减,MA(q)模型的自协方差系数,自协方差系数只与滞后阶数k相关，且q阶截尾。,MA(q)模型的自相关系数ACF,MA(q)模型的自 相关系数(ACF) -q步截尾,MA模型的自相关系数截尾,MA模型的自相关系数截尾,ARMA模型的相关性,自相关系数ACF拖尾,偏自相关系数(PACF),背景： 延迟k相关系数：衡量的并不是Xt与Xt-k之间单纯的相关关系，它还受到中间k-1个变量Xt-1,Xt-2, ,Xt-k+1的影响。 延迟k偏自相关系数就是指在给定中间k-1个随机变量Xt
16、-1,Xt-2, ,Xt-k+1的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后，Xt-k对Xt影响的相关度量。,偏自相关系数的定义,对于零均值平稳序列Xt，考虑用Xt-k,Xt-k+1, ,Xt-1对Xt的线性最小方差估计，即选择系数，使得下式最小： kj为使得残差方差达到极小的k阶自回归模型的第j项系数。其中最后一个系数kk称为Xt的偏自相关系数。 kk是使在模型中已经包含了Xt-1,Xt-2, Xt-k+1之后，再增加一期滞后Xt-k所增加的模型的解释能力，它是一种条件相关，是对Xt与Xt-k之间未被Xt-1,Xt-2, Xt-k+1所解释的相关的度量。,k阶自回归模型 中的第k
17、个系数,偏自相关系数的计算,偏自相关系数的计算,滞后k偏自相关系数实际上就等于k阶自回归模型第k个回归系数的值,Yule-Walker 方程,AR(p)模型的PACF,定理3.5：零均值平稳序列Xt为AR(p)序列的充要条件是Xt的偏自相关系数p步截尾。 AR(p)模型重要的识别依据：自相关系数ACF的拖尾性和偏自相关系数PACF的p步截尾性。,例:考察如下AR模型的偏自相关图,理论偏自相关系数,样本偏自相关图,理论偏自相关系数,样本偏自相关图,理论偏自相关系数,样本偏自相关图,理论偏自相关系数,样本偏自相关系数图,MA(q)和ARMA(p,q)模型的PACF,定理3.6：设Xt为序列或者ARMA(p,q) 序列，则Xt的偏自相关系数拖尾。 当三种模型：AR、MA和ARMA都具有平稳可逆性时，它们之间可以有如下的转换关系： AR(p) MA () MA(q) MA () ARMA(p, q) AR()或MA(),ARMA的ACF和PACF的拖尾性,样本自相关图,样本偏自相关图,ARMA模型相关性特征,