《第十章多元线性回归自相关问题.ppt》由会员分享，可在线阅读，更多相关《第十章多元线性回归自相关问题.ppt（31页珍藏版）》请在三一文库上搜索。
1、第十章多元线性回归自相关问题,1,第十章 序列相关问题,一、序列相关性二、序列相关性的后果三、序列相关性的发现和判断四、误差序列相关的处理和克服,第十章多元线性回归自相关问题,2,一、序列相关性的定义,线性回归模型假设要求 对任意 都成立误差序列相关比较基本和重要类型一阶自回归： 其中 满足,第十章多元线性回归自相关问题,3,二、序列相关性的后果,1、参数估计量是无偏的和一致的，但不再是BLUE的，是非有效。2、OLS估计量的方差是有偏的3、检验统计量不再生效，变量显著性检验失去意义。3、模型的预测失效。,第十章多元线性回归自相关问题,4,三、序列相关性的发现和判断,（一）残差序列图分析如形成
2、锯齿形或循环状，可断定残差序列存在相关,第十章多元线性回归自相关问题,5,三、序列相关性的发现和判断,分析误差序列相关残差分布图,第十章多元线性回归自相关问题,6,三、序列相关性的发现和判断,例7.1 美国进口支出函数 给出美国1968年到1987年期进口支出与个人可支配收入（PDI）数据，建立美国支出函数模型，检验残差序列的自相关性。 绘出残差序列随时间变化的趋势 绘出残差序列与其滞后项,第十章多元线性回归自相关问题,7,三、序列相关性的发现和判断,（二）回归检验法 首先应用OLS估计模型并求出的估计值即残差e，然后以et 为被解释变量，以各种可能的相关变量如 等作为自变量进行线性拟合如：
3、对各种拟合形式进行统计检验，选择显著的最优的拟合形式作为序列相关的具体形式。,第十章多元线性回归自相关问题,8,三、序列相关性的发现和判断,（三）游程检验 游程：为同一符号或属性（例如+或-)的一个不间断历程。 如：记残差的符号(+或-),有 (+)(-)(+)(-)(+) 总共有20个残差构成了5个游程。其中一个7个正值的游程（其长度为7）。若游程太多，则意味着e在频繁地变换着符号，表明存在负的序列相关；如果游程太少，则意味着存在正的自相关。在残差是独立的假设下，史威德（Swed）和艾森哈特（Eisenhart）建立了游程检验的临界值。,第十章多元线性回归自相关问题,9,三、序列相关性的发现
4、和判断,（三）游程检验 令N为观察值的总个数，N1表示+号（正的残差）的个数， N2表示-号（负的残差）的个数，k表示游程个数，在残差是独立的假设下，Swed-Eisenhart给出了游程检验的上下临界值，如果实际游程个数小于或等于下临界值，或是大于或等于上临界值，则可以拒绝零假设，说明所观察的序列是随机的实例7-2 利用游程检验判断美国抵押债务方程残差项的 自相关性,第十章多元线性回归自相关问题,10,三、序列相关性的发现和判断,（四）杜宾-瓦尔森(D-W)检验（适应于一阶自相关情况的检验）DW检验的原理 对线性回归模型 如果误差项有一阶自回归问题，那么 其中的 ， 是均值为0的独立同分布随
5、机变量。,第十章多元线性回归自相关问题,11,三、序列相关性的发现和判断,根据 和 的性质，有因此,第十章多元线性回归自相关问题,12,三、序列相关性的发现和判断,考虑与 有密切关系的DW统计量,第十章多元线性回归自相关问题,13,三、序列相关性的发现和判断,检验误差序列正自相关性DW检验区域图 一阶自相关 无法判断 无一阶自相关性 无法判断 一阶负自相关实例7-3 利用杜宾-瓦尔森检验判断美国抵押债务方程残差项的 自相关性,第十章多元线性回归自相关问题,14,三、序列相关性的发现和判断,DW检验序列相关性的主要不足：（1）D.W.统计量的扰动项在原假设下依赖于系数矩阵X；（2）回归方程右边如
6、果存在滞后变量， D.W.检验不再有效；（3）仅仅检验残差是否存在一阶序列相关,第十章多元线性回归自相关问题,15,三、序列相关性的发现和判断,（五）相关图和Q统计量检验序列相关 可以应用所估计回归方程残差序列的自相关和偏自相关系数以及Ljung-Box Q统计量来检验序列相关。Q统计量的表达式为 其中rj是残差序列的j阶自相关系数，T为样本容量，p为设定的滞后阶数。,第十章多元线性回归自相关问题,16,三、序列相关性的发现和判断,（五）相关图和Q统计量检验序列相关 p阶滞后的Q统计量的原假设是：序列不存在p阶自相关；备选假设为：序列存在序列相关。在实际检验中，通常会计算出不同滞后阶数的Q统计
7、量、自相关系数和偏自相关系数。如果各阶Q统计量都没有超过临界值，则接受原假设，即不存在序列相关，并且此时各阶的自相关和偏自相关系数都接近于0；如果存在某一滞后阶数p，Q统计量超过设定的显著性水平的临界值，则拒绝原假设，说明残差存在p阶自相关。,第十章多元线性回归自相关问题,17,三、序列相关性的发现和判断,（五）相关图和Q统计量检验序列相关Eviews 实现 View-Residual Tests-Correlogram and Q-statistics,第十章多元线性回归自相关问题,18,三、序列相关性的发现和判断,（五）序列相关LM检验LM检验原假设为：直到p阶滞后不存在序列相关，p为预先
8、定义好的整数；备择假设为：存在p阶自相关检验过程：估计回归方程，并求出残差，对原始回归变量X和直到p阶的滞后残差作回归。LM检验通常给出两个统计量：F统计量和nR2统计量。F统计量是对以上回归方程中所有滞后残差联合显著性的检验。 nR2统计量是Breusch-Godfrey LM检验统计量，是观测值个数n乘以以上方程的R2, 一般地它服从渐近地2(p)分布。,第十章多元线性回归自相关问题,19,三、序列相关性的发现和判断,（五）序列相关LM检验在给定地显著性水平下，如果统计量大于临界值，则说明序列存在序列相关性，否则不存在序列相关性。Eviews 实现 View-Residual Tests-
9、Correlogram and Q-statistics实例：美国的投资方程建立美国国内私人投资INV和GNP平减指数、利息率之间的方程，并检验序列相关性。,第十章多元线性回归自相关问题,20,四、误差序列相关的处理和克服,（一）一阶差分法（二）广义差分法（三）杜宾(Durbin)两步法（四）广义最小二乘法,第十章多元线性回归自相关问题,21,（一）一阶差分法,设线性回归模型为已知 有很强的一阶自相关性，即 把滞后一期的观测值代入变量关系，得方程：可得,第十章多元线性回归自相关问题,22,由于 ，因此令 ，可得因为 ，所以上式近似为 注意 相当于DW趋于0。,第十章多元线性回归自相关问题,23
10、,（二）广义差分法,设线性回归模型为已知 有一阶自相关性，即 把滞后一期的观测值代入变量关系，得方程：,第十章多元线性回归自相关问题,24,可得使根据 可得如果记 ，所以上式为,第十章多元线性回归自相关问题,25,（三）杜宾两步法,从两变量模型的广义差分式整理后可得,第十章多元线性回归自相关问题,26,接受上述多元线性回归得到的 估计值 ，利用广义差分变换 ， 得到 对它进行最小二乘估计，并把估计回归结果计算的 和1 ，作为原模型参数的估计。,第十章多元线性回归自相关问题,27,（四）广义最小二乘法,广义最小二乘法的一般原理 设线性回归模型为 其中 但 对 进行分析,第十章多元线性回归自相关问题,28,（四）广义最小二乘法,记得到其中误差向量满足对变换过的模型进行最小二乘估计，得参数估计,第十章多元线性回归自相关问题,29,（四）广义最小二乘法,以误差序列一阶自相关问题为例 设模型为 其误差满足 其中 ， 是均值为0、独立同分布的随机变量，且方差为 。,第十章多元线性回归自相关问题,30,（四）广义最小二乘法,不同时期误差之间的协方差可以表示为：由于,第十章多元线性回归自相关问题,31,（四）广义最小二乘法,因此可以得到协方差矩阵，为,