《应用回归分析课后习题参考答案全部版何晓群,刘文卿.docx》由会员分享，可在线阅读，更多相关《应用回归分析课后习题参考答案全部版何晓群,刘文卿.docx（9页珍藏版）》请在三一文库上搜索。
1、第一章回归分析概述1.2 回归分析与相关分析的联系与区别是什么？答：联系有回归分析和相关分析都是研究变量间关系的统计学课题。区别有a. 在回归分析中，变量 y 称为因变量，处在被解释的特殊地位。在相关分析中，变量 x 和变量 y 处于平等的地位， 即研究变量 y 与变量 x 的密切程度与研究变量x 与变量 y 的密切程度是一回事。 b. 相关分析中所涉及的变量 y 与变量 x 全是随机变量。而在回归分析中， 因变量 y 是随机变量， 自变量 x 可以是随机变量也可以是非随机的确定变量。 C.相关分析的研究主要是为了刻画两类变量间线性相关的密切程度。而回归分析不仅可以揭示变量 x 对变量 y 的
2、影响大小， 还可以由回归方程进行预测和控制。1.3 回归模型中随机误差项 的意义是什么？答： 为随机误差项，正是由于随机误差项的引入，才将变量间的关系描述为一个随机方程，使得我们可以借助随机数学方法研究y 与 x1,x2 .xp的关系， 由于客观经济现象是错综复杂的，一种经济现象很难用有限个因素来准确说明，随机误差项可以概括表示由于人们的认识以及其他客观原因的局限而没有考虑的种种偶然因素。1.4 线性回归模型的基本假设是什么？答：线性回归模型的基本假设有： 1. 解释变量 x1.x2 .xp 是非随机的，观测值xi1.xi2.xip是常数。 2. 等方差及不相关的假定条件为E( i)=0 i=
3、1,2. Cov(i, j)= 23. 正态分布的假定条件为相互独立。 4. 样本容量的个数要多于解释变量的个数， 即 np.第二章一元线性回归分析思考与练习参考答案2.1一元线性回归有哪些基本假定 ?答： 假设 1、解释变量 X 是确定性变量， Y 是随机变量；假设 2、随机误差项 具有零均值、同方差和不序列相关性：E( i )=0i=1,2,n2Var ( i)=i=1,2,nCov( i, j)=0i j i,j= 1,2,n假设 3、随机误差项 与解释变量 X 之间不相关：Cov(Xi, i)=0i=1,2,n假设 4、服从零均值、同方差、零协方差的正态分布i N(0,2 )i=1,2
4、,n2.3 证明（ 2.27 式）， ei =0， eiXi=0 。Q01证明：ni(Yi1Y? ) 2n(0X)21i(Yi?1其中： Y? XeYY?Q0Q0i01iiii?即：ei =0， eiXi=002.5 证明? 是 0 的无偏估计。)0证明： E( ?E(Y? X )1 nnEYii 1nX iXXi 1LxxYi )1n1E(i 1nX iXXL xx)Yi n1E(i 1nX iXX)(0Lxx1 X ii )E0n1()0i 1nX X iX )iLxxn10(i 1nX X iXLxx)E( i )02.6 证明证明：Var( ?1( nni 1X 2)22X iX2 (
5、 1nX 2)Lxx)0Var( ?Varn1(i 1nX X iXLxx)Yi n1(i 1nX X iXL xx) 2Var(1 X ii )0n( 1 )22 X X iXX iX2122( X) X2i 1nnL xxLxxnLxx2.7 证明平方和分解公式： SST=SSE+SSRi证明：SSTnn2YiYi1?2n Yii 1n?Y? )i?(Y?Y 2n?2YiYi 12Yii 1Yi )(YiYYiYi )i 1YYn?2ii1n2iYiY? )i1SSRSSE2.8 验证三种检验的关系，即验证：(n2 )rSSR/ 1L? 2（ 1） t；（2） Fxx1t21r 2证明：（
6、1）SSE /( n2)?2? Lxx?trL yyLxxrL yyn2rn2r?L?（ 2）2xxSSE (Lxx (n2)SSE (n2)SSE SST1r 2nnnnSSR( y?y) 2( ? xy )2( y?( xx )y)2( ? ( xx ) 2? 2Lii 1SSR/101 i1ii 1i 1?2 L1i1xxi 1FSSE/( n2)1xxt 2?21( xx )22.9 验证（ 2.63）式： Var( ei )( 1ni)2Lxx证明：var(ei )var( yiy?i )var( yi )var( y?i )2cov( yi , y?i )var(yi )var(
7、? x )2cov( y , y?(xx )011( xx)2ii1i1( xx) 222inLxx22inLxx11(xx)2i2nLxxCov( yi , y? ( xix )Cov( yi, y)Cov( yi ,? ( xix)1其中：1nCov( yi ,n i 1yi )( xinx)Cov( yi ,i 1( xix) Lxx1yi )12( xinx)2Lxx2( 1n( xix)2)2L xx?22.10 用第 9 题证明证明：ei2n2 是 2 的无偏估计量E( ?2)1E( yy?)21E(e2 )nniin2 i 1n2 i 11n1nvar(ei )11( xx)2i
8、2n2 i 1n2 i 1nLxx221( n2)n2第三章1. 一个回归方程的复相关系数 R=0.99，样本决定系数 R2=0.9801 ，我们能判断这个回归方程就很理想吗？答：不能断定这个回归方程理想。因为：1. 在样本容量较少，变量个数较大时，决定系数的值容易接近1， 而此时可能 F 检验或者关于回归系数的 t 检验，所建立的回归方程都没能通过。2. 样本决定系数和复相关系数接近于1 只能说明 Y 与自变量X1,X2, ,Xp 整体上的线性关系成立，而不能判断回归方程和每个自变量是显著的，还需进行 F 检验和 t 检验。3. 在应用过程中发现，在样本容量一定的情况下，如果在模型中增2加解
9、释变量必定使得自由度减少，使得R 往往增大，因此增加解2释变量（尤其是不显著的解释变量）个数引起的R 的增大与拟合好坏无关。?*L jj?,j1, 2,., pjjLyy其中:L jjnj(X iji 1X )22. 被解释变量 Y 的期望值与解释变量X1, X 2 , X k 的线性方程为：E(Y)01X 1X2 2k Xk(3-2)称为多元总体线性回归方程，简称总体回归方程。对于 n 组观测值Yi , X 1i , X 2i , X ki (i1,2, n)，其方程组形式为：Yi01 X1i2 X 2ik X kii ,( i1,2, n)(3-3)即Y10Y201 X 111 X 122
10、 X 212 X 22k X k11k X k 22Yn0其矩阵形式为Y11Y21=1 X1nX 11X 21X 12X 222 X 2nX k 1X k 2k X knn01212+Yn1即X 1nX 2nX knnkYX (3-4)其中Y11X 11X 21X k 1Y n 1Y2为被解释变量的观测值向量；X n (k 1)1X 12X 22X k 2为解释变Yn1X 1nX 2nX kn量的观测值矩阵；( k1) 1012为总体回归参数向量；n 112为随机误差项向量。nk多元回归线性模型基本假定：课本P57第四章4.3 简述用加权最小二乘法消除一元线性回归中异方差性的思想与方法。答：普
11、通最小二乘估计就是寻找参数的估计值使离差平方和达极小。其中每个平方项的权数相同， 是普通最小二乘回归参数估计方法。 在误差项等方差不相关的条件下，普通最小二乘估计是回归参数的最小方差线性无偏估计。然而在异方差的条件下， 平方和中的每一项的地位是不相同的， 误差项的方差大的项， 在残差平方和中的取值就偏大， 作用就大， 因而普通最小二乘估计的回归线就被拉向方差大的项， 方差大的项的拟合程度就好， 而方差小的项的拟合程度就差。 由 OLS 求出的仍然是的无偏估计， 但不再是最小方差线性无偏估计。 所以就是： 对较大的残差平方赋予较小的权数， 对较小的残差平方赋予较大的权数。 这样对残差所提供信息的
12、重要程度作一番校正，以提高参数估计的精度。加权最小二乘法的方法：NNQw (yy? )2w ( y? x ) 2wiiiii01ii 1i 1N_=?i11wwi ( xiNxw )( yi_( xx )2yw )iwi= 1_xw10wyw?w1i 2kxi 21表 示 1wi2kx 2x 2iii或 2kx m , w1xiiim i4.4 简述用加权最小二乘法消除多元线性回归中异方差性的思想与方法。答：运用加权最小二乘法消除多元线性回归中异方差性的思想与一元线性回归的类似。多元线性回归加权最小二乘法是在平方和中加入一个适当的权数wi，以调整各项在平方和中的作用，加权最小二乘的离差平方和为
13、：Qw (0,1,p )nwi ( yii 101xi12p xip )（ 2）加权最小二乘估计就是寻找参数0,1,p 的估计值?,0 w1w?使式（ 2）,pw的离差平方和 Qw 达极小。所得加权最小二乘经验回归方程记做y?w?x0 w1w 1?xpwp（ 3）多元回归模型 加权最小二乘法的方法 :首先找到权数w ，理论上最优的权数 w 为误差项方差2 的倒数,iii1wi2i（ 4）,pw误差项方差大的项接受小的权数，以降低其在式（2）平方和中的作用 ;误差项方差小的项接受大的权数，以提高其在平方和中的作用。由（2）式求出的加权最小二乘估计?,0w1w?就是参数0 ,1,p 的最小方差线性
14、无偏估计。i一个需要解决的问题是误差项的方差2 是未知的 , 因此无法真正按照式 （4）i选取权数。在实际问题中误差项方差2 通常与自变量的水平有关 ( 如误差项方差22i 随着自变量的增大而增大 ), 可以利用这种关系确定权数。例如i 与第 j 个自变量取值的平方成比例时 ,即 2 =k x2 时,iij1xwi2ij（ 5）i更一般的情况是误差项方差2 与某个自变量 x ( 与|e i | 的等级相关系数最大j的自变量 ) 取值的幂函数xm 成比例，即2 =k xm , 其中 m 是待定的未知参数。此ijiij时权数为ximw1（ 6）ij这时确定权数 wi的问题转化为确定幂参数 m 的问
15、题，可以借助 SPSS软件解决。第五章5.3 如果所建模型主要用于预测，应该用哪个准则来衡量回归方程的优劣？答： 如果所建模型主要用于预测，则应使用Cp 统计量达到最小的准则来衡量回归方程的优劣。5.4 试述前进法的思想方法。答： 前进法的基本思想方法是：首先因变量 Y 对全部的自变量 x1,x2,.,xm 建立m 个一元线性回归方程 , 并计算 F 检验值，选择偏回归平方和显著的变量（ F 值最大且大于临界值）进入回归方程。每一步只引入一个变量，同时建立 m1 个二元线性回归方程， 计算它们的 F 检验值，选择偏回归平方和显著的两变量变量（ F 值最大且大于临界值）进入回归方程。在确定引入的
16、两个自变量以后，再引入一个变量，建立 m2 个三元线性回归方程，计算它们的F 检验值，选择偏回归平方和显著的三个变量（ F 值最大）进入回归方程。不断重复这一过程，直到无法再引入新的自变量时，即所有未被引入的自变量的F 检验值均小于 F 检验临界值 F (1,n-p-1)，回归过程结束。5.5 试述后退法的思想方法。答： 后退法的基本思想是：首先因变量Y 对全部的自变量 x1,x2,.,xm 建立一个m 元线性回归方程 , 并计算 t 检验值和 F 检验值，选择最不显著（ P 值最大且大于临界值） 的偏回归系数的自变量剔除出回归方程。 每一步只剔除一个变量， 再建立 m 1 元线性回归方程，计
17、算t 检验值和 F 检验值，剔除偏回归系数的t 检验值最小（ P 值最大）的自变量，再建立新的回归方程。不断重复这一过程，直到无法剔除自变量时， 即所有剩余 p 个自变量的 F 检验值均大于 F 检验临界值 F (1,n-p-1)，回归过程结束。第六章消除多重共线性的方法7.2 岭回归的定义及统计思想是什么？答：岭回归法就是以引入偏误为代价减小参数估计量的方差的一种回归方法，其统计思想是对于（X X）-1 为奇异时，给 XX加上一个正常数矩阵 D,那么 XX+D接近奇异的程度就会比XX 接近奇异的程度小得多， 从而完成回归。 但是这样的回归必定丢失了信息， 不满足 blue。但这样的代价有时是
18、值得的，因为这样可以获得与专业知识相一致的结果。7.3 选择岭参数 k 有哪几种方法？答： 最优 k 是依赖于未知参数和2 的，几种常见的选择方法是：11 岭迹法： 选择 k0 的点能使各岭估计基本稳定， 岭估计符号合理， 回归系数没有不合乎经济意义的绝对值，且残差平方和增大不太多；2 方差扩大因子法：c( k)( X XkI )1 X X ( X XkI )，其对角线元cjj(k) 是岭估计的方差扩大因子。要让c jj ( k)10 ；3 残差平方和：满足SSE( k)cSSE成立的最大的 k 值。7.4 用岭回归方法选择自变量应遵循哪些基本原则？ 答： 岭回归选择变量通常的原则是：1. 在岭回归的计算中，我们通常假定涉及矩阵已经中心化和标准化了，这样可以直接比较标准化岭回归系数的大小。我们可以剔除掉标准化岭回归系数比较稳定且绝对值很小的自变量；2. 当 k 值较小时，标准化岭回归系数的绝对值并不很小，但是不稳定，随着 k 的增加迅速趋近于零。像这样岭回归系数不稳定、震动趋于零的自变量，我们也可以予以剔除；3. 去掉标准化岭回归系数很不稳定的自变量。如果有若干个岭回归系数不稳定，究竟去掉几个，去掉那几个，要根据去掉某个变量后重新进行岭回归分析的效果来确定。8 章主成分回归建模的思想与步骤偏最小二乘建模的思想与步骤两个论述，在课本上