《(完整版)多元线性回归模型原理.docx》由会员分享，可在线阅读，更多相关《(完整版)多元线性回归模型原理.docx（4页珍藏版）》请在三一文库上搜索。
1、+ b x + b x +L + b x= b研究在线性关系相关性条件下，两个或者两个以上自变量对一个因变量，为多元线 性回归分析，表现这一数量关系的数学公式，称为多元线性回归模型。多元线性回归模 型是一元线性回归模型的扩展，其基本原理与一元线性回归模型类似，只是在计算上为 复杂需借助计算机来完成。计算公式如下：设随机 y 与一般变量x1, x , L x 2 k的线性回归模型为：y = b + b x + b x + b x +e 0 1 1 2 2 k k其中 b ,0b , L b 是 k +1 个未知参数，b 1 k0称为回归常数， b , L b 称为回归系数；1 ky称为被解释变量
2、； x , x , L x1 2k是 k 个可以精确可控制的一般变量，称为解释变量。当 p =1时，上式即为一元线性回归模型， k 2 时，上式就叫做多元形多元回归模型。 e是随机误差，与一元线性回归一样，通常假设E ( e)=0 var(e)=s2同样，多元线性总体回归方程为 y = b0+ b x + b x +L + b x 1 1 2 2 k k系数b1表示在其他自变量不变的情况下，自变量 x 变动到一个单位时引起的因变1量 y 的平均单位。其他回归系数的含义相似，从集合意义上来说，多元回归是多维空间 上的一个平面。多元线性样本回归方程为： y 0 1 1 2 2 k k多元线性回归方
3、程中回归系数的估计同样可以采用最小二乘法。由残差平方和 :SSE = ( y -y) =0根据微积分中求极小值得原理，可知残差平方和 SSE存在极小值。欲使 SSE达到最小， SSE 对 b ,0b , L b1k的偏导数必须为零。将 SSE对b ,0b , L b1k求偏导数，并令其等于零，加以整理后可得到k +1各方程SSE式： = -2 bi( y -y) = 0SSEb0= -2( y -y)xi= 0 222通过求解这一方程组便可分别得到b ,0b , L b 的估计值 b ， b ， b 1 k 0 1 k回归系数的估计值，当自变量个数较多时，计算十分复杂，必须依靠计算机独立完成。
4、现在， 利用 SPSS ，只要将数据输入，并指定因变量和相应的自变量，立刻就能得到结果。对多元线性回归，也需要测定方程的拟合程度、检验回归方程和回归系数的显著性。 测定多元线性回归的拟合度程度，与一元线性回归中的判定系数类似，使用多重判定系数，其中定义为：R2SSR SSE ( y -y ) = =1 - =1 -SST SST ( y -y )22式中， SSR 为回归平方和， SSE 为残差平方和， SST 为总离差平方和。同一元线性回归相类似， 0 R 2 1 ， R 2 越接近 1，回归平面拟合程度越高，反之，R2越接近 0，拟合程度越低。 R2的平方根成为负相关系数 ( R ) ，也
5、成为多重相关系数。它表示因变量 y 与所有自变量全体之间线性相关程度，实际反映的是样本数据与预测数 据间的相关程度。判定系数 R 2 的大小受到自变量 x 的个数 k 的影响。在实际回归分析中可以看到，随着自变量 x 个数的增加，回归平方和 ( SSR ) 增大，是 R2增大。由于增加自变量个数引起的 R 2 增大与你和好坏无关，因此在自变量个数 k 不同的回归方程之间比较 拟合程度时， R 2 不是一个合适的指标，必须加以修正或调整。调整方法为：把残差平方和与总离差平方和纸币的分子分母分别除以各自的自由 度，变成均方差之比，以剔除自变量个数对拟合优度的影响。调整的 R 2 为：R =1 -SSE / ( n -k -1) SSE n -1 n -1=1 - =1 -(1-R 2 )SST / ( n -1) SST n -k -1 n -k -1由上时可以看出， R 考虑的是平均的残差平方和，而不是残差平方和，因此，一 般在线性回归分析中， R 越大越好。从 F 统计量看也可以反映出回归方程的拟合程度。将 F 统计量的公式与 R 作一结合转换，可得：R 2 / kF =(1-R 2 ) /( n -k -1)2的公式可见，如果回归方程的拟合度高，F 统计量就越显著； F 统计量两月显著，回归方 程的拟合优度也越高。