《一元回归i分析.ppt》由会员分享，可在线阅读，更多相关《一元回归i分析.ppt（32页珍藏版）》请在三一文库上搜索。
1、第二节 一元线性回归,一、一元线性回归的数学模型,二、未知参数 a，b ,2的点估计,三、线性相关假设检验,一、一元线性回归的数学模型,回归关系：,前一节介绍了两个变量间的相关关系，若这两个变量中一个是可控变量，另一个是随机变量，则称这两个变量之间的相关关系为回归关系。,回归函数：,当可控变量 X和随机变量Y之间存在回归关系时，Y的数学期望E(Y)是可控变量 X 的取值 x 的函数，记为(x)，即 E(Y)= (x)，称(x)为回归函数。,回归分析就是根据试验结果，研究可控变量与随机变量之间的相关关系，建立变量间关系的近似表达式，并由此对随机变量进行预测和控制。,一元线性回归的数学模型的两个前
2、提：,1）线性相关假设：,2）随机变量Y服从正态分布，即：,这里2是与 x 无关的未知参数。,可控变量X的取值 x 无关的未知参数。,设随机变量,称其为随机误差.,则,设(x) = a + b x，这里a，b是与,一元线性回归的数学模型：,线性回归的任务：,其中a，b，2是与 x 无关的未知参数。x 是可控变量X的取值.,根据试验的观测值求出a，b，2的估计量： 从而对于任何 x ，得回归函数的估计量： （称其为随机变量Y 倚变量X的线性回归方程，其直线称为回归直线），从而为进一步的预测和控制提供依据。,二、未知参数 a，b 和2的点估计,1.未知参数 a，b 的最小二乘估计,根据偏差的平方和
3、为最小来选择待估参数的方法称为最小二乘法，由此方法得到的估计量称为最小二乘估计.,最小二乘法：,即：就一元线性回归的数学模型：,对于样本观察值：,求使得二元函数,最小的a，b 的估计量,未知参数 a，b 的最小二乘估计,为此，令,即：,用克莱姆法则解此二元线性方程组，得 a，b,的最小二乘估计：,可以证明：,从而得回归方程：,1) 也是a，b 的极大似然估计.,2) 是 y1 , y2 , , yn 的线性函数.,3) 是a，b的无偏估计，且是a，b的一切线性无偏估计量中方差最小的估计量.,回归直线的两个重要特征：,1）yi 偏离回归值 的总和为零，即,2）平面上n个点,由a，b 的最小二乘估
4、计的推导过程可得：,称 为观察值 yi 的回归值(i=1,2, ,n )。,例1. 记录市场上某种商品的价格 x 与实际供给量 y 之间的一组数据如下：,试求该商品的供给量y 倚价格x 的回归方程。,解：,2.未知参数2 的估计,首先给出残差平方和（剩余平方和）和回归平方和的概念.,残差平方和： (剩余平方和),回归平方和:,于是,即,所以,可以证明：,残差平方和 的计算方法,总成立,定理（平方和分解公式）：对容量为 n 的样本,即：,证明：,又,所以,由此可得：,即：,总偏差平方和=残差平方和+回归平方和,例2. 为研究一游泳池池水经化学处理后，水中氯气的残留量y（ppm）与经历的时间x（自
5、处理结束时算起，以h 计）的关系，测得以下数据：,（1）试求出 y 倚x 的回归方程；,（2）估计方差2.,解：,(2)未知参数2 的估计,三、线性相关假设检验,线性回归分析假定变量 x 和 y是线性相关的，即回归函数(x) 具有形式 a + b x。因此，在实际应用中，计算得到的回归方程是否具有实际意义，取决于线性相关假设是否符合实际。所以，应根据观察值，运用假设检验的方法，判断变量 x 和 y 之间是否确实存在线性相关关系，即检验系数 b 是否为零。若b=0，则(x) 不依赖于x，即变量 x 和 y 不线性相关，而线性相关关系成立时，b不应为零。,由此提出原假设,备择假设,为取得检验统计量
6、，先介绍以下定理：,定理：在一元线性回归的数学模型下，,1）b的最小二乘估计,相互独立,由此得：,从而得到对H0的检验的两种方法：T检验法和F检验法。,1.T 检验法：,备择假设,（2）取检验统计量,（3）则拒绝域为,（1）提出原假设,2.F 检验法：,备择假设,（1）提出原假设,（2）取检验统计量,（3）则拒绝域为,例3. 某地区第1年到第6年的用电量 y （单位：亿度）与年次 x 的统计数据如下：,试求y 倚x 的回归方程。并在=0.01下用T检验 法检验y 与 x 之间是否存在显著的线性相关关系.,解：,(2)先求未知参数2 的估计,提出原假设,备择假设,检验统计量,拒绝域为,=0.01，,所以拒绝H0，,因为,认为 y 与 x 之间存在显著的线性相关关系.,例4. 对某地区生产同一产品的8个不同规模的乡镇企业进行生产费用调查，得产量 x(万件)和生产费用 y(万元)的数据如下：,试求y 倚x 的回归方程。并在=0.01下用F检验 法检验y 与 x 之间是否存在显著的线性相关关系.,解：,(2),提出原假设,备择假设,检验统计量,拒绝域为,所以拒绝H0，,因为,认为 y 与 x 之间存在显著的线性相关关系.,