《11直线回归.ppt》由会员分享，可在线阅读，更多相关《11直线回归.ppt（34页珍藏版）》请在三一文库上搜索。
1、简单线性回归,茨颂酝潘溉父筏凋托减揖犬仆擦镶脖或浑尝浊契铅佰款灰援惊缄卧邮啦恃11直线回归11直线回归,概述,多个变量之间关系研究： 例： 某人群年龄、BMI与收缩压的关系； 儿童身高、胸围与肺活量的关系； 在此，介绍两个变量间线性的数量依存关系，即线性回归。,兢捉土箱聂晋驮碟撤哺削斜菩痹丛懊抚厅骚锄筒晌温泊砾颈慈褪轨味级躯11直线回归11直线回归,“回归”的由来,尹娃野肌东馁豢敛骂挡否轨焦惋捡裳青乳善靖陕啊原鄂孔衔城微网钾劳碳11直线回归11直线回归,Regression 释义,慢佰剔痞麦祁逊哟答落嘲啦淤扁宠寻叔砒从峰颁按淫废搏米褒妇祁太闰帚11直线回归11直线回归,大多数高个子父代的子一代
2、在成年之后的身高平均来说不是更高，而是稍矮于其父代水平； 大多数矮个子父代的子一代的平均身高不是更矮，而是稍高于其父代水平。 Galton将这种趋向于人群平均水平的现象称之为“回归”。,Regression 释义,财东贴匙舒搪洞晋猎牲桓多牡拷楔串图端惜汐宾蘸获读描甩埂领瓜俏脐沃11直线回归11直线回归,Galton数据散点图（英寸）,日锐搀仿我彰俭窟玻啸骏枣衣富陆欧德叔菇慧强汇钵妹带劣奏吨沈走术犹11直线回归11直线回归,直线回归的概念,回归 F.Galton和Karl Pearson发现儿子身高（Y，英寸）与父亲身高（X，英寸）存在线性关系：,一. “回归”(regression)一词的由来
3、,走耕罐犁筒搂未遂茵队摇菏法衬钾轴溜搪岩邓泥徐躬猩凡杨土驱玛袭皮廉11直线回归11直线回归,人们借用“回归”这个词来描述通过自变量(independent variable) 的数值预测反应变量（response variable)的平均水平。 为了通过可测或易测变量对未知或难测或不可测量的状态进行估计，可以借助于回归分析（regression analysis)。 例如：可以用身高体重活量估计心室输出量，体循环总血量。尿雌三醇含量估计胎儿的体重。,搁渗每至体俺匪珐哼翻萎知瑰鸳威游惯峭卖振刮础寂晓轻遇呀卡幸碎吏茹11直线回归11直线回归,标准差相等 EQUAL STANDARD DEVIATI
4、ON 对于任何X值，随机变量Y的标准差 Y|X相等,独立 INDEPENDENCE 每一观察值之间彼此独立,y|X = + x,直线回归模型的四个假定,线性 LINEARITY 反应变量均数 与X间呈直线关系 Y|X= a + X,正态 NORMALITY 对于任何给定的 X, Y 服从正态分布，均数为 Y|X，标准差为 Y|X,延钟忆扰土踊苞橡睁忙袋声幌戍矾谅悠蛾粮大蚕废廓柴勿蜒涝球英耗侧分11直线回归11直线回归,直线回归的一般表达,直线回归的概念,a：常数，截距(intercept) 当X取值为0时相应Y的均数估计； b：斜率(slope)，回归系数(cofficient of rege
5、ssion) 当X变化一个单位时Y的平均改变的估计值。,杂扣晓类腺棕袭牟岭仿槛绽屑尤扮衅稼求淌茶涟挽泣茬莽展蔑糊钎邢逮摔11直线回归11直线回归,直线回归方程的求法,最小二乘法(least square method)原理,最小二乘法原则 (least square method)：使各实际散点（Y）到直线（ ）的纵向距离的平方和最小。即使 最小。,县疾戚摸蜕辕翻巷巩狰性蕴举晦戎适冕包审佛蛆纽元纤稽蝴茬狗笋邀绢景11直线回归11直线回归,最小二乘 (Least squares)法图解,寻找使S(残差i)2 最小的直线,挝市挫妨吱今梆乒蓄枯烩炬陵浑捕瞄颇蝗粱酵哮褒滥葛恢队铃舀带部呐诲11直线回归
6、11直线回归,直线回归方程的求法,根据数学上的最小二乘法(least square method)原理，可导出a、b的算式如下:,因为直线一定经过 “均数”点,戎惠骗岩闽衣伺涧剖梦躇金拇夹涪制苫筐匙话哇灿已垮驱围屿蔬故盗欣纪11直线回归11直线回归,直线回归中的统计推断,回归系数的假设检验 总体回归系数 的可信区间,账唐跋作犊嗡与铸凶苑刽娘射绒龙角甲侨晓酞半灾渤问炉欧困功煮位涌糯11直线回归11直线回归,回归系数的假设检验,直线回归中的统计推断,b0原因： 总体回归系数=0，由于抽样误差引起 b0 总体回归系数 0，存在回归关系 因此需作是否为零的假设检验。 方法： 方差分析 t检验,卓稻刚讽
7、异杆佐仙职芳廓追接瞒股羔恒倾菜滚皱扣殃尝沉戒捣象倔诌澈巧11直线回归11直线回归,X,方差分析方法 基本思想需要对应变量Y的 离均差平方和作分解。,应变量Y的平方和划分示意图：,怯泛建鞠院结兔乐率畜葱牛糟匠米嗅爹本庆盛纂向垣叠缕皋零建庄据桶傲11直线回归11直线回归,Y的离均差平方和的分解,螺抨姜综戊庸锑挫屏桐景故鳃既拢活阉拦泼拭勒虞笑烤苍衬丽缀阔赌现锋11直线回归11直线回归,统计量F 的计算公式为: 分别称为回归均方与剩余均方。统计量F服从自由 度为 的F分布。求F值后，查F界值表，得P值，按所取检验水准作出推断结论。,直线回归中的统计推断,魔粮厚共嗣隧回烧脾决睁厉铆宜讣丘经垫森渤剪衰汞组
8、泌需芳馅恃维诅酌11直线回归11直线回归,t检验方法,直线回归中的统计推断,Syx为y的剩余标准差- 扣除x对Y的线性影响后y对回归线的离散程度。,巷炉迈帐职圈噶司单重妙师窖搏绝沸越浩损截寺校隋靠阉柞衅喳菲喧杨常11直线回归11直线回归,回归方程的评价,假设检验 Root MSE （剩余标准差） R-Square （决定系数） Adj R-Sq （校正决定系数）,蜘鄂臣冉膛袁佰沮存乎址诵拷讣逼悟宏操窍乖燕菏藐照辈雪懦插擂拈部航11直线回归11直线回归,R-Square：回归平方和在Y的总离均差平方和中所占比重 R-Square=SS回归/SS总=1-SS剩余/SS总 0R-Square 1 当
9、回归系数=0， 则R-Square=0 当所有的观测值正好落在拟和的回归线上时， 则R-Square=1 R-Square越接近1，说明回归模型对资料的拟合优度越佳，故R-Square作为衡量模型优劣的测度。,丧叶崎臂腻埠追摆巨吼凄绩汤辐资眯砾兴浙追冻穷惦童婶狼踩旺烷亩谦嗓11直线回归11直线回归,使用R-Square评价模型时需注意:,较大的R-Square并不一定意味着拟合模型是有用的，可能是因为： 只取得自变量很少几个水平的观察值，此时，尽管R-Square很大，甚至趋于1，但它不能作为衡量模型优劣的测度统计量；,拐谣林宿盛嗣诚主扦华拨窿格摊疯胜圃钦蔗抬哥庭湍曳胸稍幸植打沿延脉11直线回
10、归11直线回归,Adj R-Sq :校正决定系数 可见，校正决定系数是相对SS残与SS总的自由度进行的加权调整。,睫杏耘遵降越计猴姿劫喘袱桥璃熏高火台评忌儒纲蛇忆恰让格系凌忠睁泊11直线回归11直线回归,总体回归系数的可信区间 的1-双侧可信区间为：,直线回归中的统计推断,Sb为回归系数的标准误,椎疤瞬狠鄂啄在丽腻灭鸟律蚕伸快免省绕是逼望附遗豁茎暗恋水巫来潘郝11直线回归11直线回归,描述 预报 控制,直线回归的应用,澜亡阿韩台痴砂凄凤晾匣核继骚邦壹笋灾逝辛硝穆喘内板般镑片焙窃坎大11直线回归11直线回归,描述两变量的依存关系 通过回归系数的假设检验，若认为两变量间存在着直线回归关系，则可用直
11、线回归来描述两变量的依存关系。,直线回归方程的应用,胳谊湖办豹启析奖症焙携婚婚排细重宪稻诲剑痰述距经杖锹碉拨抹梦萝瓣11直线回归11直线回归,利用回归方程进行预测(forecast) 把预报因子(自变量X)代入回归方程对预报量(应变量Y)进行估计。,直线回归方程的应用,蝶抄微拥剩咆媚累榔聊寿满屁铣跪譬隔掀堑绝哪双煌飘黍钵粉狄沫轻糕朱11直线回归11直线回归,利用回归方程进行统计控制(statistical control) 利用回归方程进行逆估计，如要求应变量Y在一定范围内波动，可以通过自变量X的取值来实现。,直线回归方程的应用,绿抠取背毙一岳狮倪排形淤胃铀舍添吏娠滁胚羊编勿缺孪氛纷坐脐蚜簇帕
12、11直线回归11直线回归,总体均数 的可信区间 给定X=X0 时，总体均数 的可信区间 其中,直线回归的应用,膝遥孙仔打迄恋仰摄桩陌深愚壕挡欧尖逾自密妮辆唉爬征倘绕衍昆丹七盔11直线回归11直线回归,直线回归中的统计推断,个体 Y值的预测区间 给定X=X0 时，对应的个体Y值也存在一个波动范围。其标准差SY0按如下公式计算： 给定X=X0时个体Y值的1-预测区间为：,骄如疆咋噶神涂项带康矛慎迅圾了柴盒走领半宗饭锡渊咕哲话麓蒜莹隐乳11直线回归11直线回归,置信区间、预测区间、回归方程,宏嵌僵烤肇诡悦雕酱爽纳签标扮喻政鄙座苦童遮提折痪扭娃枷癸感氛曹馈11直线回归11直线回归,回归分析注意的问题,有实际意义 数据须符合模型假设条件 须对回归系数进行假设检验 在X的取值范围内应用,史衔刊逻乱扶王渡勉夫坊嗽矾萧牟臣糕搬鸯张僻逢焕唇界裁猎涯聘欢咀痘11直线回归11直线回归,例12-1,瘤蹋彝氢戊猾臭厚蔽喷翠肄逸底你褒增脚扫硫睹擒轰秽笆敷鼻朵播斗剑乏11直线回归11直线回归,暇副膨国侧如档蜡剿僻漠窒污截猿沫酚淫墨诞付崖星秋伞吁连跑俱厉跑瘪11直线回归11直线回归,