《2.1第二章参数估计.ppt》由会员分享，可在线阅读，更多相关《2.1第二章参数估计.ppt（35页珍藏版）》请在三一文库上搜索。
1、第二章 参数估计,参数估 计问题,假设检 验问题,点 估 计,区间估计,统计 推断 的基 本问 题,参数检验,非参数检验,什么是参数估计？,参数是刻画总体某方面概率特性的数量.,当此数量未知时,从总体抽出一个样本， 用某种方法对这个未知参数进行估计就 是参数估计.,例如，X N ( , 2),若, 2未知, 通过构造样本的函数, 给出 它们的估计值或取值范围就是参数估计 的内容.,参数估计的类型,点估计 估计未知参数的值,区间估计 估计未知参数的取值范围， 并使此范围包含未知参数 真值的概率为给定的值.,2.1 点估计方法,点估计的思想方法,设总体X 的分布函数的形式已知, 但含有一个或多个未
2、知参数：1,2, ,k,设 X1, X2, Xn为总体的一个样本,构造 k 个统计量：,随机变量,当测得样本值(x1, x2, xn)时,代入上述 统计量，即可得到 k 个数：,数 值,如何构造统计量？,如何评价估计量的好坏？,常用的点估计方法,频率替换法,利用事件A 在 n 次试验中发生的频率,作为事件A 发生的概率 p 的估计量,方法,用样本 k 阶矩作为总体 k 阶矩的估计量, 建立含有待估参数的方程, 从而解出待估参数,一般, 不论总体服从什么分布, 若总体期望 与方差 2 存在, 则它们的矩估计量分别为,矩法,注意：不是 !,事实上，按矩法原理，令,设待估计的参数为,设总体的 k 阶
3、矩存在，记为,样本 X1, X2, Xn 的 r 阶矩为,令, 含未知参数 1,2, ,k 的方程组,解方程组 , 得 k 个统计量：,未知参数 1, ,k 的矩估计量,代入一组样本值得 k 个数:,未知参数 1, ,k 的矩估计值,例2 设总体 X N ( , 2 ), X1, X2, Xn为 总体的样本, 求 , 2 的矩法估计量.,例3 设总体 X Exp(), X1, X2, Xn为总 体的样本, 求 的矩法估计量.,问题： 的矩估计是否唯一？,结论：矩估计可能不存在（如Cauchy分布的参数的矩估计不存在），即使存在也有可能不唯一（如例3）。,例4 设从某灯泡厂某天生产的灯泡中随机
4、抽取10只灯泡，测得其寿命为(单位:小时) 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200 试用矩法估计该厂这天生产的灯泡的平均 寿命及寿命分布的方差.,例5 设总体 X U (a, b), a, b 未知, 求参数 a, b 的 矩法估计量.,极大似然估计法,思想：实际推断原理（一次试验就出 现的事件有较大的概率）,例如: 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球,现从两箱中任取一箱, 并从箱中任取一球, 结果所取得的球是白球.,答: 第一箱.,问: 所取的球来自哪一箱的
5、可能性大？,例6 设总体 X 服从0-1分布,且P (X = 1) = p, 用极大似然法求 p 的估计值.,解,总体 X 的概率分布为,设 x1, x2, xn为总体样本X1, X2, Xn 的样本值,则,对于不同的 p , L (p)不同, 见下图,现经过一次试验，,在容许范围内选择 p ，使L(p)最大,注意到，ln L(p)是 L 的单调增函数,故若 某个p 使ln L(p)最大, 则这个p 必使L(p)最大。,称这样得到的,为参数 的极大似然估计值,称统计量,为参数 的极大似然估计量,极大似然法的思想,其中f(x,)为总体的密度函数或分布律。,若 X 为离散型随机变量, 其分布律为,
6、则样本 X1, X2, Xn的联合分布为,或,称 L( ) 为样本的似然函数,若 X 连续, 令 f (x, )为X 的密度函数,则似然函数为,注,未知参数可以不止一个, 如1, k,设X 的密度(或分布)为,则定义似然函数为,为似然方程组,若对于某组给定的样本值 x1, x2, xn， 参数 使似然函数取得最大值, 即,显然，,称统计量,为1, 2, k 的极大似然估计量,例7 设总体 X N (, 2), x1, x2, xn 是 X 的样本值, 求 , 2 的极大似然估计.,解, 2 的极大似然估计量分别为,总结：极大似然估计方法,1） 写出似然函数,可得未知参数的极大似然估计值,L是
7、的可微函数,解似然方程组,若,注：似然方程组法可能不适用, 此时需用其它方法求极大似然估计值. 见下例：,例8 设 X U (a,b), x1, x2, xn 是 X 的一个 样本值, 求 a , b 的极大似然估计值与极大 似然估计量.,似然函数为,似然函数只有当 a xi b, i = 1,2, n 时 才能获得最大值, 且 a 越大, b 越小, L 越大.,令,xmin = min x1, x2, xn xmax = max x1, x2, xn,取,都有,故,是 a , b 的极大似然估计值.,分别是 a , b 的极大似然估计量.,问 题,1) 待估参数的极大似然估计是否一定存在?,2) 若存在, 是否惟一?,设 X U ( a , a + ), x1, x2, xn 是 X的一个样本, 求 a 的极大似然估计值.,解,由上例可知, 当,时, L 取最大值 1, 即,显然, a 的极大似然估计值可能不存在, 也 可能不惟一.,例9,不仅如此, 任何一个统计量,若满足,都可以作为 a 的估计量.,极大似然估计的不变性,设 是 的极大似然估计值, u( ),( )是 的任一函数,则 是 u( ) 的极大似然 估计值.,如 在正态总体N (, 2)中, 2的极大 似然估计值为,是 2的函数,故 的极大,lg 的极大似然估计值为,似然估计值为,