第1节 点估计.pdf

《第1节 点估计.pdf》由会员分享，可在线阅读，更多相关《第1节 点估计.pdf（33页珍藏版）》请在三一文库上搜索。

1、第七章参数估计第七章参数估计 第二节 基于截尾样本的最大似然估计 第三节 估计量的评选标准 第四节 区间估计 第五节 正态总体均值与方差的区间估 第二节 基于截尾样本的最大似然估计 第三节 估计量的评选标准 第四节 区间估计 第五节 正态总体均值与方差的区间估 第一节 点估计第一节 点估计 计计 第六节第六节 (0-1)分布参数的区间估计 第七节 单侧置信区间 分布参数的区间估计 第七节 单侧置信区间 第七章课后作业第七章课后作业 1，2，3，8，9，12，13， 15-25，27. 第一节点估计第一节点估计 一、点估计 二、矩估计法 三、最大似然估计 一、点估计 二、矩估计法 三、最大似然估

2、计 一、引例一、引例 例某煤厂一天中着火现象次数， X ( ) 0 未知，样本值如下，试估计. = = 250 12622549075 6543210 次着火天数发生 着火次数 次着火天数发生 着火次数 k k 解 X ( ) 但E(X) = = = 6 k k 1 6 k k 0 kn n =+ +=. 1 01 90611 22 250 =x 想到想到: 用样本均值来估计总体均值 E(X)x 得的估计为1.22. E(X) = = )1 . 0,( 2 N （假定身高服从正态分布） 假如我们要估计某队男生的平均身高. 现从该总体选取容量为5的样本，我们的 任务是要根据选出的样本（5个数）求

3、出总体 均值的估计. 而全部信息就由这5个数组成 . （假定身高服从正态分布） 假如我们要估计某队男生的平均身高. 现从该总体选取容量为5的样本，我们的 任务是要根据选出的样本（5个数）求出总体 均值的估计. 而全部信息就由这5个数组成 . 设这5个数是:设这5个数是: 1.65 1.67 1.68 1.69 1.78 这是这是点估计.点估计. 这是这是区间估计区间估计.估计 在区间估计 在区间1.57, 1.84内，内， 估计为估计为1.68， 二、点估计二、点估计 总体，分布函数是待估参数.X F x( , ), 12n XXX, 是样本，是的 12n xxx, X 一个样本值，构造一个适

4、当的统计量 ),( 21n XXXL 用它的观察值 12n x xx (,)L 来估计未知参数， 称是的估计量，),( 21n XXXL 是的估计值. 12n x xx (,)L 在不致混淆的情况下，统称估计量和估计值 为估计，并都简称为 . 总体 样 本 统计量 总体 样 本 统计量 描述描述 作出推断作出推断 随机抽样随机抽样 研究统计量的性质和评价一个统计推断的 优良性，完全取决于其抽样分布的性质 研究统计量的性质和评价一个统计推断的 优良性，完全取决于其抽样分布的性质. 三、矩估计法三、矩估计法 用用样本矩样本矩作为作为总体矩总体矩的一种估计方法的一种估计方法. 总体，样本总体，样本X

5、 12n X ,X ,X 连续，概率密度连续，概率密度);,;( 1k xf LX 1 PX= =p( ,) k xx LX离散，分布律离散，分布律 1 ( ,) k L待估待估 总体总体前阶矩前阶矩：k l l E X() = = l l E X() = = l k x f xx 12 ( ;,)dL = = 12 ( ;,) l k x RX x p xL = = 样本样本前阶矩前阶矩：k = = = = n i l il X n A 1 1 1 2 k = = = = = = 11 22 A A A kk = = = = = = M 矩估计量矩估计量 矩估计值矩估计值 例1 设总体，均值

6、及方差都存在X 2 ,),0( 未知，又是一样本， 12n XXX, 试求和的矩估计量. 2 总体的 一、二阶矩：解 1 E(X) = = 2 2 E(X ) = = 2 D(X)E(X)= =+ + 22 = =+ + 样本的一、二阶矩： n 1k k 1 1 AXX n = = = = n 2 2k k 1 1 AX n = = = = 11 22 A A = = 令 = = 令 1 22 2 A A = = + += = 总体的 一、二阶矩： 1 E(X) = = = 22 = =+ + 2 2 E(X ) = = 样本的一、二阶矩： n 1k k 1 1 AXX n = = = = n

7、 2 2k k 1 1 AX n = = = = 1 22 21 AX AA = = 2 n 2 k k 1 1 XX n = = n 2 k k 1 1 (XX n ) = = = 注注上述结果说明：总体均值与方差的上述结果说明：总体均值与方差的 矩估计量不因不同的总体分布而变化矩估计量不因不同的总体分布而变化. 例 设总体, 未知， 是一个样本，求a,b的估计值. b)U(a,Xb, an21 x,x,x , 2 ba )X(E 1 + + = 2 2 E(X ) = = 解 2 D(X)E(X)= =+ + 2 2 (ba)ab () 122 + =+ + =+ 11 22 A A =

8、= 令 = = 令 n2 22 k k 1 ab x 2 (ba)ab1 ()x 122n = = + = + += + = + += 得得 n 2 i i 1 n 2 i i 1 3 a (xx) n 3 bx(xx) n = = = = = =+ = =+ n 2 i i 1 n 2 i i 1 3 a (xx) n 3 bx(xx) n = = = = = =+ = =+ 的矩估计值为：b, a 三、最大似然估计三、最大似然估计 最大似然估计是在总体类型已知 条件下使用的一种参数估计方法 最大似然估计是在总体类型已知 条件下使用的一种参数估计方法 . 它首先是由德国数学家高斯 在 它首先

9、是由德国数学家高斯 在1821年提出的年提出的 . Gauss Fisher 然而，这个方法常归功于 英国统计学家费歇 然而，这个方法常归功于 英国统计学家费歇 . 费歇在费歇在1922年重新发现了 这一方法，并首先研究了这种 方法的一些性质 年重新发现了 这一方法，并首先研究了这种 方法的一些性质 . 最大似然法的最大似然法的基本思想基本思想 先看一个简单例子： 一只野兔从前方窜过 先看一个简单例子： 一只野兔从前方窜过 . 是谁打中的呢？ 某位同学与一位猎 人一起外出打猎 是谁打中的呢？ 某位同学与一位猎 人一起外出打猎 . 如果要你推测，如果要你推测， 你会如何想呢你会如何想呢? 只听一

10、声枪响，野兔应声倒下只听一声枪响，野兔应声倒下 . 你就会想，只发一枪便打中你就会想，只发一枪便打中,猎人命 中的概率一般大于这位同学命中的概率 猎人命 中的概率一般大于这位同学命中的概率. 看来这一枪是猎人射中的看来这一枪是猎人射中的 . 这个例子所作的推断已经体现了这个例子所作的推断已经体现了最 大似然法 最 大似然法的基本思想的基本思想 . 1离散型随机变量的最大似然估计离散型随机变量的最大似然估计 ，分布律，待估参数，X P Xxp x= = = ( , ),( , ), ，是样本值， 12n xxx , -样本联合分布 11nn P XxXx=, 易知 n i i 1 p(x , )

11、 = = = = n 1ni i 1 LL xxp x = = =( )(, )(, ),令 -样本的似然函数 取使 1n1n L xxmaxL xx = (, )(, ), 这里 与有关，称12n xxx , 12n (xxx ,) 为参数的最大似然估计值 ， 为参数的最大似然估计量. 12n (XXX ,) 复习：复习： 对于对于XOY平面上任意区域平面上任意区域G有：有： dxdy PX Yxy 22 (,), = = G dxdyyxfGYXP),(),( 若 与 独立，则若 与 独立，则XY dxdy xy 22 f x y dxdy , ( , ) = = dy dx x y( ,

12、 ) XY dxdy xy 22 fx fy dxdy , ( )( ) = = ( )( ) XY fx fy dxdy 2 连续型随机变量的最大似然估计连续型随机变量的最大似然估计 的概率密度， 待估, X f x( , ) n21 X,X,X 是样本，1 2n xxx, 是样本值 则的联合概率密度为 n21 X,X,X = = n i i xf 1 );( n12 12n12n dxdxdx PXXXxxx 222 (,), = n ii i 1 f (x ; )dx 故仍令： 1n LL xx= =( )(, ) -样本的似然函数 取使 1n1n L xxmaxL xx = (, )(

13、, ), 取 使上式达到最大值， 不随而变化， = = n 1i i dx 但因子 n i i 1 f x = = = = (, ) 12n (xxx ,) 为的最大似然估计值， 则称 12n (XXX ,) 是最大似然估计量. 注 1、许多情况下，和关于可微， p x( , ) ),( xf 这时可取中的； d L( )0 d = = )(L )lnL( 在同一处取得极值， 又因与 d lnL0 d = =( ) 解得. 因此可从 2、求最大似然估计的步骤： 1. 写出i L( )(, )f x = = 2. 取对数 i lnL( )ln(, )f x = = 3. d lnL( )0 d

14、= =解方程组 是来自 X 例未知， 22 ,),(NX , 12n x xx 的一个样本值. 求的最大似然估计量. 2 , 的概率密度X x f xe 2 2 () 2 2 1 ( , ,) 2 = = 解 令 2 L( ,) 2n i 2 i 1 x1 exp 22 () () = = = = n n2 i 2 i 1 expx 22 1 1 ()() ) = = = 2 lnL( ,) 而 n 22 i 2 i 1 nn1 ln 2lnx 222 ()() = = = = 2 1 1 ln0, n i i Lxn = = = 令 = 令 2 2222 1 1 ln()0. 22() n

15、i i n Lx = = = += = += 2 lnL( ,) 而 n 22 i 2 i 1 nn1 ln 2lnx 222 ()() = = = = n i i 1 1 xx n = = = = = = = = = = = = = ) n i i1 n 22 i i1 1 XX n 1 XX n （ n 22 i i 1 1 (xx n ) = = = 最大似然估计量为 与矩估计量一致. 例 已知某种灯泡的寿命服从, 参数),(N 2 未知，随机抽取10只，寿命（小时）为 1067，919，1196，785，1126，936， 918，1156，920，948， 试用最大似然 估计法求灯泡

16、能使用1300小时的概率. 解P(X1300) 需求需求 由上题结论得: x= = 9971 997 1 10 .= n 2 i i 1 1 xx n () = = = 10 2 i i 1 1 xx 10 () = = = 2 10 2 2 i i 1 1 x10x15574 29 10 (). = = = 80.124 = = P(X1300) =1P(X1300) X997.11300997.1 =1P() 124.80124.80 1300997.1 1() 124.80 =0.008= = 例 设总体的概率分布为： p 2 1 2 3 )1(2 2 )1( 现在观察容量为3的样本 ,

17、 2x, 1x 21 = = = , 1x3= = 求的最大似然估计值. X X 解令( )L ()() 225 2121 = = )1(ln5lnln2)(lnL + + += = 5 6 = dlnL( ) d 令 51 0 1 = = 命题 设的函数具有单值反函数 )( = = ),( = =又是的概率密度的参数 X),( xf 的最大似然估计量，则是的最 ) ( = = 大似然估计. ),x,x(Lmax) ,x,x(L n1n1 = = Q ( ) = = 证明证明 ( ) = ),(,x,x(Lmax)(,x,x(L n1n1 = 即证明是的最大似然估计. ) ( = =)( 如

18、n 22 i i 1 1 (xx) , n = = = 的估计为 = = = n 1i 2 i 2 )xx( n 1 22 () = 为来自总体 的简单随机样本为来自总体 的简单随机样本.求求: 的矩估计 的矩估计量量 的最大似然估计 的最大似然估计量量. X 例例设总体的分布函数为设总体的分布函数为X ()() 1 1,1 , 0,1 x F xx x = = 1, 若未知参数若未知参数 12 , n XXXL （2004年数一年数一9分）分） = = 解解的概率密度的概率密度:X ()()E X= = ()(),xfxdx + + = = = 1 1 xdx x + + + + 1 dx

19、x + = = ( () ),fx ( () ),Fx = = X ? = = 1 ,1x x + + 0,1x , 1 = = X . 1 X X = = 当当( ) 时时, 1 i x 1,2,in= =L0 ( ( ) )L ()() 1 , n i i fx = = = = in= =1,2,L ()() 1 12 ,1, n i n x x xx + + L 其它其它 0, ( )( )L ()() 1 1 n n xx + + = = L ()() 1 ln1ln, n i i nx = = =+=+ 1 ln n i i n x = = = ( ( ) )lnL ( ( ) )l

20、ndL d 令令 ( )( )ln 0, dL d = = ? = = 最大似然最大似然估计量估计量为为: 解得解得 ? = = = = 1 , ln n i i n x = = 1 . ln n i i n X 小结：小结： 点估计点估计 矩估计法矩估计法 基本步骤基本步骤 最大似然估计法最大似然估计法 基本步骤基本步骤 1、求矩估计的步骤：、求矩估计的步骤： 用用样本矩样本矩作为作为总体矩总体矩的一种估计方法的一种估计方法. l l E X() = = 样本样本前阶矩前阶矩：k = = = = n i l il X n A 1 1 11 22 A A A kk = = = = = = M 总体总体前阶矩前阶矩： 矩估计量矩估计量 矩估计值矩估计值 k l l E X() = = 1 2 k = = = = = = l k x f xx 12 ( ;,)dL = = 12 ( ;,) l k x RX x p xL = = 2、求最大似然估计的步骤：、求最大似然估计的步骤： 1. 写出i L( )(, )f x = = 2. 取对数 i lnL( )ln(, )f x = = 3. d lnL( )0 d = =解方程组