《第五大数定律和中心极限定理.ppt》由会员分享，可在线阅读，更多相关《第五大数定律和中心极限定理.ppt（11页珍藏版）》请在三一文库上搜索。
1、,第五章 大数定律和中心极限定理,大数定律和中心极限定理是概率论的重要基本理 论，它们揭示了随机现象的重要统计规律，在概率 论与数理统计的理论研究和实际应用中都具有重要 的意义。本章将介绍这方面的主要内容。,5.1 大数定律,迄今为止,人们已发现很多大数定律(laws of large numbers) 所谓大数定律，简单地说，就是大量数目的随机变量所呈现 出的规律，这种规律一般用随机变量序列的某种收敛性来刻 画。本章仅介绍几个最基本的大数定律。下面，先介绍一个 重要的不等式。 一、切比雪夫（Chebyshev）不等式 对于任一随机变量X ,若EX与DX均存在,则对任意0, 恒有 . (5-1
2、),证明 我们仅给出X为连续型随机变量情形下的证明。设 为连续型随机变量X的密度函数，则有 （5-1）式的等价形式为 . (5-2),切比雪夫不等式说明，DX越小，则 越小， 越大， 也就是说，随机变量X取值 基本上集中在EX附近，这进一步说明了方差的意义。 同时当EX和DX已知时，切比雪夫不等式给出了概率 的一个上界，该上界并不涉及随机变X 的具体概率分布，而只与其方差DX和有关，因此， 切比雪夫不等式在理论和实际中都有相当广泛的应 用。需要指出的是，虽然切比雪夫不等式应用广泛， 但在一个具体问题中，由它给出的概率上界通常比较 保守。,二、大数定律 在叙述大数定律之前，首先介绍两个基本概念。
3、 定义5.1 设 为一个随机变量序列，记为 ，若对任何n2，随机变量 都相互独立 ，则称 是相互独立的随机变量序列。 定义5.2 设 为一随机变量序列，X为一随机变量 或常数，若对任意0，有 则称 依概率收敛于X,记为 或 ， . 下面是一个带普遍性结果的大数定律。,定理5.1 （切比雪夫大数定律）设 是相互独立的随机变 量序列，并且 和 均存在， ,同时，存在常数C，使 则对任意的0，有 （5-3） 即， . 证明 因 为独立随机变量序列，故 . 根据切比雪夫不等式可得 ,所以 利用计算极限的夹逼准则可知，（5-3）式成立。 本结果由俄国数学家切比雪夫于1866年证明，是关于大数 定律的普遍
4、结果，许多大数定律的古典结果都是它的特例。 推论1 设 是独立同分布的随机变量序列，且 则对任意0，有 . （5-4）,证明 只需将 代入（5-3）即证（5-4）. 推论1使我们关于算术平均值的法则有了理论上的依据。如 我们要测量某段距离，在相同条件下重复进行n次，得n个测 量值 ，它们可以看成是n个相互独立的随机变量, 具有相同的分布、相同的数学期望和方差 ，由推论1的大 数定律知，只要n充分大，则以接近于1的概率保证 这便是在n较大情况下反映出的客观规律,故称为“大数”定律。 比推论1条件更宽的一个大数定律是辛钦（Khintchine）大 数定律,它不需要推论1条件中“方差 存在”的限制，
5、而在 其它条件不变的情况下，仍有（5-4）式的结论。,推论2（贝努利大数定律）设事件A发生的概率为p，在n重 贝努利试验中A发生的频率为 ，则对任意的0，有 , （5-5） 即， . 证明 首先引入一随机变量序列 ，对每个Xi取值如下： 则 ， . 从而， ， , . 将 一并代入（5-4）式便得（5-5）式. 这是历史上最早的大数定律，是贝努利在1713年建立的。 概率论的研究到现在约有300多年的历史，最终以事件的频率 稳定值来定义其概率。作为概率这门学科的基础，其“定义”,的合理性这一悬而未决的带根本性的问题,由贝努利于1713年发 表的这个“大数定律”给予了解决，被称为概率论的第一篇论文, 为概率论的公理化体系奠定了理论基础。之所以被成为“定律”, 是这一规律表述了一种全人类多年的集体经验因此 ，对尔后的 类似定理统称为大数“定律”。 在大数定律中，由 可知，对充分大的 n，有 ， 或 ，根据实际 推断原理,概率论中把这两类特别的随机事件实际上当作非随机 事件来处理的,也就不能引起人们的重视.但贝努利正是通过对这 种所谓“非随机事件”的研究,以严谨的极限形式,揭示了这种接近 于1(或0)事件的规律,由此解决了概率论与数理统计的一系列问 题.这对学习和研究者来讲是一个很大的启发.,