概率论与数理统计第五章大数定律与中心极限定理

《概率论与数理统计第五章大数定律与中心极限定理》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、第五章大数定律与中心极限定理第一节大数定律在第一章中我们已经指出，人们经过长期实践认识到，虽然个别随机事件在某次试验中可能发生也可能不发生，但是在大量重复试验中却呈现明显的规律性，即随着试验次数的增大，一个随机事件发生的频率在某一固定值附近摆动.这就是所谓的频率具有稳定性.同时，人们通过实践发现大量测量值的算术平均值也具有稳定性.而这些稳定性如何从理论上给以证明就是本节介绍的大数定律所要回答的问题.在引入大数定律之前，我们先证一个重要的不等式——契比雪夫（Chebyshev）不等式.设随机变量X存在有限方差D（X），则有对任意ε＞0，P

2、{｜X-E（X）｜≥ε}≤.(5.1)证如果X是连续型随机变量，设X的概率密度为f(x),则有P{

3、X-E（X）

4、≥ε}=≤请读者自己证明X是离散型随机变量的情况.契比雪夫不等式也可表示成P{｜X-E（X）｜＜ε}≥1-.（5.2）这个不等式给出了在随机变量X的分布未知的情况下事件{｜X-E（X）｜＜ε}的概率的下限估计，例如，在契比雪夫不等式中，令ε=3，4分别可得到P{｜X-E（X）｜＜3}≥0.8889,P{｜X-E(X)｜＜4}≥0.9375.例5.1设X是掷一颗骰子所出现的点数，若给定ε=1,2，实际计算P{

5、X-E（X）

6、

7、≥ε}，并验证契比雪夫不等式成立.解因为X的概率函数是P{X=k}=1/6（k=1，2，…，6），所以E（X）=7/2,D（X）=35/12,P{

8、X-7/2

9、≥1=P{X=1}+P{X=2}+P{X=5}+P{X=6}=2/3;P{

10、X-7/2

11、}≥2}=P{X=1}+P{X=6}=1/3.ε=1：=35/12>2/3,ε=2：=1/4×35/12=35/48>1/3.10可见契比雪夫不等式成立.例5.2设电站供电网有10000盏电灯，夜晚每一盏灯开灯的概率都是0.7，而假定开、关时间彼此独立，估计夜晚同时开着的灯数在6800与72

12、00之间的概率.解设X表示在夜晚同时开着的灯的数目，它服从参数为n=10000,p=0.7的二项分布.若要准确计算，应该用贝努里公式：P{6800

13、X-7000

14、<200}≥1-≈0.95.可见，虽然有10000盏灯，但是只要有供应7200盏灯的电力就能够以相当大的概率保证够用.事实上，契比雪夫不等式的估计只说明概率大于0.95，后面将具体求出这个概率约为0

15、.99999.契比雪夫不等式在理论上具有重大意义，但估计的精确度不高.契比雪夫不等式作为一个理论工具，在大数定律证明中，可使证明非常简洁.定义5.1设Y1，Y2，…，Yn，…是一个随机变量序列，a是一个常数，若对于任意正数ε有，则称序列Y1，Y2，…，Yn，…依概率收敛于a,记为YnPa.定理5.1（契比雪夫（Chebyshev）大数定律）设X1，X2，…是相互独立的随机变量序列，各有数学期望E（X1），E（X2），…及方差D（X1），D（X2），…，并且对于所有i=1,2,…都有D（Xi）0，

16、有.（5.3）证因X1，X2，…相互独立，所以.又因由(5.2)式，对于任意ε>0，有,但是任何事件的概率都不超过1，即,10因此.契比雪夫大数定律说明：在定理的条件下，当n充分大时，n个独立随机变量的平均数这个随机变量的离散程度是很小的.这意味，经过算术平均以后得到的随机变量将比较密的聚集在它的数学期望的附近，它与数学期望之差依概率收敛到0.定理5.2（契比雪夫大数定律的特殊情况）设随机变量X1，X2，…，Xn，…相互独立，且具有相同的数学期望和方差:E（Xk）=μ，D（Xk）=σ2（k=1，2，…）.作前n个随机变量的算术平均则对于

17、任意正数ε有.(5.4)定理5.3（贝努里（Bernoulli）大数定律）设nA是n次独立重复试验中事件A发生的次数.p是事件A在每次试验中发生的概率，则对于任意正数ε>0，有，（5.5）或.证引入随机变量Xk=,显然nA=.由于Xk只依赖于第k次试验，而各次试验是独立的.于是X1，X2，…，是相互独立的；又由于Xk服从（0-1）分布，故有E（Xk）=p，D(Xk)=p(1-p),k=1,2,….由定理5.2有,即.10贝努里大数定律告诉我们，事件A发生的频率依概率收敛于事件A发生的概率p，因此，本定律从理论上证明了大量重复独立试验中，

18、事件A发生的频率具有稳定性，正因为这种稳定性，概率的概念才有实际意义.贝努里大数定律还提供了通过试验来确定事件的概率的方法，即既然频率与概率p有较大偏差的可能性很小，于是我们就可以通过做试验确定某事件发生的