文章插图
(
文章插图
) 。作前n 个随机变数的算术平均,记为
文章插图
即
文章插图
,则对于任意正数
文章插图
,恆有
文章插图
文章插图
式中,
文章插图
是一个随机事件,等式表明,当
文章插图
时,这个事件的机率趋于1,即对于任意正数
文章插图
,当n 充分大时,不等式
文章插图
几乎都是成立的 。通常我们称序列
文章插图
依机率收敛于
文章插图
。一般地,设
文章插图
为一个随机变数序列,a 是一个常数,若对于任意正数
文章插图
都有
文章插图
则称随机变数序列
文章插图
依机率收敛于a。定理1 表明,当n 很大时,随机变数
文章插图
的算术平均
文章插图
接近于数学期望
文章插图
,这种接近是机率意义下的接近 。证明方法这个大数定律的证明确实有几种不同的方法 。最早的证明是由数学大师Kolmogorov给出的 。Durrett (2010)的书上用的是Etemadi (1981)的方法,需要截断X,用到现代机率论的知识如Borel-Cantelli引理、Kolmogorov三级数定理、Fubini定理等 。(感谢读者指出,Durrett的书在倒向鞅一章中给出了大数定律的倒向鞅方法证明,只需要用到倒向鞅的知识和Hewitt-Savage 0-1律,不过这也是现代机率论的知识 。)此外,还有很多不同的大数定律,不同分布的,不独立的序列等 。定律也不一定是关于随机变数的,也可以是关于随机函式的,甚至随机集合的等等 。以数学家命名的也有Khinchin大数定律(不独立序列的强大数定律)、Chebyshev大数定律(弱大数定律(1))、Poisson大数定律(不同机率的随机事件序列的大数定律)、Bernoulli大数定律(随机事件的大数定律)、Kolmogorov大数定律(强大数定律(6))等等……中心极限定理定理2 (同分布的中心极限定理)设随机变数
文章插图
相互独立,服从同一分布并且具有有限的数学期望和方差,
文章插图
,
文章插图
则随机变数