簡述

複習一下概率論大數定理的證明。
證明大數定理，需要先證明切比雪夫（Chebyshev）不等式。

Chebyshev不等式證明

定理 設隨機變數X具有數學期望 $E\left(x\right)=\mu$

證明： 只需要考慮連續變數的情況，離散情況將積分替換為累積求和即可。
$P\{|X-\mu| \geq \varepsilon\} = \int_{|X-\mu| \geq \varepsilon}{f(x)dx}\leq \int_{|X-\mu| \geq \varepsilon}{\frac{|X-\mu|^2}{\varepsilon^2}f(x)dx}\leq \\ \frac{1}{\varepsilon^2} \int_{}{|X-\mu|^2f(x)dx}=\frac{\sigma^2}{\varepsilon^2}$

得證。

大數定理證明

定理 設隨機變數 $X_1,X_1,...,X_n$ i.i.d(independent and identically distributed 獨立同分布)，具有數學期望 $E(x)=\mu$，方差為 $D(x) =\sigma^2$，樣本均值 $\bar x$，則對任意正數 $\varepsilon$
$\lim\limits_{n \to \infty }{P\{|\bar x-\mu| \geq \varepsilon\}} =0$
成立。 這就是大數定理

證明：

• 樣本均值的均值 $E(\bar x)=\mu$
• 樣本均值的方差 $Var(\bar x)=\frac{\sigma^2}{n}$
  由切比雪夫不等式有，

$P\{|\bar x-\mu| \geq \varepsilon\} \leq \frac{var(\bar x)}{\varepsilon^2}=\frac{\sigma^2}{n*\varepsilon^2}$
得證。