1. 程式人生 > >大數定律與中心極限定理

大數定律與中心極限定理

大數定律

定義:

X1,X2,...,Xn,...X_1,X_2,...,X_n,...為隨機變數序列,XX為隨機變數,若對任意的正數ϵ\epsilon有:limnP(XnXϵ)=0\lim_{n\to\infty}P(|X_n-X|\geqslant\epsilon)=0limnP(XnX<ϵ)=1\lim_{n\to\infty}P(|X_n-X|<\epsilon)=1則稱XnX_n依概率收斂於XX

,記為XnpXX_n\xrightarrow{p}X

切比雪夫不等式

由於方差D(X)D(X)是用來描述隨機變數XX的取值在其數學期望E(X)E(X)附件的離散程度的,因此,對任意的正數ϵ\epsilon,事件(XE(X)ϵ)(|X-E(X)|\geqslant\epsilon)發生的概率應該與D(X)D(X)有關,而這種關係用數學形式表示出來,就是切比雪夫不等式。

切比雪夫不等式定理 設隨機變數XX的數學期望E(X)E(X)與方差D(X)D(X)存在,則對於任意正數ϵ\epsilon,不等式P(X

E(X)ϵ)D(X)ϵ2P(|X-E(X)|\geqslant\epsilon)\leqslant \frac{D(X)}{\epsilon^2}P(XE(X)<ϵ)1D(X)ϵ2P(|X-E(X)|<\epsilon)\geqslant 1-\frac{D(X)}{\epsilon^2}都成立,且這兩個不等式稱為切比雪夫不等式

切比雪夫不等式的重要意義 切比雪夫不等式給出了在隨機變數XX的分佈未知的情況下,只利用XX的數學期望和方差即可對XX的概率分佈進行估值的方法。

切比雪夫大數定律

切比雪夫大數定律定理 設獨立隨機變數序列X1,X2,...X_1,X_2,...的數學期望E(X1),E(X2),...E(X_1),E(X_2),...和方差D(X1),D(X2),...D(X_1),D(X_2),...都存在,並且方差是一致有上界的,即存在常數CC,使得D(Xi)Ci=1,2,...,n...D(X_i)\leqslant C,i=1,2,...,n... 則對於任意的正數ϵ\epsilon,有limnP(1ni=1nXi1ni=1nE(Xi)<ϵ)=1\lim_{n\to \infty}P(|\frac{1}{n}\sum_{i=1}^{n}X_i-\frac{1}{n}\sum_{i=1}^{n}E(X_i)| < \epsilon) = 1 切比雪夫大數定律的統計意義 獨立隨機變數序列X1,X2,...,Xn,...X_1,X_2,...,X_n,...的數學期望與方差都存在,且方差一致有上屆,則經過算術平均後得到的隨機變數X=1ni=1nXi\overline X=\frac{1}{n}\sum_{i=1}^{n}X_inn充分大時,它的值將比較緊密地聚集在它的數學期望E(X)E(\overline X)附件。

伯努利大數定律

伯努利大數定律是切比雪夫大數定律的一個重要推論 伯努利大數定律定理nAn_Ann重伯努利試驗中事件AA發生的次數,又設在每次試驗中事件AA發生的概率P(A)=pP(A)=p,則對於任意的正數ϵ\epsilon,當試驗的次數nn\to\infty時,有limnP(nAnp<ϵ)=1\lim_{n\to\infty}P(|\frac{n_A}{n}-p|<\epsilon)=1

伯努利大數定律的統計意義 當試驗在相同條件下重複進行很多次時,隨機事件AA的頻率fn(A)=nAnf_n(A)=\frac{n_A}{n},將穩定在事件AA的概率P(A)=pP(A)=p附近,即頻率收斂於概率。

中心極限定理

中心極限定理是研究獨立隨機變數和的極限分佈為正態分佈的命題。