概率論與數理統計學習總結(浙大第四版 第一章)
第一章 概率論的基本概念
1. 隨機試驗
隨機試驗:可以在相同的條件下進行;每次實驗的可能結果不止一個,並且能夠事先明確試驗的所以可能結果;進行一次試驗之前不能確定哪一個結果會出現;
本書中所提到的試驗都是隨機試驗。
2. 樣本空間、隨機事件
(1)將隨機試驗E的所有可能結果組成的集合稱為E的樣本空間,記為S。樣本空間的每個元素,即E的每個結果,稱為樣本點;
(2)一般,我們稱試驗E的樣本空間S的子集為E的隨機事件,簡稱事件。在每次試驗中,當且僅當這一子集中的一個樣本點出現時,稱這一事件發生(由一個樣本點組成的單點集,稱為基本事件,例如骰子的6個基本事件{1},{2},{3},{4},{5},{6});
(3)樣本空間S包含所有的樣本點,他是S的自身的子集,在每次試驗中它總是發生的,S稱為必然事件。空集不包含任何樣本點,它也作為樣本空間的子集,它在每次試驗中都不發生,稱為不可能發生事件。
(4)事件間的關係運算
事件是一個集合,因而事件間的關係與事件的運算自然按照集合論中的集合之間的關係和集合運算來處理。
設事件E的樣本空間為S,而A,B,=(k=1,2,...)是S的子集。
1.若,則稱事件B包含事件A,這指的是事件A發生必導致事件B發生。若A=B,則稱事件A與事件B相等。
2.事件{}稱為事件A與事件B的和事件。當且僅當A,B中至少有一個發生時,事件發生。類似地,稱為n個事件
,..., 的和事件;稱為可列個事件,...的和事件。3.事件 = {}稱為事件A與事件B的積事件,當且僅當A,B同時發生時,事件發生,也記作AB。
類似地,稱為n個事件,..., 的積事件;稱為可列個事件,...的積事件。
4.事件A - B = {}稱為事件A與事件B的差事件。當且僅當A發生,B不發生時事件A - B發生。
5.若 = ,則稱事件A與事件B是互不相容的,或互斥的。這指的是事件A與事件B不能同時發生。基本事件是兩兩互不相容的。
6.若 = S且 = ,則稱事件A與事件B互為逆事件。又稱事件A與事件B互為對立事件。這指的是對每次試驗而言,事件A,B中必有一個發生,且僅有一個發生。A的對立事件記為
。 = S - A。
(5)在進行事件運算時,經常用的定律:
設A,B,C為事件,則有
交換律: = ; = 。
結合律:;。
分配律:; ;
德摩根律: ; 。
3. 頻率與概率
頻率描述事件發生的頻繁程度,概率表示事件在一次試驗中發生的可能性大小的數。
(1)相同條件下,進行了n次試驗,在這n次試驗中,事件A發生的次數稱為事件A發生的頻數,比值 / n 稱為事件A發生的頻率,並記成。
頻率具有的基本性質:
; ; 若,..., 是兩兩互不相容的事件,則
大量試驗證實,當重複試驗的次數n逐漸增大時,頻率呈現出穩定性,逐漸趨於某個常數。這種“頻率穩定性”即通常所說的統計規律性。
(2)設E是隨機試驗,S是樣本空間。對於E的每一個事件A賦予一個實數,記為P(A),稱為事件A的概率,如果集合函式P(.)滿足下列條件:
1. 非負性:對於每一個事件A,有;
2. 規範性:對於必然事件S,有;
3. 可列可加性: 設,...是兩兩互不相容的事件,即對於 = , 有。
注:當時頻率在一定意義下接近與概率。基於這一事實,我們有理由將概率用來表徵事件A在一次試驗中發生的可能性大小。
(3)由概率定義,推得概率的一些重要性質。
1.
2. (有限可加性)若,..., 是兩兩互不相容的事件,則有
3. 設A,B是兩個事件,若,則有
;
4. 對於任一事件A,
5.(逆事件的概率) 對於任一事件A,有
6.(加法公式)對於任意兩事件A,B有
加法公式推廣:
。
4. 等可能概型(古典概型)
(1)等可能概型:試驗的樣本空間只包含有限個元素;試驗中每個基本事件發生的可能性相同。它在概率論發展初期是主要的研究物件,所以也稱為古典概型。
(2)若事件A包含k個基本事件,即,這裡,,...是1,2,...n中某k個不同的數,則有
(3)超幾何分佈概率公式:
設有N件產品,其中有D件次品,今從中任取n件,問其中恰有k()件次品的概率是多少?
(4)概率很小的事件在一次試驗中實際上幾乎是不可能發生的(稱之為實際推斷原理)。
5. 條件概率
(1)設A,B是兩個事件,且,稱
為事件A發生的條件下事件B發生的條件概率。
性質:
1. 非負性: 對於每一個事件B,有;
2. 規範性: 對於必然事件S,有;
3. 可列可加性: 設,...是兩兩互不相容的事件,則有
注:條件概率滿足上述三個條件,所以對第三講中的概率所證明的一些重要結果都適用,如:
(2)乘法定理
設,則有,
(乘法公式)
推廣
一般,設,,...為n個事件,,且,則有
(3)全概率公式和貝葉斯公式
1. 設S為試驗E的樣本空間,,,...為E的一組事件,若
;
,
則稱,,...為樣本空間S的一個劃分。
若,,...是樣本空間的一個劃分,那麼,對每次試驗,事件,,...中必有一個且只有一個發生。
2. 全概率公式(先驗概率):
設試驗E的樣本空間為S,A為E的事件,,,...為S的一個劃分,且,則
3. 貝葉斯公式(後驗概率):
設試驗E的樣本空間為S,A為E的事件,,,...為S的一個劃分,且,則
4. 特別地,當n=2時,將記為B,此時就是,那麼全概率公式和貝葉斯公式可以寫為:
;
,
這是兩個常用公式。
6. 獨立性
定義 設A,B是兩事件,如果滿足等式
,
則稱事件A,B相互獨立,簡稱A,B獨立。
容易知道,若,則A,B相互獨立與A,B互不相容不能同時成立。
定理一 設A,B是兩事件,且,若A,B相互獨立,則,反之亦然。
定理二 若事件A與B相互對立,則下列各對事件也相互獨立
與, 與, 與。
獨立性概念推廣到三個事件的情況
定義 設A,B,C是三個事件,如果滿足等式
,
,
,
,
則稱事件A,B,C相互對立。
一般,設,,...,是n個事件,如果對於其中任意2個,任意3個,...,任意n個事件的積事件的概率,都等於各事件概率之積,則稱事件,,...,相互對立。
由定義得出推論
1. 若事件,,...,相互獨立,則其中任意個事件也是相互獨立的。
2. 若n個事件,,...,相互獨立,則將,,...,中任意多個事件換成他們各自的對立事件,所得的n個事件仍相互獨立。
7. 小結
隨機試驗的全部可能結果組成的集合S稱為樣本空間;樣本空間S的子集稱為事件,當且僅當這一子集中的一個樣本點出現時,稱這一事件發生;事件是一個集合,因而事件間的關係與事件的運算自然按照集合論中集合之間的關係和集合的運算來處理。
在一次試驗中,一個事件(出必然事件與不可能事件外)可能發生有可能不發生,其發生的可能性大小是客觀存在的;概率三個基本性質:非負性,規範性,可列可加性;對於古典概型來說,對於每個事件A給出了概率。
條件概率公式:,兩種計算條件概率的方法:(1)按條件概率的含義,直接求出。注意到,在求時已知事件A已發生,樣本空間S中所有不屬於A的樣本點都被排除,原有的樣本空間S縮減為。(2)在S中計算及,在按條件概率公式求得。
乘法公式:,可使用上述第一種方法求出條件概率,從而求得。
事件的獨立性是概率論中的一個非常重要的概念。在實際應用中,,對於事件的獨立性,我們往往不是根據定義來驗證而是根據實際意義來加以判斷的。