概率論與數理統計筆記 第一章 概率論的基本概念

概率論與數理統計筆記（計算機專業） 作者: CATPUB

課程：中國大學MOOC浙江大學概率論與數理統計

部分平臺可能無法顯示公式，若公式顯示不正常可以前往CSDN或作業部落進行查看

第0講 緒論

• 緒論

第1講 樣本空間，隨機事件

• 樣本空間
• 集合 $S$
• 隨機事件
• 集合 $A\subseteq S$
• 基本事件
• 集合 $A$ 只有一個元素
• 不可能事件
• 集合 $A=\emptyset$

第2講 事件的相互關系及運算

• 事件的關系
  1. 包含 $A\subseteq B$
  2. 相等 $A=B$
  3. 和事件 $A+B$
  4. 積事件 $A\cap B,AB$
  5. 不相容事件，互斥事件 $AB=\emptyset$
  6. 差事件 $A-B$
  7. 逆事件 $\overline A$
• 事件關系滿足交換律，結合律，德摩根率
• 基本的運算規律
  1. $A+\overline A=1$
  2. $A\overline A=\emptyset$
  3. $A-B=A\cap \overline B=A-AB$

第3講 頻率

• 頻率

第4講 概率

• 直觀定義：隨機事件發生的穩定值，記為 $P(A)=p$
• 概率的性質（前三條為概率的公理化定義）
  1. 非負性 $P(\emptyset)=0$
  2. 規範性 $P(A)=1-P(\overline A)?$
  3. 可列可加性
     • 若 $A,B$ 兩兩互斥
     • $$P(\bigcup_{i=1}^{\infty}A_i)=\sum_{i=1}^\infty P(A_i)$$
  4. $$P(B-A)=P(B)-P(AB)$$
  5. 概率的加法公式
     • $$\begin{split} P(\bigcup_{i=1}^{n}A_i)=&\sum_{i=1}^{n}P(A_i)- \sum_{1\leq i<j\leq n}P(A_iA_j)+\&\sum_{1\leq i<j<k\leq n}P(A_i A_j A_k)+...+(-1)^{n-1}P(A_1 A_2 ... A_n) \end{split}$$

第5講 等可能概型（古典概型）

• 特點
  1. 有限性
  2. 等可能性
• 組合數
• $$C_N^n={N\choose n}=\frac{N!}{n!(N-n)!}$$
• 例題5-1
• 抽簽問題
  • 先抽後抽概率相等

第6講 條件概率

• 定義
• $$P(B|A)=\frac{P(AB)}{P(A)},P(A)>0$$
• 乘法公式
• $$P(AB)=P(A)P(B|A)$$

第7講 全概率公式與貝葉斯公式

• 全概率公式
• 若$B_1, B_2, B_3,...,B_n$是$S$的劃分（離散數學中的概念），則
  • $$P(A)=\sum_{j=1}^{n}P(B_j)P(A|B_j)$$
  • 關鍵在於能否構造一個合適的劃分
  • 原理是分情況討論
• 貝葉斯公式
• $$P(B_i|A)=\frac{P(AB_i)}{P(A)}=\frac{P(B_i)P(A|B_i)}{\sum_{j=1}^{n}P(B_j)P(A|B_j)}$$
• A是後驗概率，B是先驗概率。貝葉斯公式描述了先驗概率已知的情況下，後驗概率對先驗概率的修正。
• 直觀理解：癌癥檢查中，已知一個人有患癌癥的可能，那麽後驗概率（檢查結果）對先驗概率（檢查前患癌癥的可能）的修正，可以增加或減少這個人患癌癥的概率。也即醫院檢查可以（一定概率上）確診。
• 作者拓展：貝葉斯公式在推薦算法上（如搜索引擎排序）具有重要應用，它可以通過用戶的點擊修正推薦排序結果

第8講 事件的獨立性

• 事件的獨立性常常通過實際情況來判斷
• 公理化定義
• 對事件組 $A_1,A_2,...,A_n$，若他們相互獨立，則必有
• $$\begin{split}&P(A_i A_j)=P(A_i)P(A_j)\&P(A_i A_j A_k)=P(A_i)P(A_j)P(A_k)\&...\&P(A_1 A_2...A_n)=P(A_1)P(A_2)...P(A_n)\end{split}$$
• 註意，若三個事件兩兩獨立，不能推出三個事件相互獨立
• 性質
• 若 $A,B$ 相互獨立，則 $\overline A,B$，$A,\overline B$，$\overline A,\overline B$ 也相互獨立
• 小概率事件
• 小概率事件在一次實驗中幾乎不發生
• 但在大規模重復實驗中，至少有一次發生的概率非常高

作者拓展：三門問題

三門問題（Monty Hall problem）亦稱為蒙提霍爾問題、蒙特霍問題或蒙提霍爾悖論，大致出自美國的電視遊戲節目Let‘s Make a Deal。問題名字來自該節目的主持人蒙提·霍爾（Monty Hall）。參賽者會看見三扇關閉了的門，其中一扇的後面有一輛汽車，選中後面有車的那扇門可贏得該汽車，另外兩扇門後面則各藏有一只山羊。當參賽者選定了一扇門，但未去開啟它的時候，節目主持人開啟剩下兩扇門的其中一扇，露出其中一只山羊。主持人其後會問參賽者要不要換另一扇仍然關上的門。問題是：換另一扇門會否增加參賽者贏得汽車的機率？如果嚴格按照上述的條件，即主持人清楚地知道，哪扇門後是羊，那麽答案是會。不換門的話，贏得汽車的幾率是1/3。換門的話，贏得汽車的幾率是2/3。

這個問題亦被叫做蒙提霍爾悖論：雖然該問題的答案在邏輯上並不自相矛盾，但十分違反直覺。這問題曾引起一陣熱烈的討論。

• 問題的關鍵在於主持人已知哪個門後有羊，他的行為（排除一個錯誤答案）改變了贏得汽車的概率。

概率論與數理統計筆記 第一章 概率論的基本概念