例子-正向概率

還是拿質檢員的例子來做分析，假如我是一個質檢員，現在接到了三箱零件需要檢驗，其中第一箱有10個零件，第二箱有20個零件，第三箱有15個。半小時過去了，檢驗的結果出爐，第一箱有1個不合格，第二箱有3個不合格，第三箱2個不合格。

箱子	總零件個數	不合格
A	10	1
B	20	3
C	15	2

那現在我從這三個箱子中隨便拿取一個零件，這個零件是合格的概率是多少呢？我們假設事件D：零件合格，則：

P(D)=P(A)∗P(D|A)+P(B)∗P(D|B)+P(C)∗P(D|C)=(1/3)∗(9/10)+(1/3)∗(

17/20)+(1/3)∗(13/15)=0.872$$\begin{array}{rl}P(D)& =P(A)\ast P(D|A)+P(B)\ast P(D|B)+P(C)\ast P(D|C)\\ =(1/3)\ast (9/10)+(1/3)\ast (17/20)+(1/3)\ast (13/15)\\ =0.872\end{array}$$ 像這樣得出一個零件是合格的概率就計算出來了，但是在機器學習領域中，可能我們更想知道，給你一個樣本，這個樣本屬於哪個類目的問題，這也叫分類問題，這就涉及到反向概率的問題。

反向概率-樸素貝葉斯理論

現在我們假設這樣一個場景：你拿到了一個零件，這個零件是屬於哪個箱子？這個問題在機器學習中就是類比為：給你一個樣本，這個樣本有很多特徵，機器模型輸出該樣本屬於哪個類別。這樣我們來理解貝葉斯理論。

條件概率

P(A|B)=P(AB)P(B)$$P(A|B)=\frac{P(AB)}{P(B)}$$ P(A|B)$P(A|B)$表示事件B已經發生的前提下，事件A發生的概率，叫做事件B發生下事件A的條件概率，P(AB)$P(AB)$表示事件A、事件B共同發生的概率，P(B)$P(B)$表示事件B發生的概率，這樣就計算就是一個條件概率。 我們結合上面零件合格這個場景繼續思考，如果我們知道了這件零件是合格的，那麼它是來自A、B、C三類中具體哪個類中？具體哪個類目我們肯定是不知道的，因為三個類目都有合格的零件，但是我們可以知道這件合格的零件來自每個類目的概率是多少，也就是求P(A|D)$P(A|D)$、P(B|D)$P(B|D)$、P(C|

D)$P(C|D)$，其中D表示這件零件是合格的概率，由條件概率知道： P(A|D)=P(A∗D)P(D)P(B|D)=P(B∗D)P(D)P(C|D)=P(C∗D)P(D)$$\begin{array}{r}P(A|D)=\frac{P(A\ast D)}{P(D)}\\ P(B|D)=\frac{P(B\ast D)}{P(D)}\\ P(C|D)=\frac{P(C\ast D)}{P(D)}\end{array}$$ 其中 P(D)$P(D)$ 已經在上面計算出來了， P(D)=0.872$P(D)=0.872$ ， P(A∗D)$P(A\ast D)$ 表示這件零件來自A箱子，並且是正品的概率，兩個條件是獨立的，所以我們計算為： P(A∗D)=P(A)∗P(D|A)=(1/3)∗(9/10)=0.3$$\begin{array}{rl}P(A\ast D)& =P(A)\ast P(D|A)\\ =(1/3)\ast (9/10)\\ =0.3\end{array}$$ 於是我們可以計算合格商品來自每個箱子的概率： P(A|D)P(B|D)P(C|D)=P(A∗D)P(D)=0.3/0.872=

相關推薦

樸素貝葉斯理論--自我理解

例子-正向概率 還是拿質檢員的例子來做分析，假如我是一個質檢員，現在接到了三箱零件需要檢驗，其中第一箱有10個零件，第二箱有20個零件，第三箱有15個。半小時過去了，檢驗的結果出爐，第一箱有1個不合格，第二箱有3個不合格，第三箱2個不合格。 箱子

樸素貝葉斯分類演算法理解及文字分類器實現

貝葉斯分類是一類分類演算法的總稱，這類演算法均以貝葉斯定理為基礎，故統稱為貝葉斯分類。本文作為分類演算法的第一篇，將首先介紹分類問題，對分類問題進行一個正式的定義。然後，介紹貝葉斯分類演算法的基礎——貝葉斯定理。最後，通過例項討論貝葉斯分類中最簡單的一種：樸素貝葉斯分類。

NB樸素貝葉斯理論推導與三種常見模型

轉自：http://www.tuicool.com/articles/zEJzIbR 樸素貝葉斯（Naive Bayes）是一種簡單的分類演算法，它的經典應用案例為人所熟知：文字分類（如垃圾郵件過濾）。很多教材都從這些案例出發，本文就不重複這些內容了，而把重點放在理論推導（其實很淺顯，別被“理論”嚇到），三

樸素貝葉斯——理論篇

在學習樸素貝葉斯時，需要注意以下幾個關鍵點： 1.它是構建分類器的簡單方法，不是一個訓練分類器的單一方法，而是一系列基於相同原理的演算法，例如（基於高斯分佈的樸素貝葉斯和基於多項式的樸素貝葉斯等）。 2.它是一個基於貝葉斯定理與特徵獨立性假設的分類方法。這裡我想解釋一下特徵

一句話說明樸素貝葉斯理論

　樸素貝葉斯理論：天真的假設，每個特徵之間是相互獨立的。這就是樸素貝葉斯樸素的"樸素"的地方。以下來自阮一峰的部落格貝葉斯理論：與其他統計學推斷方法截然不同。它建立在主觀判斷的基礎上，也就是說，你可以不

我理解的樸素貝葉斯模型【轉】

package 規則 dia div href 重要 源代碼 容易 計算 轉自：http://www.cnblogs.com/nxld/p/6607943.html 我想說：“任何事件都是條件概率。”為什麽呢？因為我認為，任何事件的發生都不是完全偶然的，它都會以其他事件的

【機器學習基本理論】詳解最大似然估計（MLE）、最大後驗概率估計（MAP），以及貝葉斯公式的理解

總結 ora 二次 判斷 天都 特性 以及 解釋 意思 【機器學習基本理論】詳解最大似然估計（MLE）、最大後驗概率估計（MAP），以及貝葉斯公式的理解 https://mp.csdn.net/postedit/81664644 最大似然估計（Maximum lik

樸素貝葉斯分類演算法簡單理解

樸素貝葉斯分類演算法簡單理解 貝葉斯分類是一類分類演算法的總稱，這類演算法均以貝葉斯定理為基礎，故統稱為貝葉斯分類。而樸素樸素貝葉斯分類是貝葉斯分類中最簡單，也是常見的一種分類方法。這篇文章我儘可能用直白的話語總結一下我們學習會上講到的樸素貝葉斯分類演算法，希望有利於他人理解。 1

深入理解樸素貝葉斯（Naive Bayes）

之間 計算 else 不同 樸素 foo 防止 zeros 甜美 https://blog.csdn.net/li8zi8fa/article/details/76176597 樸素貝葉斯是經典的機器學習算法之一，也是為數不多的基於概率論的分類算法。樸素貝葉斯原理簡單，也很

EM演算法理解——從樸素貝葉斯角度出發

其實雖然說看了一天的EM演算法，但是當初是沒有理解這個問題的，但是今天看完了樸素貝葉斯，突然之間就理解了這個演算法。 也許是個巧合。 先來回顧一下樸素貝葉斯： 類別的概率 p(y1) p(y2) 特徵\類別 y1 y

一步步教你輕鬆學樸素貝葉斯模型演算法理論篇1

導讀：樸素貝葉斯模型是機器學習常用的模型演算法之一，其在文字分類方面簡單易行，且取得不錯的分類效果。所以很受歡迎，對於樸素貝葉斯的學習，本文首先介紹理論知識即樸素貝葉斯相關概念和公式推導，為了加深理解，採用一個維基百科上面性別分類例子進行形式化描述。然後通過程式設計實現樸素貝葉斯分類演算法，並在遮蔽社

簡單示例理解樸素貝葉斯演算法，通俗易懂

一個簡單的例子 讓我們看一下這個例子在實踐中如何運作。假設我們正在建立一個分類器，說明文字是否涉及體育運動。我們的訓練集有5句話： Text Category A great game（一個偉大的比賽）

機器學習之（1）——學習樸素貝葉斯-三種模型理論+python程式碼程式設計例項

本文來源於： 部落格：http://blog.csdn.net/u012162613/article/details/48323777 http://blog.csdn.net/zhihaoma/article/details/51052064  感謝作者的分享，非常感謝

深入理解Spark ML：多項式樸素貝葉斯原理與原始碼分析

貝葉斯估計 如果一個給定的類和特徵值在訓練集中沒有一起出現過，那麼基於頻率的估計下該概率將為0。這將是一個問題。因為與其他概率相乘時將會把其他概率的資訊統統去除。所以常常要求要對每個小類樣本的概率估計進行修正，以保證不會出現有為0的概率出現。常用到

極大似然估計法推出樸素貝葉斯法中的先驗概率估計公式如何理解

下面的答案將先照《統計學習方法》一書將問題補充完整，以便手上沒這本書的人也能看明白，然後再給出推導過程。 設輸入空間為 n 維向量的集合，輸出空間為類標記集合 {}。輸入為特徵向量 x 屬於輸入空間，輸出為類標記 y 屬於輸出空間。X 是定義在輸入空間上的隨機向量，Y 是定義

深度學習理論——樸素貝葉斯分類器

大家好，繼續理論學習，終於開始學習貝葉斯啦！本文主要參考周志華的西瓜書和眾多部落格加上自己的理解。 拉普拉斯修正避免了因訓練集樣本不充分造成的概率估值為零的問題，並且在訓練集變大時，修正引入的先驗的影響也會減小，概率趨近於真實概率。 貝葉斯應該還沒有完結，可能會有下一

樸素貝葉斯的概率理論及其python程式碼實現文字分類的例項

一：樸素貝葉斯是一種基於概率分佈進行分類的方法，概率論是樸素貝葉斯的基礎，之所以被稱為樸素，而不是貝葉斯就是因為它在貝葉斯的基礎上，增添了兩個條件，一個是各特徵之間相互獨立，第二是每個特徵同等重要。樸素貝葉斯在資料很小的情況下仍然有效，可以處理多分類問題，但是對輸入資料的準

樸素貝葉斯分類-理論篇

> **公號：碼農充電站pro** > **主頁：https://codeshellme.github.io** 貝葉斯原理是英國數學家**托馬斯·貝葉斯**於18 世紀提出的，當我們不能直接計算一件事情（A）發生的可能性大小的時候，可以間接的計算與這件事情有關的事情(X，Y，Z)發生的可能性大小，從而間接

<Machine Learning in Action >之二 樸素貝葉斯 C#實現文章分類

options 直升機 water 飛機 math mes 視頻 write mod def trainNB0(trainMatrix,trainCategory): numTrainDocs = len(trainMatrix) numWords =

（筆記）斯坦福機器學習第六講--樸素貝葉斯

span || -h 沒有 height 單純 去除 變量 logistic 本講內容 1. Naive Bayes（樸素貝葉斯） 2.Event models（樸素貝葉斯的事件模型） 3.Neural network （神經網絡） 4.Support vector mac