之前的視訊中講到的方法都是直接對問題進行求解，比如二類分類問題，不管是感知器演算法還是邏輯斯蒂迴歸演算法，都是在解空間中尋找一條直線從而把兩種類別的樣例分開，對於新的樣例只要判斷在直線的哪一側即可；這種直接對問 題求解的方法可以成為判別學習方法（discriminative learning algorithm）。

而生成 學習演算法則是對兩個類別分別進行建模，用新的樣例去匹配兩個模型，匹配度較 高的作為新樣例的類別，比如良性腫瘤與惡性腫瘤的分類，首先對兩個類別分別 建模，比如分別計算兩類腫瘤是否擴散的概率，計算腫瘤大小大於某個值的概率 等等；再比如狗與大象的分類，分別對狗與大象建模，比如計算體重大於某個值 的概率，鼻子長度大於某個值的概率等等。

形式化的說，判別學習方法是直接對 p(y|x)進行建模或者直接學習輸入空間 到輸出空間的對映關係，其中，x 是某類樣例的特徵，y 是某類樣例的分類標記。 而生成學習方法是對 p(x|y)（條件概率）和 p(y)（先驗概率）進行建模，然後按 照貝葉斯法則求出後驗概率 p(y|x)