線性分類器三種最優準則： 

Fisher 準則 ：根據兩類樣本一般類內密集，類間分離的特點，尋找線性分類器最佳的法線

向量方向，使兩類樣本在該方向上的投影滿足類內儘可能密集，類間儘可能分開。這種度量通過類內離散矩陣 Sw 和類間離散矩陣 Sb 實現。

感知準則函式 ：準則函式以使錯分類樣本到分介面距離之和最小為原則。

 其優點是通過錯分類樣本提供的資訊對分類器函式進行修正，這種準則是人工神經元

網路多層感知器的基礎。 

支援向量機 ：基本思想是在兩類線性可分條件下，所設計的分類器介面使兩類之間的

間隔為最大，它的基本出發點是使期望泛化風險儘可能小。

貝葉斯分類器：一種基於統計方法的分類器，要求先了解樣本的分佈特點（高斯、指數等），所以使用起來限制很多。在滿足一些特定條件下，其優化目標與線性分類器有相同結構（同方差高斯分佈等），其餘條件下不是線性分類。