2. 程式人生 > >08 支持向量機（SVM）

08 支持向量機（SVM）

阿新 • • 發佈：2017-09-29
cto 分類 acc ros rom 圖像識別 total 使用 inter

支持向量機分類器（Support Vector Classifer），根據訓練樣本的分布，搜索所有可能的線性分類器中最佳的那個。 使用支持向量機分類器處理Scikit-learn內部繼承的手寫體數字圖片數據集。 
#coding=UTF-8

######手寫體數據讀取代碼樣例

#從sklearn.datasets裏導入手寫體數字加載器
from sklearn.datasets import load_digits
#通過數據加載器獲得手寫體數字的數碼圖像數據,並儲存在digits變量中
digits=load_digits()
#檢視數據規模和特征維度
digits.data
 
.shape
#[out]:(1797L, 64L)
#輸出結果表明：該手寫體數字的數碼圖像數據共有1797條
#並且每幅圖片是由8x8=64的像素矩陣表示


#依照慣例，對於沒有直接提供測試樣本的數據
#要通過數據分割獲取75%的訓練樣本和25%的測試樣本

######手寫體數據分割代碼樣例

#從sklearn.cross_validation中導入train_test_split用於數據分割
#若：from sklearn.cross_validation import train_test_split
#會：DeprecationWarning: This module was deprecated in version 0.18 in favor of the model_selection module into which all the refactored classes and functions are moved. Also note that the interface of the new CV iterators are different from that of this module. This module will be removed in 0.20.
 

# "This module will be removed in 0.20.", DeprecationWarning) 
#所以：sklearn.cross_validation報警告，將其改為sklearn.model_selection
from sklearn.model_selection import train_test_split

#隨機選取75%的數據作為訓練樣本
#其余25%的數據作為測試樣本
X_train,X_test,y_train,y_test=train_test_split(digits.data,digits.target,test_size=0.25,random_state
 
=33)

#分別檢視訓練與測試數據規模
print y_train.shape
#[out]:(1347L,)
print y_test.shape
#[out]:(450L,)


######使用支持向量機（分類）對手寫體數字圖像進行識別

#從sklearn.preprocessing裏導入數據標準化模塊
from sklearn.preprocessing import StandardScaler
#從sklearn.svm裏導入基於線性假設的支持向量機分類器LinearSVC
from sklearn.svm import LinearSVC 

#仍然需要對訓練和測試的特征數據進行標準化
ss=StandardScaler()
X_train=ss.fit_transform(X_train)
X_test=ss.transform(X_test)

#初始化線性假設的支持向量機分類器LinearSVC
lsvc=LinearSVC()
#進行模型訓練
lsvc.fit(X_train,y_train)
#利用訓練好的模型對測試樣本的數字類別進行預測，預測結果儲存在變量y_predict中
y_predict=lsvc.predict(X_test)


######性能評測：使用準確率、召回率、精確率和F1指標，對SVM分類模型從事手寫體數字圖像識別任務進行性能評估

#支持向量機（分類）模型對手寫體數字圖像識別能力的評估
#使用模型自帶的評估函數進行準確性評測
print ‘The Accuracy of Linear SVC is‘,lsvc.score(X_test,y_test)
#[out]:The Accuracy of Linear SVC is 0.953333333333
#使用sklearn.metrics裏面的classification_report模塊對預測結果做更詳細的分析
from sklearn.metrics import classification_report
print classification_report(y_test,y_predict,target_names=digits.target_names.astype(str))
#[out]:
#              precision    recall  f1-score   support

#           0       0.92      1.00      0.96        35
#           1       0.96      0.98      0.97        54
#           2       0.98      1.00      0.99        44
#           3       0.93      0.93      0.93        46
#           4       0.97      1.00      0.99        35
#           5       0.94      0.94      0.94        48
#           6       0.96      0.98      0.97        51
#           7       0.92      1.00      0.96        35
#           8       0.98      0.84      0.91        58
#           9       0.95      0.91      0.93        44

# avg / total       0.95      0.95      0.95       450

08 支持向量機（SVM）

相關推薦

08 支持向量機（SVM）

cto 分類 acc ros rom 圖像識別 total 使用 inter 支持向量機分類器（Support Vector Classifer），根據訓練樣本的分布，搜索所有可能的線性分類器中最佳的那個。 使用支持向量機分類器處理Scikit-learn內部繼承的

機器學習---支持向量機（SVM）

行處理 off 距離 又是 分類器 libs 自己的 cos 一個 非常久之前就學了SVM，總認為不就是找到中間那條線嘛，但有些地方模棱兩可，真正編程的時候又是一團漿糊。參數任意試驗，毫無章法。既然又又一次學到了這一章節，那就要把之前沒有搞懂的地方都整明確，嗯~

支持向量機（SVM）

線性可分 推廣 目標 穩定 偏差 images com tro 屬於 支持向量機是一種分類模型。模型認為，離分類超平面越遠的點，判定結果越準確，所以模型的訓練目標就是讓離分類超平面最近的樣本點距離最大。我們先從最基本的線性可分支持向量機（硬間隔支持向量機）開始推導，之後再推

【機器學習】支持向量機（SVM）

cto nom 機器 ins 神經網絡 學習 參數 mage 36-6 感謝中國人民大學胡鶴老師，課程深入淺出，非常好 關於SVM 可以做線性分類、非線性分類、線性回歸等，相比邏輯回歸、線性回歸、決策樹等模型（非神經網絡）功效最好 傳統線性分類：選出兩堆數據的質心，並

支持向量機（SVM）的一個簡單應用實例及matlab代碼

.com 自帶 under 內容 AD 軟件 tex 分類器 ref 數據集下載地址 ：http://pan.baidu.com/s/1geb8CQf 一、實驗目的 1．掌握支持向量機（SVM）的原理、核函數類型選擇以及核參數選擇原則等； 2．熟悉基於libSVM二分類的一

支持向量機（SVM）的一個小例子

EDA 由於 pda 其它 oca 測試數據 tempdata data before clc; clear; N=10; %下面的數據是我們實際項目中的10訓練樣例（樣例中有8個屬性） %一個正例九個負例 correctData=[0,0.2,0.8,0,0,0,2,2

支持向量機（SVM）之數學公式詳細推導

數學推導 技術分享 machine 使用 數據線 手寫筆 形式 支持 tor 一、【概述】 1、含義： 支持向量機（support vector machine，SVM）是一種二類分類器，它的基本模型是定義在特征空間上的間隔最大化的線性分類器，通過引入核函數，也可以作為

支持向量機（一）

數據線 介紹 soft 是什麽 clu 現在 標記 實現 linear 簡介 支持向量機（Support vector machine，以下簡稱SVM）是一種監督學習模型，其學習算法可分析數據，並用以解決分類和回歸問題。給定一訓練數據集，每個數據點（或實例）屬於二分類中的某

機器學習之支持向量機（三）：核函數和KKT條件的理解

麻煩 ron 現在 調整 所有 核函數 多項式 err ges 註：關於支持向量機系列文章是借鑒大神的神作，加以自己的理解寫成的；若對原作者有損請告知，我會及時處理。轉載請標明來源。 序： 我在支持向量機系列中主要講支持向量機的公式推導，第一部分講到推出拉格朗日對偶函數的對

機器學習之支持向量機（一）：支持向量機的公式推導

根據 監督式 art 通用 利用 哪些 這就是 在線 方法 註：關於支持向量機系列文章是借鑒大神的神作，加以自己的理解寫成的；若對原作者有損請告知，我會及時處理。轉載請標明來源。 序： 我在支持向量機系列中主要講支持向量機的公式推導，第一部分講到推出拉格朗日對偶函數的對偶因

機器學習之支持向量機（四）

應用 問題 計算過程 非線性 簡單 常熟 一段 約束 有關 引言： 　　SVM是一種常見的分類器，在很長一段時間起到了統治地位。而目前來講SVM依然是一種非常好用的分類器，在處理少量數據的時候有非常出色的表現。SVM是一個非常常見的分類器，在真正了解他的原理之前我們多多少少

4.支援向量機（SVM）演算法(下）

1.SVM演算法的特點  1.1 訓練好的模型的演算法複雜度是由支援向量的個數決定的，而不是由資料的維度決定的。 所有SVM不太容易產生overfitting 1.2 SVM訓練出來的模型完全依賴於支援向量（Support Vectors），即使訓練集裡面所有非支援向量的點都

3.支援向量機（SVM）演算法(上）

SVM 1.基本概念 支援向量機（Support Vector Machine, SVM）的基本模型是在特徵空間上找到最佳的分離超平面使得訓練集上正負樣本間隔最大。SVM是用來解決二分類問題的有監督學習演算法，在引入了核方法之後SVM也可以用來解決非線性問題。  一般SVM有下面三

1. 支援向量機（SVM）原理

1. 前言 在我沒有學習接觸機器學習之前，我就已經聽說了SVM這個機器學習的方法。SVM自它誕生以來就以優秀的分類效能牢牢佔據了霸主地位。 2. SVM原理 支援向量機（Support Vector Machine, SVM）的基本模型是在特徵空間上找到最佳的分離超平面使得訓練集上正負樣本間隔最大。SV

3. 支援向量機（SVM）核函式

1. 前言 之前介紹了SVM的原理和SVM的軟間隔，它們已經可以很好的解決有異常點的線性迴歸問題，但是如果本身是非線性的問題，目前來看SVM還是無法很好的解決的。所以本文介紹SVM的核函式技術，能夠順利的解決非線性的問題。 2. 多項式迴歸 在線性迴歸一節中我們有介紹線性迴歸解決非線性的一個方法就是多項

邏輯迴歸（LR）和支援向量機（SVM）的區別和聯絡

1. 前言 在機器學習的分類問題領域中，有兩個平分秋色的演算法，就是邏輯迴歸和支援向量機，這兩個演算法個有千秋，在不同的問題中有不同的表現效果，下面我們就對它們的區別和聯絡做一個簡單的總結。 2. LR和SVM的聯絡 都是監督的分類演算法。 都是線性分類方法 (不考慮核函式時）。 都是判別

支援向量機（SVM）實現MNIST手寫體數字識別

一、SVM演算法簡述 支援向量機即Support Vector Machine，簡稱SVM。一聽這個名字，就有眩暈的感覺。支援(Support)、向量(Vector)、機器(Machine)，這三個毫無關聯的詞，硬生生地湊在了一起。從修辭的角度，這個合成詞最終落腳到”Machine”上，還以

第七章 支援向量機（SVM）

1.1 支援向量機 1.1.1 定義 支援向量機(support vector machine)是一種二分類模型，它的基本模型是定義在特徵空間上的間隔最大的線性分類器間隔最大使它有別於感知機。支援向量機的學習策略是間隔最大化，支援向量機的學習演算法是求解凸二次規劃的最優化演算法。 

支援向量機（SVM） | 文末有福利，絕不是標題黨

1、什麼是SVM 支援向量機（SVM）是一個有監督的機器學習演算法，它可用於分類和迴歸分析，最主要是用在分類問題中。 在這個演算法中，根據特徵值，構建一個n維空間（其中n即使特徵數量）把每個資料點投影到此空間內。 2、資料如何分類 通過查詢一個超平面，把資料區分成兩類。換句話說，演算法

python opencv3.x中支援向量機（svm）模型儲存與載入問題

親自驗證，可以解決svm的模型載入問題:     import numpy as np     from sklearn import datasets         &nb