使用scikit-learn進行機器學習的簡介(教程1)

阿新 • • 發佈：2019-01-03

一、機器學習：問題設定

通常，一個學習問題是通過分析一些資料樣本來嘗試預測未知資料的屬性。如果每一個樣本不僅僅是一個單獨的數字，比如一個多維的例項（multivariate data），也就是說有著多個屬性特徵

我們可以把學習問題分成如下的幾個大類：

（1）有監督學習
資料帶有我們要預測的屬性。這種問題主要有如下幾種：
- ①分類
  樣例屬於兩類或多類，我們想要從已經帶有標籤的資料學習以預測未帶標籤的資料。識別手寫數字就是一個分類問題，這個問題的主要目標就是把每一個輸出指派到一個有限的類別中的一類。另一種思路去思考分類問題，其實分類問題是有監督學習中的離散形式問題。每一個都有一個有限的分類。對於樣例提供的多個標籤，我們要做的就是把未知類別的資料劃分到其中的一種。
- ②迴歸
  去過預期的輸出包含連續的變數，那麼這樣的任務叫做迴歸。根據三文魚的年紀和中聯預測其長度就是一個迴歸樣例。
（2）無監督學習
訓練資料包含不帶有目標值的輸入向量x。對於這些問題，目標就是根據資料發現樣本中相似的群組——聚類。或者在輸入空間中判定資料的分佈——密度估計，或者把資料從高維空間轉換到低維空間以用於視覺化

訓練集和測試集
機器學習是學習一些資料集的特徵屬性並將其應用於新的資料。這就是為什麼在機器學習用來評估演算法時一般把手中的資料分成兩部分。一部分我們稱之為訓練集，用以學習資料的特徵屬性。一部分我們稱之為測試集，用以檢驗學習到的特徵屬性。

二、載入一個樣本資料集

scikit-learn帶有一些標準資料集。比如用來分類的iris資料集、digits資料集；用來回歸的boston house price 資料集。

接下來，我們我們從shell開啟一個Python直譯器並載入iris和digits兩個資料集。【譯註：一些程式碼慣例就不寫了，提示符>>>之類的學過Python的都懂】

[python] view plain copyprint?

<code class="hljs" style="margin:0px; padding:0px">$ python
>>>from

sklearn import datasets
>>>iris = datasets.load_iris()
>>>digits = datasets.load_digits()</code>

$ python
>>>from sklearn import datasets
>>>iris = datasets.load_iris()
>>>digits = datasets.load_digits()

一個數據集是一個包含資料所有元資料的類字典物件。這個資料儲存在 '.data'成員變數中，是一個$n*n$的陣列，行表示樣例，列表示特徵。在有監督學習問題中，一個或多個響應變數（Y）儲存在‘.target’成員變數中。不同資料集的更多細節可以在dedicated section中找到。

例如，對於digits資料集，digits.data可以訪問得到用來對數字進行分類的特徵：

[python] view plain copyprint?

<code class="hljs" style="margin:0px; padding:0px">>>>print(digits.data)
[[ 0. 0. 5. ..., 0. 0. 0.]
[ 0. 0. 0. ..., 10. 0. 0.]
[ 0. 0. 0. ..., 16. 9. 0.]
...,
[ 0. 0. 1. ..., 6. 0. 0.]
[ 0. 0. 2. ..., 12. 0. 0.]
[ 0. 0. 10. ..., 12. 1. 0.]]</code>

>>>print(digits.data)  
[[  0.   0.   5. ...,   0.   0.   0.]
 [  0.   0.   0. ...,  10.   0.   0.]
 [  0.   0.   0. ...,  16.   9.   0.]
 ...,
 [  0.   0.   1. ...,   6.   0.   0.]
 [  0.   0.   2. ...,  12.   0.   0.]
 [  0.   0.  10. ...,  12.   1.   0.]]

digits.target 就是數字資料集對應的真實數字值。也就是我們的程式要學習的。

[python] view plain copyprint?

<code class="hljs" style="margin:0px; padding:0px">>>>digits.target
array([0, 1, 2, ..., 8, 9, 8])</code>

>>>digits.target
array([0, 1, 2, ..., 8, 9, 8])

資料陣列的形狀
儘管原始資料也許有不同的形狀，但實際使用的資料通常是一個二維陣列（n個樣例，n個特徵）。對於數字資料集，每一個原始的樣例是一張（8 x 8）的圖片,也能被使用：

[python] view plain copyprint?

<code class="hljs" style="margin:0px; padding:0px">>>>digits.images[0]
array([[ 0., 0., 5., 13., 9., 1., 0., 0.],
[ 0., 0., 13., 15., 10., 15., 5., 0.],
[ 0., 3., 15., 2., 0., 11., 8., 0.],
[ 0., 4., 12., 0., 0., 8., 8., 0.],
[ 0., 5., 8., 0., 0., 9., 8., 0.],
[ 0., 4., 11., 0., 1., 12., 7., 0.],
[ 0., 2., 14., 5., 10., 12., 0., 0.],
[ 0., 0., 6., 13., 10., 0., 0., 0.]])</code>

>>>digits.images[0]
array([[  0.,   0.,   5.,  13.,   9.,   1.,   0.,   0.],
       [  0.,   0.,  13.,  15.,  10.,  15.,   5.,   0.],
       [  0.,   3.,  15.,   2.,   0.,  11.,   8.,   0.],
       [  0.,   4.,  12.,   0.,   0.,   8.,   8.,   0.],
       [  0.,   5.,   8.,   0.,   0.,   9.,   8.,   0.],
       [  0.,   4.,  11.,   0.,   1.,  12.,   7.,   0.],
       [  0.,   2.,  14.,   5.,  10.,  12.,   0.,   0.],
       [  0.,   0.,   6.,  13.,  10.,   0.,   0.,   0.]])

三、學習和預測

對於數字資料集（digits dataset），任務是預測一張圖片中的數字是什麼。數字資料集提供了0-9每一個數字的可能樣例，可以用它們來對位置的數字圖片進行擬合分類。

在scikit-learn中，用以分類的擬合（評估）函式是一個Python物件，具體有fit(X,Y)和predic(T)兩種成員方法。

其中一個擬合（評估）樣例是sklearn.svmSVC類，它實現了支援向量分類（SVC）。一個擬合（評估）函式的建構函式需要模型的引數，但是時間問題，我們將會把這個擬合（評估）函式作為一個黑箱：

[python] view plain copyprint?

<code class="hljs" style="margin:0px; padding:0px">>>>from sklearn import svm
>>>clf = svm.SVC(gamma=0.001, C=100.)</code>

>>>from sklearn import svm
>>>clf = svm.SVC(gamma=0.001, C=100.)

選擇模型引數
我們呼叫擬合（估測）例項clf作為我們的分類器。它現在必須要擬合模型，也就是說，他必須要學習模型。這可以通過把我們的訓練集傳遞給fit方法。作為訓練集，我們使用其中除最後一組的所有影象。我們可以通過Python的分片語法[:-1]來選取訓練集，這個操作將產生一個新陣列，這個陣列包含digits.dataz中除最後一組資料的所有例項。

[python] view plain copyprint?

<code class="hljs" style="margin:0px; padding:0px">>>>clf.fit(digits.data[:-1], digits.target[:-1])
SVC(C=100.0, cache_size=200, class_weight=None, coef0=0.0, degree=3,
gamma=0.001, kernel='rbf', max_iter=-1, probability=False,
random_state=None, shrinking=True, tol=0.001, verbose=False)</code>

>>>clf.fit(digits.data[:-1], digits.target[:-1])  
SVC(C=100.0, cache_size=200, class_weight=None, coef0=0.0, degree=3,
gamma=0.001, kernel='rbf', max_iter=-1, probability=False,
random_state=None, shrinking=True, tol=0.001, verbose=False)

現在你可以預測新的數值了。我們可以讓這個訓練器告訴我們digits資料集我們沒有作為訓練資料使用的最後一張影象是什麼數字。

[python] view plain copyprint?

<code class="hljs" style="margin:0px; padding:0px">>>>clf.predict(digits.data[-1])
array([8])</code>

>>>clf.predict(digits.data[-1])
array([8])

相應的圖片如下圖：
此處輸入圖片的描述

正如你所看到的，這是一個很有挑戰的任務：這張圖片的解析度很低。你同意分類器給出的答案嗎？

這個分類問題的完整示例在這裡識別手寫數字，你可以執行並使用它。[譯：看本文附錄]

四、模型持久化

可以使用Python的自帶模組——pickle來儲存scikit中的模型：

[python] view plain copyprint?

<code class="hljs" style="margin:0px; padding:0px">>>>from sklearn import svm
>>>from sklearn import datasets
>>>clf = svm.SVC()
>>>iris = datasets.load_iris()
>>>X, y = iris.data, iris.target
>>>clf.fit(X, y)
SVC(C=1.0, cache_size=200, class_weight=None, coef0=0.0, degree=<span cla

使用scikit-learn進行機器學習的簡介(教程1)

一、機器學習：問題設定通常，一個學習問題是通過分析一些資料樣本來嘗試預測未知資料的屬性。如果每一個樣本不僅僅是一個單獨的數字，比如一個多維的例項（multivariate data），也就是說有著多個屬性特徵我們可以把學習問題分成如下的幾個大類：（1）有監督學習資料帶有我們要

如何使用 scikit-learn 為機器學習準備文本數據

提取 color wiki analytic 準備 ast oca 局限 parse 歡迎大家前往雲+社區，獲取更多騰訊海量技術實踐幹貨哦~ 文本數據需要特殊處理，然後才能開始將其用於預測建模。我們需要解析文本，以刪除被稱為標記化的單詞。然後，這些詞還需要被編碼為整型或

scikit-learn 為機器學習

個數 toolbar tran 特殊單向散列分數有效 row 數學歡迎大家前往雲+社區，獲取更多騰訊海量技術實踐幹貨哦~ 文本數據需要特殊處理，然後才能開始將其用於預測建模。我們需要解析文本，以刪除被稱為標記化的單詞。然後，這些詞還需要被編碼為整型或浮點型，以

機器學習 Python scikit-learn 中文文件（3）使用 scikit-learn 介紹機器學習

與官方文件完美匹配的中文文件，請訪問 https://www.studyai.cn 與官方文件完美匹配的中文文件，請訪問 https://www.studyai.cn Logo 首頁安裝文件案例 Fork me on GitHub Previous scikit-learn

用scikit-learn掌握機器學習（三）特徵提取和預處理

從分類資料中提取特徵 from sklearn.feature_extraction import DictVectorizer onehot_encoder = DictVectorizer() #字典轉onehot用DictVectorizer() i

用Python Scikit-learn 實現機器學習十大演算法--樸素貝葉斯演算法（文末有程式碼）

1，前言很久不發文章，主要是Copy別人的總感覺有些不爽，所以整理些乾貨，希望相互學習吧。不囉嗦，進入主題吧，本文主要時說的為樸素貝葉斯分類演算法。與邏輯迴歸，決策樹一樣，是較為廣泛使用的有監督分類演算法，簡單且易於理解（號稱十大資料探勘演算法中最簡單的演算法）。但

機器學習實戰(用Scikit-learn和TensorFlow進行機器學習)(三)

上一節講述了真實資料（csv表格資料）訓練集的檢視與預處理以及Pineline的基本架構。今天接著往下進行實戰操作，會用到之前的資料和程式碼，如果有問題請檢視上一節。三、開始實戰 7、選擇及訓練模型首先嚐試訓練一個線性迴歸模型（Line

機器學習精簡教程之九——用scikit-learn的網格搜尋快速找到最優模型引數

本文轉自：http://www.shareditor.com/blogshow/?blogId=60 任何一種機器學習模型都附帶很多引數，不同場景對應不同的最佳引數，手工嘗試各種引數無疑浪費很多時間，scikit-learn幫我們實現了自動化，那就是網格搜尋。網格

機器學習精簡教程之七——用scikit-learn做特徵提取

本文轉自：http://www.shareditor.com/blogshow/?blogId=58 現實世界中多數特徵都不是連續變數，比如分類、文字、影象等，為了對非連續變數做特徵表述，需要對這些特徵做數學化表述，因此就用到了特徵提取（特徵數字化）分類變數的特徵提

HIT機器學習期末複習（1）——機器學習簡介及決策樹

劉楊的機器學習終於上完了惹，下週就要考試了，趕緊複習ing...... 趁機做個總結，就當是複習了惹...... 機器學習簡介 1、什麼是機器學習簡單來說，就是一個三元組<P, T, E> P——performance效能（對應著效能的評估函式，也就是常說的loss或者likeli

HIT機器學習期末復習（1）——機器學習簡介及決策樹

決策樹開始矩陣 improve 節點 policy heat red program 劉楊的機器學習終於上完了惹，下周就要考試了，趕緊復習ing...... 趁機做個總結，就當是復習了惹...... 機器學習簡介 1、什麽是機器學習簡單來說，就是一個三元組<P

1、python機器學習基礎教程——簡述

一、引言：機器學習(machine learning)：從資料中提取知識。分為：監督學習(supervised learning)和無監督學習(unsupervised learning)。二、監督機器學習應用： 1、識別信封上面的手寫的郵政編碼。 2、基於醫學影像判斷腫瘤是否為良性。 3、檢測

機器學習公開課筆記(1)：機器學習簡介及一元線性迴歸

初步介紹監督式學習: 給定資料集並且知道其正確的輸出應該是怎麼樣的，即有反饋（feedback），分為迴歸（Regressioin）: map輸入到連續的輸出值。分類（Classification）：map輸出到離散的輸出值。非監督式學習: 給定資料集，並不知道其正確的輸出是什麼，

機器學習筆記（1）簡介

1、關於機器學習的概念 1）下面是由卡內基梅隆大學電腦科學學院機器學習系主任 Tom Mitchell給出的機器學習的定義 “A computer program is said to learn from experience E with respec

1.機器學習基石 | 機器學習簡介

什麼是機器學習 1.初步認識機器學習：通過對於data的學習使得某些performance得到增強 2.哪些問題可以使用機器學習 3.具體定義 3.1 問題組成 3.2 學習形式其中（重點）， 3.

吳恩達（Andrew Ng）《機器學習》課程筆記（1）第1周——機器學習簡介，單變數線性迴歸

吳恩達（Andrew Ng）在 Coursera 上開設的機器學習入門課《Machine Learning》：目錄一、引言一、引言 1.1、機器學習（Machine Learni

機器學習簡介

解決開發機 images 收集數據環境 numpy .com numpy函數庫 bsp 1. 算法及解決問題介紹 2. 開發機器學習程序的基本步驟：　　1）收集數據。　　2）準備輸入數據。保證格式相符。　　3）分析輸入數據。保證數據有效性。　　4）訓練算法。

Spark技術在京東智能供應鏈預測的應用——按照業務進行劃分，然後利用scikit learn進行單機訓練並預測

rdd 解決難點新的訓練模型訓練 ati 情況明顯 3.3 Spark在預測核心層的應用我們使用Spark SQL和Spark RDD相結合的方式來編寫程序，對於一般的數據處理，我們使用Spark的方式與其他無異，但是對於模型訓練、預測這些需要調用算法接口的邏輯

R語言進行機器學習方法及實例

最近鄰 ridge glog 原始的默認值 ria er模型不能預測概率機器學習的研究領域是發明計算機算法，把數據轉變為智能行為。機器學習和數據挖掘的區別可能是機器學習側重於執行一個已知的任務，而數據發掘是在大數據中尋找有價值的東西。機器學習一般

機器學習基石筆記1

網絡日誌所有手動 cli 次數 poc 基於 mat 概率問題機器學習基石筆記1 lecture 1: The Learning Problem 1. 機器學習是什麽通過對數據的經驗計算(experience computed)，提升性能度量 3個關鍵性質 a)

使用scikit-learn進行機器學習的簡介(教程1)

二、載入一個樣本資料集

三、學習和預測

四、模型持久化

相關推薦