這是k-近鄰演算法的最後一個例子——手寫數字識別！

怎樣？是不是聽起來很高大上？

呵呵。然而這跟影象識別沒有半毛錢的關係

因為每個資料樣本並不是手寫數字的圖片，而是有由0和1組成的文字檔案，就像這樣：

嗯，這個資料集中的每一個樣本用圖形軟體處理過，變成了寬高都是32畫素的黑白影象。用文字格式表示出來就成了上面這個樣子，是一個32*32的矩陣。於是每個樣本就有1024維，這些0或1就是每個樣本的特徵值，標籤是手寫的數字，範圍0~9，比如左邊這幅是3，右邊這幅是6。

每個標籤都有將近200個樣本，可供訓練。

---------------------------------------------------------------------------------------------

我們首先定義一個函式，用於把上面這樣的一個txt檔案，變成一個1*1024的特徵矩陣。

def img2vector(filename):
    returnVect = zeros((1,1024))
    fr = open(filename)
    for i in range(32):
        lineStr = fr.readline()
        for j in range(32):
            returnVect[0, 32 * i + j] = int(lineStr[j])
    return returnVect

from os import listdir

def handwritingClassTest():
    hwLabels = []
    trainingFileList = listdir('trainingDigits')
    m = len(trainingFileList)
    trainingMat = zeros((m,1024))
    for i in range(m):
        fileNameStr = trainingFileList[i]
        fileStr = fileNameStr.split('.')[0]
        classNumStr = int(fileStr.split('_')[0])
        hwLabels.append(classNumStr)
        trainingMat[i,:] = img2vector('trainingDigits/%s' % fileNameStr)
    testFileList = listdir('testDigits')
    errorCount = 0.0
    mTest = len(testFileList)
    for i in range(mTest):
        fileNameStr = testFileList[i]
        fileStr = fileNameStr.split('.')[0]
        classNumStr = int(fileStr.split('_')[0])
        vectorUnderTest = img2vector('testDigits/%s' % fileNameStr)
        classifierResult = classify0(vectorUnderTest, trainingMat, hwLabels, 3)
        print "the classifier came back with: %d, the real answer is: %d" % (classifierResult, classNumStr)
        if (classifierResult != classNumStr): errorCount += 1.0
    print "\nthe total number of errors is: %d" % errorCount
    print "\nthe total error rate is: %f" % (errorCount/float(mTest))
 

函式列出路徑下的所有檔案和資料夾。'trainingDigits' 這個目錄下放的是訓練集資料樣本（就是上面那張圖展現的眾多文字檔案）。m是訓練集樣本數量。trainingMat是訓練集特徵矩陣。

8~13行這個迴圈：每個訓練樣本命名規則是n_x.txt，n就是標籤，x是該標籤的第幾個樣本。比如1_6.txt就是標籤1的第6的樣本。標籤存入hwLabels這個list裡面。然後把文字檔案轉換成特徵矩陣，用的是剛才那個img2vector函式。

然後開始搞測試樣本。測試樣本放在'testDigits' 這個目錄下，mTest是測試樣本數量。

17~24

執行結果（執行的過程比較慢）：

錯誤率僅為1.2%，效果還是不錯的。