位置指紋法中最常用的演算法是k最近鄰（kNN）：選取與當前RSS最鄰近的k個指紋的位置估計當前位置，簡單直觀有效。本文介紹kNN用於定位的基本原理與具體實現（matlab、python）。

基本原理

位置指紋法可以看作是分類或迴歸問題（特徵是RSS向量，標籤是位置），監督式機器學習方法可以從資料中訓練出一個從特徵到標籤的對映關係模型。kNN是一種很簡單的監督式機器學習演算法，可以用來做分類或迴歸。

對於線上RSS向量\(s\)，分別計算它與指紋庫中各個RSS向量{\(s_1, s_2, ..., s_M\)}的距離（比如歐氏距離），選取最近的\(k\)個位置指紋（一個指紋是一個RSS向量與一個位置的對應）。

• 對於knn迴歸，標籤是座標x和座標y，可以進行數值計算，使用這k個指紋的位置座標取平均，得到作為定位結果。

• 對於knn分類，將定位區域劃分為1m$\times$1m的網格，每個網格是看作一個類別，用網格標號代替，對k個網格標號計數投票，選擇票數做多的網格作為定位結果。

kNN是一種lazy式的學習方法，在上面的過程中不需要使用訓練資料進行“學習”，在定位的時候直接在訓練資料中搜索就可以。一些工具包中的kNN演算法的訓練過程中會建立一個kd樹（一種資料結構），有利於線上預測時的搜尋。

具體實現

匯入資料

# 匯入資料
import numpy as np
import scipy.io as scio
offline_data = scio.loadmat('offline_data_random.mat')
online_data = scio.loadmat('online_data.mat')
offline_location, offline_rss = offline_data['offline_location'], offline_data['offline_rss']
trace, rss = online_data['trace'][0:1000, :], online_data['rss'][0:1000, :]
del offline_data
del online_data
 

# 定位準確度
def accuracy(predictions, labels):
    return np.mean(np.sqrt(np.sum((predictions - labels)**2, 1)))

knn迴歸

# knn迴歸
from sklearn import neighbors
knn_reg = neighbors.KNeighborsRegressor(40, weights='uniform', metric='euclidean')
predictions = knn_reg.fit(offline_rss, offline_location).predict(rss)
acc = accuracy(predictions, trace)
print "accuracy: ", acc/100, "m"
 

accuracy:  2.24421479398 m

knn分類

# knn分類，需要把座標轉換成網格標號，預測後將網格標號轉換為座標
labels = np.round(offline_location[:, 0]/100.0) * 100 + np.round(offline_location[:, 1]/100.0)
from sklearn import neighbors
knn_cls = neighbors.KNeighborsClassifier(n_neighbors=40, weights='uniform', metric='euclidean')
predict_labels = knn_cls.fit(offline_rss, labels).predict(rss)
x = np.floor(predict_labels/100.0)
y = predict_labels - x * 100
predictions = np.column_stack((x, y)) * 100
acc = accuracy(predictions, trace)
print "accuracy: ", acc/100, 'm'

accuracy:  2.73213398632 m

定位演算法分析

加入資料預處理和交叉驗證

# 預處理，標準化資料(其實RSS資料還算正常，不預處理應該也無所謂，特徵選擇什麼的也都不需要)
from sklearn.preprocessing import StandardScaler
standard_scaler = StandardScaler().fit(offline_rss)
X_train = standard_scaler.transform(offline_rss)
Y_train = offline_location
X_test = standard_scaler.transform(rss)
Y_test = trace

# 交叉驗證，在knn裡用來選擇最優的超引數k
from sklearn.model_selection import GridSearchCV
from sklearn import neighbors
parameters = {'n_neighbors':range(1, 50)}
knn_reg = neighbors.KNeighborsRegressor(weights='uniform', metric='euclidean')
clf = GridSearchCV(knn_reg, parameters)
clf.fit(offline_rss, offline_location)
scores = clf.cv_results_['mean_test_score']
k = np.argmax(scores) #選擇score最大的k

# 繪製超引數k與score的關係曲線
import matplotlib.pyplot as plt
%matplotlib inline
plt.plot(range(1, scores.shape[0] + 1), scores, '-o', linewidth=2.0)
plt.xlabel("k")
plt.ylabel("score")
plt.grid(True)
plt.show()

# 使用最優的k做knn迴歸
knn_reg = neighbors.KNeighborsRegressor(n_neighbors=k, weights='uniform', metric='euclidean')
predictions = knn_reg.fit(offline_rss, offline_location).predict(rss)
acc = accuracy(predictions, trace)
print "accuracy: ", acc/100, "m"

accuracy:  2.22455511073 m

# 訓練資料量與accuracy
k = 29
data_num = range(100, 30000, 300)
acc = []
for i in data_num:
    knn_reg = neighbors.KNeighborsRegressor(n_neighbors=k, weights='uniform', metric='euclidean')
    predictions = knn_reg.fit(offline_rss[:i, :], offline_location[:i, :]).predict(rss)
    acc.append(accuracy(predictions, trace) / 100)

# 繪製訓練資料量與accuracy的曲線
import matplotlib.pyplot as plt
%matplotlib inline
plt.plot(data_num, acc, '-o', linewidth=2.0)
plt.xlabel("data number")
plt.ylabel("accuracy (m)")
plt.grid(True)
plt.show()

作者：rubbninja
出處：http://www.cnblogs.com/rubbninja/
關於作者：目前主要研究領域為機器學習與無線定位技術，歡迎討論與指正！
版權宣告：本文版權歸作者和部落格園共有，轉載請註明出處。