特徵提取後常常會有許多問題，如缺失值問題/不屬於同一綱量問題/資訊冗餘問題/資訊利用率低問題．
以下使用鳶尾花資料集進行處理．
匯入鳶尾花資料：

from sklearn.datasets import load_iris
iris = load_iris()

資料預處理

無綱量化：

將不同規格資料轉換為同一規格．

1.標準化

基於特徵矩陣的列，將特徵值轉換至服從標準正態分佈.

x′=x−X¯S

from sklearn.preprocessing import StandardScaler
StandardScaler().fit_transform(iris.data
 
)

2.區間縮放法

區間縮放法的思路有多種，常見的一種為利用兩個最值進行縮放．

x′=x−MinMax−Min

from sklearn.preprocessing import MinMaxScaler
MinMaxScaler().fit_transform(iris.data)

3.歸一化

歸一化是依照特徵矩陣的行處理資料，其目的在於樣本向量在點乘運算或其他核函式計算相似性時，擁有統一的標準，也就是說都轉化為“單位向量”。規則為L2的歸一化公式:

x′=x∑nix2i√

from sklearn.preprocessing import Normalizer
 

Normalizer().fit_transform(iris.data)

定量特徵二值化：

設定一個閾值，大於閾值的賦值為1，小於等於閾值的賦值為0

鳶尾花資料集：

分別對鳶尾花資料集進行標準化/區間縮放/歸一化/二值化處理

# 特徵工程
import numpy as np
from sklearn.datasets import load_iris
import matplotlib.pyplot as plt
iris = load_iris()

x = np.arange(len(iris.data))
iris0 = [iris.data[i][0] for i in
 
 range(len(iris.data))]
iris1 = [iris.data[i][1] for i in range(len(iris.data))]
iris2 = [iris.data[i][2] for i in range(len(iris.data))]
iris3 = [iris.data[i][3] for i in range(len(iris.data))]

from sklearn.preprocessing import StandardScaler
from sklearn.preprocessing import MinMaxScaler
from sklearn.preprocessing import Normalizer
from sklearn.preprocessing import Binarizer
from sklearn.preprocessing import OneHotEncoder

print OneHotEncoder().fit_transform(iris.target.reshape((-1,1)))


plt.subplot(511), plt.plot(x, iris0, 'ys', x, iris1, 'g^', x, iris2, 'co', x, iris3, 'r*')

for index in range(4):
    if index == 0:
        # 標準化--標準化需要計算特徵的均值和標準差
        iris_standard = StandardScaler().fit_transform(iris.data)
    elif index == 1:
        # 區間縮放法--常見的為利用兩個最值進行縮放
        iris_standard = MinMaxScaler().fit_transform(iris.data)
    elif index == 2:
        # 標準化與歸一化的區別--
        iris_standard = Normalizer().fit_transform(iris.data)
    elif index == 3:
        # 標準化與歸一化的區別--
        iris_standard = Binarizer(threshold=3).fit_transform(iris.data)


    iris_standard0 = [iris_standard[i][0] for i in range(len(iris_standard))]
    iris_standard1 = [iris_standard[i][1] for i in range(len(iris_standard))]
    iris_standard2 = [iris_standard[i][2] for i in range(len(iris_standard))]
    iris_standard3 = [iris_standard[i][3] for i in range(len(iris_standard))]

    plt.subplot(512+index), plt.plot(x, iris_standard0, 'ys', x, iris_standard1, 'g^', x, iris_standard2, 'co', x, iris_standard3, 'r*')

plt.show()

顯示輸出：

分別使用鳶尾花資料的第1/2/3個特徵作為x/y/z軸的座標值，使用第四的特徵作為座標點的顏色指標，可以看到鳶尾花資料的大致分佈情況如圖：

# # 特徵工程
import numpy as np
from sklearn.datasets import load_iris
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D
from sklearn.preprocessing import StandardScaler
from sklearn.preprocessing import MinMaxScaler
from sklearn.preprocessing import Normalizer
from sklearn.preprocessing import Binarizer

iris = load_iris()

index = 0

if index == 0:
    # 原始資料
    iris_standard = iris.data
elif index == 1:
    # 標準化--標準化需要計算特徵的均值和標準差
    iris_standard = StandardScaler().fit_transform(iris.data)
elif index == 2:
    # 區間縮放法--常見的為利用兩個最值進行縮放
    iris_standard = MinMaxScaler().fit_transform(iris.data)
elif index == 3:
    # 歸一化
    iris_standard = Normalizer().fit_transform(iris.data)
elif index == 4:
    # 定量特徵二值化--設定一個閾值，大於閾值的賦值為1，小於等於閾值的賦值為0
    iris_standard = Binarizer(threshold=3).fit_transform(iris.data)


iris0 = [iris_standard[i][0] for i in range(len(iris_standard))]
iris1 = [iris_standard[i][1] for i in range(len(iris_standard))]
iris2 = [iris_standard[i][2] for i in range(len(iris_standard))]
iris3 = [iris_standard[i][3] for i in range(len(iris_standard))]

# iris3 = iris.target

fig = plt.figure()
ax = fig.add_subplot(111, projection='3d', axisbg= 'k')

xs = iris0
ys = iris1
zs = iris2

cm = plt.cm.get_cmap('RdYlBu')
ax.scatter(xs, ys, zs, c=iris3, vmin=min(iris3), vmax=max(iris3), s=10, cmap=cm, marker='o',linewidth=2, antialiased=True)
ax.set_xlabel('X Label')
ax.set_ylabel('Y Label')
ax.set_zlabel('Z Label')

plt.show()