0.概述

優點：
簡單且易於實現

缺點：

1.感知器模型

如果資料是線性可分的，並且是二分類的，則可以以下函式模型表示輸入到輸出的關係：

2.感知器學習策略

將所有誤分點到超平面距離之和表示為代價函式：

不考慮
，得到感知器的代價函式：

說明：李航的書用L(w,b)表示代價函式，而Ng教程用J()表示代價函式。

3.感知器學習演算法

4.程式碼

# @Author: Tianze Tang
# @Date:   2017-07-10
# @Email:  [email protected]
# @Last modified by:   Tianze Tang
 

# @Last modified time: 2017-07-10


import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import cv2
import random
import time

from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score


class Perceptron(object):

    def __init__(self):
        self.learning_step = 1
 

        self.max_iteration = 100000

    def sign(self,x):
        if (x >= 0):
            logic=1
        else: 
            logic=0
        return logic

    #  w*x+b
    def threshold(self,w,b,x):
        result = np.dot(w ,x) + b;
        return result

    # train
    def train(self,x,y):
        w = np.zeros(len(x[0
 
]))
        b = 0
        i = 0
        while (i<self.max_iteration):
            index = len(y)
            random_number = random.randint(0,index-1)
            if (y[random_number]* self.threshold(w,b,x[random_number])<= 0):
                w = w + self.learning_step * y[random_number]*x[random_number]
                b = b + self.learning_step * y[random_number]
            i = i + 1

        return w,b



x = np.array([[3,3],[4,3],[1,1]],dtype= int)
y = np.array([1,1,-1])
plt.plot([3,4],[3,3],'rx')
plt.plot([1],[1],'b*')
plt.axis([0,6,0,6])
test = Perceptron()
w,b=test.train(x,y)

# w*x+b=0
y1=(-b-w[0]*1)/w[1]
x2=(-b-w[1]*1)/w[0]
plt.plot([1,y1],[x2,1],'g')
plt.show()

5.總結

6.參考資料