1. 程式人生 > >演算法梳理之邏輯迴歸

演算法梳理之邏輯迴歸

前面介紹了輸入與輸出皆為連續值的線性迴歸,現在介紹一個用於分類的廣義線性迴歸—邏輯迴歸,將線性迴歸的結果作為一個聯絡函式的輸入,選擇合適的聯絡函式便可很好的實現分類的目的。 線性迴歸中迴歸的目標是使得迴歸值接近我們的標籤,如果我們想讓迴歸的目標為標籤的衍生物呢?如對數線性迴歸lny=wTx+blny=w^Tx+b。此時實際上是讓ewTx+be^{w^Tx+b}逼近yy,是在求取輸入空間到輸出空間的非線性函式對映,將線性迴歸的預測值通過聯絡函式與真實的預測值聯絡在了一起。同理,如果此時我們的真實預測值是一個二值結果{0,1},通過何種聯絡函式能將線性迴歸的預測值變為二值結果呢?Sigmoid函式便是很理想的一個函式,連續且可微,值域為(

0,1)(0,1),將Sigmoid作為聯絡函式後的結果與0.5進行大小比較便可得到一個二值的結果。 在這裡插入圖片描述

在這裡插入圖片描述