1. 程式人生 > >機器學習3:sigmod函式與分類(啟用函式的來龍去脈)

機器學習3:sigmod函式與分類(啟用函式的來龍去脈)

sigmod函式:

sigmod函式是常用的啟用函式,函式特點如上,用來表示分類概率。表面上看,是因為函式曲線正好可以用來描述概率關係0-1之間,並且有無限趨近的特點;實際上,sigmod函式確實與分類概率存在特定的聯絡。

具體分析如下:

在bayes分類中,後驗概率表示為

$$P(C_{1}|x)=\frac{P(x|C_{1})P(C_{1})} { P(x|C_{1}) P(C_{1}) + P(x|C_{2}) P(C_{2})} \\ =\frac{1}{1 + \frac{P(x|C_{2}) P(C_{2})}{ P(x|C_{1}) P(C_{1})}} \\ =\frac{1}{1+e^{-z}}$$

首先看式(2),經過計算概率分佈可以求得$$\frac{P(x|C_{2})P(C_{2})}{P(x|C_{1})P(C_{1})} $$等價於exp(-z)的形式,其中z=wx+b。

因此,機器學習中可以使用線性模型z=wx+b進行分類,由啟用函式求得分類時的概率。

 

下面是公式推導,前方高能,具體過程可忽略,記住z最終可以表示成線性表示式即可。