1. 程式人生 > >樸素貝葉斯後驗概率最大化準則意義?

樸素貝葉斯後驗概率最大化準則意義?

樸素貝葉斯法將例項分到後驗概率最大化的類中。這等價與期望風險最小化。假設選取的是0-1損失函式,

L(y,f(x))={10yf(x)y=f(x)
這是期望風險函式為
Rexp(f)===DXYL(y,f(x))P(x,y)dxdyDXDYL(y,f(x))P(y|x)P(x)dxdy=DX[DYL(y,f(x))P(y|x)dy]P(x)dx
其中,DYL(y,f(x))P(y|x)dy稱為在X=x時的y的條件期望。

為了使期望風險最小,只需要對每一個X=x

逐個極小化。

f(x)=====argminyYDYL(y,f(x))P(y|x)dyargminyYk=1KL(ck
,f(x))P(ck|x)
argminyYk=1KP(yck|x)argminyY1P(y=ck|x)argmaxyYP(y=ck|x)

根據期望風險最小化準則就得到了後驗概率最大化準則。

f(x)=argmaxckP(ck|X=x)