在機器學習領域,總是看到“演算法的魯棒性”這類字眼,比如這句--L1範數比L2範數魯棒。

“魯棒”的英文是robustness,其是一個特別大的研究領域。最權威的著作當屬穩健統計的2本厚書 文獻[1]和[2],有志之士可作研究。

 Huber從穩健統計的角度系統地給出了魯棒性3個層面的概念:

        一是:模型具有較高的精度或有效性,這也是對於機器學習中所有學習模型的基本要求;

        二是:對於模型假設出現的較小偏差,只能對演算法效能產生較小的影響;   

               主要是:噪聲(noise)

        三是:對於模型假設出現的較大偏差,不可對演算法效能產生“災難性”的影響。  

              主要是:離群點(outlier)


參考作者:https://blog.csdn.net/zhouxinxin0202/article/details/79915873