過擬合原因：

由於訓練資料包含抽樣誤差，訓練時，複雜的模型將抽樣誤差也考慮在內，將抽樣誤差也進行了很好的擬合，如

1、比如資料不夠，

2、訓練太多擬合了資料中的噪聲或沒有代表性的特徵也就是模型太複雜

所以防止過擬合的方法：

1.獲取更多的資料

    1).從資料來源獲得更多的真實資料

    2).資料增強

    3).根據當前資料集生成資料

2.使用合適的模型

    1).網路結構Architecture,網路層數，神經元個數

    2).訓練時間Early stopping

    3).限制權值Weight-decay，正則化

    4).增加噪聲Noise，在訓練資料、權值或網路響應中加噪聲（後兩者用的較少）

3.結合多種模型

    1).Bagging，多個弱分類器各司其職，如隨機森林

    2).Boosting，多個弱分類器加權平均

    3).Dropout，訓練時隨機失效某些節點，相當於多個模型

4.貝葉斯方法