1. 程式人生 > >個人對stacking的思想理解

個人對stacking的思想理解

主要分為幾個基礎模型,一個元模型

對於基礎模型,採用K折交叉的方式來取樣資料,並分別進行訓練,這樣對於每個模型,都會用K組取樣資料來進行訓練,從而得到K個不同的模型版本

假設現在基礎模型有KNN,SVM, 那麼對基礎模型訓練後會得到如下幾個模型:

KNN_model1, KNN_model2....KNN_modelK

SVM_model1, SVM_model2....SVM_modelK

然後對於一個樣本,用這些模型的預測值作為輸入,用樣本的實際輸出作為輸出,構造訓練資料

就是輸入作為特徵,輸出作為輸出,然後用這些資料來訓練元模型,當然元模型的輸入還可以加入其它的特徵

這說的是訓練階段

 

預測階段:

其實邏輯類似,也是先計算所有的基礎模型的預測值,然後求均值,並作為元模型的輸入,元模型的輸出就是最終整個模型的預測值