神經網路優化(初始化權重)
阿新 • • 發佈:2018-11-13
-
-
更好的方法來初始化權重? -
因為傳統的初始化權重問題是用標準正態分佈(均值為0,方差為1)隨機初始化的,這其實是存在不合理的部分。
-
標準正態分佈:
可以看出真實資料的分佈其實是在靠近坡峰的部分,符合正態分佈的。
-
-
標準正態分佈:
可以看出真實資料的分佈其實是在靠近坡峰的部分,符合正態分佈的。