1. 程式人生 > >keras 序貫(Sequential)模型 常見設置

keras 序貫(Sequential)模型 常見設置

tail 情感 href http optimizer .net square hyper 預測

  • 最近看了一些例子,keras在預測方面,Sequential 常見搭配如下
  • 情感分析

    embedding -> lstm -> dense

    embedding 主要用於詞的one-hot 編碼, lstm 主要用於長距離記憶, dense 是全連接。

    CTR 預測或者序列預測

    lstm -> dense 就足夠了, 當然前面可以多個lstm。

    1. loss (目標函數)方面

    loss=‘mean_squared_error‘ (均方誤差), 或者 loss=‘mae‘(絕對值均差) 兩者選擇哪個都可以。

    1. optimizer(優化器)

    optimizer=‘adam‘ 常見用法。metrics 常設置為‘accuracy‘

    1. 激活函數

    有很多,比如 Sigmoid、TanHyperbolic(tanh)、ReLu、 softplus以及softmax函數。但實際中經常使用的是 relu。具體可以查看這篇文章(https://blog.csdn.net/qrlhl/article/details/60883604)。

    一般在lstm層數較多的時候使用relu,較少時使用默認的tanh

    keras 序貫(Sequential)模型 常見設置