Keras中幾個重要函式用法

Keras · 發表 2018-12-07 12:27:00

摘要： Keras的核心資料結構是“模型”，模型是一種組織網路層的方式。Keras中主要的模型是Sequential模型，Sequential是一系列網路層按順序構成的棧。你也可以檢視泛型模型來學習建立更復雜的模型。 Keras中幾個重要函式用法模組需匯入包： from keras...

Keras的核心資料結構是“模型”，模型是一種組織網路層的方式。Keras中主要的模型是Sequential模型，Sequential是一系列網路層按順序構成的棧。你也可以檢視泛型模型來學習建立更復雜的模型。

Keras中幾個重要函式用法

模組需匯入包：

from keras.models import Sequential  
from keras.layers import Dense, Dropout, Activation, Flatten  
from keras.layers.convolutional import Conv2D  
from keras.layers.pooling import MaxPooling2D  
from keras.layers import Embedding, LSTM  
from keras.utils import np_utils  
from keras.datasets import mnist

啟用函式有如下幾種型別可選：

softmax、elu、softplus、softsign、relu、tanh、sigmoid、hard_sigmoid、linear

Dense(全連線層)

Dense層（https://keras-cn.readthedocs.io/en/latest/layers/core_layer/）

keras.layers.core.Dense ( units, activation=None, use_bias=True, kernel_initializer='glorot_uniform', bias_initializer='zeros', kernel_regularizer=None, bias_regularizer=None, activity_regularizer=None, kernel_constraint=None, bias_constraint=None  )

units：大於0的整數，代表該層的輸出維度。 activation：啟用函式，為預定義的啟用函式名（參考啟用函式），或逐元素（element-wise）的Theano函式。如果不指定該引數，將不會使用任何啟用函式（即使用線性啟用函式：a(x)=x） usebias: 布林值，是否使用偏置項 kernelinitializer：權值初始化方法，為預定義初始化方法名的字串，或用於初始化權重的初始化器。參考initializers bias_initializer：權值初始化方法，為預定義初始化方法名的字串，或用於初始化權重的初始化器。參考initializers

Keras模型儲存

我們不推薦使用pickle或cPickle來儲存Keras模型。

你可以使用model.save(filepath)將Keras模型和權重儲存在一個HDF5檔案中，該檔案將包含：

模型的結構，以便重構該模型
模型的權重
訓練配置（損失函式，優化器等）
優化器的狀態，以便於從上次訓練中斷的地方開始

使用keras.models.load_model(filepath)來重新例項化你的模型，如果檔案中儲存了訓練配置的話，該函式還會同時完成模型的編譯

例子：

from keras.models import load_model
model.save('my_model.h5')  # creates a HDF5 file 'my_model.h5'
del model  # deletes the existing model
# returns a compiled model
# identical to the previous one
model = load_model('my_model.h5')

如果你只是希望儲存模型的結構，而不包含其權重或配置資訊，可以使用：

# save as JSON
json_string = model.to_json()
# save as YAML
yaml_string = model.to_yaml()

這項操作將把模型序列化為json或yaml檔案，這些檔案對人而言也是友好的，如果需要的話你甚至可以手動開啟這些檔案並進行編輯。

當然，你也可以從儲存好的json檔案或yaml檔案中載入模型：

# model reconstruction from JSON:
from keras.models import model_from_json
model = model_from_json(json_string)
# model reconstruction from YAML
model = model_from_yaml(yaml_string)

如果需要儲存模型的權重，可通過下面的程式碼利用HDF5進行儲存。注意，在使用前需要確保你已安裝了HDF5和其Python庫h5py

model.save_weights('my_model_weights.h5')
如果你需要在程式碼中初始化一個完全相同的模型，請使用：
model.load_weights('my_model_weights.h5')

如果你需要載入權重到不同的網路結構（有些層一樣）中，例如fine-tune或transfer-learning，你可以通過層名字來載入模型：

model.load_weights('my_model_weights.h5', by_name=True)

例如：

"""
假如原模型為：
    model = Sequential()
    model.add(Dense(2, input_dim=3, name="dense_1"))
    model.add(Dense(3, name="dense_2"))
    ...
    model.save_weights(fname)
"""
# new model
model = Sequential()
model.add(Dense(2, input_dim=3, name="dense_1"))  # will be loaded
model.add(Dense(10, name="new_dense"))  # will not be loaded
# load weights from first model; will only affect the first layer, dense_1.
model.load_weights(fname, by_name=True)

視覺化

使用方式

keras.utils.vis_utils模組提供了畫出Keras模型的函式（利用graphviz）

該函式將畫出模型結構圖，並儲存成圖片：

from keras.utils import plot_model
plot_model(model, to_file='model.png')

具體可參考：視覺化visualization（https://keras-cn.readthedocs.io/en/latest/other/visualization/）

解決辦法

首先，安裝pip安裝pygot和graphviz之後，執行上面的視覺化程式碼仍然報錯
查詢說是Windows下面只能採用安裝包的方式進行安裝，不能pip安裝.....

最終，費了很大的周折之後，終於找到解決辦法：

首先，安裝graphviz（官方下載網址：https://graphviz.gitlab.io/_pages/Download/Download_windows.html），然後在環境變數裡面配置其路徑（好像也沒有什麼用）
然後在程式碼裡面設定如下：

import os
os.environ["PATH"] += os.pathsep + 'D:/install/Program Files (x86)/Graphviz2.38/bin/'
plot_model(model, to_file='model.png', show_shapes=True, show_layer_names=True)

OK，終於成功了。期間還涉及到說按照graphviz->grapphviz軟體本身->pydot的順序按照軟體什麼的，但是問題並沒有解決，還是得在程式中引入地址。

參考文獻

Keras中文文件：https://keras-cn.readthedocs.io/en/latest/for_beginners/concepts/

Keras中幾個重要函式用法