1、什麼是 tensorflow 模型

當你訓練完一個神經網路,你可能會想要儲存這個網路,以便將來拿來使用或直接用於其他資料的 deploy,

tensorflow 模型包括:已訓練並優化的權重引數,網路結構和 graph。

tensorflow 模型檔案包括兩大塊:

  • meta graph :序列化緩衝檔案,儲存完整的網路結構,graph ,即 all variables, operations, collections 等,副檔名是 .meta
  • checkpoint file:二進位制檔案,包括 weights, biases, gradients 和 all the other variables,副檔名為 .ckpt 。但是從0.11版本開始,就不是單獨的 .ckpt 檔案了,而是有兩個檔案:
>>mymodel.data-00000-of-00001 #包括訓練變數,可從這個檔案開始繼續訓練
>>mymodel.index 

此外,checkpoint 儲存最近一次的模型。所以 tensorflow 共包含以下四個檔案

2、儲存 tensorflow 模型

有時候不知道哪個模型是最優的,故需要儲存多個模型。預設情況下儲存最近的5個模型。

tensorflow 中的變數只在會話 session 中存在,所以需要在 saver 物件上呼叫 save 方法,將模型儲存在會話中。

#模型的儲存
import tensorflow as tf
import os

w1 = tf.Variable(tf.random_normal(shape=[2]), name='w1')
w2 = tf.Variable(tf.random_normal(shape=[5]), name='w2')
saver = tf.train.Saver() #可指定需要儲存的tensor,不指定則全部儲存
with tf.Session() as sess:    
    #sess = tf.Session()
    sess.run(tf.global_variables_initializer())
    #建立儲存模型的資料夾
    if not os.path.exists('my_model'):
        os.mkdir('./my_model')
        saver.save(sess, './my_model/my_test_model')

#可通過設定saver.save()的引數指定儲存哪一步的模型
saver.save(sess, './my_model/my_test_model', global_step=1000) #儲存1000步的模型

# This will save following files in Tensorflow v >= 0.11
# my_test_model.data-00000-of-00001
# my_test_model.index
# my_test_model.meta
# checkpoint

1000步的模型,會在 my_test_model 後 append ‘-1000’ 

.meta 儲存的是網路結構,訓練過程中不改變網路結果,儲存一次即可,可使用如下語句:

saver.save(sess, './my_model/my_test_model', global_step=step, write_meta_graph=False)

如果想要每2小時儲存一次模型,且儲存最近的4個模型,可使用如下語句:

#saves a model every 2 hours and maximum 4 latest models are saved.
saver = tf.train.Saver(max_to_keep=4, keep_checkpoint_every_n_hours=2)

如果不儲存全部的 tensor ,可通過指定 variables/collections 來儲存,使用如下語句:

#將需要儲存的變數以列表形式新增在saver中?自己的理解~確實是這個語句
saver = tf.train.Saver([w1, w2])

3、載入預訓練模型

如果需要用別人訓練好的模型做微調,需要以下兩步:

  • 使用如下語句載入網路結構:
saver = tf.train.import_meta_graph('./my_model/my_test_model.meta')
  • 使用如下語句載入引數:
import tensorflow as tf
with tf.Session() as sess:
    new_saver = tf.train.import_meta_graph('./my_model/my_test_model.meta') #載入網路結構
    new_saver.restore(sess, tf.train.latest_checkpoint('./my_model')) #載入最近一次儲存的ckpt
    #初始化引數
    sess.run(tf.global_variables_initializer())
    print(sess.run('w1:0'))
    #返回:INFO:tensorflow:Restoring parameters from ./my_model\my_test_model
      [ 0.35064858  2.87996149]

 

 

 

參考:https://cv-tricks.com/tensorflow-tutorial/save-restore-tensorflow-models-quick-complete-tutorial/

https://blog.csdn.net/liuxiao214/article/details/79048136