注：本系列所有部落格將持續更新併發布在github上，您可以通過github下載本系列所有文章筆記檔案。

 

1 神器級的TensorBoard¶

 

TensorBoard是TensorFlow中的又一神器級工具，想使用者提供了模型視覺化的功能。我們都知道，在構建神經網路模型時，只要模型開始訓練，很多細節對外界來說都是不可見的，引數如何變化，準確率怎麼樣了，loss還在減小嗎，這些問題都很難弄明白。但是，TensorBoard通過結合web應用為我們提供了這一功能，它將模型訓練過程的細節以圖表的形式通過瀏覽器視覺化得展現在我們眼前，通過這種方式我們可以清晰感知weight、bias、accuracy的變化，把握訓練的趨勢。

 

本文介紹兩種使用TensorBoard的方式。不過，無論使用那種方式，請先啟動TensorBoard的web應用，這個web應用讀取模型訓練時的日誌資料，每隔30秒更新到網頁端。在TensorFlow2.0中，TensorBoard是預設安裝好的，所以，可以直接根據以下命令啟動：

 

tensorboard --logdir "/home/chb/jupyter/logs"

 

logdir指的是日誌目錄，每次訓練模型時，TensorBoard會在日誌目錄中建立一個子目錄，在其中寫入日誌，TensorBoard的web應用正是通過日誌來感知模型的訓練狀態，然後更新到網頁端。

如果命令成功執行，可以通過本地的6006埠開啟網頁，但是，此時開啟的頁面時下面這個樣子,因為還沒有開始訓練模型，更沒有將日誌寫入到指定的目錄。

 

 

要將訓練資料寫入指定目錄就必須將TensorBoard嵌入模型的訓練過程，TensorFlow介紹了兩種方式。下面，我們通過mnist資料集訓練過程來介紹著兩種方式。

 

2 在Model.fit()中使用TensorBoard¶

In [1]:

import tensorflow as tf
import tensorboard
import datetime

In [20]:

mnist = tf.keras.datasets.mnist

(x_train, y_train),(x_test, y_test) = mnist.load_data()
x_train, x_test = x_train / 255.0, x_test / 255.0

def create_model():
  return tf.keras.models.Sequential([
    tf.keras.layers.Flatten(input_shape=(28, 28)),
    tf.keras.layers.Dense(512, activation='relu'),
    tf.keras.layers.Dropout(0.2),
    tf.keras.layers.Dense(10, activation='softmax')
  ])

In [21]:

model = create_model()
model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])

# 定義日誌目錄，必須是啟動web應用時指定目錄的子目錄，建議使用日期時間作為子目錄名
log_dir="/home/chb/jupyter/logs/" + datetime.datetime.now().strftime("%Y%m%d-%H%M%S")
tensorboard_callback = tf.keras.callbacks.TensorBoard(log_dir=log_dir, histogram_freq=1)  # 定義TensorBoard物件

model.fit(x=x_train, 
          y=y_train, 
          epochs=5, 
          validation_data=(x_test, y_test), 
          callbacks=[tensorboard_callback])  # 將定義好的TensorBoard物件作為回撥傳給fit方法，這樣就將TensorBoard嵌入了模型訓練過程

 

Train on 60000 samples, validate on 10000 samples
Epoch 1/5
60000/60000 [==============================] - 4s 71us/sample - loss: 0.2186 - accuracy: 0.9349 - val_loss: 0.1180 - val_accuracy: 0.9640
Epoch 2/5
60000/60000 [==============================] - 4s 66us/sample - loss: 0.0972 - accuracy: 0.9706 - val_loss: 0.0754 - val_accuracy: 0.9764
Epoch 3/5
60000/60000 [==============================] - 4s 66us/sample - loss: 0.0685 - accuracy: 0.9781 - val_loss: 0.0696 - val_accuracy: 0.9781
Epoch 4/5
60000/60000 [==============================] - 4s 66us/sample - loss: 0.0527 - accuracy: 0.9831 - val_loss: 0.0608 - val_accuracy: 0.9808
Epoch 5/5
60000/60000 [==============================] - 4s 66us/sample - loss: 0.0444 - accuracy: 0.9859 - val_loss: 0.0637 - val_accuracy: 0.9803

Out[21]:

<tensorflow.python.keras.callbacks.History at 0x7f9b690893d0>

 

相關推薦