深度學習的四個步驟

(1)準備資料
(2)搭建模型
(3)迭代訓練
(4)使用模型
1.準備資料
這裡使用y=2x為主體，通過加入一些干擾噪聲讓它的等號變成約等於

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

# np.linspace()函式。在指定的間隔內返回均勻間隔的數字
train_X = np.linspace(-1, 1, 100)
# Y的值。　
# np.random.randn(*train_X.shape) 等價與np.random.randn(100)
train_Y = 2 * train_X + np.random.randn(*train_X.shape) * 0.3

# 顯示資料
plt.plot(train_X, train_Y, 'ro', label='Original data')
# 顯示圖例
plt.legend()
plt.show()
 

２.搭建模型
(1)正向搭建模型

# x和y為佔位符，一個代表x的輸入;另一個代表對應的真實值y
X = tf.placeholder('float')
Y = tf.placeholder('float')

# 模型引數。w被初始化程[-1,1]的隨機數,b的初始化為0,都是一維的數字
W = tf.Variable(tf.random_normal([1]), name='weight')
<tf.Variable 'weight:0' shape=(1,) dtype=float32_ref>

b = tf.Variable(tf.zeros([1]), name='bias')
<tf.Variable 'bias:0' shape=(1,) dtype=float32_ref>

# 前向結構
# tf.multiply()函式。兩個數相乘
z = tf.multiply(X, W) + b
 

(2)反向搭建模型

# 反向優化
# 定義一個cost，等於生成值與真實值的平方差
cost = tf.reduce_mean(tf.square(Y - z))
# 定義一個學習率，代表調整引數的速度
# 值越大，表示調整的速度越快，但不精確；值越小，表示調整的速度越慢，但精度高
learning_rate = 0.01
# GradientDescentOptimizer()。是一個封裝好的梯度下降函式
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)

3迭代訓練
(1)訓練模型

# 初始化所有變數
init = tf.global_variables_initializer()
# 定義引數
training_epochs = 20
display_step = 2

# 啟動session
with tf.Session() as sess:
    sess.run(init)
    # 存放批次值和損失值
    plotdata = {"batchsize":[], "loss":[]}  
    for epoch in range(training_epochs):
        for(x, y) in zip(train_X, train_Y):
            sess.run(optimizer, feed_dict={X:x, Y:y})

        # 顯示訓練中的詳細資訊
        if epoch % display_step == 0:
            loss = sess.run(cost, feed_dict={X:train_X, Y:train_Y})
            print("Epoch:", epoch+1, "cost=", loss, "W=", sess.run(W), "b=", sess.run(b))
            if not (loss == "NA"):
                plotdata["batchsize"].append(epoch)
                plotdata["loss"].append(loss)
    print("Finished!")
    print("cost=", sess.run(cost, feed_dict={X:train_X, Y:train_Y}), "w=", sess.run(w), "b=", sess.run(b))
 

(2)訓練模型視覺化

plotdata = {'batchsize':[], 'loss':[]}
def moving_average(a, w=10):
    if len(a) < w:
        return a[:]
    return [val if idx < w  else sum(a[(idx-w:idx)])/w for idx, val in enumerate(a)]

plt.plot(train_X, train_Y, 'ro', label='Original data')
plt.plot(train_X, sess.run(W) * train_X + sess.run(b), label='Fittedline')
plt.legend()
plt.show()

pltdata['avgloss'] = moving_average(plotdata['loss'])
plt.figure(1)
plt.subplot(211)
plt.plot(plotdata['batchsize'], plotdata['avgloss'], 'b--')
plt.xlabel('Minibatch number')
plt.ylabel('Loss')
plt.title('Minbatch run vs. Training loss') 
plt.show()

4.使用模型

print('x=0.2, z=', sess.run(z, feed_dict={X:0.2}))
結果為：
x=0.2, z= [0.4408053]