1 張量和圖

TensorFlow是一種採用資料流圖（data flow graphs），用於數值計算的開源軟體庫。其中 Tensor 代表傳遞的資料為張量（多維陣列），Flow 代表使用計算圖進行運算。資料流圖用「結點」（nodes）和「邊」（edges）組成的有向圖來描述數學運算。「結點」一般用來表示施加的數學操作，但也可以表示資料輸入的起點和輸出的終點，或者是讀取/寫入持久變數（persistent variable）的終點。邊表示結點之間的輸入/輸出關係。這些資料邊可以傳送維度可動態調整的多維資料陣列，即張量（tensor）。

a = tf.constant(2, tf.int16)
b = tf.constant(4, tf.float32)

graph = tf.Graph()
with graph.as_default():
    a = tf.Variable(8, tf.float32)
    b = tf.Variable(tf.zeros([2,2], tf.float32))
    
with tf.Session(graph=graph) as session:
    tf.global_variables_initializer().run()
    print(f)
    print(session.run(a))
    print(session.run(b))

#輸出：
>>> <tf.Variable 'Variable_2:0' shape=() dtype=int32_ref>
>>> 8
>>> [[ 0.  0.]
>>>  [ 0.  0.]]
 

在 Tensorflow 中，所有不同的變數和運算都是儲存在計算圖。所以在我們構建完模型所需要的圖之後，還需要開啟一個會話（Session）來執行整個計算圖。在會話中，我們可以將所有計算分配到可用的 CPU 和 GPU 資源中。

如下所示程式碼，我們宣告兩個常量 a 和 b，並且定義一個加法運算。但它並不會輸出計算結果，因為我們只是定義了一張圖，而沒有執行它：

1. a=tf.constant([1,2],name="a")
2. b=tf.constant([2,4],name="b")
3. result = a+b
4. print(result)

#輸出：Tensor("add:0", shape=(2,), dtype=int32)

下面的程式碼才會輸出計算結果，因為我們需要建立一個會話才能管理 TensorFlow 執行時的所有資源。但計算完畢後需要關閉會話來幫助系統回收資源，不然就會出現資源洩漏的問題。下面提供了使用會話的兩種方式：

a=tf.constant([1,2,3,4])
b=tf.constant([1,2,3,4])
result=a+b
sess=tf.Session()
print(sess.run(result))
sess.close

#輸出 [2 4 6 8]

with tf.Session() as sess:
    a=tf.constant([1,2,3,4])
    b=tf.constant([1,2,3,4])
    result=a+b
    print(sess.run(result))

#輸出 [2 4 6 8]
 

2 常量和變數

TensorFlow 中最基本的單位是常量（Constant）、變數（Variable）和佔位符（Placeholder）。常量定義後值和維度不可變，變數定義後值可變而維度不可變。在神經網路中，變數一般可作為儲存權重和其他資訊的矩陣，而常量可作為儲存超引數或其他結構資訊的變數。下面我們分別定義了常量與變數：

a = tf.constant(2, tf.int16)
b = tf.constant(4, tf.float32)
c = tf.constant(8, tf.float32)

d = tf.Variable(2, tf.int16)
e = tf.Variable(4, tf.float32)
f = tf.Variable(8, tf.float32)

g = tf.constant(np.zeros(shape=(2,2), dtype=np.float32))

h = tf.zeros([11], tf.int16)
i = tf.ones([2,2], tf.float32)
j = tf.zeros([1000,4,3], tf.float64)

k = tf.Variable(tf.zeros([2,2], tf.float32))
l = tf.Variable(tf.zeros([5,6,5], tf.float32))

在上面程式碼中，我們分別聲明瞭不同的常量（tf.constant()）和變數（tf.Variable()），其中tf.float 和tf.int tftf分別聲明瞭不同的浮點型和整數型資料。而 tf.ones() 和 tf.zeros() 分別產生全是 1、全是 0 的矩陣。我們注意到常量 g，它的宣告結合了 TensorFlow 和 Numpy，這也是可執行的。

w1=tf.Variable(tf.random_normal([2,3],stddev=1,seed=1))

以上語句宣告一個2 行 3 列的變數矩陣，該變數的值服從標準差為 1 的正態分佈，並隨機生成。

現在，我們可以應用變數來定義神經網路中的權重矩陣和偏置項向量：

weights = tf.Variable(tf.truncated_normal([256 * 256, 10]))
biases = tf.Variable(tf.zeros([10]))
print(weights.get_shape().as_list())
print(biases.get_shape().as_list())
#輸出
>>>[65536, 10]
>>>[10]