1、tensorflow的基本運作

為了快速的熟悉TensorFlow程式設計，下面從一段簡單的程式碼開始：

import tensorflow as tf
 #定義‘符號’變數，也稱為佔位符
 a = tf.placeholder("float")
 b = tf.placeholder("float")

 y = tf.mul(a, b) #構造一個op節點

 sess = tf.Session()#建立會話
 #執行會話，輸入資料，並計算節點，同時列印結果
 print sess.run(y, feed_dict={a: 3, b: 3})
 # 任務完成, 關閉會話.
 sess.close()
 

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12

其中tf.mul(a, b)函式便是tf的一個基本的算數運算，接下來介紹跟多的相關函式。

2、tf函式

TensorFlow 將圖形定義轉換成分散式執行的操作, 以充分利用可用的計算資源(如 CPU 或 GPU。一般你不需要顯式指定使用 CPU 還是 GPU, TensorFlow 能自動檢測。如果檢測到 GPU, TensorFlow 會盡可能地利用找到的第一個 GPU 來執行操作.
平行計算能讓代價大的演算法計算加速執行，TensorFlow也在實現上對複雜操作進行了有效的改進。大部分核相關的操作都是裝置相關的實現，比如GPU。下面是一些重要的操作/核：

• 1
• 2
• 3

TensorFlow的算術操作如下：

張量操作Tensor Transformations

• 資料型別轉換Casting

• 形狀操作Shapes and Shaping

• 切片與合併（Slicing and Joining）

操作	描述
tf.slice(input_, begin, size, name=None)	對tensor進行切片操作 其中size[i] = input.dim_size(i) - begin[i] 該操作要求 0 <= begin[i] <= begin[i] + size[i] <= Di for i in [0, n] #’input’ is  #[[[1, 1, 1], [2, 2, 2]],[[3, 3, 3], [4, 4, 4]],[[5, 5, 5], [6, 6, 6]]] tf.slice(input, [1, 0, 0], [1, 1, 3]) ==> [[[3, 3, 3]]] tf.slice(input, [1, 0, 0], [1, 2, 3]) ==>  [[[3, 3, 3], [4, 4, 4]]] tf.slice(input, [1, 0, 0], [2, 1, 3]) ==>  [[[3, 3, 3]], [[5, 5, 5]]]
tf.split(split_dim, num_split, value, name=’split’)	沿著某一維度將tensor分離為num_split tensors # ‘value’ is a tensor with shape [5, 30] # Split ‘value’ into 3 tensors along dimension 1 split0, split1, split2 = tf.split(1, 3, value) tf.shape(split0) ==> [5, 10]
tf.concat(concat_dim, values, name=’concat’)	沿著某一維度連結tensor t1 = [[1, 2, 3], [4, 5, 6]] t2 = [[7, 8, 9], [10, 11, 12]] tf.concat(0, [t1, t2]) ==> [[1, 2, 3], [4, 5, 6], [7, 8, 9], [10, 11, 12]] tf.concat(1, [t1, t2]) ==> [[1, 2, 3, 7, 8, 9], [4, 5, 6, 10, 11, 12]] 如果想沿著tensor一新軸連結打包,那麼可以： tf.concat(axis, [tf.expand_dims(t, axis) for t in tensors]) 等同於tf.pack(tensors, axis=axis)
tf.pack(values, axis=0, name=’pack’)	將一系列rank-R的tensor打包為一個rank-(R+1)的tensor # ‘x’ is [1, 4], ‘y’ is [2, 5], ‘z’ is [3, 6] pack([x, y, z]) => [[1, 4], [2, 5], [3, 6]]  # 沿著第一維pack pack([x, y, z], axis=1) => [[1, 2, 3], [4, 5, 6]] 等價於tf.pack([x, y, z]) = np.asarray([x, y, z])
tf.reverse(tensor, dims, name=None)	沿著某維度進行序列反轉 其中dim為列表，元素為bool型，size等於rank(tensor) # tensor ‘t’ is  [[[[ 0, 1, 2, 3], #[ 4, 5, 6, 7], #[ 8, 9, 10, 11]], #[[12, 13, 14, 15], #[16, 17, 18, 19], #[20, 21, 22, 23]]]] # tensor ‘t’ shape is [1, 2, 3, 4] # ‘dims’ is [False, False, False, True] reverse(t, dims) ==> [[[[ 3, 2, 1, 0], [ 7, 6, 5, 4], [ 11, 10, 9, 8]], [[15, 14, 13, 12], [19, 18, 17, 16], [23, 22, 21, 20]]]]
tf.transpose(a, perm=None, name=’transpose’)	調換tensor的維度順序 按照列表perm的維度排列調換tensor順序， 如為定義，則perm為(n-1…0) # ‘x’ is [[1 2 3],[4 5 6]] tf.transpose(x) ==> [[1 4], [2 5],[3 6]] # Equivalently tf.transpose(x, perm=[1, 0]) ==> [[1 4],[2 5], [3 6]]
tf.gather(params, indices, validate_indices=None, name=None)	合併索引indices所指示params中的切片
tf.one_hot (indices, depth, on_value=None, off_value=None,  axis=None, dtype=None, name=None)	indices = [0, 2, -1, 1] depth = 3 on_value = 5.0  off_value = 0.0  axis = -1  #Then output is [4 x 3]:  output =  [5.0 0.0 0.0] // one_hot(0)  [0.0 0.0 5.0] // one_hot(2)  [0.0 0.0 0.0] // one_hot(-1)  [0.0 5.0 0.0] // one_hot(1)

矩陣相關運算

複數操作

歸約計算(Reduction)

分割(Segmentation)

序列比較與索引提取(Sequence Comparison and Indexing)

神經網路(Neural Network)

• 啟用函式（Activation Functions）

• 卷積函式（Convolution）

• 池化函式（Pooling）

• 資料標準化（Normalization）

• 損失函式（Losses）

• 分類函式（Classification）

• 符號嵌入（Embeddings）

• 迴圈神經網路（Recurrent Neural Networks）

— tf.nn.rnn簡要介紹— 
cell: 一個RNNCell例項 
inputs: 一個shape為[batch_size, input_size]的tensor 
initial_state: 為RNN的state設定初值，可選 
sequence_length：制定輸入的每一個序列的長度，size為[batch_size],值範圍為[0, T)的int型資料 
其中T為輸入資料序列的長度 
@ 
@針對輸入batch中序列長度不同，所設定的動態計算機制 
@對於在時間t，和batch的b行，有 
(output, state)(b, t) = ? (zeros(cell.output_size), states(b, sequence_length(b) - 1)) : cell(input(b, t), state(b, t - 1))

• 求值網路（Evaluation）

對於有巨大量的多分類與多標籤模型，如果使用全連線softmax將會佔用大量的時間與空間資源，所以採用候選取樣方法僅使用一小部分類別與標籤作為監督以加速訓練。

儲存與恢復變數

原文：http://blog.csdn.net/lenbow/article/details/52152766