在學習 Variational Auto-Encoder時，同時注意到了 GAN 研究的火熱。但當時覺得 GAN 非常不成熟（訓練不穩定，依賴各種說不清的 tricks；沒有有效的監控指標，需要大量的人工判斷，因此難以擴展到圖像之外的高維數據）。在讀了 Goodfellow 的 tutorial 後[2]，開始黑轉路人，覺得 GAN 雖然缺點不少，但優點也很明顯。WGAN[5, 6] 等工作出現後，開始逐漸路人轉粉，對 GAN 產生了興趣。

這裡，我們僅僅從直觀上討論GAN框架及相關變種，將理論留待將來討論。

1. Basic GAN

本質上，GAN 是一種訓練模式，而非一種待定的網

GAN 的基本思想是，生成器和判別器玩一場“道高一尺，魔高一丈”的遊戲：判別器要練就“火眼金睛”，盡量區分出真實的樣本（如真實的圖片）和由生成器生成的假樣本；生成器要學著“以假亂真”，生成出使判別器判別為真實的“假樣本”。

競爭的理想怦是雙方都不斷進步——（理想情況下）判別器的眼睛越發“雪亮”，生成器的欺騙能力也不斷提高。對抗的勝負無關緊要，重要的是，最後生成器的欺騙能力足夠好，能夠生成與真實樣本足夠相似的樣本——直觀而言，生成的樣本看起來像是訓練集（如圖片）的樣本；形式化的，生成器生成樣本的分布，應該與訓練集樣本分布接近。

理論上

假設要訓練數據為灰度 MNIST（歸一化為[0, 1]之間），生成器（generator）可以為任意輸入為隱變量維度，輸出為 1 x 28 x 28的模型。一個示例模型定義如下：

def build_generator(latent_size):
    model = Sequential()
    model.add(Dense(1024, input_dim=latent_size, activation='relu'))
    model.add(Dense(28 * 28, activation='tanh'
 
))
    model.add(Reshape((1, 28, 28)))
    return model

判別器（discriminator）可以為任意輸