2. 程式人生 > >GAN (Generative Adversarial Network)

GAN (Generative Adversarial Network)

阿新 • • 發佈：2018-07-07
簡單函數 理解 code amp 技術 系列 整體 最終 理論

https://www.bilibili.com/video/av9770302/?p=15

前面說了auto-encoder，VAE可以用於生成

VAE的問題，

AE的訓練是讓輸入輸出盡可能的接近，所以生成出來圖片只是在模仿訓練集，而無法生成他完全沒有見過的，或新的圖片

由於VAE並沒有真正的理解和學習如何生成新的圖片，所以對於下面的例子，他無法區分兩個case的好壞，因為從lost上看都是比7多了一個pixel

技術分享圖片

所以產生GAN，

大家都知道GAN是對抗網絡，是generator和discriminator的對抗，對抗是有一個逐漸進化的過程

過程是，

我們通過V1的generator的輸出和real images來訓練V1的discriminator，讓V1的discriminator可以判別出兩者的差別

然後，將V1的generator和V1的discriminator作為整體network訓練（這裏需要固定discriminator的參數），目標就是讓generator產生的圖片可以騙過V1的discriminator

這樣就產生出V2的generator，重復上面的過程，讓generator和discriminator分別逐漸進化

技術分享圖片

訓練Discriminator的詳細過程，

技術分享圖片

訓練generator的詳細過程，

可以看到 generator會調整參數，產生image讓discriminator判別為1，即騙過discriminator

並且在網絡訓練的時候，雖然是把generator和discriminator合一起訓練，但是要fix住discriminator的參數，不然discriminator只需要簡單的迎合generator就可以達到目標，起不到對抗的效果

技術分享圖片

下面從理論上來看下GAN，

GAN的目的是生成和目標分布(訓練集所代表的分布)所接近的分布

技術分享圖片

Pdata就是訓練數據所代表的分布

PG是我們要生成的分布

所以我們的目標就是讓PG和Pdata盡可能的close

從Pdata中sample任意m個點，然後用這些點去計算PG，用最大似然估計，算likelihood

讓這些點在PG中的概率和盡可能的大，就會讓PG分布接近Pdata

技術分享圖片

這裏的推導出，上面給出的最大似然估計，等價於求Pdata和PG的KL散度，這個是make sense的，KL散度本身就用來衡量兩個分布的相似度

這裏PG可以是任意函數，比如，你可以用高斯混合模型來生成PG，那麽theta就是高斯混合中每個高斯的參數和weight

那麽這裏給定參數和一組sample x，我們就可以用混合高斯的公式算出PG，根據上面的推導，也就得到了兩個分布的KL散度

當然高斯混合模型不夠強大，很難很好的去擬合Pdata

所以這裏是用GAN的第一個優勢，我們可以用nn去擬合PG

技術分享圖片

這個圖就是GAN的generator，z符合高斯分布，z是什麽分布不關鍵也可以是其他分布

通過Gz函數，得到x，z可以從高斯分布中sample出很多點，所以計算得到很多x，x的分布就是PG；只要nn足夠復雜，雖然z的分布式高斯，但x可以是任意分布

這裏和傳統方法，比如高斯混合的不同是，這個likelihood，即PG不好算，因為這裏G是個nn，所以我們沒有辦法直接計算得到兩個分布的KL散度

所以GAN需要discriminator，它也是一個nn，用discriminator來間接的計算PG和Pdata的相似性，從而替代KL散度的計算

技術分享圖片

GAN可以分成Generator G和Discriminator D，其中D是用來衡量PG和Pdata的相似性

技術分享圖片

最終優化目標的公式，看著很唬人，又是min，又是max

其實分成兩個步驟，

給定G，優化D，使得maxV（紅線部分），就是訓練discriminator，計算出兩個分布之間的差異值；在上圖中就是在每個小圖裏找到那個紅點

給定D，優化G，使得min(maxV)，就是在訓練generator，最小化兩個分布之間的差異；就是在上圖中挑選出G3

這裏有個問題沒有講清楚的是，

為何給定G，優化D，使得maxV，得到的V可以代表兩個分布的差異？

如果這個問題明白了，下一步優化G，去最小化這個分布間的差異是很好理解的

技術分享圖片

做些簡單的轉換，如果我們要最後一步這個積分最大，那麽等價於對於每個x，積分的內容都最大

技術分享圖片

這裏是給定G，x，Pdata(x)，PG(x)都是常量，所以轉換成D的一個簡單函數

求最大值，就極值，就是求導找到極點

這裏推導出當V max的時候， D的定義，並且D的值域應該在0到1之間

技術分享圖片技術分享圖片

上面推導出如果要Vmax，D要滿足

技術分享圖片

所以進一步將D帶入V的公式，這裏經過一系列推導得到，V就等價於jensen-shannon divergence

jensen-shannon divergence的定義，如下，

技術分享圖片

比KL divergence好的是，KL是非對稱的，而jensen-shannon divergence是對稱的，可以更好的反應兩個分布間的差異

那麽這裏的推導就證明，給定G，優化D讓V最大的時候，V就表示Pdata和PG的jensen-shannon divergence，所以這個Vmax就可以表示這個兩個分布的差異，也就回答了前面的問題

GAN (Generative Adversarial Network)

相關推薦

GAN (Generative Adversarial Network)

簡單函數 理解 code amp 技術 系列 整體 最終 理論 https://www.bilibili.com/video/av9770302/?p=15 前面說了auto-encoder，VAE可以用於生成 VAE的問題， AE的訓練是讓輸入輸出盡可能的接近

Generative Adversarial Network (GAN) 生成對抗網路

Part One. Introduction of GAN The Structure of GAN 其中可以看到GAN中有兩個最關鍵的結構就是generator（生成器）和discriminator（判別器）。生成器是為了生成接近真實資料分佈的虛假樣本，判別器是為了

GAN（Generative Adversarial Network）的學習歷程

2）DCGAN篇： 注：要知道自從2014年Ian Goodfellow提出以來，GAN就存在著訓練困難、生成器和判別器的loss無法指示訓練程序、生成樣本缺乏多樣性等問題。從那時起，很多論文都在嘗試解決，但是效果不盡人意，比如最有名的一個改進DCG

【論文翻譯】中英對照翻譯--（Attentive Generative Adversarial Network for Raindrop Removal from A Single Image）

【開始時間】2018.10.08 【完成時間】2018.10.09 【論文翻譯】Attentive GAN論文中英對照翻譯--（Attentive Generative Adversarial Network for Raindrop Removal from A Single Imag

SEGAN: Speech Enhancement Generative Adversarial Network

論文分析： 論文原文地址 一、引言 經典的語音增強（speech enhancement）方法有譜減法（spectral subtraction）、維納濾波（Wiener filtering）、統計模型（statistical model-based methods）和子空間演算法（subspace a

Attentive Generative Adversarial Network for Raindrop Removal from A Single Image論文理解

  概述： 在去雨的過程中給網路加上了attention提取，讓網路能夠更好地學到有雨滴部分的差別。 網路結構如下： 首先使用attention提取網路來獲得包含雨滴的影象的attention影象（值在0-1之間，包含雨滴的地方值較大），attention提取網路中使用通

《Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network》閱讀筆記

本文提出了一種利用生成對抗網路(GAN)對低解析度單一影象進行超解析度(super-resolution)的網路結構，作為GAN的一種重要應用，很值得去學習研究。閱讀原文點這裡。 Abstract 儘管我們已經利用更快更深的卷積神經網路(CN

【文章閱讀】【超解像】--Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network

【文章閱讀】【超解像】–Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network 論文連結：https://arxiv.org/abs/1609.04802 code(te

Finding Tiny Faces in the Wild With Generative Adversarial Network 感想

你看今年cvpr的這篇文章，提供了一種寫文章的思路：基本上算是拿GAN在face super resolution上應用，自然要在低解析度的tiny face上做。這種工作意義大不大還真不好說，但是做的performance好了發cvpr還是沒問題的，因為它看起來很新：做人臉

Finding Tiny Faces in the Wild with Generative Adversarial Network 論文學習

Finding Tiny Faces in the Wild with Generative Adversarial Network 2018年的cvpr 論文地址：http://openaccess.thecvf.com/content_cvpr_2018/papers

【超解析度】Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network

之前我一直在做基於CNN的超解析度研究。最近因為工作需要，需要研究基於生成對抗網路GAN的網路來做超解析度任務。 在這段時間以來，我發現CNN和GAN兩類網路的側重點其實完全不同。CNN旨在於忠實的恢復影象的高頻資訊，而GAN在於生成更真實或者說更符合人眼的高

SOD-MTGAN: Small Object Detection via Multi-Task Generative Adversarial Network

SOD-MTGAN: Small Object Detection via Multi-Task Generative Adversarial Network 基於多工GAN的細小物體檢測 摘要 物體檢測是計算機視覺中的一個基本而重要的問題。雖然在大規模檢測基準（例如COCO資料集）中對

Duplex Generative Adversarial Network for Unsupervised Domain Adaptation

Duplex Generative Adversarial Network for Unsupervised Domain Adaptation   　　域自適應嘗試將從源域獲得的知識傳送到目標域，即測試資料所在的域。主要的挑戰在於源域和目標域之間的分佈差異。大多數現有工作通常通過最小化分

論文翻譯：Speech Super Resolution Generative Adversarial Network

部落格作者：凌逆戰 論文地址：https://ieeexplore.ieee.org/document/8682215 部落格地址：https://www.cnblogs.com/LXP-Never/p/10874993.html  論文作者：Sefik Emre Eskimez , Ka

Generative Adversarial Nets(GAN Tensorflow)

概率 制造 display 變量 pan clas cli tps OS Generative Adversarial Nets（簡稱GAN）是一種非常流行的神經網絡。 它最初是由Ian Goodfellow等人在NIPS 2014論文中介紹的。 這篇論文引發了很多關於神經

個人總結：Generative Adversarial Nets GAN原始公式的得來與推導

根據文章所述， 為原始資料， 使用的噪聲資料，,   為batch_size的大小。 而  為通過生成器生成的資料，也就是說 與是能夠互相對立的競爭對手。生成器生成了妄圖模擬到的效果達到“欺騙”判別器的目的。

【GAN ZOO翻譯系列】基於能量的生成對抗網路 Energy-Based Generative Adversarial Networks

趙俊博, Michael Mathieu, Yann LeCun 紐約大學計算機科學系 Facebook人工智慧研究院 {jakezhao, mathieu, yann}@cs.nyu.edu 原文連結https://arxiv.org/abs/1609.031

一文讀懂對抗生成學習(Generative Adversarial Nets)[GAN]

一文讀懂對抗生成學習(Generative Adversarial Nets)[GAN] 0x00 推薦論文 https://arxiv.org/pdf/1406.2661.pdf 0x01什麼是gan Generative model G用來生成樣本 Discriminative mo

【GAN ZOO】Precomputed Realtime Texture Synthesis with Markovian Generative Adversarial 用MGAN預訓練實時紋理合成

原文地址 https://link.springer.com/chapter/10.1007/978-3-319-46487-9_43 補充材料和程式碼 https://github.com/chuanli11/MGANs。 Chuan Li and Michael Wand

【GAN ZOO閱讀】模式正則化的生成對抗網路 MODE REGULARIZED GENERATIVE ADVERSARIAL NETWORKS

原文地址： https://arxiv.org/abs/1612.02136 引用之請註明出處。 Tong Che 1，Yanran Li 2 3，Athul Paul Jacob 1，Yoshua Bengio 1，Wenjie Li 2 1 蒙特利爾學習演算法