1. 程式人生 > >生成對抗網路GAN的前世今生

生成對抗網路GAN的前世今生

綜合論文摘要以及網上文章整理。

2014年,蒙特利爾大學的Ian Goodfellow和他的同事創造了生成式對抗網路(GAN)
論文:Goodfellow I, Pouget-Abadie J, Mirza M, et al. Generative adversarial nets[C].Advances in Neural Information Processing Systems. 2014: 2672-2680.

2014年,Goodfellow在論文的最後他指出了GAN的優缺點以及未來的研究方向和拓展,其中他提到的第一點拓展就是:A conditional generative model p(x|c) can be obtained by adding c as input to both G and D。同年,Mirza等人就提出了一種Conditional Generative Adversarial Networks,這是一種帶條件約束的生成對抗模型,可以看成是把無監督的GAN變成有監督模型的一種改進,這個改進也被證明是非常有效的,為後續的相關工作提供了指導作用。
論文:Mirza M, Osindero S. Conditional Generative Adversarial Nets[J]. Computer Science, 2014:2672-2680.

2015年,Facebook的Emily Denton等人基於GAN和CGAN提出了LAPGAN(拉普拉斯金字塔生成式對抗網路),為了改進 GAN 太自由的問題,不讓GAN一次完成全部任務,而是一次生成一部分,分多次生成一張完整的圖片。
論文:Denton E L, Chintala S, Fergus R. Deep Generative Image Models using a Laplacian Pyramid of Adversarial Networks[C]. Advances in neural information processing systems. 2015: 1486-1494.

2015年,Alec Radford結合CNN在有監督學習的成功(CGAN)和無監督學習以及LAPGAN的成果,提出一類被稱為“深度卷積生成對抗網路(DCGANs),使用生成模型和判別模型,從物體物件到場景影象,學習到一種層次的表徵。最後,使用學習到的特徵實現新任務——闡明它們可以用於生成影象的表徵。
論文:Radford A, Metz L, Chintala S. Unsupervised representation learning with deep convolutional generative adversarial networks[J]. arXiv preprint arXiv:1511.06434, 2015.

2015年,GAN的判別網路需要學習圖片中的豐富特徵。因此Anders Boesen Lindbo Larsen等人整合了GAN的高質量生成模型優點和VAE的隱變數學習。VAE的生成使用GAN,整合了VAE和GAN。
論文:Larsen A B L, Sønderby S K, Winther O. Autoencoding beyond pixels using a learned similarity metric[J]. arXiv preprint arXiv:1512.09300, 2015.

2015年,Jost Tobias Springenberg提出一種從為標記或部分標記資料中學習判別分類器的方法。方法是基於一個目標函式,在觀測樣本和他們預測的類別分佈間trades-off(交換,權衡)互資訊,against生成對抗模型的分類器的魯棒性。
論文:Jost Tobias Springenberg. Unsupervised and Semi-supervised Learning with Categorical Generative Adversarial Networks[J]. arXiv preprint arXiv:1511.06390, 2015.

2016年,Daniel Jiwoong Im等人提出通過優化畫素匹配CNN中影象特徵渲染高質量影象的一種方法,同時提出了定量比較生成器和判別器的方法。
論文:Daniel Jiwoong Im, Chris Dongjoo Kim et al. Generating images with recurrent adversarial networks[J]. arXiv preprint arXiv:1602.05110, 2016.

2016年,雖然經過訓練的GAN可以生成新的影象,但是它卻無法解決一個問題——生成具有某種特徵的影象。Chen X等人提出InfoGAN,InfoGAN是一種能夠無監督的學習非耦合表示關係(disentangled representation)的GAN,從資訊理論的角度嘗試解決GAN隱變數可解釋性問題。
論文:Chen X, Duan Y, Houthooft R, et al. InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets[J]. arXiv preprint arXiv:1606.03657, 2016.

2016年,Alexey Kurakin, Ian Goodfellow等人表明在在物理世界中,機器學習容易受到對抗性例子的影響,
論文:Alexey Kurakin, Ian Goodfellow, Samy Bengio. Adversarial examples in the physical world[J]. arXiv preprint arXiv:1607.02533, 2016.

2016年,Goodfellow等人提出了新的目標函式,判別網路按照原來的方式訓練。相比原先的方式,生成網路G產生的資料更符合資料的真實分佈。雖然不保證能夠收斂到納什均衡點,但是在傳統GAN不能穩定收斂的情況下,新的目標函式仍然有效。
論文:Salimans T, Goodfellow I, Zaremba W, et al.
Improved Techniques for Training GANs[J]. arXiv preprint arXiv:1606.03498, 2016.

2016年,Augustus Odena提出了一種通過強制判別網路輸出標籤的方法使用GAN進行版監督學習。
論文: Augustus Odena. Semi-Supervised Learning with Generative Adversarial Networks[J]. arXiv preprint arXiv:1606.01583, 2016.

2017年,Martin Arjovsky等人發表《Towards Principled Methods for Training Generative Adversarial Networks》沒有介紹任何演算法和方法,而是充分解釋了GAN訓練的動態過程。一個多星期後發表《Wasserstein GAN》,徹底解決GAN訓練不穩定的問題,不再需要小心平衡生成器和判別器的訓練程度,基本解決了collapse mode的問題,確保了生成樣本的多樣性 ,訓練過程中終於有一個像交叉熵、準確率這樣的數值來指示訓練的程序,這個數值越小代表GAN訓練得越好,代表生成器產生的影象質量越高,以上一切好處不需要精心設計的網路架構,最簡單的多層全連線網路就可以做到。具體做法:1)判別器最後一層去掉sigmoid。2)生成器和判別器的loss不取log。3)每次更新判別器的引數之後把它們的絕對值截斷到不超過一個固定常數c。4)不要用基於動量的優化演算法(包括momentum和Adam),推薦使用RMSProp。
論文:
Martin Arjovsky, Léon Bottou. Towards Principled Methods for Training Generative Adversarial Networks[J]. arXiv preprint arXiv:1701.04862, 2017
Martin Arjovsky, Soumith Chintala, Léon Bottou. Wasserstein GAN[J]. arXiv preprint arXiv:1701.07875, 2017

相關推薦

生成對抗網路GAN前世今生

綜合論文摘要以及網上文章整理。 2014年,蒙特利爾大學的Ian Goodfellow和他的同事創造了生成式對抗網路(GAN) 論文:Goodfellow I, Pouget-Abadie J, Mirza M, et al. Generative adve

洞見 | 生成對抗網路GAN最近在NLP領域有哪些應用

分享一下我老師大神的人工智慧教程!零基礎,通俗易懂!http://blog.csdn.net/jiangjunshow 也歡迎大家轉載本篇文章。分享知識,造福人民,實現我們中華民族偉大復興!        

生成對抗網路GAN資料打包分享

  全文摘要 生成式對抗網路,即所謂的GAN是近些年來最火的無監督學習方法之一,模型由Goodfellow等人在2014年首次提出,將博弈論中非零和博弈思想與生成模型結合在一起,巧妙避開了傳統生成模型中概率密度估計困難等問題,是生成模型達到良好的效果。本文總結收集了

生成對抗網路GAN系列(六)--- CycleGAN---文末附程式碼

Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks Jun-Yan Zhu      Taesung Park          Phillip Isola   

生成對抗網路(GAN)的變體pix2pix思想

1.概述 pix2pix 是對抗生成網路的一種變體,它的結構類似於CGAN,但又有別於CGAN。先來說一下它能做哪些事情,顧名思義就是將一張圖片轉成另一張圖片(千萬不要理解成畫素變畫素啊),或者說將一個場景轉換成另一場景。pix2pix 能做的事情有很多,比如說

簡單理解與實驗生成對抗網路GAN

之前 GAN網路是近兩年深度學習領域的新秀,火的不行,本文旨在淺顯理解傳統GAN,分享學習心得。現有GAN網路大多數程式碼實現使用python、torch等語言,這裡,後面用matlab搭建一個簡單的GAN網路,便於理解GAN原理。 分享一個目前各類G

生成對抗網路GAN(一) 簡介和變種

基本概念[1] 目標函式 零和遊戲(zero-sum game) 納什均衡 minimax演算法 GAN借鑑了零和遊戲的思想,引入生成網路和辨別網路,讓兩個網路互相博弈,當辨別網路不能辨別資料來自於真實分佈還是生成網路的時候,此時的生成網路可以

洞見 | 生成對抗網路GAN最近在NLP領域有哪些應用?

剛做完實驗,來答一答自然語言處理方面GAN的應用。 直接把GAN應用到NLP領域(主要是生成序列),有兩方面的問題: 1. GAN最開始是設計用於生成連續資料,但是自然語言處理中我們要用來生成離散tokens的序列。因為生成器(Generator,簡稱G)需要利用從

生成對抗網路(GAN)的理論與應用完整入門介紹

文章來源:https://blog.csdn.net/blood0604/article/details/73635586?locationNum=1&fps=1本文包含以下內容:1.為什麼生成模型值得研究2.生成模型的分類3.GAN相對於其他生成模型相比有什麼優勢4

白話生成對抗網路 GAN,50 行程式碼玩轉 GAN 模型!【附原始碼】

今天,紅色石頭帶大家一起來了解一下如今非常火熱的深度學習模型:生成對抗網路(Generate Adversarial Network,GAN)。GAN 非常有趣,我就以最直白的語言來講解它,最後實現一個簡單的 GAN 程式來幫助大家加深理解。 1. 什

生成對抗網路(GAN)簡單梳理

0 前言 GAN(Generative Adversarial Nets)是用對抗方法來生成資料的一種模型。和其他機器學習模型相比,GAN引人注目的地方在於給機器學習引入了對抗這一理念。 回溯地球生物的進化路線就會發現,萬物都是在不停的和其他事物對抗

[TensorFlow]生成對抗網路(GAN)介紹與實踐

主旨本文簡要介紹了生成對抗網路(GAN)的原理,接下來通過tensorflow開發程式實現生成對抗網路(GAN),並且通過實現的GAN完成對等差數列的生成和識別。通過對設計思路和實現方案的介紹,本文可以輔助讀者理解GAN的工作原理,並掌握實現方法。有了這樣的基礎,在面對工作中實際問題時可以將GAN納入考慮,選

生成對抗網路GAN---生成mnist手寫數字影象示例(附程式碼)

Ian J. Goodfellow等人於2014年在論文Generative Adversarial Nets中提出了一個通過對抗過程估計生成模型的新框架。框架中同時訓練兩個模型:一個生成模型(generative model)G,用來捕獲資料分佈;一個判別模型(discri

生成對抗網路(GAN)的一些知識整理(課件)

無監督學習是機器學習的未來,而現在GAN的出現,則為無監督學習帶來了光明。 鑑於GAN的火熱,最近將從一些大牛分享資料中擷取和整理的資料附圖如下: 最近測試了一下tensorflow環境下gan

生成對抗網路——GAN(一)

Generative adversarial network 據有關媒體統計:CVPR2018的論文裡,有三分之一的論文與GAN有關 由此可見,GAN在視覺領域的未來多年內,將是一片沃土(CVer們是時候入門GAN了)。而發現這片礦源的就是GAN之父,Goodf

七個不容易被發現的生成對抗網路GAN)用例

像許多追隨AI發展的人一樣,我無法忽略生成建模的最新進展,尤其是影象生成中生成對抗網路(GAN)的巨大成功。看看下面這些樣本:它們與真實照片幾乎沒有區別!   從2014年到2018年,面部生成的進展也非常顯著。 這些結果讓我感到興奮,但我內心總是懷疑它們是否真

生成對抗網路GAN)應用於影象分類

  近年來,深度學習技術被廣泛應用於各類資料處理任務中,比如影象、語音和文字。而生成對抗網路(GAN)和強化學習(RL)已經成為了深度學習框架中的兩顆“明珠”。強化學習主要用於決策問題,主要的應用就是遊戲,比如deepmind團隊的AlphaGo。因為我的研究方向是影象的有監督分類問題,

初步認識GAN生成對抗網路

初步認識GAN(生成對抗網路) 1.GAN的發明 生成模型的基本思想是輸入一個訓練樣本集合,形成樣本概率分佈的表徵。 常用的生成模型是直接推斷他的密度概率函式。 好的生成模型有以下幾方面的實際應用; 1. 提升圖片的質量(高解析度) 2. 預測未來狀態的規劃 3.生成缺失資料和標

生成對抗網路學習(GAN)學習筆記

文章目錄 2018-11-16 GAN的原理 2018-11-15 Multimodal Unsupervised Image-to-Image Translation 2018-11-13 Image-to-

在瀏覽器中進行深度學習:TensorFlow.js (八)生成對抗網路GAN

Generative Adversarial Network 是深度學習中非常有趣的一種方法。GAN最早源自Ian Goodfellow的這篇論文。LeCun對GAN給出了極高的評價: “There are many interesting recent development in deep learni