1. 程式人生 > >Generative Adversarial Nets

Generative Adversarial Nets

深度 data- tgt 傳遞 style 網絡 感知 out ner

1. 基本思想

兩個模型:

判別器:預測從生成器生成的樣本的概率

生成器:生成樣本時,最大化使得判別器發生錯誤的概率

最後得到唯一解:使得生成器生成的樣本輸入到判別器中,得到的概率全是1/2. // 偽裝者無法被檢查出來

判別器和生成器都是多層的,都可以通過反向傳播的方式進行訓練。

在訓練期間和生成樣本期間都不需要馬爾科夫鏈、展開近似推理網絡。

背景:

反向傳播 / Dropout算法 / 分段線性單元 參考文獻17/8/9看一下

由於在最大似然估計和相關策略中出現的許多難以處理的概率計算難以近似,以及由於難以在生成上下文中利用分段線性單元的優點,深度生成模型的影響較小。提出了一種新的生成模型估計方法來克服這些困難。

該框架可以生成針對多種模型的特定訓練算法和優化算法。

本文中的生成模型通過一個多層感知器傳遞隨機噪聲生成樣本的特殊情況,判別模型也是一個多層感知器。

可以只使用非常成功的反向傳播和dropout算法來訓練兩個模型,並只使用正向傳播從生成模型中提取樣本。不需要近似推理或馬爾可夫鏈。

相關工作

Generative Adversarial Nets