變分法簡介

變分法是研究依賴於某些未知函式的積分型泛函極值的一門科學。也就是求泛函極值的方法稱為變分法。

典型例子最速降線

兩點之間的曲線方程定義為：

$y = y (x)$

( x ) $y=y(x)$

根據能量守恆定理：

$m g y = \frac{1}{2} m v^{2}$

m v 2 $mgy=\frac{1}{2}mv^2$

質點的速度可以表示為：

$v = \frac{d s}{d t} = \frac{\sqrt{(d x)^{2} + (d y)^{2}}}{d t} = \sqrt{1 + (y^{'})^{2}} \frac{d x}{d t}$

= d s d t = ( d x ) 2 + ( d y ) 2 d t = 1 + ( y ′ ) 2 d x d t $v=\frac{ds}{dt}=\frac{\sqrt{(dx)^2+(dy)^2}}{dt}=\sqrt{1+(y')^2}\frac{dx}{dt}$

對上述式子進行聯立可得：

$T=\int\limits_0^{x_1} {\sqrt{\frac{1+{y'}^2}{2gy}}} dx$

泛函

上式的積分中給出的變數可以看作是依賴於未知函式及未知函式導數的變數，未知函式及其導數起著自變數的作用，這樣的自變數稱為獨立函式或自變函式。簡單地說，這種依賴於獨立函式的函式，或者說以函式為自變數的函式，就稱為泛函。以積分形式出現的泛函稱為積分型泛函或積分泛函。這裡的獨立函式 $y$ 稱為宗量。

變分

對於任意 $x\in[x_0,x_1]$ 可取函式 $y(x)$ 與另一可取函式 $y_0(x)$ 之差 $y(x)-y_0(x)$ 稱為函式 $y(x)$ 在 $y_0(x)$ 處的變分或函式的變分，記作 $\delta y$ 。

泛函的宗量 $y(x)$ 與另一宗量 $y_0(x)$ 之差 $y(x)-y_0(x)$ 稱為宗量 $y(x)$ 在 $y_0(x)$ 處的變分。

若泛函 $J[y(x)]$ 在 $y=y(x)$ 上達到極值，則它在 $y=y(x)$ 上的變分為0.

變分法提供了有限元方法的數學基礎，它是求解邊界值問題的強有力工具。它們也在材料學中研究材料平衡中大量使用。
變分一詞用於所有極值泛函問題。微分幾何中的測地線的研究是很顯然的變分性質的領域。
最優控制的理論是變分法的一個推廣。

變分推斷

$\log P(x)=\log P(x,z)-\log P(z|x )$

$=\log \frac{P(x,z)}{q(z)}-\log \frac{P(z|x)}{q(z)}$

$=\log P(x,z)-\log q(z)-\log \frac{P(z|x)}{q)(z)}$

$= \log P (x, z) - \log q (z) + \log \frac{q) (z)}{P (z | x)}$

變分貝葉斯、變分自編碼與變分遷移

目錄

變分法簡介

泛函

變分

變分推斷

變分貝葉斯、變分自編碼與變分遷移

變分貝葉斯自編碼器（VAE) 匯總

用於重尾PLDA的快變分貝葉斯應用於i-vector和x-vector

Variational Bayes（變分貝葉斯）

變分貝葉斯

再談變分自編碼器VAE：從貝葉斯觀點出發

[深度學習]半監督學習、無監督學習之Variational Auto-Encoder變分自編碼器(附程式碼)

一文讀懂貝葉斯推理問題：MCMC方法和變分推斷

LearningNotes 變分自編碼 VariationalAutoEncoder VAE

VAE----變分自編碼器Keras實現

從零上手變分自編碼器（VAE）

【自編碼】變分自編碼大雜燴

變分自編碼網路的實現

【Learning Notes】變分自編碼器（Variational Auto-Encoder，VAE）

變分自編碼器VAE：原來是這麼一回事 | 附開原始碼

Autoencorder理解(5):VAE（Variational Auto-Encoder，變分自編碼器）

Variational Autoencoder（變分自編碼）

白話Variational Autoencoder（變分自編碼器）

【TensorFlow-windows】學習筆記六——變分自編碼器

變分自編碼（VAE）及程式碼解讀