引言

最大均值差異(maximum mean discrepancy, MMD)提出時候是用來測試兩個樣本，是否來自兩個不同分佈p和q，如果均值差異達到最大，就說明取樣的樣本來自完全不同的分佈。

原理

MMD的基本原理如下所述：假設有一個滿足P分佈的資料集Xs=[xs1,...,xsn]和一個滿足Q分佈的資料集Xt=[xt1,...,xtm] 並且存在一個再生希爾伯特空間H(RKHS) 存在一個對映函式ϕ(⋅):X−>H表示從原始空間到希爾伯特空間的一個對映，並且當n,m 趨於無窮時Xsx 和Xtx的最大均值差異可以表示為下式：

p和q相同時，MMD=0。

進一步，

通過上式可以看出，其原理是對每一個樣本進行投影並求和，利用和的大小表述兩個資料的分佈差異。

優勢

不用藉助額外的引數

運用

MMD在最近的風格遷移中運用的比較多，其神經網路主要是通過最小化兩個網路的分佈差異，同時MMD在吳恩達提出最近10年要火的遷移學習中應用很廣，很多遷移學習神經網路就是把MMD做為最後的損失函式而進行優化的，並且提出了很多改進方法。
 

轉載自：https://blog.csdn.net/he_min/article/details/69397975