Ranked List Loss for Deep Metric Learning | 論文分享

先回顧下目前幾種基於排序思想的損失函式。 

Triplet Loss 

其中 是三元組的集合，距離使用的是歐氏距離， 表示hinge函式。

N-pair-mc 

不同於Triplet Loss使用單個的正負樣本，這個損失函式利用了資料之間的結構資訊來學習到更有區別性的表示。具體來說，樣本由一個正樣本和N - 1 個負樣本組成，這N - 1 個負樣本來自於N - 1個不同的類別，即每個類別1個負樣本。

其中 是來自N個類別的N個樣本， 分別表示anchor和對應的正樣本， 是負樣本集合。通過引入N-1個負樣本來提升效能。

Lifted Struct 

這個目標函式比N-pair-mc更進一步，提出引入所有的負樣本，通過促使錨點與一個正樣本的距離儘可能近，與所有的負樣本的距離都大於α。 

Proxy-NCA 

這個方法提出的目的是去解決取樣的問題。假設 W 代表著訓練集中的一小部分資料，在取樣時通過選擇與 W 中距離最近的一個樣本 u 作為代理(proxy), 即：

基於選擇的proxy, 使用傳統的NCA損失：

上述幾種損失的示意圖如下：

上述的損失函式都存在如下的兩點侷限性：

1. 這些損失函式雖然都提出了加入更多的負樣本來獲得結構化的資訊，但是使用的負樣本僅僅是一小部分；

2. 另外這些損失函式沒有考慮類內的資料分佈，都追求將同一個class壓縮到一個點上。

本文基於上述的兩個原因，提出了相應的改進措施。

Methodology

首先對一些符號進行說明： 表示訓練集，其中每一組元素 表示成對的樣本與其標籤，總共包括C個類別，即 ， 表示屬於類別c的所有樣本， Nc 表示相應類別的樣本數量。

我們的目標是學習到一個函式 f 使得正樣本對之間的相似度高於負樣本之間的相似度。

Pairwise Constraint

為了將正負樣本區分開，我們希望負樣本之間的距離大於某個閾值α，並且正樣本之間的距離小於α-m，即正負樣本之間至少有m的間隔。基於此，提出了pairwise margin loss：

其中當 時， ，否則 , 距離使用歐式距離。

Ranked List Loss

給定一個anchor , 基於相似度對其他樣本進行排序，在這個排序的結果中，有 Nc -1 個正樣本，用 表示。同樣地，有 個負樣本，用 表示。

Non-trivial Sample Mining 

對樣本進行合適取樣可以加快模型的收斂速率和提高模型效能，比如常見的困難樣本挖掘。本文使用的取樣策略很簡單，就是損失函式不為0的樣本，具體來說，對於正樣本，損失函式不為0意味著它們與anchor之間的距離大於α-m , 類似的，對於負樣本，損失函式不為0意味著它們與anchor之間的距離小於α。

Loss-based Negative Examples Weighting 

但是存在一個問題就是負樣本的數量通常比較大，並且它們的損失值幅度範圍也較大，為了更好的利用它們，作者提出了對負樣本進行加權的策略。加權的方式為：

它基於樣本多大程度地違反了pairwise的約束。

Optimisation Objective 

對於每個anchor , 我們希望使得它與正樣本集P的距離越近越好，並且與負樣本集 Nc,i 之間存在著m的間隔，同時，我們還希望使得負樣本的之間大於邊界α。因此我們相當於使得同一類別位於一個半徑為α-m大小的超球體內。因此對於正樣本我們使用的損失函式為：

對於負樣本集，考慮到它的樣本數量比較大，因此對每個負樣本使用加權的方式：

那麼整個的損失函式就是：