基於深度學習的人臉識別發展，從deepid開始，到今年（或者說去年），已經基本趨於成熟。

凡是基於識別的，總是離不開三個東西：資料，網路，以及loss。

資料方面，

目前的公開資料集中有主打類別數的MS_celeb_1M，有主打各種姿態角與年齡的VggFace2；也有一些主打高質量的資料集，像WebFace，guo yandong的MS-20K。除了公開資料集之外，圖片生成領域也有不錯的成果，例如基於三維人臉模型生成不同姿態角的人臉圖片，利用GAN生成不同人臉角度或者屬性的圖片（StarGAN，TPGAN）。

網路方面，

從最開始的淺層網路lightCNN到後面的ResNet，Inception-ResNet，ResNeXt以及SeNET，都是針對識別而設計的網路，而並非針對人臉識別設計的網路，所以一些網路在人臉識別裡帶來的提升沒有ImageNet那麼明顯。

由於人臉識別相對於一般的識別問題，存在人臉對比這樣一個需求，這就將人臉識別的主要方向變成了metric learning問題而並非簡簡單單的分類問題。而近幾年學術上的發展也基本是圍繞loss function展開，除了像google，baidu這些擁有海量人臉資料的論文，focus點基本都在一個問題上：如何在有限的資料集上得到更高的精度。

如果光看loss function，從softmax，contrastive loss，triplet loss，center loss，normface，large margin loss ， Asoftmax loss , coco loss，以及今年的AM，AAM,InsightFace。

這些在聚類上大致上可以分為下面兩個類：

1.單純聚類：contrasitve loss,center loss,normface, coco loss

2.加Margin聚類：triplet loss,large margin loss,Asoftmax loss,AM,AAM,InsightFace

在距離度量上可以分為下面兩個類：

1.歐式距離：contrastive loss,center loss,normface,triplet loss

2.cosine距離/角度距離：large margin loss,Asoftmax loss,coco loss,AM,AAM,InsightFace

可以看到，目前的主要方向，在從euler距離往cosine距離發展的同時中間出現了像normface，sphereface，coco loss這些進行了Feature Normalization,Weight Normalization操作的loss，但是這幾篇論文，除了sphereface稍稍介紹了緣由之外，其餘的更像是一個實驗性的結果，沒有辦法從理論上來說明。

必須注意到，無論哪種loss，其目的是為了更好的學習trainning dataset的分佈，如果我們的trainning set 與 test set的資料分佈一致的話，我們的才能說真正的學到了人臉的分佈。在這裡，我們不去分析各種loss的好壞，而是從資料分佈上分析為什麼要進行Feature Normalization，Weight Normalization以及triplet，以及到底有沒有用