1. 程式人生 > >深度學習基礎--卷積--區域性連線層(Locally-Connected Layer)

深度學習基礎--卷積--區域性連線層(Locally-Connected Layer)

區域性連線層(Locally-Connected Layer)

  locally-conv的概念來自傳統ML中的模型初始化(隨機樹方法中每個影象的crop都對應特定的一棵樹)。
  引數共享這個策略並不是每個場景下都合適的。有一些特定的場合,我們不能把圖片上的這些視窗資料都視作作用等同的。(特別是當卷積神經網路的輸入影象是一些明確的中心結構時候。)
  當影象區域性相似匹配時,我們就應該期望在圖片的不同位置學習到完全不同的特徵。

什麼時候用local-conv?什麼時候用全卷積(每一個點用同一個filter)?

  當資料集具有全域性的區域性特徵分佈時,也就是說區域性特徵之間有較強的相關性,適合用全卷積。在不同的區域有不同的特徵分佈時,適合用local-Conv。

典型例子就是人臉識別

  在這個例子中,通常就放鬆引數共享的限制。
  一般人的面部都集中在影象的中央,你可能期望不同的特徵,比如眼睛特徵或者頭髮特徵可能(也應該)會在圖片的不同位置被學習。
  因此我們希望,資料視窗滑過這塊區域的時候,權重和其他邊緣區域是不同的。