我課題組做基於深度學習的影象處理主要分兩條線：

• 基於深度學習的目標檢測
• 網路壓縮

我的方向是網路壓縮，為了以後方便展開，下邊先簡要介紹幾種網路壓縮的方式，：

1 網路修剪
網路修剪,採用當網路權重非常小的時候(小於某個設定的閾值),把它置0,就像二值網路一般；然後遮蔽被設定為0的權重更新，繼續進行訓練；以此迴圈，每隔訓練幾輪過後，繼續進行修剪。

2 權重共享
對於每一層的引數,我們進行k-means聚類,進行量化,對於歸屬於同一個聚類中心的權重,採用共享一個權重,進行重新訓練.需要注意的是這個權重共享並不是層之間的權重共享,這是對於每一層的單獨共享

3 增加L2權重
增加L2權重可以讓更多的權重，靠近0，這樣每次修剪的比例大大增加。

3 從結構上，簡化網路計算
這些需自己閱讀比較多相關文獻，才能設計出合理，速度更快的網路，比如引入fire module、NIN、除全連線層等一些設計思想，這邊不進行具體詳述。