FSRCNN

主要的目的是加速之前的SRCNN模型。重新設計SRCNN結構，主要 在三個方面：一是使用了一個解卷積層在最後，這個作用是從沒有差值的低解析度影象直接對映到高解析度影象。第二是，重新改變輸入特徵維數。第三是使用了更小的卷積核但是使用了更多的對映層。

針對SRCNN中有兩點限制了速度。第一點，低解析度影象需要上取樣（通過三次插值）；第二點，非線性對映步驟，需要縮減引數加快速度。對於第一個問題採用解卷積層代替三次插值，針對第二個問題，新增萎縮層和擴張層，並將一個大層用一些小層（卷積核大小是3*3）來代替。整個網路結構類似於漏斗的形狀，中間細兩端粗。這個網路不僅僅速度快，而且不需要更改引數除了最後一個解卷積層。

三個貢獻：1、設計漏斗結構的卷積網路，不需要預處理操作2、速度提升3、訓練速度快，只要改變最後的解卷積層就可以。

由於SRCNN需要先三次插值到HRsize，所以複雜度與HRsize有關。

主要分為5個部分。特徵提取：SRCNN中第一層感受野是9*9，由於這裡不用插值，一次用5*5就好。坍縮：採用小的感受野1*1節約計算能力，同時輸出採用s<<d方式減少計算量。非線性對映：感受野大，表現的更好，這裡採用3*3.採用m個非線性單元。拓展：為了得到HR影象，那麼就要進行增加擴充套件層，類似於坍縮層的逆過程，。解卷積層：可以看成卷積的逆過程。對於卷積，如果步長為k，那麼輸出大小為1/k。因此解卷積另步長為k = n。那麼解析度提升n倍。有趣的是，這個可以倒著看就想HR影象提取特徵，因此這裡卷積核取9*9.。啟用函式

損失函式為

結構圖：

實驗結果：

參考: 
https://arxiv.org/pdf/1608.00367v1.pdf Accelerating the Super-Resolution Convolutional Neural Networks (ECCV 2016)