搞明白了卷積網路中所謂deconv到底是個什麼東西后，不寫下來怕又忘記，根據參考資料，加上我自己的理解，記錄在這篇部落格裡。

先來規範表達

• 為了方便理解，本文出現的舉例情況都是2D矩陣卷積，卷積輸入和核形狀都為正方形，x和y軸方向的padding相同，stride也相同。
• 記號：
  i,o,k,p,s$i,o,k,p,s$ 分別表示：卷積/反捲積的輸入大小inputsize$inputsize$，卷積/反捲積輸出大小outputsize$outputsize$，卷積/反捲積核大小kernelsize$kernelsize$，padding$padding$，stride$stride$ 。
• 舉例（如下左圖）：
  輸入
  X∈R(4,4)$X\in {\mathbb{R}}^{(4,4)}$矩陣，卷積核w∈R(3,3)，padding=0，stride=1$w\in {\mathbb{R}}^{(3,3)}，padding=0，stride=1$的情況下，卷積的輸出Y∈R(2,2)$Y\in {\mathbb{R}}^{(2,2)}$，就記為i=4,o=2,k=3,p=0,s=1$i=4,o=2,k=3,p=0,s=1$ 。

推翻錯誤的理解

第一次看到deconv這個詞，以為deconv的結果就是卷積的逆，覺得神奇，不禁產生了“哦？轉置的卷積就可以求逆了嗎？”這樣的想法，然後在matlab裡面實驗求證，我還記得當時以為反捲積能夠求逆，考慮到圖片進行常規卷積操作輸出大小又不可能變大（same/valid），於是我還假設反捲積輸出大小不變，用了same padding和原核的轉置作為反捲積配置，結果發現根本不是那麼一回事好嗎。
其實DL中的deconv，是一種上取樣過程，舉個比方：輸入

X∈R(4,4)$X\in {\mathbb{R}}^{(4,4)}$矩陣，卷積核w∈R(3,3)，pad=0，stride=1$w\in {\mathbb{R}}^{(3,3)}，pad=0，stride=1$的情況下（如下左圖），卷積的輸出Y∈R(2,2)$Y\in {\mathbb{R}}^{(2,2)}$。對Y$Y$進行deconv，它只能做到把還原輸出大小到和X$X$一樣大，輸出值和X$X$有那麼一點聯絡。
所以啊deconv這個名字相當誤導人吶！這在cs231n課程裡也被吐槽過，大家現在更喜歡用transposed conv來表述反捲積。為了方便起見，後文就用反捲積這個詞了。

第二個容易confused的地方，就是很多文章都說卷積核的轉置就可以求反捲積，又陷入迷茫“就算把卷積核轉置（或者左右翻轉上下翻轉），卷積後輸出還是越來越小（或不變，至少不會增大）啊

”……直到看到文獻和相應的這個動畫（其他動畫在github-convolution arithmetic1）

卷積 i=4,k=3,p=0,s=1,則o=2$i=4,k=3,p=0,s=1,則o=2$	反捲積i=2,k=3,p=0,s=1,則o=4$i=2,k=3,p=0,s=1,則o=4$

注意圖中藍色（下面）是輸入，綠色（上面）是輸出，卷積和反捲積在p、s、k$p、s、k$等引數一樣時，是相當於i$i$ 和o$o$ 調了個位。
這裡說明了反捲積的時候，是有補0的，即使人家管這叫no padding（p=0$p=0$），這是因為卷積的時候從藍色4×4$4\times 4$ 縮小為綠色2×2$2\times 2$，所以對應的p=0$p=0$ 反捲積應該從藍色2×2$2\times 2$ 擴充套件成綠色4×4$4\times 4$。而且轉置並不是指這個3×3$3\times 3$ 的核w$w$ 變為wT$w^T$，但如果將卷積計算寫成矩陣乘法（在程式中，為了提高卷積操作的效率，就可以這麼幹，比如tensorflow中就是這種實現），Y⃗ =C

相關推薦

深度學習 | 反捲積/轉置卷積 的理解 transposed conv/deconv

搞明白了卷積網路中所謂deconv到底是個什麼東西后，不寫下來怕又忘記，根據參考資料，加上我自己的理解，記錄在這篇部落格裡。 先來規範表達 為了方便理解，本文出現的舉例情況都是2D矩陣卷積，卷積輸入和核形狀都為正方形，x和y軸方向的padding相同，

反捲積 逆卷積 轉置卷積(Transposed Convolution；Fractionally Strided Convolution；Deconvolution) 輸出維度shape計算

正常卷積運算： 如上圖：4x4的輸入，卷積Kernel為3x3, ,輸出為2x2。其計算可以理解為： 輸入矩陣展開為4*4=16維向量，記作x 輸出矩陣展開為2*2=4維向量，記作y 卷積核C為如下矩陣： 卷積運算可表示為y = Cx（可以對照

深度學習中反捲積層(轉置卷積)引起的棋盤格噪聲

在基於CNN的超解析度中，經常在最後一層使用stride>1的deconv layer，而這會造成棋盤格噪聲。如下圖所示   具體產生原因 上面的黑格子是表示原始影象中的某一個畫素點，白色的表示轉置卷積中的stride，一般是用0去填充。下面一層就是deconv生成的影象。可以看到s

對深度可分離卷積、分組卷積、擴張卷積、轉置卷積（反捲積）的理解

轉自：https://blog.csdn.net/chaolei3/article/details/79374563   參考： https://zhuanlan.zhihu.com/p/28749411 https://zhuanlan.zhihu.com/p/28186

[轉載]對深度可分離卷積、分組卷積、擴張卷積、轉置卷積（反卷積）的理解

mes ise 相關性 區域 nat 1.2 log v操作 深度 1. 深度可分離卷積（depthwise separable convolution） 在可分離卷積（separable convolution）中，通常將卷積操作拆分成多個步驟。而在神經網絡中通常使用的

輕鬆理解轉置卷積(transposed convolution)/反捲積(deconvolution)

原文地址:Up-sampling with Transposed Convolution 在CNN中,轉置卷積是一種上取樣(up-sampling)的方法.如果你對轉置卷積感到困惑,那麼就來讀讀這篇文章吧. 本文的notebook程式碼在Github. 上取樣的需要 在

轉置卷積(反捲積)

借鑑於此個部落格，寫的非常好：https://blog.csdn.net/isMarvellous/article/details/80087705 轉置卷積（Transposed Convolution）也叫做反捲積（Deconvolution） Pytorch中可以使用torch.nn.

卷積神經網路CNN（1）——影象卷積與反捲積（後卷積，轉置卷積）

1.前言    傳統的CNN網路只能給出影象的LABLE，但是在很多情況下需要對識別的物體進行分割實現end to end，然後FCN出現了，給物體分割提供了一個非常重要的解決思路，其核心就是卷積與反捲積，所以這裡就詳細解釋卷積與反捲積。     對於1維的卷積，公式（離散

反捲積（轉置卷積）總結

1 反捲積就是卷積，只是中間padding了下，然後再做卷積。 這裡有個動態圖，transposed就是代表反捲積（轉置卷積） https://github.com/vdumoulin/conv_a

卷積、反捲積、轉置卷積和微步幅卷積

卷積 首先定義本文要用到的符號 輸入圖片的大小: i1=i2=i。 卷積核的大小: k1=k2=k。 卷積步長:s1=s2=s。 填充padding=p。 下圖表示引數為(i=5,k=3,s=2,p=1)的卷積計算過程，可以看出輸出的圖片大小是(3∗3

反捲積（轉置卷積）

轉置卷積其實就相當於正常卷積的反向傳播。 考慮一個輸入為x=4x4，卷積核為w=3x3，步長為stride=1，zero-padding=0 將卷積核展開為一個稀疏矩陣C： 做卷積可得2x2的輸出y，C*x=y。如下圖所示：   那麼怎麼得到轉置卷積呢。正如我們上面說的

[深度學習]轉置卷積(Transposed Convolution)

一.寫在前面 在GAN（Generative Adversarial Nets， 直譯為生成式對抗網路）中，生成器G利用隨機噪聲Z，生成資料。那麼，在DCGAN中，這部分是如何實現呢？這裡就利用到了Transposed Convolution（直譯為轉置卷積），也稱為Fra

對深度可分離卷積、分組卷積、空洞卷積、轉置卷積的理解

參考： https://blog.csdn.net/chaolei3/article/details/79374563 https://blog.csdn.net/jiachen0212/article/details/78548667 https://blog.csdn.net/u0147

【轉置卷積】當想用通過學習來進行上取樣的時候

反捲積（Deconvolution）的概念第一次出現是Zeiler在2010年發表的論文Deconvolutional networks中，但是並沒有指定反捲積這個名字，反捲積這個術語正式的使用是在其之後的工作中(Adaptive deconvolutional networ

轉置卷積&&膨脹卷積

soft tutorial www. 理解 lin www versions htm html Convolution arithmetic tutorial theano Convolution arithmetric github 如何理解深度學習中的deconvol

轉置卷積的理解

sam ont 原來 ron 取出 http toe 輸入a inpu 看了很多反卷積和轉置卷積的文章，似乎還是一頭霧水，記錄下自己理解的過程～ 有人一句話總結：逆卷積相對於卷積在神經網絡結構的正向和反向傳播中做相反的運算。其實還是不是很理解。 反卷積（轉置卷積）通常用來兩

TensorFlow深度學習實戰---圖像識別與卷積神經網絡

實戰 都是 循環 特征 結構 分析 神經網絡 圖片 網絡 全連接層網絡結構：神經網絡每兩層之間的所有結點都是有邊相連的。 卷積神經網絡：1.輸入層 2.卷積層：將神經網絡中的每一個小塊進行更加深入地分析從而得到抽象程度更高的特征。

深度學習方法（五）：卷積神經網路CNN經典模型整理Lenet，Alexnet，Googlenet，VGG，Deep Residual Learning

歡迎轉載，轉載請註明：本文出自Bin的專欄blog.csdn.net/xbinworld。  技術交流QQ群：433250724，歡迎對演算法、技術感興趣的同學加入。 關於卷積神經網路CNN，網路和文獻中有非常多的資料，我在工作/研究中也用了好一段時間各種常見的model了，就想著

由淺入深：CNN中卷積層與轉置卷積層的關系

更多 deep 每次 展開 大禮包 位移 入門 ssg 得出 歡迎大家前往騰訊雲+社區，獲取更多騰訊海量技術實踐幹貨哦~ 本文由forrestlin發表於雲+社區專欄 導語：轉置卷積層（Transpose Convolution Layer）又稱反卷積層或分數卷積層，在

深度學習：十大拍案叫絕的卷積設計操作

卷積的十大拍案叫絕的操作 一、卷積只能在同一組進行嗎?– Group convolution Group convolution 分組卷積，最早在AlexNet中出現，由於當時的硬體資源有限，訓練AlexNet時卷積操作不能全部放在同一個GPU處理，因此作者把f