github地址:https://github.com/zhanghang1989/ResNeSt

論文地址:https://hangzhang.org/files/resnest.pdf 

 

核心就是:Split-attention blocks

先看一組圖:

ResNeSt在影象分類上中ImageNet資料集上超越了其前輩ResNet、ResNeXt、SENet以及EfficientNet。使用ResNeSt-50為基本骨架的Faster-RCNN比使用ResNet-50的mAP要高出3.08%。使用ResNeSt-50為基本骨架的DeeplabV3比使用ResNet-50的mIOU要高出3.02%。漲點效果非常明顯。

1、提出的動機

他們認為像ResNet等一些基礎卷積神經網路是針對於影象分類而設計的。由於有限的感受野大小以及缺乏跨通道之間的相互作用,這些網路可能不適合於其它的一些領域像目標檢測、影象分割等。這意味著要提高給定計算機視覺任務的效能,需要“網路手術”來修改ResNet,以使其對特定任務更加有效。 例如,某些方法添加了金字塔模組[8,69]或引入了遠端連線[56]或使用跨通道特徵圖注意力[15,65]。 雖然這些方法確實可以提高某些任務的學習效能,但由此而提出了一個問題:我們是否可以建立具有通用改進功能表示的通用骨幹網,從而同時提高跨多個任務的效能?跨通道資訊在下游應用中已被成功使用 [56,64,65],而最近的影象分類網路更多地關注組或深度卷積[27,28,54,60]。 儘管它們在分類任務中具有出色的計算能力和準確性,但是這些模型無法很好地轉移到其他任務,因為它們的孤立表示無法捕獲跨通道之間的關係[27、28]。因此,具有跨通道表示的網路是值得做的。

2、本文的貢獻點

第一個貢獻點:提出了split-attention blocks構造的ResNeSt,與現有的ResNet變體相比,不需要增加額外的計算量。而且ResNeSt可以作為其它任務的骨架。

第二個貢獻點:影象分類和遷移學習應用的大規模基準。 利用ResNeSt主幹的模型能夠在幾個任務上達到最先進的效能,即:影象分類,物件檢測,例項分割和語義分割。 與通過神經架構搜尋生成的最新CNN模型[55]相比,所提出的ResNeSt效能優於所有現有ResNet變體,並且具有相同的計算效率,甚至可以實現更好的速度精度折衷。單個Cascade-RCNN [3]使用ResNeSt-101主幹的模型在MS-COCO例項分割上實現了48.3%的box mAP和41.56%的mask mAP。 單個DeepLabV3 [7]模型同樣使用ResNeSt-101主幹,在ADE20K場景分析驗證集上的mIoU達到46.9%,比以前的最佳結果高出1%mIoU以上。

3、相關工作就不介紹了

4、Split-Attention網路

直接看ResNeSt block:

首先是借鑑了ResNeXt網路的思想,將輸入分為K個,每一個記為Cardinal1-k ,然後又將每個Cardinal拆分成R個,每一個記為Split1-r,所以總共有G=KR個組。

然後是對於每一個Cardinal中具體是什麼樣的:

這裡借鑑了squeeze-and-excitation network(SENet) 中的思想,也就是基於通道的注意力機制,對通道賦予不同的權重以建模通道的重要程度。

對於每一個Cardinal輸入是:

通道權重統計量可以通過全域性平均池化獲得:

用Vk表示攜帶了通道權重後的Cardinal輸出:

那麼最終每個Cardinal的輸出就是:

而其中的是經過了softmax之後計算所得的權重:

如果R=1的話就是對該Cardinal中的所有通道視為一個整體。

接著將每一個Cardinal的輸出拼接起來:

假設每個ResNeSt block的輸出是Y,那麼就有:

其中T表示的是跳躍連線對映。這樣的形式就和ResNet中的殘差塊輸出計算就一致了。

5、殘差網路存在的問題 

(1)殘差網路使用帶步長的卷積,比如3×3卷積來減少影象的空間維度,這樣會損失掉很多空間資訊。對於像目標檢測和分割領域,空間資訊是至關重要的。而且卷積層一般使用0來填充影象邊界,這在遷移到密集預測的其它問題時也不是最佳選擇。因此本文使用的是核大小為3×3的平均池化來減少空間維度。

(2)

  • 將殘差網路中的7×7卷積用3個3×3的卷積代替,擁有同樣的感受野。
  • 將跳躍連線中的步長為2的1×1卷積用2×2的平均池化代替。

6、訓練策略

這裡就簡單地列下,相關細節可以去看論文。

(1)大的min batch,使用cosine學習率衰減策略。warm up。BN層引數設定。

(2)標籤平滑

(3)自動增強

(4)mixup訓練

(5)大的切割設定

(6)正則化

6、相關結果 

附錄中還有一些結果,就不再貼了。 

最後是split attention block的實現程式碼,可以結合看一看:

import torch
from torch import nn
import torch.nn.functional as F
from torch.nn import Conv2d, Module, Linear, BatchNorm2d, ReLU
from torch.nn.modules.utils import _pair

__all__ = ['SKConv2d']

class DropBlock2D(object):
    def __init__(self, *args, **kwargs):
        raise NotImplementedError

class SplAtConv2d(Module):
    """Split-Attention Conv2d
    """
    def __init__(self, in_channels, channels, kernel_size, stride=(1, 1), padding=(0, 0),
                 dilation=(1, 1), groups=1, bias=True,
                 radix=2, reduction_factor=4,
                 rectify=False, rectify_avg=False, norm_layer=None,
                 dropblock_prob=0.0, **kwargs):
        super(SplAtConv2d, self).__init__()
        padding = _pair(padding)
        self.rectify = rectify and (padding[0] > 0 or padding[1] > 0)
        self.rectify_avg = rectify_avg
        inter_channels = max(in_channels*radix//reduction_factor, 32)
        self.radix = radix
        self.cardinality = groups
        self.channels = channels
        self.dropblock_prob = dropblock_prob
        if self.rectify:
            from rfconv import RFConv2d
            self.conv = RFConv2d(in_channels, channels*radix, kernel_size, stride, padding, dilation,
                                 groups=groups*radix, bias=bias, average_mode=rectify_avg, **kwargs)
        else:
            self.conv = Conv2d(in_channels, channels*radix, kernel_size, stride, padding, dilation,
                               groups=groups*radix, bias=bias, **kwargs)
        self.use_bn = norm_layer is not None
        self.bn0 = norm_layer(channels*radix)
        self.relu = ReLU(inplace=True)
        self.fc1 = Conv2d(channels, inter_channels, 1, groups=self.cardinality)
        self.bn1 = norm_layer(inter_channels)
        self.fc2 = Conv2d(inter_channels, channels*radix, 1, groups=self.cardinality)
        if dropblock_prob > 0.0:
            self.dropblock = DropBlock2D(dropblock_prob, 3)

    def forward(self, x):
        x = self.conv(x)
        if self.use_bn:
            x = self.bn0(x)
        if self.dropblock_prob > 0.0:
            x = self.dropblock(x)
        x = self.relu(x)

        batch, channel = x.shape[:2]
        if self.radix > 1:
            splited = torch.split(x, channel//self.radix, dim=1)
            gap = sum(splited) 
        else:
            gap = x
        gap = F.adaptive_avg_pool2d(gap, 1)
        gap = self.fc1(gap)

        if self.use_bn:
            gap = self.bn1(gap)
        gap = self.relu(gap)

        atten = self.fc2(gap).view((batch, self.radix, self.channels))
        if self.radix > 1:
            atten = F.softmax(atten, dim=1).view(batch, -1, 1, 1)
        else:
            atten = F.sigmoid(atten, dim=1).view(batch, -1, 1, 1)

        if self.radix > 1:
            atten = torch.split(atten, channel//self.radix, dim=1)
            out = sum([att*split for (att, split) in zip(atten, splited)])
        else:
            out = atten * x
        return out.contiguous()

 

如有錯誤,歡迎指