在现在语义分割、分类上面的操作的时候Backbone 使用ResNet网络的有很多，这也是一种很成功的网络。对于提高网络的准确率有很好的作用。但是随着现在技术的发展人们提出了各种的新的ResNet的变体。这里是一种的新的变体ResNeSt.
这种新的变体到底有多强，在这里我就不细说了，大家可以去论文中看看。
ResNeSt 的全称是：Split-Attention Networks，也就是特别引入了Split-Attention模块。不是我柠檬精的，其实ResNeSt 实际上也是一个"集大成者"，特别借鉴了：Multi-path 和 Feature-map Attention思想。当然这种借鉴也是很巧妙的，别的一些经典网络也有借鉴的思想。比如
- GoogleNet 采用了Multi-path机制，其中每个网络块均由不同的卷积kernels组成。
- ResNeXt在ResNet bottle模块中采用组卷积，将multi-path结构转换为统一操作。
- SE-Net 通过自适应地重新校准通道特征响应来引入通道注意力（channel-attention）机制。
- SK-Net 通过两个网络分支引入特征图注意力（feature-map attention）。
ResNeSt 和 SE-Net、SK-Net 的对应图示如下：
其中上图中都包含的 Split Attention模块如下图所示：
从上面两个图可以看出，这其中就有分组的思想。当然这里结果还是比较好的。具体代码参考也有公布的ResNeSt 源码。
其他的一些训练的东西，我这里就不具体细说了。大家可以自己对着论文和源码学习一下。参考参考大佬的工作。