扩张卷积

1. 扩张卷积

Dilated Convolutions,翻译为扩张卷积或空洞卷积。扩张卷积与普通的卷积相比,除了卷积核的大小以外,还有一个扩张率(dilation rate)参数,主要用来表示扩张的大小。扩张卷积与普通卷积的相同点在于,卷积核的大小是一样的,在神经网络中即参数数量不变,区别在于扩张卷积具有更大的感受野。感受野是卷积核在图像上看到的大小,例如$3 \times 3$卷积核的感受野大小为9。

2. 示意图

下图是扩张卷积的示意图。

Dilated Convolution

(a) 普通卷积,1-dilated convolution,卷积核的感受野为$3 \times 3 = 9$。
(b) 扩张卷积,2-dilated convolution,卷积核的感受野为$7 \times 7 = 49$。
(c) 扩张卷积,4-dilated convolution,卷积核的感受野为$15 \times 15 = 225$。

从上图中可以看出,卷积核的参数个数保持不变,感受野的大小随着“dilation rate”参数的增加呈指数增长。

3. 优点

扩展卷积在保持参数个数不变的情况下增大了卷积核的感受野,同时它可以保证输出的特征映射(feature map)的大小保持不变。一个扩张率为2的3×3卷积核,感受野与5×5的卷积核相同,但参数数量仅为9个,是5×5卷积参数数量的$36%$。

4. 应用

(a)是普通的卷积特征图,图(b)是扩张系数为2的扩张卷积特征图。对于7×7的特征区域,其实际卷积内核大小为3x3,空洞值为1,即除9个黑点外其它点权重为0。虽然相对于普通的卷积特征图内核大小没有变化,但其的感受野已经增大到了7x7,这让每个卷积输出都包含了更多的全局信息。

(a)3×3卷积图         (b)扩张卷积图

2 扩张卷积原理图

猜你喜欢

转载自blog.csdn.net/qq_16792139/article/details/86496604