11.1*1卷积的主要作用有以下几点:

    1、降维( dimension reductionality )(减少参数)。比如,一张500 * 500且厚度depth为100 的图片在20个filter上做1*1的卷积,那么结果的大小为500*500*20。
    2、升维(用最少的参数拓宽网络channal)
    3、加入非线性。卷积层之后经过激励层,1*1的卷积在前一层的学习表示上添加了非线性激励( non-linear activation ),提升网络的表达能力;
    4、跨通道信息交互(channal 的变换)例子:使用1*1卷积核,实现降维和升维的操作其实就是channel间信息的线性组合变化,3*3,64channels的卷积核后面添加一个1*1,28channels的卷积核,就变成了3*3,28channels的卷积核,原来的64个channels就可以理解为跨通道线性组合变成了28channels,这就是通道间的信息交互。注意:只是在channel维度上做线性组合,W和H上是共享权值的sliding window
    5、从fully-connected layers的角度来理解1*1卷积核,将其看成全连接层

猜你喜欢

转载自blog.csdn.net/Wgb_0206/article/details/88793705