这节课我们来计算一下卷积网络的前向传播和反向传播的计算过程。
首先我们先来说一下卷积层的前项传播
卷积层的前向传播:X[0,0,:,:],第一个参数是输入样本的编号,第二个维度是c,就是channel,第三个维度和第四个维度就是输入的高和宽,表示输入图像的大小。
有三个filter,我们得出了三张特征图。
卷积层的前向传播还是很简单的,就是算了一个w和x的内积,之后加上一个偏置,就得出一个特征图的值,就得出了卷积的前向传播。
卷积层的反向传播
扫描二维码关注公众号,回复:
2622050 查看本文章
反向传播的目的,就是更新这个w。
我们首先得求dw。
池化操作:
Max Mean
forward:[1 3; 2 2] -> [2]
backward:[2] ->[0.5 0.5 0.5 0.5]
forward:[1 3; 2 2]-> 3
backward:[3] ->[0 3; 0 0]