人类的视觉原理( 三 )


卷积传播图解
先来看得到卷积的过程
(单个元素的梯度计算)不考虑前后的层,比如我们已经得到了Delta 的梯度矩阵,可以观察下图如何得到在原矩阵中 x 2 , 2 x_{2,2} x2,2?的梯度值 。
(推广到全部元素) 这里就是对Delta d做了一个之后然后反向做了卷积 。
不同视角看CNN
这部分图来自:
比如有原始数据矩阵:
得到的 :
卷积计算的视角
等式计算角度
网络角度
矩阵乘法角度
Dense神经网络角度
在这个角度下我们可以更好地理解传统神经网络和CNN之间的联系,其中左图是传统神经网络,右图数Dense神经网络视角下的CNN 。灰度连接对应于不可训练的0.
参考