关于感受野的总结
感受野是卷积神经网络里面最重要的概念之一,为了更好地理解卷积神经网络结构,甚至自己设计卷积神经网络,对于感受野的理解必不可少。 一、定义 感受野被定义为卷积神经网络特征所能看到输入图像的区域,换句话说特征输出受感受野区域内的像素点的影响。 比如下图(该图为了方便,将二维简化为一维),这个三层的神经卷积神经网络,每一层卷积核的,,那么最上层特征所对应的感受野就为如图所示的7x7。 感受野示例[1] 二、计算方式 其中表示特征感受野大小,表示层数,,表示输入层,,。 第一层特征,感受野为3 第1层感受野[1] 第二层特征,感受野为5 第2层感受野[1] 第三层特征,感受野为7 第3层感受野[1] 如果有dilated conv的话,计算公式为 三、更上一层楼 上文所述的是理论感受野,而特征的有效感受野(实际起作用的感受野)实际上是远小于理论感受野的,如下图所示。具体数学分析比较复杂,不再赘述,感兴趣的话可以参考论文[2]。 有效感受野示例[2] 下面我从直观上解释一下有效感受野背后的原因。以一个两层,的网络为例,该网络的理论感受野为5,计算流程可以参加下图。其中为输入,为卷积权重,为经过卷...
