卷积神经网络(CNN)小结
卷积神经网络(Convolutional Neural Network,CNN)是人工神经网络的一种,已成为当前语音分析和图像识别领域的研究热点。
感受野和权值共享
卷积神经网络一个牛逼的地方就在于通过感受野和权值共享减少了神经网络需要训练的参数的个数,这有助于提高一般前向BP算法的训练性能。
感受野其实就是一个隐藏层神经元的局部连接大小。在全连接结构的神经网络中,隐藏层神经元和输入层的所有神经元都存在形成连接,带来的潜在问题是参数数量的膨胀。假设输入的是一幅像素为100100的图像,隐含层有1000个节点,光这一层就有(100100+1)*1000个权重需要训练,这不仅容易过拟合,而且极容易陷入局部最优。在卷积神经网络中,感受野就是卷积神经网络每一层输出的特征图(feature map)上的像素点在原始图像上映射的区域大小,即隐藏层神
