CNN(卷积神经网络)是什么?

作者&投稿:木斧 (若有异议请与网页底部的电邮联系)
什么是卷积神经网络?为什么它们很重要~

卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。[1] 它包括卷积层(alternating convolutional layer)和池层(pooling layer)。
卷积神经网络是近年发展起来,并引起广泛重视的一种高效识别方法。20世纪60年代,Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性,继而提出了卷积神经网络(Convolutional Neural Networks-简称CNN)。现在,CNN已经成为众多科学领域的研究热点之一,特别是在模式分类领域,由于该网络避免了对图像的复杂前期预处理,可以直接输入原始图像,因而得到了更为广泛的应用。 K.Fukushima在1980年提出的新识别机是卷积神经网络的第一个实现网络。随后,更多的科研工作者对该网络进行了改进。其中,具有代表性的研究成果是Alexander和Taylor提出的“改进认知机”,该方法综合了各种改进方法的优点并避免了耗时的误差反向传播。

理论在于,图像中相邻位置的像素是相关的。对一幅图像每隔一行采样,得到的结果依然能看。
一、卷积神经网
受Hubel和Wiesel对猫视觉皮层电生理研究启发,有人提出卷积神经网络(CNN),Yann Lecun 最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。近年来卷积神经网络在多个方向持续发力,在语音识别、人脸识别、通用物体识别、运动分析、自然语言处理甚至脑电波分析方面均有突破。
卷积神经网络与普通神经网络的区别在于,卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器。在卷积神经网络的卷积层中,一个神经元只与部分邻层神经元连接。在CNN的一个卷积层中,通常包含若干个特征平面(featureMap),每个特征平面由一些矩形排列的的神经元组成,同一特征平面的神经元共享权值,这里共享的权值就是卷积核。卷积核一般以随机小数矩阵的形式初始化,在网络的训练过程中卷积核将学习得到合理的权值。共享权值(卷积核)带来的直接好处是减少网络各层之间的连接,同时又降低了过拟合的风险。子采样也叫做池化(pooling),通常有均值子采样(mean pooling)和最大值子采样(max pooling)两种形式。子采样可以看作一种特殊的卷积过程。卷积和子采样大大简化了模型复杂度,减少了模型的参数。
三、卷积神经网络的原理
3.1 神经网络
首先介绍神经网络,这一步的详细可以参考资源1。简要介绍下。神经网络的每个单元如下:

对应的公式如下:
其对应的公式如下:

比较类似的,可以拓展到有2,3,4,5,…个隐含层。
神经网络的训练方法也同Logistic类似,不过由于其多层性,还需要利用链式求导法则对隐含层的节点进行求导,即梯度下降+链式求导法则,专业名称为反向传播。关于训练算法,本文暂不涉及。

在数字图像处理的时候我们用卷积来滤波是因为我们用的卷积模版在频域上确实是高通低通带通等等物理意义上的滤波器。然而在神经网络中,模版的参数是训练出来的,我认为是纯数学意义的东西,很难理解为在频域上还有什么意义,所以我不认为神经网络里的卷积有滤波的作用。接着谈一下个人的理解。首先不管是不是卷积神经网络,只要是神经网络,本质上就是在用一层层简单的函数(不管是sigmoid还是Relu)来拟合一个极其复杂的函数,而拟合的过程就是通过一次次back propagation来调参从而使代价函数最小。



CNN的核心其实就是卷积核的作用,如果学过数字图像处理,对于卷积核的作用应该不陌生,比如你做一个最简单的方向滤波器,那就是一个二维卷积核,这个核其实就是一个模板,利用这个模板再通过卷积计算的定义就可以计算出一幅新的图像,新的图像会把这个卷积核所体现的特征突出显示出来。比如这个卷积核可以侦测水平纹理,那卷积出来的图就是原图水平纹理的图像。现在假设要做一个图像的分类问题,比如辨别一个图像里是否有一只猫,我们可以先判断是否有猫的头,猫的尾巴,猫的身子等等,如果这些特征都具备,那么我就判定这应该是一只猫(如果用心的话你就会发现这就是CNN最后的分类层,这一部分是我们传统的神经网络的范畴)。



卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。它包括卷积层(convolutional layer)和池化层(pooling layer)。卷积神经网络是近年发展起来,并引起广泛重视的一种高效识别方法。20世纪60年代,Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性,继而提出了卷积神经网络。现在,CNN已经成为众多科学领域的研究热点之一,特别是在模式分类领域,由于该网络避免了对图像的复杂前期预处理,可以直接输入原始图像,因而得到了更为广泛的应用。 K.Fukushima在1980年提出的新识别机是卷积神经网络的第一个实现网络。随后,更多的科研工作者对该网络进行了改进。其中,具有代表性的研究成果是Alexander和Taylor提出的“改进认知机”,该方法综合了各种改进方法的优点并避免了耗时的误差反向传播。一般地,CNN的基本结构包括两层,其一为特征提取层,每个神经元的输入与前一层的局部接受域相连,并提取该局部的特征。一旦该局部特征被提取后,它与其它特征间的位置关系也随之确定下来;其二是特征映射层,网络的每个计算层由多个特征映射组成,每个特征映射是一个平面,平面上所有神经元的权值相等。特征映射结构采用影响函数核小的sigmoid函数作为卷积网络的激活函数,使得特征映射具有位移不变性。




神经网络包括卷积层,还包括哪些层
1、卷积神经网络(ConvolutionalNeuralNetwork,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。2、卷积神经网络的基本结构由以下几个部分组成:输入层,卷积层,池化层,激活函数层和全连接层。3、目前的卷积神经网络一般是由卷积层、汇聚层和全...

cnn有哪几种
CNN有哪几种 CNN是指卷积神经网络(Convolutional Neural Network),是人工智能领域中一个重要的算法。它已经被应用于各种领域,例如计算机视觉、语音识别和自然语言处理等。那么,CNN有哪几种呢?本文将为您详细介绍。1. 常规的卷积神经网络 常规的卷积神经网络是指由若干个卷积层、池化层和全连接层组成的...

图像 识别 哪些算法
图像识别的算法包括:卷积神经网络(CNN)、深度神经网络(DNN)、支持向量机(SVM)、随机森林等。一、卷积神经网络(CNN)是一种专门用于图像识别的神经网络。其主要通过卷积层对图像进行特征提取,池化层进行降维,最后通过全连接层进行分类或识别。CNN在图像识别领域具有广泛的应用,如人脸识别、物体检测...

卷积神经网络(CNN)
深度探索:卷积神经网络的奥秘与应用 卷积神经网络(CNN),作为深度学习中的明珠,是图像、语音和自然语言处理领域的关键工具。它以独特的结构和功能,为我们揭示了从原始数据中提取特征的高效路径。CNN的核心结构由输入层、卷积层和预处理环节构成,每一层都肩负着特定的使命。卷积层:特征提取的魔术师 ...

有哪些深度神经网络模型?
目前经常使用的深度神经网络模型主要有卷积神经网络(CNN) 、递归神经网络(RNN)、深信度网络(DBN) 、深度自动编码器(AutoEncoder) 和生成对抗网络(GAN) 等。递归神经网络实际.上包含了两种神经网络。一种是循环神经网络(Recurrent NeuralNetwork) ;另一种是结构递归神经网络(Recursive Neural Network),它...

卷积神经网络通俗理解
卷积神经网络通俗理解如下:卷积神经网络(CNN)-结构 ①CNN结构一般包含这几个层:输入层:用于数据的输入 卷积层:使用卷积核进行特征提取和特征映射 激励层:由于卷积也是一种线性运算,因此需要增加非线性映射 池化层:进行下采样,对特征图稀疏处理,减少数据运算量。全连接层:通常在CNN的尾部进行重新...

卷积神经网络(CNN)——图像卷积
在图像处理领域,卷积神经网络(CNN)凭借其独特的优势脱颖而出,它巧妙地解决了参数过多、结构信息提取和高维输入训练难题。CNN的核心在于其结构特征的提取能力,这主要得益于其核心组件——卷积层。卷积层:智能结构探索卷积层通过互相关运算,像一个移动的“窗口”在输入张量上滑动,与核张量进行深度交互...

多层感知机和神经网络的区别
MLP是由多层全连接的神经元组成的网络,每层都完全连接到下一层。MLP通常在最后一层有一个或多个线性输出单元,每个输出单元对应一个类别的概率分数。它通过反向传播算法学习权重,但不会学习特征,这使得它难以处理复杂的模式。NN则是一种更复杂的神经网络,包括卷积神经网络(CNN)和循环神经网络(RNN...

CNN(卷积神经网络)、RNN(循环神经网络)、DNN(深度神经网络)的内部网 ...
介绍 神经网络技术起源于上世纪五、六十年代,当时叫感知机(perceptron),拥有输入层、输出层和一个隐含层。输入的特征向量通过隐含层变换达到输出层,在输出层得到分类结果。早期感知机的推动者是Rosenblatt。在实际应用中,所谓的深度神经网络DNN,往往融合了多种已知的结构,包括卷积层或是LSTM单元。

神经网络技术有哪些
神经网络技术主要包括卷积神经网络(Convolutional Neural Networks, CNN)、循环神经网络(Recurrent Neural Networks, RNN)、生成对抗网络(Generative Adversarial Networks, GAN)和深度信念网络(Deep Belief Networks, DBN)等。卷积神经网络是专门用于处理具有网格结构数据的神经网络,如图像。它们通过卷积层...

黄龙县18335451494: 什么是卷积神经网络?为什么它们很重要 -
琦泥盐酸: 卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现.[1] 它包括卷积层(alternating convolutional layer)和池层(pooling layer). ...

黄龙县18335451494: 介绍卷积神经网络cnn和 dnn 有什么区别 -
琦泥盐酸: CNN是指卷积神经网络吗? 神经元就是指一个带权重W和偏置B,以及激活方程f的一个单元 输入I和输出O的关系是 O = f(WI+B)

黄龙县18335451494: 层有什么用处,以及是如何实现的 -
琦泥盐酸: 1.卷积神经网络简介 卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现.[1] 它包括卷积层(alternating convolutional layer)和池...

黄龙县18335451494: 卷积神经网络和深度神经网络的区别是什么 -
琦泥盐酸: 深度网络是一个大类,传统意义上我们认为隐含层的层数多于3的神经网络都称为深度网络.研究比较火热的深度网络包括:多层感知机,卷积神经网络,深度置信网络,深度玻尔兹曼机等等.

黄龙县18335451494: 假设面试官什么都不懂,详细解释cnn的原理 -
琦泥盐酸: 卷积神经网络是近年发展起来,并引起广泛重视的一种高效识别方法.20世纪60年代,Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性,继而提出了卷积神经网...

黄龙县18335451494: 卷积神经网络tensorflow怎么读取图像 -
琦泥盐酸: 卷积神经网络(convolutionalneuralnetwork,CNN),最早是19世纪60年代,生物学家对猫视觉皮层研究发现:每个视觉神经元只会处理一小块区域是视觉图像,即感受野.后来到了80年代,日本科学家提出了神经认知机(Neocognitron)的概...

黄龙县18335451494: 如何计算卷积神经网络中接受野尺寸 -
琦泥盐酸: #Compute input size that leads to a 1x1 output size, among other things# [filter size, stride, padding]convnet =[[11,4,0],[3,2,0],[5,1,2],[3,2,0],[3,1,1],[3,1,1],[3,1,1],[3,2,0],[6,1,0]] layer_name = ['conv1','pool1','conv2','pool2','conv3','conv4','conv5','pool5...

黄龙县18335451494: 卷积网络是深度学习还是神经网络 -
琦泥盐酸: 作者:杨延生 链接: 来源:知乎 著作权归作者所有,转载请联系作者获得授权. "深度学习"是为了让层数较多的多层神经网络可以训练,能够work而演化出来的一系列的 新的结构和新的方法. 新的网络结构中最著名的就是CNN,它解决了...

黄龙县18335451494: 神经网络(深度学习)的几个基础概念 -
琦泥盐酸: 从广义上说深度学习的网络结构也是多层神经网络的一种.传统意义上的多层神经网络是只有输入层、隐藏层、输出层.其中隐藏层的层数根据需要而定,没有明确的理论推导来说明到底多少层合适.而深度学习中最著名的卷积神经网络CNN,在原来多层神经网络的基础上,加入了特征学习部分,这部分是模仿人脑对信号处理上的分级的.具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层,而且加入的是一个层级.输入层 - 卷积层 -降维层 -卷积层 - 降维层 -- .... -- 隐藏层 -输出层简单来说,原来多层神经网络做的步骤是:特征映射到值.特征是人工挑选.深度学习做的步骤是 信号->特征->值. 特征是由网络自己选择.

黄龙县18335451494: 深度卷积神经网络的输入可以是手工提取的特征吗 -
琦泥盐酸: 可以啊,但是没必要,卷积网本身就能够自动智能的提取特征,你只要设计好网络结构,每个卷积提取多少个特征就行了.

本站内容来自于网友发表,不代表本站立场,仅表示其个人看法,不对其真实性、正确性、有效性作任何的担保
相关事宜请发邮件给我们
© 星空见康网