34-卷积神经网络(Conv)
深度学习网络和普通神经网络的区别
全连接神经网络的缺点
卷积神经网络的错误率
卷积神经网络的发展历程
卷积神经网络的结构
结构特点：
神经网络(neural networks)的基本组成包括输入层、隐藏层、输出层。而卷积神经网络的特点在于隐藏层分为卷积层和池化层(pooling layer，又叫下采样层)。
卷积过程
纠正：卷积层的过滤器，就是一个矩阵，里面的元素是对应扫描时每个像素点的权重
即：每个过滤器会产生一张feature map
0填充的两种方式
卷积核在提取特征映射时的动作称之为padding（零填充），由于移动步长不一定能整出整张图的像素宽度。其中有两种方式，SAME和VALID
彩色图片的卷积过程
由于彩色图片有3个通道，即3张表，所以filter需要分3次去分别观察，每次观察的结果直接相加作为最后的结果
过滤器的个数
有几个过滤器，就会生成几张表。eg：
对于[28, 28, 1]的图片，如果有32个过滤器，就会卷积的结果就为[28, 28, 32]，相当于图片被“拉长”了
观察结果大小的计算
面试可能考
注意：如果计算结果出现小数，需要结合情况具体考虑，而不是说直接四舍五入
卷积的api
在卷积神经网络中，主要使用Relu函数作为激活函数
即在这里使用relu函数去掉了像素中小于0的值
神经网络中为什么要使用激活函数
为什么使用relu而不再使用sigmoid函数？
api
卷积就是进行特征的提取，观察更加仔细，然而，观察仔细就意味着数据多，运算量增加，这就需要使用池化层以减少计算量
Pooling层主要的作用是特征提取，通过去掉Feature Map中不重要的样本，进一步减少参数数量。Pooling的方法很多，最常用的是Max Pooling。
池化层也有一个窗口大小（过滤器）
即：池化过程让图片变得更“窄”
即：卷积层使得图片变长，池化层使得图片变窄，所以经过卷积，图片越来越“细长”
api
池化中SAME的计算方式与卷积过程中SAME的计算方式一样。eg：
[None, 28, 28, 32]的数据，经过2x2，步长为2，padding为SAME的池化，变成了[None, 14, 14, 32]
分析：前面的卷积和池化相当于做特征工程，后面的全连接相当于做特征加权。最后的全连接层在整个卷积神经网络中起到“分类器”的作用。
所以神经网络也相当于是一个特征选择的方式
人工智能面试题有哪些?
1. 介绍你对人工智能的理解和应用领域。2. 解释机器学习和深度学习的区别以及各自的应用场景。3. 什么是过拟合和欠拟合？如何解决这些问题？4. 解释一下监督学习、无监督学习和强化学习的区别。5. 什么是卷积神经网络（CNN）？它在计算机视觉中的应用是什么？6. 请解释一下梯度消失和梯度爆炸问题，并...
AlphaGo 用了哪些深度学习的模型
AlphaGo用了一个深度学习的模型：卷积神经网络模型。阿尔法围棋（AlphaGo）是一款围棋人工智能程序。其主要工作原理是“深度学习”。“深度学习”是指多层的人工神经网络和训练它的方法。一层神经网络会把大量矩阵数字作为输入，通过非线性激活方法取权重，再产生另一个数据集合作为输出。这就像生物神经大脑的...
卷积神经网络参数解析
[6] 调整学习速率以优化神经网络训练. https:\/\/zhuanlan.zhihu.com\/p\/28893986 [7] 机器学习中用来防止过拟合的方法有哪些？[8] Neural Networks for Machine Learning by Geoffrey Hinton .[9] 如何确定卷积神经网络的卷积核大小、卷积...
神经网络的学习内容是什么?
神经网络的学习内容主要包括：感知机（perceptron）：是一种线性分类模型，能够解决二分类问题。多层感知机（multilayer perceptron, MLP）：是一种由多个感知机堆叠而成的神经网络模型，能够解决多分类问题。卷积神经网络（convolutional neural network, CNN）：是一种深度学习模型，能够自动学习数据的特征，并...
各种编程语言的深度学习库整理大全
3. cuda-convet是一套卷积神经网络（CNN）代码，也适用于前馈神经网络，使用C++\/CUDA进行运算。它能对任意深度的多层神经网络建模。只要是有向无环图的网络结构都可以。训练过程采用反向传播算法（BP算法）。4. MatConvNet是一个面向计算机视觉应用的卷积神经网络（CNN）Matlab工具箱。它简单高效，能够...
有哪些深度神经网络模型?
目前经常使用的深度神经网络模型主要有卷积神经网络(CNN) 、递归神经网络(RNN)、深信度网络(DBN) 、深度自动编码器(AutoEncoder) 和生成对抗网络(GAN) 等。递归神经网络实际.上包含了两种神经网络。一种是循环神经网络(Recurrent NeuralNetwork) ;另一种是结构递归神经网络(Recursive Neural Network)，它...
什么是神经网络
神经网络（neural network）是一种模拟人脑神经思维方式的数据模型，神经网络有多种，包括BP神经网络、卷积神经网络，多层感知器MLP等，最为经典为神经网络为多层感知器MLP（Multi-Layer Perception），SPSSAU默认使用该模型。类似其它的机器学习模型（比如决策树、随机森林、支持向量机SVM等），神经网络模型构建...
机器学习,深度学习,神经网络,深度神经网络之间有何区别?
2. 神经网络：算法中的神经元网络人工神经网络（Neural Network）是机器学习中的关键组成部分，模仿生物神经网络的结构。它由神经元构成，这些非线性函数如同大脑中的信息处理单元。神经网络可以细分为全连接、卷积和循环等类型，每种都有其特定的应用场景，如卷积神经网络（CNN）在图像识别中表现卓越，而...
如何计算卷积神经网络中接受野尺寸
stride 表示卷积的步长； fsize表示卷积层滤波器的大小 用python实现了计算Alexnet zf-5和VGG16网络每层输出feature map的感受野大小，实现代码：!\/usr\/bin\/env pythonnet_struct = {'alexnet': {'net':[[11,4,0],[3,2,0],[5,1,2],[3,2,0],[3,1,1],[3,1,1],[3,1,1],[3,...
视觉-卷积层基础知识
1. 卷积层的组成和每层的作用 卷积神经网络（CNN）主要由卷积层、激活函数、池化层、全连接层组成。卷积层（Conv）：使用卷积核进行特征提取和特征映射 激活函数（Activation）：由于卷积也是一种线性运算，因此需要增加非线性映射 池化层（Pool）：对输入的特征图进行压缩，一方面使特征图变小，简化网络...
钊田重组： 卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现.[1] 它包括卷积层(alternating convolutional layer)和池层(pooling layer). ...
奎文区17511037355： 层有什么用处,以及是如何实现的 - ？
钊田重组： 1.卷积神经网络简介 卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现.[1] 它包括卷积层(alternating convolutional layer)和池...
奎文区17511037355： 如何计算卷积神经网络中接受野尺寸 - ？
钊田重组： #Compute input size that leads to a 1x1 output size, among other things# [filter size, stride, padding]convnet =[[11,4,0],[3,2,0],[5,1,2],[3,2,0],[3,1,1],[3,1,1],[3,1,1],[3,2,0],[6,1,0]] layer_name = ['conv1','pool1','conv2','pool2','conv3','conv4','conv5','pool5...
奎文区17511037355： tensorflow中cnn在图像处理中怎么变化的… - ？
钊田重组： 卷积神经网络(convolutional neural network, CNN),最早是19世纪60年代,生物学家对猫视觉皮层研究发现:每个视觉神经元只会处理一小块区域是视觉图像,即感受野.后来到了80年代,日本科学家提出了神经认知机(Neocognitron)的...
奎文区17511037355： 假设面试官什么都不懂,详细解释cnn的原理 - ？
钊田重组： 卷积神经网络是近年发展起来,并引起广泛重视的一种高效识别方法.20世纪60年代,Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性,继而提出了卷积神经网...
奎文区17511037355： 卷积神经网络为什么具有扭曲和旋转不变性 - ？
钊田重组： 除非是做了数据增强,要不然卷积神经网络几乎不具有扭曲和旋转不变性 能稍微起点作用的max_polling,但是也只有小范围的扭曲和旋转不变性.
奎文区17511037355： 卷积神经网络具体怎样训练 - ？
钊田重组： 一般都是定了一个固定的核的,例如你29*29的图片,就用5*5的核. 这些都是经验. 当然你也可以用大些的. 然后核的具体的值,就是要训练出来的, 核的初始化的话,若果你的输入是0-1之前,那么核值也可以初始化在0-1之间,不会有太大的误差. 《神经网络之家》专讲神经网络这一块
奎文区17511037355： 卷积神经网络和深度神经网络的区别是什么 - ？
钊田重组： 卷积神经网络只是深度神经网络/深度学习的一种特殊形式而已.
奎文区17511037355： 卷积神经网络为什么最后接一个全连接层 - ？
钊田重组： 在常见的卷积神经网络的最后往往会出现一两层全连接层,全连接一般会把卷积输出的二维特征图(feature map)转化成(N*1)一维的一个向量 全连接的目的是什么呢?因为传统的端到到的卷积神经网络的输出都是分类(一般都是一个概率值...
