“深度学习”和“多层神经网络”的区别

作者&投稿:闳季 (若有异议请与网页底部的电邮联系)
深度学习和神经网络的区别是什么?~

什么是神经网络,深度学习

  “深度学习”和“多层神经网络”不存在区别关系。
  深度学习的网络结构是多层神经网络的一种。深度学习中最著名的卷积神经网络CNN,在原来多层神经网络的基础上,加入了特征学习部分,这部分是模仿人脑对信号处理上的分级的。


  广义上说深度学习的网络结构也是多层神经网络的一种。传统意义上的多层神经网络是只有输入层、隐藏层、输出层。其中隐藏层的层数根据需要而定,没有明确的理论推导来说明到底多少层合适。而深度学习中最著名的卷积神经网络CNN,在原来多层神经网络的基础上,加入了特征学习部分,这部分是模仿人脑对信号处理上的分级的。具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层,而且加入的是一个层级。 输入层 - 卷积层 -降维层 -卷积层 - 降维层 -- .... -- 隐藏层 -输出层简单来说,原来多层神经网络做的步骤是:特征映射到值。特征是人工挑选。深度学习做的步骤是 信号->特征->值。 特征是由网络自己选择。

  需要使用深度学习解决的问题有以下的特征:
  深度不足会出现问题。
  人脑具有一个深度结构。
  认知过程逐层进行,逐步抽象。

  深度学习的核心思想:
  把学习结构看作一个网络,则深度学习的核心思路如下:
  ①无监督学习用于每一层网络的pre-train;
  ②每次用无监督学习只训练一层,将其训练结果作为其高一层的输入;
  ③用自顶而下的监督算法去调整所有层

作者:杨延生
链接:https://www.zhihu.com/question/26017374/answer/31868340
来源:知乎
著作权归作者所有,转载请联系作者获得授权。

"深度学习"是为了让层数较多的多层神经网络可以训练,能够work而演化出来的一系列的 新的结构和新的方法。

新的网络结构中最著名的就是CNN,它解决了传统较深的网络参数太多,很难训练的问题,使用了“局部感受野”和“权植共享”的概念,大大减少了网络参数的数量。关键是这种结构确实很符合视觉类任务在人脑上的工作原理。
新的结构还包括了:LSTM,ResNet等。

新的方法就多了:新的激活函数:ReLU,新的权重初始化方法(逐层初始化,XAVIER等),新的损失函数,新的防止过拟合方法(Dropout, BN等)。这些方面主要都是为了解决传统的多层神经网络的一些不足:梯度消失,过拟合等。

---------------------- 下面是原答案 ------------------------

从广义上说深度学习的网络结构也是多层神经网络的一种。

传统意义上的多层神经网络是只有输入层、隐藏层、输出层。其中隐藏层的层数根据需要而定,没有明确的理论推导来说明到底多少层合适。
而深度学习中最著名的卷积神经网络CNN,在原来多层神经网络的基础上,加入了特征学习部分,这部分是模仿人脑对信号处理上的分级的。具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层,而且加入的是一个层级。
输入层 - 卷积层 -降维层 -卷积层 - 降维层 -- .... -- 隐藏层 -输出层
简单来说,原来多层神经网络做的步骤是:特征映射到值。特征是人工挑选。
深度学习做的步骤是 信号->特征->值。 特征是由网络自己选择。


深度学习的定义
深度学习的定义如下:深度学习是一种基于人工神经网络的机器学习方法,其目的是通过对大量数据的学习和分析,自动发现数据之间的关系和规律,并用于预测、分类、聚类等任务。深度学习的核心思想是通过多层非线性变换,将输入数据映射到高维空间中,并在高维空间中进行特征提取和分类。深度学习的主要特点是其多...

深度学习模型区别于早期的人工神经网络的是什么
在前馈神经网络中,信息只能从前向传播,即从输入层经过各隐藏层的计算到达输出层,而不能像深度学习模型那样进行后向传播更新参数。深度学习模型是对早期人工神经网络的一种改进和扩展,利用了多层神经网络和反向传播算法,使得模型能够更好地处理复杂的非线性问题,并且在大数据集上的表现也更为优秀。

深度学习是什么?
深度学来习(人工神经网络的研究的概念)深度学习(DL, Deep Learning)是机器学习(ML, Machine Learning)领域中一个新的研究方向,它被引入机器学习使其更接近于最初的目标——人工智能(AI, Artificial Intelligence)。深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字,图像...

深度学习是什么?
深度学习(人工神经网络的研究的概念)深度学习(DL, Deep Learning)是机器学习(ML, Machine Learning)领域中一个新的研究方向,它被引入机器学习使其更接近于最初的目标——人工智能(AI, Artificial Intelligence)。深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字,图像和...

新数据环境的分类
3、机器学习:机器学习是一种计算机科学技术,它使计算机能够从数据中学习,并从中提取有价值的信息。4、深度学习:深度学习是一种人工智能技术,它使用多层神经网络来模拟人类大脑的学习过程,从而从数据中提取有价值的信息。5、自然语言处理:自然语言处理是一种人工智能技术,它使用计算机程序来处理和理解...

深度学习的含义
深度学习是一类模式分析方法的统称,就具体研究内容而言,主要涉及三类方法:(1)基于卷积运算的神经网络系统,即卷积神经网络(CNN)。(2)基于多层神经元的自编码神经网络,包括自编码(Auto encoder)以及近年来受到广泛关注的稀疏编码两类(Sparse Coding)。(3)以多层自编码神经网络的方式进行预训练...

什么是深度学习模型
什么是深度学习模型?深度学习模型是一种人工神经网络模型,通过多层非线性变换来实现高级别的抽象表达和学习。深度学习模型是机器学习的一种,并在人工智能领域中得到广泛应用。深度学习模型的基础是人工神经网络模型,其模拟人类神经网络的结构和功能。深度学习模型包括多个层次的神经网络模型,每一层都在前一...

人工智能深度学习神经网络,是什么?
人工智能深度学习神经网络是一种模仿人类神经系统结构和功能的计算模型,用于处理复杂的输入数据并进行分类、预测和决策。它是人工智能领域中的一种重要技术手段,已经被广泛应用于图像识别、语音识别、自然语言处理、机器翻译等领域。深度学习神经网络由多层神经元(或节点)组成,每一层通过权重值和偏置项对...

深度学习有人了解吗,可以介绍一下吗?
区别于传统的浅层学习,深度学习的不同在于: [4](1)强调了模型结构的深度,通常有5层、6层,甚至10多层的隐层节点; [4](2)明确了特征学习的重要性。也就是说,通过逐层特征变换,将样本在原空间的特征表示变换到一个新特征空间,从而使分类或预测更容易。与人工规则构造特征的方法相比,利用...

人工智能有哪些领域
2. 机器学习:机器学习是AI的一个重要子领域,它通过训练模型来自动识别数据中的模式,从而实现自主学习。机器学习的应用非常广泛,包括图像识别、语音识别、自然语言处理、推荐系统等。3. 深度学习:深度学习是机器学习的一种,它利用多层神经网络模型实现对数据的自动学习和特征提取。深度学习在图像识别、...

汕头市18291519727: “深度学习”和“多层神经网络”的区别 -
令滕盐酸: “深度学习”和“多层神经网络”不存在区别关系.深度学习的网络结构是多层神经网络的一种.深度学习中最著名的卷积神经网络CNN,在原来多层神经网络的基础上,加入了特征学习部分,这部分是模仿人脑对信号处理上的分级的.广义...

汕头市18291519727: 卷积神经网络和深度神经网络的区别是什么 -
令滕盐酸: 深度网络是一个大类,传统意义上我们认为隐含层的层数多于3的神经网络都称为深度网络.研究比较火热的深度网络包括:多层感知机,卷积神经网络,深度置信网络,深度玻尔兹曼机等等.

汕头市18291519727: 神经网络(深度学习)的几个基础概念 -
令滕盐酸: 从广义上说深度学习的网络结构也是多层神经网络的一种.传统意义上的多层神经网络是只有输入层、隐藏层、输出层.其中隐藏层的层数根据需要而定,没有明确的理论推导来说明到底多少层合适.而深度学习中最著名的卷积神经网络CNN,在原来多层神经网络的基础上,加入了特征学习部分,这部分是模仿人脑对信号处理上的分级的.具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层,而且加入的是一个层级.输入层 - 卷积层 -降维层 -卷积层 - 降维层 -- .... -- 隐藏层 -输出层简单来说,原来多层神经网络做的步骤是:特征映射到值.特征是人工挑选.深度学习做的步骤是 信号->特征->值. 特征是由网络自己选择.

汕头市18291519727: 什么是深度学习 -
令滕盐酸: 普通的神经网络,输入的数据对应一组组的特征值,经过学习,完成分类拟合或预测;深度学习的作用,在于确定给神经网络输入什么特征的值,即用机器完成特征提取,而不需要用其他的方式来人工确定特征,提取特征.

汕头市18291519727: 深度学习会代替神经网络吗? -
令滕盐酸: deeplearinig就是神经网络的一类,就是解决的训练问题的深层神经网络,所以你这问题“深度学习会代替神经网络'就不对,BP么,BP有自己的优势,也是很成熟的算法,做手写识别等等效果已经商用化了,不会被轻易替代.deeplearning远比BP要复杂,用来解决的问题也不是一个层面,所以也没有替代的必要.Deeplearning所涉及的问题大多数BP都没法解决的.........

汕头市18291519727: 卷积网络是深度学习还是神经网络 -
令滕盐酸: 作者:杨延生 链接: 来源:知乎 著作权归作者所有,转载请联系作者获得授权. "深度学习"是为了让层数较多的多层神经网络可以训练,能够work而演化出来的一系列的 新的结构和新的方法. 新的网络结构中最著名的就是CNN,它解决了...

汕头市18291519727: 如何理解深度学习中的卷积 -
令滕盐酸: 深度学习的概念源于人工神经网络的研究.含多隐层的多层感知器就是一种深度学习结构.深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示.多层神经网络是指单计算层感知器只能解决线性...

汕头市18291519727: 深度学习有哪些加快收敛的tricks -
令滕盐酸: 深度学习,按个人的理解主要就是多层神经网络.而多层神经网络目前效果比较好的是卷积神经网络,目前在图像和音频信号上效果比较好,而在自然语言处理上效果没有显示出来.深度学习从统计学的角度来说,就是在预测数据的分布,从数据中学得一个模型然后再通过这个模型去预测新的数据,这一点就要求测试数据和训练数据必须是同分布.深度学习,它是在一定的学习量的积累基础之上的质的飞越,就是学习能力的质变和新实现.度学习的前提在于大数据技术的成熟和支撑.同时,深度学习是一种经验的连接和运用.它是人类的经验和智慧在机器中的再生和活化.

汕头市18291519727: 深度卷积神经网络的输入可以是手工提取的特征吗 -
令滕盐酸: 可以啊,但是没必要,卷积网本身就能够自动智能的提取特征,你只要设计好网络结构,每个卷积提取多少个特征就行了.

你可能想看的相关专题

本站内容来自于网友发表,不代表本站立场,仅表示其个人看法,不对其真实性、正确性、有效性作任何的担保
相关事宜请发邮件给我们
© 星空见康网