求人工神经网络的具体算法,数学模型,比如求一个函数最优值之类的,不要各种乱七八糟的介绍,谢谢

作者&投稿:仇沿 (若有异议请与网页底部的电邮联系)
Matlab神经网络原理中可以用于寻找最优解的算法有哪些?~

若果对你有帮助,请点赞。
神经网络的结构(例如2输入3隐节点1输出)建好后,一般就要求神经网络里的权值和阈值。现在一般求解权值和阈值,都是采用梯度下降之类的搜索算法(梯度下降法、牛顿法、列文伯格-马跨特法、狗腿法等等),这些算法会先初始化一个解,在这个解的基础上,确定一个搜索方向和一个移动步长(各种法算确定方向和步长的方法不同,也就使各种算法适用于解决不同的问题),使初始解根据这个方向和步长移动后,能使目标函数的输出(在神经网络中就是预测误差)下降。 然后将它更新为新的解,再继续寻找下一步的移动方向的步长,这样不断的迭代下去,目标函数(神经网络中的预测误差)也不断下降,最终就能找到一个解,使得目标函数(预测误差)比较小。
而在寻解过程中,步长太大,就会搜索得不仔细,可能跨过了优秀的解,而步长太小,又会使寻解过程进行得太慢。因此,步长设置适当非常重要。
学习率对原步长(在梯度下降法中就是梯度的长度)作调整,如果学习率lr = 0.1,那么梯度下降法中每次调整的步长就是0.1*梯度,
而在matlab神经网络工具箱里的lr,代表的是初始学习率。因为matlab工具箱为了在寻解不同阶段更智能的选择合适的步长,使用的是可变学习率,它会根据上一次解的调整对目标函数带来的效果来对学习率作调整,再根据学习率决定步长。
机制如下:
if newE2/E2 > maxE_inc %若果误差上升大于阈值
lr = lr * lr_dec; %则降低学习率
else
if newE2 < E2 %若果误差减少
lr = lr * lr_inc;%则增加学习率
end
详细的可以看《神经网络之家》nnetinfo里的《[重要]写自己的BP神经网络(traingd)》一文,里面是matlab神经网络工具箱梯度下降法的简化代码

若果对你有帮助,请点赞。
神经网络的结构(例如2输入3隐节点1输出)建好后,一般就要求神经网络里的权值和阈值。现在一般求解权值和阈值,都是采用梯度下降之类的搜索算法(梯度下降法、牛顿法、列文伯格-马跨特法、狗腿法等等),这些算法会先初始化一个解,在这个解的基础上,确定一个搜索方向和一个移动步长(各种法算确定方向和步长的方法不同,也就使各种算法适用于解决不同的问题),使初始解根据这个方向和步长移动后,能使目标函数的输出(在神经网络中就是预测误差)下降。 然后将它更新为新的解,再继续寻找下一步的移动方向的步长,这样不断的迭代下去,目标函数(神经网络中的预测误差)也不断下降,最终就能找到一个解,使得目标函数(预测误差)比较小。
而在寻解过程中,步长太大,就会搜索得不仔细,可能跨过了优秀的解,而步长太小,又会使寻解过程进行得太慢。因此,步长设置适当非常重要。
学习率对原步长(在梯度下降法中就是梯度的长度)作调整,如果学习率lr = 0.1,那么梯度下降法中每次调整的步长就是0.1*梯度,
而在matlab神经网络工具箱里的lr,代表的是初始学习率。因为matlab工具箱为了在寻解不同阶段更智能的选择合适的步长,使用的是可变学习率,它会根据上一次解的调整对目标函数带来的效果来对学习率作调整,再根据学习率决定步长。
机制如下:
if newE2/E2 > maxE_inc %若果误差上升大于阈值
lr = lr * lr_dec; %则降低学习率
else
if newE2 < E2 %若果误差减少
lr = lr * lr_inc;%则增加学习率
end
详细的可以看《神经网络之家》nnetinfo里的《[重要]写自己的BP神经网络(traingd)》一文,里面是matlab神经网络工具箱梯度下降法的简化代码

若果对你有帮助,请点赞。
祝学习愉快

神经网络就像多项式或者线性模型一样,是个看不见表达式的模型,它的表达式就是网络,它比一般模型具有更高的自由度和弹性;同时它是一个典型的黑箱模型方法;比多项式等模型还黑。优化算法,就是寻优的算法,所谓寻优过程,就是寻找使目标函数最小时(都是统一表示成寻找使函数具有最小值)的自变量的值。回归或者拟合一个模型,例如用一个多项式模型去拟合一组数据,其本质就是寻找使残差平方和最小的参数值,这就是一个寻优的过程,其实就是寻找使函数F(x)值最小时的x的值;对于这个具体的寻找过程就涉及到算法问题,就是如何计算。所谓算法,是数值分析的一个范畴,就是解这问题的方法;例如一个一元二次方程 x^2-3x+1=0的解法,因为简单可以直接求解,也可以用牛顿逐个靠近的方法求解,也即是迭代,慢慢接近真实解,如此下去不断接近真值,要注意迭代算法是涉及算法精度的,这些迭代算法是基于计算机的,算法的初衷也是用近似的算法用一定的精度来接近真实值。 比如上面的方程也可以用遗传算法来解,可以从一些初始值最终迭代到最佳解。神经网络在寻找网络的参数即权值的时候,也有寻找使训练效果最好的过程,这也是寻优的过程,这里涉及到了算法就是所谓的神经网络算法,这和最小二乘算法是一样的道理;例如做响应面的时候,其实就是二次回归,用最小二乘得到二次模型的参数,得到一个函数,求最大产物量就是求函数模型的最大值,怎么算呢?顶点处如果导数为0,这个地方对应的x值就是最优的,二次模型简单可以用偏导数=0来直接解决,这过程也可以遗传算法等来解决。说到底所谓寻优的本质就是,寻找函数极值处对应的自变量的值。

神经网络一般都是做预测的啊,要是做优化得用遗传算法啊

如果想看具体算法就搜个ppt看,最好找本书,如果是想用则只需要学会用matlab神经网络工具包,网络上有该工具包的说明。

单纯人工神经网络好像不能找最优吧


人工神经网络的定义,详细说明
人工神经网络(Artificial Neural Networks, ANN),一种模范动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。人工神经网络具有自学习和自适应的能力,可以通过预先提供的一批相互对应的输入-输出数据,分析掌握两者之间潜在...

人工神经网络的分类
人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。目前,已有近40种神经网络模型,其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。ann:人工神经网络(Artificial Neural Networks)bp:Back Propagation网络是1986年由Rumelhart和McCelland为首的科学家小组...

人工神经网路人工神经网络具有四个基本特征
人工神经网络,以其独特的非线性特性,捕捉了自然界中普遍的非线性关系,尤其是大脑智慧的体现。其基本单元——神经元,通过激活或抑制状态表现出非线性行为,具有阈值的神经元网络能提升容错性和存储能力。神经网络的另一个显著特征是其非局限性,由众多神经元之间的广泛连接构成,整体行为取决于单元间的...

人工神经网络原理 内容简介
《人工神经网络原理》介绍了人工神经网络的基本理论,系统地阐述了六种典型的人工神经网络模型,即早期的感知机神经网络、自适应线性元件神经网络、误差反向传播神经网络、Hopfield神经网络、B0ltzmann机和自适应共振理论神经网络,以及它们的网络结构、学习算法、工作原理及应用实例,为读者深入了解和研究人工神经...

人工神经网络算法是什么
人工神经网络的许多算法已在智能信息处理系统中获得广泛采用,尤为突出是是以下4种算法:ART网络、LVQ网络、Kohonen网络Hopfield网络,下面就具体介绍一下这这四种算法:1.自适应谐振理论(ART)网络自适应谐振理论(ART)网络具有不同的方案。一个ART-1网络含有两层一个输入层和一个输出层。这两层完全...

人工神经网络网络模型
人工神经网络模型的核心要素包括网络的拓扑结构、神经元的特性以及学习规则。目前,这个领域已经发展出众多模型,其中包括反向传播网络、感知器、自组织映射、Hopfield网络、Boltzmann机和适应谐振理论等。这些模型根据它们的连接方式,主要可以分为两类:首先,人工神经网络的前向网络结构中,神经元接收来自前一层...

简述人工神经网络的主要特征
人工神经网络的主要特征如下:1、人工神经网络具有大规模的并行协同处理能力。每一个神经元的功能和结构都很简单,但是由大量神经元构成的整体却有很强的处理能力。2、人工神经网络具有较强的容错能力和联想能力。单个神经元或者连接对网络整体功能的影响都比较微小。在神经网络中,信息的存储与处理是合二为...

BP神经网络方法
近年来,人工神经网络在水质分析和评价中的应用越来越广泛,并取得良好效果。在这些应用中,纵观应用于模式识别的神经网络,BP网络是最有效、最活跃的方法之一。BP网络是多层前向网络的权值学习采用误差逆传播学习的一种算法(Error Back Propagation,简称BP)。在具体应用该网络时分为网络训练及网络工作两...

人工神经元网络的拓扑结构主要有哪几种?谢谢大侠~~~
神经网络的拓扑结构包括网络层数、各层神经元数量以及各神经元之间相互连接的方式。人工神经网络的模型从其拓扑结构角度去看,可分为层次型和互连型。层次型模型是将神经网络分为输入层(Input Layer)、隐层(Hidden Layer)和输出层(Output Layer),各层顺序连接。其中,输入层神经元负责接收来自外界的...

人工神经网络基本特征
人工神经网络是一种独特的信息处理系统,它由大量互联的处理单元构成,模拟大脑的非线性、自适应特性。这种网络的基础源于现代神经科学研究,其核心特征体现在以下几个方面:首先,人工神经网络具有非线性特征,这是自然界的普遍现象。神经元通过激活或抑制状态表现出非线性关系,如具有阈值的神经元能提升网络...

清镇市19589232494: 什么是人工神经网络及其算法实现方式
储魏肾舒: 数学工具,实现两组数据的映射(类似函数的映射,不同的是它强大地实现了两组任意阶矩阵之间的映射关系) 最经典的算法是:BP算法. 其思想是利用误差作为修正映射精确度的指导,最终实现符合要求的映射.

清镇市19589232494: 急求人工神经网络的MATLAB算法~~求大虾教我 -
储魏肾舒: 1、采用2-5-1三层BP网络结构即可实现其 MATLAB 程序如下:clc clear a=rand(2,200); x=a(1,:); y=a(2,:); F=x.^2+y.^2; net=newff(minmax(a),[5,1],{'tansig' 'purelin'},'trainlm'); net.trainParam.epochs=100; net.trainParam.lr=0.1; net.trainparam.goal=0....

清镇市19589232494: 神经网络算法是什么? -
储魏肾舒: Introduction --------------------------------------------------------------------------------神经网络是新技术领域中的一个时尚词汇.很多人听过这个词,但很少人真正明白它是什么.本文的目的是介绍所有关于神经网络的基本包括它的功能、一般结构、相关术语...

清镇市19589232494: 什么是人工神经元算法
储魏肾舒: 人工神经网络算法 “人工神经网络”(ARTIFICIAL NEURAL NETWORK,简称ANN)是在对人脑组织结构和运行机制的认识理解基础之上模拟其结构和智能行为的一种工程系统.早在本世纪40年代初期,心理学家McCulloch、数学家Pitts就提出了...

清镇市19589232494: 神经网络模型的介绍 -
储魏肾舒: 神经网络(Neural Networks,NN)是由大量的、简单的处理单元(称为神经元)广泛地互相连接而形成的复杂网络系统,它反映了人脑功能的许多基本特征,是一个高度复杂的非线性动力学习系统.神经网络具有大规模并行、分布式存储和处理...

清镇市19589232494: 人工神经网络的发展 -
储魏肾舒: 人工神经网络(Artificial Neural Networks, ANN),一种模范动物神经网络行为特征,进行分布式并行信息处理的算法数学模型.这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的.人工神经...

清镇市19589232494: 什么是人工神经网络?
储魏肾舒: 工神经网络是一种应用类似於大脑神经突触联接的结构进行信息处理的数学模型.在工程与学术界也常直接简称为「神经网络」或类神经网路.神经网络是一种运算模型[1],由大量的节点(或称「神经元」,或「单元」)和之间相互联接构成.每个节点代表一种特定的输出函数,称为激励函数(activation function).每两个节点间的连接都代表一个对於通过该连接信号的加权值,称之为权重(weight),这相当於人工神经网路的记忆.网络的输出则依网络的连接方式,权重值和激励函数的不同而不同.而网络自身通常都是对自然界某种算.

清镇市19589232494: 什么是动柔度 -
储魏肾舒: 采用一个四自由度的弹簧-质量系统.通过数据计算表明以动柔度作为损伤识别参数比单独用固有频率或振型时的灵敏度高.本文提出了以动柔变化矢量为损伤识别参数,采用神经网络方法建立了动柔度变化矢量与损伤位置和损伤量的关系.柔...

清镇市19589232494: 人工神经网络指的是什么?
储魏肾舒: 人工神经网络:是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型

清镇市19589232494: bp神经网络和rbf神经网络 哪个 -
储魏肾舒: 神经网络可以指向两种,一个是生物神经网络,一个是人工神经网络.生物神经网络:一般指生物的大脑神经元,细胞,触点等组成的网络,用于产生生物的意识,帮助生物进行思考和行动.人工神经网络(Artificial Neural Networks,简写为ANNs)也简称为神经网络(NNs)或称作连接模型(Connection Model),它是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型.这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的.人工神经网络:是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型.在工程与学术界也常直接简称为“神经网络”或类神经网络.

本站内容来自于网友发表,不代表本站立场,仅表示其个人看法,不对其真实性、正确性、有效性作任何的担保
相关事宜请发邮件给我们
© 星空见康网