神经网络分类问题
是的，你数据维数高了，需要主成分之类降维处理
一般数学算法的编程都很简单，因为算法的公式如果已经给出，就是根据公式，直接写出来就行。第一部分计算残差和梯度，第二部分更新权值。你对照下这个算法的公式，应该就能看懂了。
一个多元函数的梯度方向是该函数值增大最陡的方向。具体化到1元函数中时，梯度方向首先是沿着曲线的切线的，然后取切线向上增长的方向为梯度方向，2元或者多元函数中，梯度向量为函数值f对每个变量的导数，该向量的方向就是梯度的方向，当然向量的大小也就是梯度的大小。
“神经网络”这个词实际是来自于生物学，而我们所指的神经网络正确的名称应该是“人工神经网络（ANNs）”。在本文，我会同时使用这两个互换的术语。
一个真正的神经网络是由数个至数十亿个被称为神经元的细胞（组成我们大脑的微小细胞）所组成，它们以不同方式连接而型成网络。人工神经网络就是尝试模拟这种生物学上的体系结构及其操作。在这里有一个难题：我们对生物学上的神经网络知道的不多！因此，不同类型之间的神经网络体系结构有很大的不同，我们所知道的只是神经元基本的结构。
The neuron
--------------------------------------------------------------------------------
虽然已经确认在我们的大脑中有大约50至500种不同的神经元，但它们大部份都是基于基本神经元的特别细胞。基本神经元包含有synapses、soma、axon及dendrites。Synapses负责神经元之间的连接，它们不是直接物理上连接的，而是它们之间有一个很小的空隙允许电子讯号从一个神经元跳到另一个神经元。然后这些电子讯号会交给soma处理及以其内部电子讯号将处理结果传递给axon。而axon会将这些讯号分发给dendrites。最后，dendrites带着这些讯号再交给其它的synapses，再继续下一个循环。
如同生物学上的基本神经元，人工的神经网络也有基本的神经元。每个神经元有特定数量的输入，也会为每个神经元设定权重（weight）。权重是对所输入的资料的重要性的一个指标。然后，神经元会计算出权重合计值（net value），而权重合计值就是将所有输入乘以它们的权重的合计。每个神经元都有它们各自的临界值（threshold），而当权重合计值大于临界值时，神经元会输出1。相反，则输出0。最后，输出会被传送给与该神经元连接的其它神经元继续剩余的计算。
Learning
--------------------------------------------------------------------------------
正如上述所写，问题的核心是权重及临界值是该如何设定的呢？世界上有很多不同的训练方式，就如网络类型一样多。但有些比较出名的包括back-propagation, delta rule及Kohonen训练模式。
由于结构体系的不同，训练的规则也不相同，但大部份的规则可以被分为二大类别 - 监管的及非监管的。监管方式的训练规则需要“教师”告诉他们特定的输入应该作出怎样的输出。然后训练规则会调整所有需要的权重值（这是网络中是非常复杂的），而整个过程会重头开始直至数据可以被网络正确的分析出来。监管方式的训练模式包括有back-propagation及delta rule。非监管方式的规则无需教师，因为他们所产生的输出会被进一步评估。
Architecture
--------------------------------------------------------------------------------
在神经网络中，遵守明确的规则一词是最“模糊不清”的。因为有太多不同种类的网络，由简单的布尔网络（Perceptrons），至复杂的自我调整网络（Kohonen），至热动态性网络模型（Boltzmann machines）！而这些，都遵守一个网络体系结构的标准。
一个网络包括有多个神经元“层”，输入层、隐蔽层及输出层。输入层负责接收输入及分发到隐蔽层（因为用户看不见这些层，所以见做隐蔽层）。这些隐蔽层负责所需的计算及输出结果给输出层，而用户则可以看到最终结果。现在，为免混淆，不会在这里更深入的探讨体系结构这一话题。对于不同神经网络的更多详细资料可以看Generation5 essays
尽管我们讨论过神经元、训练及体系结构，但我们还不清楚神经网络实际做些什么。
The Function of ANNs
--------------------------------------------------------------------------------
神经网络被设计为与图案一起工作 - 它们可以被分为分类式或联想式。分类式网络可以接受一组数，然后将其分类。例如ONR程序接受一个数字的影象而输出这个数字。或者PPDA32程序接受一个坐标而将它分类成A类或B类（类别是由所提供的训练决定的）。更多实际用途可以看Applications in the Military中的军事雷达，该雷达可以分别出车辆或树。
联想模式接受一组数而输出另一组。例如HIR程序接受一个‘脏’图像而输出一个它所学过而最接近的一个图像。联想模式更可应用于复杂的应用程序，如签名、面部、指纹识别等。
The Ups and Downs of Neural Networks
--------------------------------------------------------------------------------
神经网络在这个领域中有很多优点，使得它越来越流行。它在类型分类/识别方面非常出色。神经网络可以处理例外及不正常的输入数据，这对于很多系统都很重要（例如雷达及声波定位系统）。很多神经网络都是模仿生物神经网络的，即是他们仿照大脑的运作方式工作。神经网络也得助于神经系统科学的发展，使它可以像人类一样准确地辨别物件而有电脑的速度！前途是光明的，但现在...
是的，神经网络也有些不好的地方。这通常都是因为缺乏足够强大的硬件。神经网络的力量源自于以并行方式处理资讯，即是同时处理多项数据。因此，要一个串行的机器模拟并行处理是非常耗时的。
神经网络的另一个问题是对某一个问题构建网络所定义的条件不足 - 有太多因素需要考虑：训练的算法、体系结构、每层的神经元个数、有多少层、数据的表现等，还有其它更多因素。因此，随着时间越来越重要，大部份公司不可能负担重复的开发神经网络去有效地解决问题。
Conclusion
--------------------------------------------------------------------------------
希望您可以通过本文对神经网络有基本的认识。Generation5现在有很多关于神经网络的资料可以查阅，包括文章及程序。我们有Hopfield、perceptrons（2个）网络的例子，及一些back-propagation个案研究。
Glossary
--------------------------------------------------------------------------------
NN 神经网络，Neural Network
ANNs 人工神经网络，Artificial Neural Networks
neurons 神经元
synapses 神经键
self-organizing networks 自我调整网络
networks modelling thermodynamic properties 热动态性网络模型
模式分类
文字识别怎么样？印刷体汉字识别、版面分析、手写汉字识别
人脸识别、指纹识别中的模式分类
数据挖掘中的模式分类
网络技术的分类组成
网络依据什么划分，又是如何组成的呢？计算机网络的类型有很多，而且有不同的分类依据。网络按交换技术可分为：线路交换网、分组交换网；按传输技术可分为：广播网、非广播多路访问网、点到点网；按拓朴结构可分为总线型、星型、环形、树形、全网状和部分网状网络；按传输介质又可分为同轴电缆、双绞线...
卷积神经网络在图像分类中的应用
最后，卷积神经网络的应用不仅限于上述的大型模型。考虑到计算资源和效率的问题，轻量级的CNN模型（如MobileNet、ShuffleNet等）也被开发出来，用于在手机等边缘设备上进行图像分类。这些模型在保持较高分类精度的同时，降低了计算复杂度和模型大小，使得CNN在更多场景中得以应用。总结来说，卷积神经网络在图像...
神经网络模型用于解决什么样的问题
5、交通领域 交通运输问题是高度非线性的，可获得的数据通常是大量的、复杂的，用神经网络处理相关问题有它巨大的优越性， 应用范围涉及到汽车驾驶员行为的模拟、参数估计、路面维护、车辆检测与分类、交通模式分析、货物运营管理、交通流量预测等。6、心理学领域 从神经网络模型的形成开始，它就与心理学就...
计算机网络概述
计算机网络技术能够很好地解决计算机信息传输与共享。 那么,到底什么是计算机网络,它的发展过程怎样,怎样分类,计算机网络的功能有哪些? 一、什么是计算机网络 计算机网络是将计算机与通信这两大现代技术相结合的产物。所谓计算机网络,就是把分布在不同地点的具有独立功能的多台计算机系统,通过通信设备和线路连接起来,再配...
如何理解神经网络里面的反向传播算法
实质上，我们三个输出单元时，可以解决三分类问题（[1,0,0],[0,1,0],[0,0,1]）,为什么如此设计？暂时留白，以后解决 ps：面试题：一个output机器，15%可能输出1，85%输出0，构造一个新的机器，使0,1输出可能性相同？ 答：让output两次输出01代表0，10代表1，其余丢弃 4.神经网络的训练 这...
神经网络与深度神经网络有什么区别
神经网络可以指向两种，一个是生物神经网络，一个是人工神经网络。深度神经网络指的是微软推出了一新款语音识别软件，其工作原理是模仿人脑思考方式，从而使该软件的语音识别速度更快，识别准确率也更高。
网络按照分布范围的大小来分,可以分为哪几类?
网络除了数学定义外,还有具体的物理含义,即网络是从某种相同类型的实际问题中抽象出来的模型。在计算机领域中,网络是信息传输、接收、共享的虚拟平台,通过它把各个点、面、体的信息联系到一起,从而实现这些资源的共享。网络是人类发展史来最重要的发明,提高了科技和人类社会的发展。分类按覆盖范围分:局域网LAN(作用...
什么是神经网络
神经网络（neural network）是一种模拟人脑神经思维方式的数据模型，神经网络有多种，包括BP神经网络、卷积神经网络，多层感知器MLP等，最为经典为神经网络为多层感知器MLP（Multi-Layer Perception），SPSSAU默认使用该模型。类似其它的机器学习模型（比如决策树、随机森林、支持向量机SVM等），神经网络模型构建...
工业网络分类
对于过程控制有人会提出：以太网TCP\/IP是否可以代替传感器网络中的一部分网络呢?传感器网络中部分网络能否可以集成到高水平的以太网结构中去呢(比如， 以太网上的Device-net, 以太网上的Interbus-S, Ethernet上的LonWorks)?在我们综合考虑成本、适用性、性能和设备供应商的支持这些因素后，也许以上问题的...
按传输介质分类,计算机网络可分为有线网、无线网和(B). A:神经网络 B...
计算机网络的分类为：按使用的传输介质可分为有线网和无线网。按网络的使用性质可分为公用网和专用网。按网络的使用范围和对象可分为企业网、政府网、金融网和校园网等。按网络所覆盖的地域范围把计算机网络分为：局域网LAN、城域网MAN9...
弭帖复方： 神经网络有多种分类方式,例如,按网络性能可分为连续型与离散型网络,确定型与随机型网络:按网络拓扑结构可分为前向神经网络与反馈神经网络.本章土要简介前向神经网络、反馈神经网络和自组织特征映射神经网络. 前向神经网络是数...
小金县13197375850： 神经网络分类问题 - ？
弭帖复方： 神经网络是新技术领域中的一个时尚词汇.很多人听过这个词,但很少人真正明白它是什么.本文的目的是介绍所有关于神经网络的基本包括它的功能、一般结构、相关术语、类型及其应用.“神经网络”这个词实际是来自于生物学,而我...
小金县13197375850： 前馈神经网络的分类 - ？
弭帖复方： 单层前馈神经网络是最简单的一种人工神经网络,其只包含一个输出层,输出层上节点的值(输出值)通过输入值乘以权重值直接得到.取出其中一个元进行讨论,其输入到输出的变换关系为 上式中, 是输入特征向量, 是 到 的连接权,输出量 是按照不同特征的分类结果. 多层前馈神经网络有一个输入层,中间有一个或多个隐含层,有一个输出层.多层感知器网络中的输入与输出变换关系为 这时每一层相当于一个单层前馈神经网络,如对第层,它形成一个维的超平面.它对于该层的输入模式进行线性分类,但是由于多层的组合,最终可以实现对输入模式的较复杂的分类.
小金县13197375850： 神经网络主要的分类是什么? ？
弭帖复方： 神经网络可以指向两种,一个是生物神经网络,一个是人工神经网络
小金县13197375850： 神经网络有哪些主要分类规则并如何分类? - ？
弭帖复方： 神经网络模型的分类 人工神经网络的模型很多,可以按照不同的方法进行分类.其中,常见的两种分类方法是,按照网络连接的拓朴结构分类和按照网络内部的信息流向分类. 1 按照网络拓朴结构分类 网络的拓朴结构,即神经元之间的连接方...
小金县13197375850： 神经网络的种类有那些,主要区别是什么? - ？
弭帖复方： BP网络,径向基网络,递归网络,主要区别在反馈函数.
小金县13197375850： 人工神经网络的分类 - ？
弭帖复方： 人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等.目前,已有近40种神经网络模型,其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等.ann:...
小金县13197375850： 什么是连续型holpfied神经网络 - ？
弭帖复方： 神经网络有多种分类方式,例如,按网络性能可分为连续型与离散型网络,确定型与随机型网络:按网络拓扑结构可分为前向神经网络与反馈神经网络.本章土要简介前向神经网络、反馈神经网络和自组织特征映射神经网络.
