神经网络论文

《神经网络论文》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、实用标准文案摘要神经网络是一门发展十分迅速的交叉学科，它是由大量的处理单元组成非线性的大规模自适应动力系统。神经网络具有分布式存储、并行处理、高容错能力以及良好的自学习、自适应、联想等特点。目前已经提出了多种训练算法和网络模型，其中应用最广泛的是前馈型神经网络。前馈型神经网络训练中使用最多的方法是误差反向传播(BP)学习算法。但随着使用的广泛，人们发现BP网络存在收敛速度缓慢、易陷入局部极小等缺陷。于是我们就可以分析其产生问题的原因，从收敛速度和局部极小两个方面分别提出改进的BP网络训练方法。关键字：神经网络，收敛速度，局部极小，BP网络

2、，改进方法AbstractNeuralnetworkisacrossdisciplinewhichnowdevelopingveryrapidly,itisthenonlinearityadaptivepowersystemwhichmadeupbyabundantoftheprocessingunits.Theneuralnetworkhasfeaturessuchasdistributedstorage,parallelprocessing,hightoleranceandgoodself-learning,adaptive,asso

3、ciate,etc.Currentlyvarioustrainingalgorithmandnetworkmodelhavebeenproposed,whichthemostwidelyusedtypeisFeedforwardneuralnetworkmodel.Feedforwardneuralnetworktrainingtypeusedinmostofthemethodisback-propagation(BP)algorithm.ButwiththeuseofBPnetwork,peoplefindthattheconverge

4、ncespeedisslow,andeasyfallintothelocalminimum.Sowecananalyzethecausesofproblems,fromthetwoaspectsrespectivelywecanimprovetheBPtrainingmethodsofneuralnetwork.Keywords：neuralnetwork，convergencespeed，localminimum，BPneuralnetworkimprovingmethods精彩文档实用标准文案目录1神经网络概述31.1生物神经元模型3

5、1.2人工神经元模型32BP神经网络52.1BP神经网络特点52.2BP神经网络介绍63BP神经网络算法的改进83.1BP神经网络训练过程介绍83.2动态调节学习率的改进方法83.3BP神经网络收敛速度的改进方法103.4局部极小问题的几种改进方案114结束语…………………………………………………..………………….…………13【参考文献】14精彩文档实用标准文案1.神经网络概述1.1生物神经元模型人脑是由大量的神经细胞组合而成的，它们之间相互连接。每个神经细胞（也称神经元）具体如图1.1所示的结构。图1.1生物神经元模型由图看出，脑神经

6、元由细胞体、树突和轴突构成。细胞体是神经元的中心，它一般又由细胞核、细胞膜等构成。树突是神经元的主要接受器，它主要用来接受信息。轴突的作用主要是传导信息，它将信息从轴突的起点传到轴突末梢，轴突末梢与另一个神经元的树突或细胞体构成一种突触的机构。通过突触实现神经元之间的信息传递。1.2人工神经元模型人工神经网络是利用物理器件来模拟生物神经网络的某些结构和功能。图1.2是最典型的人工神经元模型。图1.2人工神经元模型精彩文档实用标准文案这个模型是1943年心理学家McCulloch和科学家W.Pitts在分析总结神经元基本特性的基础上首先提出

7、的M-P模型，它是大多数神经网络模型的基础。---代表神经元i与神经元j之间的连接强度(模拟生物神经元之间突触连接强度)，称之为连接权;---代表神经元i的活跃值，即神经元状态；---代表神经元j的输出，即是神经元i的一个输入；---代表神经元的阐值。函数f表达了神经元的输入输出特性。在M-P模型中，f定义为阶跳函数:人工神经网络是一个并行与分布式的信息处理网络结构，该网络结构一般由许多个神经元组成，每个神经元由一个单一的输出，它可以连接到许多其他的神经元，其输出有多个连接通路，每个连接通路对应一个连接权系数。严格来说，神经网络是一个具有

8、如下性质的有向图。（1）对于每个结点有一个状态变量；（2）结点i到结点j有一个连接权系数；（3）对于每个结点有一个阈值；（4）对于每个结点定义一个变换函数，最常见的情形为。图1.3表示了两个典