人工神经网络-bp

《人工神经网络-bp》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、人工神经网络是生物神经网络的某种模型(数学模型)是对生物神经网络的模仿基本处理单元为人工神经元人工神经网络是对生物神经系统的模拟。大量简单的计算单元（结点，神经元）以某种形式连接，形成一个网络.其中某些因素，如:连接强度(连接权值，其大小决定信号传递强弱);结点计算特性(激活特性,神经元的输入输出特性);甚至网络结构等，可依某种规则随外部数据进行适当调整，最终实现某种功能。神经网络的计算通过网络结构实现；不同网络结构可以体现各种不同的功能；网络结构的参数是通过学习逐渐修正的。McCulloch-Pitts神经元模型输入信号；链接强度与

2、权向量；信号累积激活与抑制人工神经元模型的三要素:权值0，激活一组连接连接权值，突触连接强度权值0，抑制一个加法器输入信号关于神经元突触的线性加权一个激励函数将神经元的输出信号限制在有限范围内T输入信号n维输入向量x=x1,...,xnx是来自其它n个神经元的输出；也可以是来自外部的输入信号T权向量n维权向量W=1,...,n,iR相当于突触的连接强度。传递函数转移函数,激励激活函数传输函数，输出函数，限幅函数将可能的无线域变换到指定的有限范围输出。单调增函数，通常为"非线性函数"n

3、网络输入netWxixii1--神经元的输入兴奋总量是多个输入的代数和其中输出yf(net)--单输出(标量)--执行该神经元所获得的网络输入的变换(1)基本的人工神经元模型若带偏置量，则有nnetWpbipibi1--单输出(标量)yf(net)(2)输出函数fA.线性函数fnet=knet+cB.非线性斜面函数(RampFunction)：bnetfnetknetnetbnetb0为常数，称饱和值，是该神经单元的最大输出；输出函数

4、值限制在b,b范围内。C(.2符)号输出函函数数fsign型函数，不可微；对称硬极限函数；双极函数1net0fnet=sgnnet=-1net<0matlab函数hardlimsnetD.阈值函数fnet=-net<其中,,非负实数E.sigmoid函数S型函数，连续可微(2)输出函数f一些重要的学习算法要求输出函数可微1对数S型函数fnet值域0，1net1ematlab函数：logsignetnetee2双曲正切S型函数fnetth(net)

5、1netnet2netee1e值域1，1matlab函数：tansig非线性，单调；无限次可微net较小时(权值较小)，可近似线性函数--高增益区处理小信号net较大时(权值较大)，可近似阈值函数.--低增益区处理大信号3.人工神经网络三个要素网络结构或拓扑(连接形式)神经元的计算特性(传递函数)学习规则上述要素不同组合，形成各种神经网络模型4.神经网络三种基本模型1前馈型神经网络feedfrowardnetwork-重点介绍多层感知器BP网络RBF网络2反

6、馈网络feedbacknetworkHopfield网络3竞争学习网络competitivelearningnetworkSOM神经网络神经网络特点自学习自适应并行处理分布表达与计算神经网络应用回归神经网络本质上，可以理解为函数逼近状态预测可应用到众多领域,如：优化计算；信号处理；智能控制；模式识别；机器视觉；等等。2.感知器神经网络(感知器)、感知器神经元2.感知器神经网络、感知器神经元(续)符号函数对称硬极限函数1net0fnet=sgnnet=-1net<0matlab函数ha

7、rdlims1net0hardlimnet=0net<0一般的前馈运算c类，c个判别函数gkx输出单元的输出nmykgkxnetkvjkijxi0jv0kj1i=1第1个隐含层的第j个节点的净输入输出层的第k个节点的净输入k1,...,c隐含层单元可表达更为复杂的非线性函数激活函数不一定为符号函数常要求激活函数是连续可微的输出层与隐含层的激活函数可以不同，并且输出层各单元的激活函数可有所区别2多层网络

8、的表达能力按照Kolmogorov定理,任何一个判决均可用前式所示的三层神经网络实现。即：只要给定足够数量的隐含层单元、适当的非线性函数、以及权值，任何由输入向输出的连续映射函数均可用一个三层前馈神经网络实现。BP算法训