神经网络算法的课件-PPT课件.ppt

《神经网络算法的课件-PPT课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、生物神经元及生物神经网络什么是人工神经网络?人工神经网络就是基于模仿生物大脑的结构和功能而构成的一种信息处理系统或计算机。生物神经元及生物神经网络神经网络的分类按照网络特性静态网络动态网络按照学习方法有导师学习无导师学习感知器（Perceptron）感知器的非线性激励函数感知器的数学描述感知器的线性可分问题多层神经网络的典型结构多层神经网络的例子模式分类与函数逼近神经网络的反向扩散学习算法ul,1ul,2ul,Nlul,j……u2,1u2,2u2,N2u2,j……uL,1uL,NL……输入层第一层第二层输出层u0,1u0,2u0,ju0,N0…Wl,j,i=?神经网络的反向扩散学习算

2、法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法动态网络——Hopfield网络若按照神经网络运行过程中的信息流向来分类，那么所有网络都可分为前馈式网络和反馈式网络，在前一章中，主要介绍了前馈式网络通过许多具有简单处理能力的神经元的复合作用使整个网络具有复杂的非线性映射能力。在那里，着重分析了网络学习算法，研究的重点是怎样尽快地得到网络的整体非线性处理能力。在本章中，我们将集中讨论反馈式网络，通过网络神经元状态的变迁而最终稳

3、定于某一状态而得到联想存贮或神经计算的结果。在这里，主要关心的是网络稳定性的问题，研究的重点是怎样得到和利用稳定的反馈式网络。动态网络——Hopfield网络哈波菲尔德(Hopfield)网络是得到最充分研究和广泛应用的神经网络模型之一。在众多的研究者之中。美国科学家J.J哈波菲尔德(J.JHopfield)的工作具有特别重要的意义，他为这一类网络引入了一种隐定过程，即提出了人工神经网络能量函数(也称李雅普诺夫函数)的概念使网络的运行稳定性判断有了可靠而简便的依据。Hopfield网络在联想存取及优化计算等领域得到了成功的应用，拓宽了神经网络的应用范围。另外Hopfield网络还有一

4、个显著的优点，其与电子电路存在明显的对应关系，使得该网络易于理解和便于实现。。Hopfield网络的结构N1N2NnNn-1……N3……W21W31Wn-1,1Wn,1x1x2x3xn-1xnv1(t)v2(t)v3(t)vn-1(t)vn(t)y1y2y3yn-1ynHopfield网络的结构Hopfield网络的基本结构如图所示，N1，N2，…，Nn表示网络的n个神经元，其转移特性函数为f1，f2，…，fn。门限值为1，2，…，n。对于离散型Hopfield网络，各节点一般选相同的转移特性函数，且为符号函数，即有f1(x)=f2(x)=…=fn(x)=sgn(x)为以后分析

5、方便，我们选各节点门限值相等，且等于0，即有1=2=…=n=0同时，x=(x1,x2,…,xn)，x{-1,+1}n为网络的输出，y=(y1,y2,…,yn)，y{-1,+1}n为网络的输出v(t)=(v1(t1),v2(t2),…,vn(tn)),v(t){-1,+1}n为网络在时刻t的状态，其中t(0，1，2，…)为离散时间变量，Wij为从Ni到Nj的连接权值，Hopfield网络是对称的，即Wij=Wji，i,j{1,2,…,n}。Hopfield网络的结构Hopfield网络为一层结构的反馈网络，能处理双极型离散数据(即输入x{-1,+1}，及二进制数据(x

6、{0，1})。当网络经过适当训练后，可以认为网络处于等待工作状态。而对网络给定初始输入x时，网络就处于特定的初始状态。由此初始状态开始运行，可得到网络输出(即网络的下一状态)。然后这个输出状态通过反馈连接回送到网络的输入端，作为网络下一阶段运行的输入信号。而该输入信号可能与初始输入信号x不同。由这个新的输入又可得到下一步的输出，该输出也可能与上一步的输出不同。如此下去，网络的整个运行过程就是上述反馈过程的重复。如果网络是稳定的，那么随着多次反馈运行，网络状态的变化逐渐减少，最后不再变化，达到稳态。这时由输出端可得到网络的稳定输出y。用公式表达为vj(0)=xj;vj(t+1)=fj

7、(Wijvi(t)-j)当v(t+1)=v(t)时，y=v(t)Hopfield网络的状态更新在网络运行过程中，网络神经元状态的演变有两种形式。异步更新在任一时刻t，只有某一神经元Nj的状态被更新，而其余神经元状态保持不变，即vj(t+1)=sgn(Wijvi(t))对某个特定的jvj(t+1)=vj(t)i{1,2,…,n}ij同步更新在任一时刻t，更新的神经元数目多于一个，称同步更新。特殊情况下，所有神经元都同时更新，称全并行工作方式，即vj