神经网络与神经网络控制

《神经网络与神经网络控制》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、机电系统智能控制第5章神经网络与神经网络控制推荐课后阅读资料SimonHaykin.神经网络的综合基础(第2版).清华大学出版社,2001MartinT.Hagan.神经网络设计.机械工业出版社,200235.1概述5.1.1生物神经元模型5.1.2人工神经元模型5.1.3人工神经网络模型5.1.4神经网络的学习方法45.1.1生物神经元模型人脑大约包含1012个神经元，分成约1000种类型，每个神经元大约与102～104个其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。每个神经元虽然都十分简单，但是如此大量的神经元之间、如此复杂的连接却可以演化出丰富多彩的行为方式。同时

2、，如此大量的神经元与外部之间的多种多样的连接方式也蕴含了变化莫测的反应方式。67从生物控制论的观点来看，神经元作为控制和信息处理的基本单元，具有下列一些重要的功能与特性：时空整合功能兴奋与抑制状态脉冲与电位转换神经纤维传导速度突触延时和不应期学习、遗忘和疲劳5.1.1生物神经元模型95.1.2人工神经元模型人工神经元是对生物神经元的一种模拟与简化。它是神经网络的基本处理单元。如图所示为一种简化的人工神经元结构。它是一个多输入、单输出的非线性元件。1011其输入、输出关系可描述为其中，是从其他神经元传来的输入信号；表示从神经元j到神经元i的连接权值；为阈值；称为激发函数或作用函数。5

3、.1.2人工神经元模型12激发函数又称为变换函数，它决定神经元（节点）的输出。该输出取决于其输入之和大于或小于内部阈值。函数一般具有非线性特性。下图表示了几种常见的激发函数。1.阈值型函数（见图（a），（b））2.饱和型函数（见图（c））3.双曲函数（见图（d））4.S型函数（见（e））5.高斯函数（见图（f））5.1.2人工神经元模型13神经元处理活性的理想模式155.1.3人工神经网络模型人工神经网络是以工程技术手段来模拟人脑神经元网络的结构与特征的系统。利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。就神经网络的主要连接型式而言，目前已有数

4、十种不同的神经网络模型，其中前馈型网络和反馈型网络是两种典型的结构模型。16(1).前馈型神经网络前馈型神经网络，又称前向网络（FeedforwardNN）。如图所示，神经元分层排列，有输入层、隐层（亦称中间层，可有若干层）和输出层，每一层的神经元只接受前一层神经元的输入。17从学习的观点来看，前馈网络是一种强有力的学习系统，其结构简单而易于编程；从系统的观点看，前馈网络是一静态非线性映射，通过简单非线性处理单元的复合映射，可获得复杂的非线性处理能力。但从计算的观点看，缺乏丰富的动力学行为。大部分前馈网络都是学习网络，它们的分类能力和模式识别能力一般都强于反馈网络，典型的前馈网络有

5、感知器网络、BP网络等。(1).前馈型神经网络1819(2).反馈型神经网络反馈型神经网络（FeedbackNN）的结构如图所示。如果总节点（神经元）数为N，那么每个节点有N个输入和一个输出，也就是说，所有节点都是一样的，它们之间都可相互连接。20反馈神经网络是一种反馈动力学系统，它需要工作一段时间才能达到稳定。Hopfield神经网络是反馈网络中最简单且应用广泛的模型，它具有联想记忆（Content一AddressibleMemory，CAM）的功能，同时Hopfield神经网络还可以用来解决快速寻优问题。(2).反馈型神经网络21225.1.4神经网络的学习方法学习方法是体现人

6、工神经网络智能特性的主要标志，离开了学习算法，人工神经网络就失去了自适应、自组织和自学习的能力。目前神经网络的学习方法有多种，按有无教师来分类，可分为有教师学习（SupervisedLearning）、无教师学习（UnsupervisedLearning）和再励学习（ReinforcementLearning）等几大类。在有教师的学习方式中，网络的输出和期望的输出（即教师信号）进行比较，然后根据两者之间的差异调整网络的权值，最终使差异变小。在无教师的学习方式中，输入模式进入网络后，网络按照一预先设定的规则（如竞争规则）自动调整权值，使网络最终具有模式分类等功能。再励学习是介于上述两

7、者之间的一种学习方式。5.1.4神经网络的学习方法2324神经网络中常用的几种基本学习方法(1).Hebb学习规则两个神经元同时处于激发状态时，它们之间的连接强度将得到加强，这一论述的数学描述被称为Hebb学习规则。Hebb学习规则是一种无教师的学习方法，它只根据神经元连接间的激活水平改变权值，因此这种方法又称为相关学习或并联学习。25(2)．Delta（δ）学习规则δ规则可以误差函数达到最小值。但δ学习规则只适用于线性可分函数，无法用于多层网络。BP网络学习算法称为