智能控制系统 -神经网络-PPT课件.ppt

《智能控制系统 -神经网络-PPT课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、神经网络的基本原理和结构神经元是由细胞体、树突和轴突组成图生物神经元模型5.1神经细胞的结构与功能1神经网络的基本模型人工神经网络是对生物神经元的一种模拟和简化，是神经网络的基本处理单元。人工神经元模型2神经元输出特性函数常选用的类型有：⑴前向网络；⑵有反馈的前向网络；⑶层内有互联的前向网络；⑷互联网络人工神经网络的基本结构类型31）前向网络:典型的网络有：感知器网络、BP网络等。特点：前向网络具有较强的学习能力，结构简单，易于编程。前馈网络是静态非线性映射，通过简单非线性处理单元的复合映射，可获得复杂的非线性处理能力。从计算观点，缺乏丰富的动

2、力学行为⑵有反馈的前向网络：典型的网络有Hopfield神经网络特点：若总节点(神经元)数为N，则每个节点有N个输入和一个输出。每个节点都是一样，互相连接。反馈型网络是反馈动力学系统，需要工作一段时间后才能达到稳定。Hopfield神经网络是反馈型网络中最简单应用最广的模型，具有联想记忆功能。人工神经网络的基本结构类型人工神经网络的基本结构类型神经网络的学习方法从环境中获取知识并改进自身性能，主要指调节网络参数使网络达到某种度量，又称为网络的训练学习方式：监督学习非监督学习再励学习(强化学习）监督学习对训练样本集中的每一组输入能提供一组目标输出

3、。网络根据目标输出与实际输出的误差信号来调节网络参数。教师神经网络比较环境实际输出输入期望输出误差信号p(n)t(n)a(n)e(n)非监督学习与再励学习非监督学习：不存在教师，网络根据外部数据的统计规律来调节系统参数，以使网络输出能反映数据的某种特性再励学习：外部环境对网络输出只给出评价信息而非正确答案，网络通过强化受奖励的动作来改善自身的性能神经网络环境输入神经网络环境输入输出评价信息学习规则(learningrule)：Hebb学习算法误差纠正学习算法概率式学习竞争学习算法神经网络的学习方法Hebb学习Hebb学习规则：无教师学习方法He

4、bb学习规则的物理解释：两个神经元同时处于激发状态时，相应的权值得到加强。13误差纠正学习（δ学习规则）对于输出层第k个神经元的实际输出:ak(n)目标输出:tk(n)误差信号:ek(n)=tk(n)-ak(n)目标函数为基于误差信号ek(n)的函数，如误差平方和判据(sumsquarederror,SSE)，或均方误差判据(meansquarederror,MSE)误差纠正学习用梯度下降法求解对于感知器和线性网络：delta学习规则对于多层感知器网络：扩展的delta学习规则，bp算法wkjnkakPj概率式学习学习规则：竞争学习输出神经

5、元之间有侧向抑制性连接，较强单元获胜并抑制其他单元，独处激活状态。（Winnertakesall,WTA）wkjkpj前馈神经网络(feedforwardNN)：各神经元接受前级输入，并输出到下一级，无反馈，可用一有向无环图表示。图中结点为神经元（PE）：多输入单输出，输出馈送多个其他结点。前馈网络通常分为不同的层(layer)，第i层的输入只与第i-1层的输出联结。可见层：输入层(inputlayer)和输出层(outputlayer)隐层(hiddenlayer)：中间层5.2前向网络及其算法感知器是1957年美国学者Rosenblatt提

6、出的一种用于模式分类的神经网络模型。感知器是由阈值元件组成且具有单层计算单元的神经网络，具有学习功能。感知器是最简单的前馈网络，它主要用于模式分类，也可用在基于模式分类的学习控制和多模态控制中，其基本思想是将一些类似于生物神经元的处理元件构成一个单层的计算网络感知器网络1感知器图单层感知器网络图单个神经元的感知器感知器的输入输出关系：当输入的加权和大于或等于阈值，输出为1，否则为-1（或为0）。感知器学习算法感知器学习算法：误差修正学习对应于线性判别函数对线性可分问题算法收敛，对线性不可分的数据算法不收敛多层感知器多层感知器:Multi-Lay

7、erPerceptron,MLPArchitecture：多层感知器的一致逼近性逻辑功能：单个阈值神经元可以实现任意多输入的与、或及与非、或非逻辑门。任何逻辑函数可由两层前馈网络实现当神经元的输出函数为Sigmoid等函数时，两层前馈网络可以逼近任意的多元非线性函数MLP的适用范围大大超过单层网络。问题：多层感知器的中间隐层不直接与外界连接，其误差无法直接计算。反向传播(Backpropagation)算法：从后向前（反向）逐层“传播”输出层的误差，以间接算出隐层误差。分两个阶段：正向过程：从输入层经隐层逐层正向计算各单元的输出。反向过程：由输

8、出层误差逐层反向计算隐层各单元的误差，并用此误差修正当前层的权值。前项多层网络的BP学习算法2图BP网络结构2.4.2BP网络的标准学习算法学习的过程