libin基于MATLAB神经网络仿真ppt课件.ppt

《libin基于MATLAB神经网络仿真ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、基于MATLAB神经网络仿真李斌概述介绍神经网络的起源，发展历程，国内发展状况，以及研究现状1943年，心理学家W.S.McCulloch和数理逻辑学家W.A.Pitts建立了神经网络和数学模型，称为M-P模型。他们通过M-P模型提出了神经元的形式化数学描述和网络结构方法，证明了单个神经元能执行逻辑功能，从而开创了人工神经网络研究的时代神经网络研究现状神经网络是可大规模并行处理和分布式信息存储，具有良好的自学习、自适应、自组织性，以及很强的联想记忆和容错功能，可以充分逼近任意复杂的非线性关系，可有很

2、强的信息综合能力，能同时处理定量和定性信息，能很好的协调多种输入信息关系，适用于处理复杂非线性和不确定对象。随着神经网络的广泛应用，具有以下研究趋势：增强对智能和机器的关系问题的认识，发展神经计算与进化计算的理论与应用，扩大神经网络结构和神经元芯片的作用，促进信息科学与生命科学的相互融合，进行与其他智能方法融合技术研究。研究目的在人工神经网络发展历史中，很长一段时间里没有找到隐含层的连接权值调整问题的有效算法。直到误差反向传播算法（BP神经网络算法）的提出，成功地解决了求解非线性连续函数的多层前馈神

3、经网络权值调整问题。目前，BP神经网络已成为广泛使用的网络，可用于语言综合、语言识别、自适应控制等。它是一种多层前馈网络，采用最小均方差的学习方式，缺点是仅为有导师训练，训练时间长，易限于局部极小。鉴于神经网络的广泛应用，特别是BP神经网络的发展，对于神经网络（比如BP神经网络）的研究具有重要意义。研究的主要目的是：理解BP网络结构模型；学习误差反向传播算法和BP神经网络的学习算法；分析关键因素，得出BP网络的优缺点；综合各种因素并使用启发式方法对BP神经网络算法进行改进；应用数学软件MATLAB对

4、BP神经网络标准算法和改进算法进行仿真编程；利用仿真结果和图表得出各个算法适用条件；进而研究实际问题的BP神经网络构建和仿真。注：该论文将以BP神经网络为例作《基于MATLAB神经网络仿真》的课题讨论神经元相关原理神经元非线性模型有教师监督学习神经元数学模型Delta学习规则BP神经网络收敛准则BP神经网络学习过程描述BP神经网络信号流程神经元j是输出节点dj(n)y0=+1阈值θ0ej(n)νj(n)yi(n)f()yj(n)-+n+1BP神经网络信号流程神经元j是隐含层节点图2.6（b）BP神经

5、网络信号流图y0=+1阈值θ0y0=+1阈值θ0yi(n)νj(n)yj(n)f()yk(n)νk(n)f()dk(n)ek(n)n+1-+误差反向传播计算网络误差信号即网络的实际输出与期望输出之间的差值，该信号由输出端逐层向前传播。在误差信号的反向传播过程中，网络的权值由误差反馈进行调节，即权值修正，经过不断的修正直到允许的误差范围具体计算步骤参考论文推导（下面的式子在隐含层的误差计算中比较重要）BP算法描述①初始化，设置样本计数器m和训练（迭代）次数计数器n,其最大值分别为(M,N)；并将权值矩

6、阵设立随机数，误差E置为0，允许误差值为ε，学习率0<η<1；②输入训练样本，包括实际训练样本X和期望输出样本d；③计算各层输出V和Y向量，并用e=d-y计算输出误差；④计算各层误差信号，包括误差的局向梯度δ；⑤调整各层权值，利用反向传播计算原理调整⑥对样本计数器m进行检查，看是否完成所有样本的训练；⑦对训练结果产生的网络误差进行比较，看是否在所允许的误差之内；⑧若⑥⑦否则转向②继续训练，否则训练结束。影响因素分析权值初始值设置影响分析权值调整方法影响分析激活函数选择影响分析学习率η选择影响分析输入

7、输出归一化影响分析其他影响因素分析（如输入样本信息内容的选择问题、允许误差ε的选择问题，从提示中学习的问题以及改进误差函数等）BP学习算法的优缺点①BP学习算法优点：BP学习算法具有数学理论依据可靠，推导过程严谨，通用性好，解决了求解非线性连续函数的多层前馈神经网络权值调整问题，具有实现任何复杂非线性映射的功能，特别适合求解内部机制的复杂问题。它具有自学习、自组织、自适应性和很强的信息综合能力，能够同时处理定量和定性信息，协调多种输入的关系并进行推广概括，实行并行处理，适用于处理复杂非线性和不确定的

8、对象。②BP学习算法缺点：基于梯度下降法及目标函数复杂，导致训练次数多，训练时间较长，收敛缓慢；基于局部搜索的优化方法，导致有时完全不能训练，失败的可能性也较大，易陷于局部极小而得不到全局最优；网络结构的选择尚无统一完整的理论指导，隐含节点个数难以确定，而网络的结构直接影响网络的逼近能力及推广性质；训练过程有暂时遗忘的现象即学习新样本有遗忘旧样本的趋势；学习复杂性问题，即网络容量的可能性与可行性的关系问题，难以解决应用问题的实例规模和网络规模的矛盾问题；还有诸如新加入