Matlab神经网络工具箱.ppt

《Matlab神经网络工具箱.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、MATLAB神经网络工具箱人工神经网络的特点自学习自适应并行处理分布表达与计算人工神经网络的应用ANN本质上可以理解为函数逼近，可以应用到众多领域。优化计算信号处理智能控制模式识别机器视觉等生物神经元生物神经网络：BiologicalNeuralNetwork(BNN)神经元：neuron神经元经突触传递信号给其他神经元（胞体或树突）1011个神经元/人脑104个连接/神经元神经元一般而言,ANN与经典计算方法相比并非优越,只有当常规方法解决不了或效果不佳时ANN方法才能显示出其优越性。尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断、特征提取和预测等问题,ANN往

2、往是最有利的工具。另一方面,ANN对处理大量原始数据而不能用规则或公式描述的问题,表现出极大的灵活性和自适应性。黑箱生物神经元人工神经元NeuronModel：多输入，单输出，带偏置R个输入pi∈R，即R维输入矢量pn:netinput,n=wp+b。R个权值wi∈R，即R维权向量w阈值b输出a=f(n),f:transferfunction激励函数或传递函数常用激励函数(传递函数）aWp-b1-1阈值函数线性激励函数PurelinTransferFunction：anSigmoid函数SigmoidFunction：特性：值域a∈(0,1)非线性，单调性无限次可微

3、n

4、较小时可

5、近似线性函数

6、n

7、较大时可近似阈值函数ANN结构(连接)单层前向网络y1y2ynx1x2xmw11w12w1mw21w22w2mwn1wnmwn2...多层前向网络............x1x2xmy1y2ynHiddenLayerInputLayerOutputLayer单层反馈网络...x1x2xmy1y2yn多层反馈网络x1x2x3y1y2y3......神经网络的学习方法神经网络的学习(learning)：从环境中获取知识并改进自身性能，主要指调节网络参数使网络达到某种度量，又称为网络的训练(training)学习方式：监督学习(supervisedlearning)或

8、有导师学习非监督学习(unsupervisedlearning)或无导师学习强化学习（reinforcementlearning)学习规则(learningrule)：Hebb学习算法误差纠正学习算法竞争学习算法监督学习对训练样本集中的每一组输入能提供一组目标输出网络根据目标输出与实际输出的误差信号来调节网络参数导师神经网络比较环境实际输出输入期望输出误差信号p(n)t(n)a(n)e(n)非监督学习与强化学习非监督学习：不存在导师，网络根据外部数据的统计规律来调节系统参数，以使网络输出能反映数据的某种特性强化学习：外部环境对网络输出只给出评价信息而非正确答案，网络通过强化受奖励

9、的动作来改善自身的性能神经网络环境输入神经网络环境输入输出评价信息第八章人工神经网络19误差纠正学习对于输出层第k个神经元的实际输出:ak(n)目标输出:tk(n)误差信号:ek(n)=tk(n)-ak(n)目标函数为基于误差信号ek(n)的函数，如误差平方和判据(sumsquarederror,SSE)，或均方误差判据(meansquarederror,MSE,即SSE对所有样本的期望)误差纠正学习梯度下降法：对于感知器和线性网络：delta学习规则对于多层感知器网络：扩展的delta学习规则，BP算法前馈神经网络及其主要方法前馈神经网络(feedforwardNN)：各神经

10、元接受前级输入，并输出到下一级，无反馈，可用一有向无环图表示。前馈网络通常分为不同的层(layer)，第i层的输入只与第i-1层的输出联结。可见层：输入层(inputlayer)和输出层(outputlayer)隐层(hiddenlayer)：中间层前馈网络训练一个单层感知器...x1x2xm=1y1y2ynxm-1......w11w12w1mw21w22w2mwn1wnmwn2d1d2dnTrainingSetGoal:感知器学习规则LearningRateError(dy)Inputxy......d+感知器学习规则BP神经网络Rumelhart，McClellan

11、d于1985年提出了BP网络的误差反向后传BP(BackPropagation)学习算法BP算法基本原理利用输出后的误差来估计输出层的直接前导层的误差，再用这个误差估计更前一层的误差，如此一层一层的反传下去，就获得了所有其他各层的误差估计。J.McClellandDavidRumelhartBP神经网络的特点非线性映射能力能学习和存贮大量输入-输出模式映射关系，而无需事先了解描述这种映射关系的数学方程。只要能提供足够多的样本模式对供网络进行学习训练，它便能完成由n维输入空间到m维