神经网络诊断专家系统及实现

《神经网络诊断专家系统及实现》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、1996年3月硕士学位论文21第四章神经网络诊断专家系统及实现§4.1神经网络基本理论4.1.1神经网络概述神经网络（NeuralNetwork,NN）理论萌芽于本世纪四十年代，并于八十年代又重掀研究热潮。其基本思想是用并行计算机对人脑神经系统进行功能化模拟。NN是由大量简单的基本元件------神经元（neuron）相互连接而成的自适应非线性动态系统。每个神经元的结构和功能比较简单，而大量神经元组合产生的系统行为却非常复杂。系统模型可用软件描述（数学方程、算法、程序等），而最终目标是以硬件实现（用半导体器件、光学器件或分子器件等）。NN反映了人脑功能的若干[12]基本特性，但并非

2、是生物系统的逼真描述，只是某种模仿、简化和抽象。NN的特征如下：∂大规模并行处理；∂分布式存储；∂自适应（学习）过程。当然，上述特征目前只初步得以实现，有待于进一步开发和完善。NN的基本功能：µ联想记忆（AssociativeMemory,AM）；µ分类（Classifier）；µ优化计算（优化决策）。在FD领域，由于NN具有快速并行处理、联想记忆、自组织和自学习以及非线性映射能力，如能将其同传统的FD-ES相结合，必将为故障模式识别、诊断领域专家知识的组织和推理等方面提供一个全新的方法，从而加快诊断智能化的进程。4.1.2前向多层神经网络及其BP算法前向多层神经网络（Forwar

3、dMulti-LayedNeuralNetwork,FMLN）由静态神经元模型构成，是一种单向多层结构，其中每一层都包含若干个神经元，相邻层神经元之间全互连，同一层神经元之间和不相邻层的神经元之间均不相连，层间的信息传送只沿同一方向进行。静态神经元模型如图4.1:yf[•]IΣw1w2wN-1…x0x1xN-1(-θ)图4.1一个静态的神经元模型示意图22李斌：基于模糊神经网络技术的智能故障诊断专家系统的研究1996年3月静态神经元模型的运算式如下：N−1⎧T⎪IW=−Xθθ=∑wjxj−⎨j=0（4.1.1）⎪⎩yf=()I其中上标T表示转置，f[•]是一个单调非降函数，一般取为

4、线性函数、硬限幅函数或Sigmold函数（S形函数），本文取S形函数，其表达式为：1fu[]=（4.1.2）s−u1+e由静态神经元构造的前向三层NN如图4.2所示:y0y1…yN-1Y（输出向量）第2层…B2（阈值向量2）（l=2）…W2（权值向量2）第1层…B1（阈值向量1）（l=1）…W1（权值向量1）第0层…（l=0）x0x1…xN-1X（输入向量）图4.2前向三层神经网络结构示意图FMLN的学习算法（LearningAlgorithm,LA）采用误差反向传播（Back-Propogation，BP）算法。由于传统BP算法的收敛速度慢，本文引进一种改进[13]BP算法，该算

5、法采用自适应学习率（AdaptiveLearningRate），并增加一个“动量”调整项（Momentum），使得收敛加快并且权值的变化很平滑，从而有效地缩短训练时间。NN训练过程分三步：无噪（标准样本）训练→加噪重复训练→无噪训练。其中，加噪样本为在标准样本值上加一个很小的随机值（噪声）。加噪训练既可提高神经网络的强壮性，又可弥补标准样本数目少的不足。神经元特性函数取S形函数：⎧1⎪xjj′==FX()−X1+ej（4.1.3）⎨⎪Xw=∑x′⎩jiji其中：xi′神经元i的输出（神经元j的输入）xj′神经元j的输出Xj神经元j的加权输入和wij神经元i到j之间的权值1996年3

6、月硕士学位论文23权值调整公式：⎧⎪∆wnij()+=1ηδjxi′+αwij(n)⎨（4.1.4）wn()+=11wn()+∆wn()+⎩⎪ijijij其中：wij(n)神经元i到j第n次变更的权值η学习率α动量常数(0<α<1)δj神经元j的误差值训练参数：最大迭代次数：max_epoch=5000（无噪）或300（加噪）η＝0.01，α＝0.95，误差阈：err_goal=0.1（无噪）或0.6（加噪）误差率：β=1.04学习率调整常数：Kα+=1.05,Kα-=0.7设误差平方和为SSE，则η、α调整规则：若SSE(n+1)≥SSE(n)*β,η=η*Kα-,α=0否则η=

7、η*Kα+,α=0.95当SSE