基于人工神经网络的软测量方法

《基于人工神经网络的软测量方法》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第四章基于人工神经网络的软测量方法黄福珍Huangfzh@shiep.edu.cn本章主要内容人工神经网络概述BP神经网络RBF神经网络基于神经网络的软测量通用模型基于神经网络的软测量技术应用实例4.1人工神经网络概述神经网络的基本概念神经网络的特点神经网络的发展简史神经网络的结构类型神经网络的学习方法4.1.1神经网络的基本概念人工神经网络是一种模仿人的大脑神经网络行为特征的分布式并行信息处理算法结构的动力学模型。它用多路输入部件输入信号，并对这些信号按加权求和，当超过一定阈值时输出的部件产生“兴奋”即响应。人工神经网络就是应用这种输入—响应过程来模仿动物神经元的工作方式，

2、并通过这些神经元部件相互联接的结构和反映关联强度的权系数使其“集体行为”具有各种复杂的信息处理功能。4.1.1神经网络的基本概念生物神经元模型：◆神经元是处理人体内各部分之间相互信息传递的基本单元。据神经生物学家研究的结果表明，一个人的大脑一般有1010～1011个神经元。每个神经元都由一个细胞体、一个连接其他神经元的轴突和一些向外伸出的其他较短分支——树突组成。4.1.1神经网络的基本概念人工神经元模型：◆人工神经元模型是生物神经元的抽象和模拟。通常一个神经元可能有多个输入端，但只有一个输出端，一般是多输入—单输出的非线性器件，这个输出值是对所有输入值处理后的结果。输入信号

3、连接权阈值处理单元净值转移函数输出4.1.1神经网络的基本概念人工神经元输入与输出之间的关系：转换函数的作用：◆控制输入对输出的激活作用◆对输入、输出进行函数转换◆将可能无限域的输入转换成指定的有限范围内的输出4.1.1神经网络的基本概念几种常见的转换函数：◆阈值型：◆线性型：◆双曲函数：◆Sigmoid型：◆高斯型：4.1.1神经网络的基本概念4.1.2神经网络的特点并行分布处理能力非线性映射能力通过训练进行学习可以硬件实现4.1.3神经网络的发展简史初始发展期（20世纪40年代～60年代）:◆1943年McCulloch（心理学家）和Pitts（数理逻辑学家）发表文章，提

4、出M-P模型。M-P模型能完成一定的逻辑运算。——标志神经计算时代的开始◆1949年DonalaU.Hebb（心理学家）论著《TheOrganizationofBehavior（行为自组织）》，提出突触联系强度可变的假设，认为学习的过程最终发生在神经元之间的突触部位，突触的联系强度随着突触前后神经元的活动而变化。——Hebb规则：若两个神经元输出兴奋，则它们之间的连接权加强，反之减少。4.1.3神经网络的发展简史初始发展期（20世纪40年代～60年代）:◆1957年FrankRosenblatt定义了一个神经网络结构，称为感知器(Perceptron)。第一次把神经网络研究从

5、纯理论的探讨推向工程实现，在IBM704计算机上进行了模拟，证明了该模型有能力通过调整权的学习达到正确分类的结果。掀起了神经网络研究高潮。◆1962年电机工程师Window和Hoff提出自适应线性元件Adaline，它是一个连续取值的线性网络。4.1.3神经网络的发展简史低谷期（20世纪60年代末～70年代末）:◆1969年M.Minsky和S.Papert发表《Perceptrons》的论著，指出感知器仅能解决一阶谓词逻辑，只能做线性划分。对于非线性或其他分类会遇到很大困难。一个简单的XOR问题的例子就证明了这一点。——神经网络研究一度达到低潮。原因还有：计算机不够发达、V

6、LSI还没出现、而人工智能和专家系统正处于发展高潮。◆仍有不少学者致力于NN的研究，如Grossberg和Carpenter提出自适应共振理论ART网络，Kohonen提出自组织映射网络等。4.1.3神经网络的发展简史兴盛期（20世纪80年代～90年代初）:◆1982年JohnJ.Hopfield（物理学家）提出了全联接网络，离散的神经网络模型。——全新的具有完整理论基础的神经网络模型。基本思想是对于一个给定的神经网络，对于一个能量函数，这个能量函数是正比于每一个神经元的活动值和神经元之间的联接权。而活动值的改变算法是向能量函数减少的方向进行，一直达到一个极小值为止。证明了网

7、络可达到稳定的离散和连续两种情况。3年后AT&T等做出了半导体芯片。——神经网络复兴时期开始4.1.3神经网络的发展简史兴盛期（20世纪80年代～90年代初）:◆1986年美国的一个平行计算研究小组提出了前向反馈神经网络的BackPropagation（BP）学习算法。成为当今应用最广泛的方法之一。该方法克服了感知器非线性不可分类问题，给神经网络研究带来了新的希望。◆1990年汉森(L.K.Hansen)和萨拉蒙(P.Salamon)提出了神经网络集成(neuralnetworkensemble)方法。