前沿知识讲座.doc

《前沿知识讲座.doc》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、自动化专业知识讲座——人工神经网络的研究人工神经网络概述人工神经网络ANN（AritificalNeuralNetwork）简称神经网路，是在现代神经生物学和认识科学研究的基础上提出来的，是由众多的输入层神经元、中间层神经元和输出层神经元相互连接构成的，具有很强的自适应性、自学习能力、鲁棒性和容错能力，是一种分布式并行处理系统。人工神经网络的研究可以追溯到1957年Rosenblatt提出的感知器模型。它几乎与人工智能AI（ArtificalIntelligence）同时起步，但发展较慢，知道80年代人们才重新对人工神经网络发生了兴趣，导致神经网络的复兴。神经网络的产生是从生物学上取得的灵感

2、，用实现模拟生物神经元的某些基本功能的元件组织起来但不管网络的组织形式如何，它们均有以下3个共同特性：学习、概括、抽取。人工神经元网络模型由以下三个特性：一、神经元特性：每一种神经元的计算的输出，又是下一层神经元的输入，再用于计算它们的输出，一个神经元的输出用连接到它的神经元的输出和这些连接弧的权值来计算；二、动态特性：在一些模型中，所有神经元的计算新的输出是并行进行的，对其输出做出改变也是同时的；三、学习特性：用所希望的行为的若干训练，经学习算法生成每一连接弧的相应权值。人工神经网络基本原理人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。目前，已有近40种神经网络模型

3、，其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。根据连接的拓扑结构，神经网络模型可以分为：　　（1）前向网络网络中各个神经元接受前一级的输入，并输出到下一级，网络中没有反馈，可以用一个有向无环路图表示。这种网络实现信号从输入空间到输出空间的变换，它的信息处理能力来自于简单非线性函数的多次复合。网络结构简单，易于实现。反传网络是一种典型的前向网络。　　（2）反馈网络网络内神经元间有反馈，可以用一个无向的完备图表示。这种神经网络的信息处理是状态的变换，可以用动力学系统理论处理。系统的稳定性与联想记忆功能有密切关系。Hopfield网络、波耳兹曼机均属于这种

4、类型。一般的特性函数可以表示为：根据输入输出特性的不同，可以选取不同的输入输出变换函数表示，使用较多的有线性特性函数、阈值特性函数、S型逻辑特性函数等。人工神经元的结构忽略了许多生物原形神经元的特性，如它没有考虑影响网络动态特性的时间延迟，输入立即产生输出；更重要的是，它不包括同步或异步的影响，虽然没有考虑这些特性，神经元构成的网络仍显示了很强的生物原形特性。各类神经元改变状态的次序有两种;一种是同步进行，即各个神经元平行计算，同时改变其输出；另一种是异步进行。异步进行又分为两种情况：一种是各神经元改变状态的次序是随机的，一种是改变状态的次序是有序的。网络连接模型：这是讨论把这些神经元按一定

5、的模式连接，并通过神经元之间的连接弧权值的大小反应信号传递的强弱来组成各种连接模型。主要包括：单层连接模式、多层连接模式、循环连接模式。在循环连接模式中包含反馈连接，它的神经元输出不同于非循环的，非循环的没有“短期记忆”，其输出单独由当前的输入和权值决定，而循环的有先前输出反馈作为输入，因此，它们的输出由当前的输入和先前的输出两者决定。学习是神经网络研究的一个重要内容，它的适应性是通过学习实现的。根据环境的变化，对权值进行调整，改善系统的行为。由Hebb提出的Hebb学习规则为神经网络的学习算法奠定了基础。Hebb规则认为学习过程最终发生在神经元之间的突触部位，突触的联系强度随着突触前后神经

6、元的活动而变化。在此基础上，人们提出了各种学习规则和算法，以适应不同网络模型的需要。有效的学习算法，使得神经网络能够通过连接权值的调整，构造客观世界的内在表示，形成具有特色的信息处理方法，信息存储和处理体现在网络的连接中。根据学习环境不同，神经网络的学习方式可分为监督学习和非监督学习。在监督学习中，将训练样本的数据加到网络输入端，同时将相应的期望输出与网络输出相比较，得到误差信号，以此控制权值连接强度的调整，经多次训练后收敛到一个确定的权值。当样本情况发生变化时，经学习可以修改权值以适应新的环境。使用监督学习的神经网络模型有反传网络、感知器等。非监督学习时，事先不给定标准样本，直接将网络置于

7、环境之中，学习阶段与工作阶段成为一体。此时，学习规律的变化服从连接权值的演变方程。非监督学习最简单的例子是Hebb学习规则。竞争学习规则是一个更复杂的非监督学习的例子，它是根据已建立的聚类进行权值调整。自组织映射、适应谐振理论网络等都是与竞争学习有关的典型模型。人工神经网络发展趋势人工神经网络特有的非线性适应性信息处理能力，克服了传统人工智能方法对于直觉，如模式、语音识别、非结构化信息处理方面的缺陷，使之在神