计算智能课件 神经网络

《计算智能课件 神经网络》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、人工神经网络济南大学计算智能实验室陈月辉yhchen@ujn.edu.cn,http://cilab.ujn.edu.cn1内容提要神经网络模型的基本组成神经网络的分类及典型的神经网络模型神经网络结构及神经计算特点神经计算的稳定性神经网络研究历史神经网络的应用领域2神经网络模型的基本组成-神经元生物神经元的基本组细胞体突起树突轴突人工神经元的基本结构处理单元连接输入输出3神经元的基本功能（1）接收输入输入类型输入的权值抑制性连接权值活跃性连接权值传播规则（传播函数）把某类净输入与其连接权值结合起来，使该类

2、输入对目的处理单元产生最终净输入的规则。4神经元的基本功能（2）处理输入活跃状态（活跃值）活跃值活跃函数（活跃规则）把某一处理单元的各类净输入相互结合起来，再与该处理单元当前活跃状态相结合，以产生一个新的活跃状态的规则。活跃函数类型恒等函数阈值函数S型单调函数5神经元的基本功能（3）产生输出输出值的作用输出函数（输出规则）根据某一神经元的当前活跃值产生对其它神经元影响的输出值的规则。输出函数类型硬极限函数阈值函数S型单调函数恒等函数6网络神经网络结构连接矩阵连接模式多层、单层反馈、前馈7学习规则学习规则根

3、据环境动态修改各个处理单元之间连接权值的规则。典型的学习规则Hebbian学习规则Delta学习规则学习的类型联想学习自联想异联想规则发现如果一个处理单元接收从另外一个处理单元来的输入，那么当两个单元都活跃时，它们之间的连接权值就应该增大。8学习规则学习规则根据环境动态修改各个处理单元之间连接权值的规则。典型的学习规则Hebbian学习规则Delta学习规则学习的类型联想学习自联想异联想规则发现权值主要根据在给定教师输入下，期望输出与目标输出之差来进行改变。9学习规则学习规则根据环境动态修改各个处理单元之

4、间连接权值的规则。典型的学习规则Hebbian学习规则Delta学习规则学习的类型联想学习自联想异联想规则发现输入输出10学习规则学习规则根据环境动态修改各个处理单元之间连接权值的规则。典型的学习规则Hebbian学习规则Delta学习规则学习的类型联想学习自联想异联想规则发现输入输出月亮太阳11环境环境内容输入输出12传播规则活跃规则输出规则互连模式学习规则环境神经网络模型完整描述的六个要素13典型的神经网络模型–分类原则按神经网络模型的拓扑结构可以分为反馈神经网络模型和前向神经网络模型。按神经网络模型

5、的性能可分为连续型与离散型神经网络模型，确定型与随机型神经网络模型。按学习方式可以分为有教师学习神经网模型和无教师学习神经网络模型。按连接突触性质可以分为一阶线性关联神经网络模型和高阶非线性关联神经网络模型。14典型的神经网络模型自适应谐振理论（ART）该模型主要包括ART1、ART2和ART3，它们可以对任意多和任意复杂的二维模式进行自组织、自稳定和大规模并行处理。ART1主要用于二值输入，ART2和ART3主要用于连续信号输入。该类模型主要用于模式识别（如雷达、声纳的信号识别）。缺点是对转换、失真及规

6、模的变化较为敏感。15典型的神经网络模型双向相联存储器（BAM）该类神经网络模型是由许多相同神经元构成的双向联想式两层网络。主要用作按内容寻址的相联存储。缺点是存储容量小而且需很好地进行编码。感知机（Perceptron）该类神经网络是一组可训练的线性分类单层网络模型，目前较少应用。主要用于打印字符识别。缺点是不能识别复杂字符（汉字），而且对大小、平移和变形很敏感。16典型的神经网络模型反传神经网络模型（BP）该类神经网络模型是一多层映射神经网络。采用的是最小均方差的学习方式，是目前使用最广泛的神经网络模

7、型之一。主要用于语言综合、语言识别、自适应控制等。缺点是它仅仅是有监督的一种学习方式，而且输入、输出样本都必须是冗余的。17典型的神经网络模型Boltzmann机（BCM）该类神经网络模型使用一噪声过程求得整个模型花费函数（costfunction）的全局极小值。主要用于模式识别（图像、声纳和雷达信号的识别）。缺点是Boltzmann机的训练时间长。18典型的神经网络模型Hopfield神经网络模型它是由相同处理单元构成的单层自联想神经网络模型。主要用于从片段中进行图像和数据的完全恢复。缺点是处理单元间连

8、接权值需预先设置，并且单元之间的连接是要对称的，它没有学习能力。多个自适应线性元模型（MADALINE）该类神经网络模型是具有最小方差学习功能的线性网络模型。它的学习能力较强，是自适应线性元ADALINE的扩展。主要用于自适应控制。缺点是在输入输出之间设置的是一种线性关系。19典型的神经网络模型自组织映射模型（SOM）该类神经网络模型主要是形成从一个密集簇到另一个簇的连续拓扑映射，并且映射矩阵密度随第二个簇所给定的概率密度函数