神经网络_ART网络ppt课件.ppt

《神经网络_ART网络ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、自适应共振理论引言传统神经网络遇到的问题在样本数据训练的过程中，无论是监督式还是无监督式的训练，均会出现对新模式的学习，时刻面临着新知识的学习记忆荷对旧知识的退化忘却的问题在监督式的训练情况下，使网络逐渐达到稳定的记忆需要通过反复训练，从而对已学习过的模式的部分甚至是全部的忘却在无监督情况下，对新的数据的学习同样会产生对某种已经记忆的典型矢量的修改，造成对已学习数据的部分忘却理想情况能够学会新的知识，同时对已学过的知识没有不利影响在输入矢量特别大的情况下，很难实现。通常只能在新旧知识的取舍上进行某种折衷，最大可能地接受新的知识并较少地影响原有知识ART网

2、络简介自适应共振理论(AdaptiveResonanceTheory,ART)网络可以较好地解决前述问题网络和算法具有较大地灵活性，以适应新输入的模式，同时极力避免对网络先前学习过地模式的修改记忆容量可以随样本的增加而自动增加，可以在不破坏原记忆样本的情况下学习新的样本ART是美国波士顿大学的A.Carpenter和Grossberg提出。具有两种形式ART1处理双极性（或二进制）数据ART2处理连续数据自适应共振理论（ART）历史1976年，美国Boston大学学者G.A.Carpenter提出自适应共振理论(AdaptiveResonanceTheo

3、ry，缩写为ART)，他多年来一直试图为人类的心理和认知活动建立统一的数学理论，ART就是这一理论的核心部分。随后G.A.Carpenter又与S.Grossberg提出了ATR网络。共振现象的一些例子自适应共振理论共振现象鱼洗寺院无人敲而响的磬军队过桥雪崩人类认知（图像）当双手策动力的频率跟物体的固有频率相等时，振幅最大，这种现象叫共振。水中发出的嗡鸣声是铜盆腔内的振动和摩擦频率振动发生共振引起的。自适应共振理论ART网络学习算法的基本流程环境输入模式与储存的典型向量模式进行比较神经网络的连接权值选择最相似的作为该模式的代表类，并调整与该类别相关的权值

4、，以使以后与该模式相似的输入再与该模式匹配时能得到更大的相似度。相似度的参考门限需要在网络中设立一个新的模式类，同时建立与该模式类相连的权值，用以代表和存储该模式以及后来输入的所有同类模式。C——比较层R——识别层Reset——复位信号G1和G2——逻辑控制信号4.5.1.1网络系统结构4.5.1ARTⅠ型网络4.5.1.1网络系统结构(1)C层结构该层有n个节点，每个节点接受来自3个方面的信号：来自外界的输入信号xi；来自R层获胜神经元的外星向量的返回信号Tj；来自G1的控制信号。C层节点的输出ci是根据2/3的“多数表决”原则产生的，即输出值ci与x

5、i、tij、G13个信号中的多数信号值相同。G1=1，反馈回送信号为0，C层输出应由输入信号决定，有C=X。反馈回送信号不为0，G1=0，C层输出应取决于输入信号与反馈信号的比较情况，如果xi=tij，则ci=xi。否则ci=0。网络系统结构4.5.1.1网络系统结构（2）R层结构R层有m个节点，用以表示m个输入模式类。m可动态增长，以设立新模式类。由C层向上连接到R第j个节点的内星权向量用Bj=（b1j，b2j，…,bnj）表示。C层的输出向量C沿m个内星权向量Bj(j=1,2,…,m)向前传送，到达R层各个神经元节点后经过竞争在产生获胜节点j*，指示

6、本次输入模式的所属类别。获胜节点输出=1，其余节点输出为0。R层各模式类节点的典型向量。网络系统结构4.5.1.2网络运行原理相似程度可能出现的两种情况：①相似度超过参考门限选该模式类作为当前输入模式的代表类。权值调整规则是，相似度超过参考门限的模式类调整其相应的内外星权向量，以使其以后遇到与当前输入模式接近的样本时能得到更大的相似度；对其它权值向量则不做任何变动。②相似度不超过门限值需在网络输出端设立一个代表新模式类的节点，用以代表及存储该模式，以便于参加以后的匹配过程。网络运行原理模式网络运行四个阶段：匹配阶段网络在没有输入模式之前处于等待状态，此时

7、输入端X=0，因此信号G2=0，R0=0.当输入不全为0的模式X时，G2=1，R0=0，使G1=G2R0=1.G1为1时，允许输入模式直接从C层输出，并向前传至R层，与R层节点对应的所有内星向量Bj进行匹配计算：4.5.1.3网络的学习算法ARTⅠ网络可以用学习算法实现，学习算法从软件角度体现了网络的运行机制，与系统结构图并不一一对应。训练可按以下步骤进行：(1)网络初始化从C层向R层的内星权向量Bj赋予相同的较小数值，如(4.25)从R层到C层的外星权向量Tj各分量均赋1(4.26)注:用C#实现时,下标从0开始,i=0,1,2,…,n-1j=0,1,

8、2,…,m-14.5.1.3网络的学习算法(2)网络接受输入给定一个输入模式，X