资源描述:
《人工神经网络原理教学课件作者马锐第7章节课件》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库。
1、第7章自适应共振理论神经网络目录7.1自组织神经网络的提出7.2竞争学习7.3自适应共振理论神经网络的提出及特点7.4ART1神经网络7.5ART2神经网络7.1自组织神经网络的提出(1)自组织神经网络采用类似于人类大脑生物神经网络的无指导学习方式,能够对外界未知环境进行学习或模拟,并对自身的网络结构进行调整,实现对输入模式的自动分类在调整网络结构时,网络按照预定的规则和输入模式,不断调整网络连接权值直至形成一种全局有序的结构,而这种全局有序的结构是通过网络中许多相邻神经元的局部相互作用形成的,这也是自组
2、织的本质自组织神经网络由输入层和输出层(竞争层)构成,两层间的各个神经元采用全连接输入层负责接收外界信息并将输入模式向输出层传递,起“观察”作用输出层负责对输入模式进行“分析比较”,找出规律并进行正确归类自组织神经网络采用竞争学习机制7.1自组织神经网络的提出(2)7.2竞争学习7.2.1竞争学习的概念7.2.2竞争学习规则7.2.1竞争学习的概念竞争学习的基本思想神经网络内同一层的各个神经元之间相互进行竞争,竞争胜利的神经元修改与其相连的连接权,使其朝着更加有利于自身竞争的方向调整竞争学习采用无指导的学
3、习方式网络在学习过程中,能够根据输入模式样本进行自组织,将相似的输入模式样本划分为一类,将不相似的模式样本分离,实现模式样本的类内相似性和类间分离性7.2.2竞争学习规则(1)基本的竞争学习网络分为输入层和竞争层输入层有n个神经元,输入样本是值为0或1的二值向量,输入模式为X=(x1,x2,…,xn)T竞争层有m个神经元,与输入模式对应的竞争层输出模式为Y=(y1,y2,…,ym)T7.2.2竞争学习规则(2)输入层神经元i与竞争层神经元j之间的连接权值为wij,竞争层神经元j的所有连接权之和为1,即满足
4、式竞争学习过程1)网络初始化。按设定网络连接权值{wij}为[-1,+1]区间内的随机值,i=1,2,…,n,j=1,2,…,m2)从p个学习模式中任意选取一个学习模式提供给网络的输入层3)计算竞争层各个神经元的净输入7.2.2竞争学习规则(3)4)计算竞争层各个神经元的输出5)调整与获胜神经元相连的连接权值6)随机选取下一个学习模式提供给网络,返回3),直至全部p个学习模式都已提供给网络7)返回2),直至各个连接权的调整量变得很小为止7.3ART神经网络的提出及特点(1)ART神经网络的提出能够完全模拟
5、大脑可塑性与稳定性的人工神经网络模型1976年由美国Boston大学的S.Grossberg教授提出ART神经网络的特点ART神经网络实现的是实时学习,而不是离线学习ART神经网络解决的是非稳定的、不可预测的非线性问题ART神经网络具有自稳定性7.3ART神经网络的提出及特点(2)ART神经网络能够自行学习一种评价指标,不需要由外界强行给出评价函数ART神经网络能够主动将注意力集中于最有意义的特征,不需要被动地由外界给出各种特征的注意权值ART神经网络可以在近似匹配的基础上进一步学习,具有更好的抗噪性和鲁
6、棒性ART神经网络的学习可以先快后慢,避免了系统振荡ART神经网络可以实现快速直接访问ART神经网络可以通过“警戒”参数来调整判别函数7.4ART1神经网络7.4.1ART1神经网络的结构7.4.2ART1神经网络处理单元模型7.4.3ART1神经网络的学习规则7.4.4ART1神经网络特性分析7.4.1ART1神经网络的结构(1)两层结构输入层(比较层)输出层(识别层)从输入层至输出层的前馈连接从输出层至输入层的反馈连接7.4.1ART1神经网络的结构(2)功能注意子系统包括比较层和识别层作用是对熟悉的
7、事件进行处理,建立熟悉事件对应的内部表示完成自下而上的向量的竞争选择,以及完成自下而上向量和自上而下向量的相似度比较取向子系统包括比较层至识别层之间的双向连接7.4.1ART1神经网络的结构(3)作用是对不熟悉的事件产生响应检验期望向量和输入向量的相似程度;当相似度低于某一给定标准值时,就取消此刻的竞争优胜者,转而从其余类别中选取优胜者7.4.2ART1神经网络处理单元模型(1)ART1网络结构比较层和识别层1个复位信号R2个增益控制信号G1和G27.4.2ART1神经网络处理单元模型(2)比较层有n个神
8、经元输入包括3方面外界输入信号xi,i=1,2,…,n识别层获胜神经元j的反馈信号tij增益控制信号G1输出为ci,i=1,2,…,n,按照“多数表决”原则(也称2/3原则)产生7.4.2ART1神经网络处理单元模型(3)识别层有m个神经元,其输出为yi,j=1,2,…,m,用于表示输入模式中的m个类别;m可以动态增长,用于表示新的分类模式7.4.2ART1神经网络处理单元模型(4)比较层与识别层之间的连接为wij,i=1,2