小脑模型cmac神经网络

《小脑模型cmac神经网络》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第十一章小脑模型（CMAC）神经网络北京科技大学信息工程学院付冬梅fdm2003@163.com62334967第十一章小脑模型（CMAC）神经网络CMAC网络的基本思想与结构模型CMAC网络的工作原理CMAC算法的程序语言描述CMAC网络的泛化能力CMAC网络的几个问题仿真示例生物学研究表明，人脑在人体运动中起到维持躯体平衡、调节肌肉紧张程度、协调随意运动等功能。因此，模拟人的小脑结构与功能无疑是脑的宏观结构功能模拟的重要组成部分。早在1975年，Albus便根据神经生理学小脑皮层结构特点提出的一种小脑模型关联控制器(Cer

2、ebellarModelArticulationController)，简称CMAC网络。经过多年的研究，其中包括Miller,Parks和Wong等人的杰出工作，目前CMAC已得到人们越来越多的重视。CMAC是一种局部逼近网络，算法基于LMS(最小均方)，学习速度快，具有局域泛化(generalization)能力，避免了BP网络的局部最优问题，且易于硬件实现。这些优点使得CMAC网络非常适合用于复杂系统的建模和快速辨识。11-1CMAC网络的基本思想与结构模型人的小脑是通过一些神经纤维束跟脑干相联，并进一步同大脑、脊髓发生联系

3、。人主要靠小脑管理运动功能，它通过小脑皮层的神经系统从肌肉、四肢、关节、皮肤等接受感觉信息，并感受反馈信息，然后将这些获得的信息整合到一特定的区域——“存储器”记忆起来。当需要的时候，将这些存储器储存的信息取出来，作为驱动和协调肌肉运动的指令——控制信号:当感受信息和反馈信息出现差异时，便通过联想加以调整，从而达到运动控制的目的，这一过程便是学习。11-1CMAC网络的基本思想与结构模型Albus根据小脑在生物运动协调方面的重要作用，提出了CMAC网络，其结构模型如图4.1所示：11-1CMAC网络的基本思想与结构模型图11-1C

4、MAC结构CMAC是前馈网，结构见图11-2，有两个基本映射，表示输入输出之间的非线性关系。yAC＋U输入空间杂散编码AP(W)输出输入向量图11-2CMAC结构11-2CMAC网络的工作原理11-2-1概念映射（U——>AC）yAC＋U输入空间杂散编码AP(W)输出输入向量图2-7-1CMAC结构11-2-2实际映射（AC——>AP）11-2-3.杂散存储若输入是n维，每一维有q个量化级，则AC占很大容量。但是，训练样本不可能遍历所有输入空间，在C中被激励的单元是很稀疏的。杂散存储：可将AC压缩到较小的AP中。有多种方法，“除余

5、数法”是其中较好的一种。杂散存储弱点：产生碰撞(冲突)即AC中多个联想单元，被映射到AP的同一单元(见图)，这意味着信息的丢失。（c）邻近两点输入重叠单元=3,有碰撞（b）邻近两点输入重叠单元=3,无碰撞那么CMAC是怎样实现上述各种映射的？碰撞的原因？下面通过一个具体示例来说明（见板书）。11-3CMAC算法及程序语言描述11-3-1学习算法CMAC为有导师的学习算法。设单输出，给定输入/输出样本对（导师信号）：udPp/，Lp,,2,1L=。由d规则调整权值：DwtdytsjppjpP()(())([])=-huR2其中RuP

6、jjcpsc221===å([])将2PR代入得Dwtdytcetcjppp()(())()=-=hh可见：c个单元权值的调整量是相同的。11-3-2学习算法分析CMAC的学习算法与自适应线性神经元的相同。但，因有重叠、碰撞，故对学习算法及收敛性，需予以分析（讨论单输出）。分析算法Gauss-Seidel迭代法;Jacobi迭代法分析情况、结论（1）输入样本有重叠，杂散编码无碰撞若重叠少，解收敛（2）输入样本有重叠，杂散编码有碰撞因碰撞，收敛速度降低、收敛性态变坏、也可能不收敛11-3CMAC算法及程序语言描述0次接收域函数例（b

7、）邻近两点输入重叠单元=3,无碰撞（a）一维c=4c=41（c）邻近两点输入重叠单元=3,有碰撞11-3CMAC算法及程序语言描述11-4CMAC网络的泛化能力最早进行泛化理论研究的是Amaril，他认为泛化是将输入集中样本点的给定邻域映射到输出集中映射点(与样本点对应)的某一邻域。由此可见，泛化能力除了由精度决定外，还取决于映射方式和输入的量化级。所以多层感知器的泛化能力是极其有限的，实践也证明了这点。而CMAC神经网络是在对小脑进行神经解剖生理学研究的基础上提出的，它被证明具有局域泛化能力。CMAC网络中，若两个输入向量相距较

8、近，则它们所触发的神经元有重叠，距离越近，重叠越多；若两个输入向量相距较远，则它们触发的神经元没有重叠。因此CMAC网络具有局域泛化能力，它的泛化能力源自于它的网络结构本身。影响CMAC泛化精度的主要因素有:训练精度、泛化常数和样本点的选择，但其结