神经网络实验双向联想记忆网络

《神经网络实验双向联想记忆网络》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、双向联想记忆网络——神经网络导论实验二二〇一〇年十月三十日I.实验目的熟悉Kosko型双向联想记忆网络的原理和结构，通过仿真实验掌握具体实现方法，了解该网络的功能及特性，加深对该类网络稳定状态和能量函数等概念。II.实验原理联想分为自联系和异联想。双向联想记忆（BidirectionalAssociationMemory），即BAM，可以存储两组矢量，并且在可能存在噪声或者破损时，联想可以使样本复原。如图1所示，矢量Α和矢量B分别有N个和P个节点，两层之间双向连接。假定B到TΑ为正向传输，权矩阵为W，那么反向A到B的反向连接权矩阵为W。若正向连接出于稳定的状态，那么反向

2、连接的作用也是稳定的。b0b1b2bP-1B...WWTA...a0a1aN-1图1BAM网络结构当输入任意矢量时，网络经过若干次的迭代演变至稳态，其过程为：WB()ttA(1)TWA(tt1)B(2)WB(tt2)A(3)直到A和B达到稳态，演变过程结束。网络学习遵循Hebb规则，给定M对双极性矢量对：(AB,),(AB,),(A,B)0011MM11那么正，反向权矩阵为：M1TWABsss0M1TTWBAsss0如果BAM网络神经元函数阈值为0，则成为齐次BAM网络，其能量函数表示为：2/911TTTTE(,)ABAWB

3、BWAAWB22若神经元非线性函数为f，则描述齐次BAM网络的动态特性的差分方程为：正联想（BA）Pati(1)fwbtijj()j1正联想（AB）Nbti(2)fwatiji(1)i1III.实验内容和步骤1i.给定样本矢量的权值矩阵和能量值计算根据Hebb规则和Hopfield网络对能量的定义容易计算得到：连接权值WW=422-20-20-240200-420202-2200020-2-422-2-4002020-2-20222-4-20200-2000-2024-2-202-2202-4-204-20-402

4、4-20-22422-20-20-2400-22-20-2420-40-2220-20-200-2-4002020-2-22400-20-202202-2-202020002-2202-4-204稳定状态能量EE158,E142,E158,E146;1234ii.网络的联系能力选择标准样本进行迭代运算直到网络稳定，验证对应于A是否能得到B以验证网络稳ii3/9定性。经过编程迭代验证，通过上面计算出的权值矩阵和符号函数的非线性作用，经过一次迭代，即联想成功，没有偏差。即：AiisgnWB,(i1,2,3,4)TBiisgnWA,(i1

5、,2,3,4)2iii.网络的抗噪声能力以标准矢量A随机两位取反得到1A1,1,1,1,1,1,1,1,1,1,1,1,1,1,11带入网络中，迭代到稳定，得到结果为AAB,;B1111和原始标准样本相等。过程经过了两次迭代运算，期间能量变化为E118,E142,E158;012得到的稳定结果和原始标准样本相比，A和B分别变化了四位和两位。113iv.噪声对联想能力的影响在去反位数相同的情况下，对同一矢量不同位取反，会得到不同的学习过程和学习结果，在这里为体现一般性，对于每种情况，取2000次运算得到的平均性能。结果如表1示。表1噪

6、声对网络联想能力的影响1迭代次数改变元素个数标准矢量变反位数恢复正确率平均值平均值12.00000.0000100.0%A22.00000.154598.97%132.09750.663595.58%12.00000.0000100.0%A22.01600.226598.49%232.17651.248591.68%11.92750.072599.52%A21.99050.297098.02%332.06350.718595.21%12.00000.0000100.0%A22.01300.539096.41%432.09051.544089.71%4/9v.正反抗噪声能

7、力类似于iv.的操作，对标准矢量BB,,做相同的操作，取两千次结果的平均值，可以14得到表2的结果。表2噪声对网络联想能力的影响2迭代次数改变元素个数标准矢量变反位数恢复正确率平均值平均值12.0000.0000100.0%B22.21600.824591.75%132.33602.297577.03%11.78050.219597.80%B22.06850.546594.54%232.33951.997080.03%11.90200.098099.02%B22.02700.857091.43%332.20302.560074.40%11