基于联想记忆的Hopfield神经网络的设计与实现-张少平

《基于联想记忆的Hopfield神经网络的设计与实现-张少平》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第45卷第1期上海师范大学学报(自然科学版)Vol．45，No．12016年2月JournalofShanghaiNormalUniversity(NaturalSciences)Feb．，2016DOI:10．3969/J．ISSN．1000－5137．2016．01．003基于联想记忆的Hopfield神经网络的设计与实现张少平，徐晓钟，马燕(上海师范大学信息与机电工程学院，上海200234)摘要:介绍了反馈型神经网络Hopfield网络的定义、原理、模型和基本学习规则，并构造了一个用于联想记忆的Ho

2、pfield神经网络模型．对实验结果进行分析、比较，实验结果表明:Hopfield神经网络用于数字识别是可行、有效的;该方法较传统神经网络能提高网络的记忆能力和数字识别的正确率;该方法有别于以往的BP神经网络的模式识别，结合一些优化算法，如遗传算法，能对Hopfield神经网络的联想记忆稳态进行优化，增强神经网络的联想记忆能力．关键词:Hopfield神经网络;联想记忆能力;数字识别;MATLAB;遗传算法中图分类号:TP183文献标志码:A文章编号:1000-5137(2016)01-0016-050引

3、言神经网络(NeuralNetwork，NN)通过对人脑或生物神经网络基本特征的抽象和建模，用大量简单计算单元(神经元)构成非线性系统，研究非程序的、适应性的和大脑神经网络的信息处理、存储和检索功能．因而神经网络具有学习、记忆和计算等智能处理功能，联想记忆是目前NN的一个重要研究课题．［1］Hopfield网络模拟了生物神经网络的记忆功能，可以看成是非线性联想记忆或按内容寻址存储器，研究Hopfield神经网络的联想记忆———数字识别功能有重要意义．噪声数字的识别具有很广泛的应用前景，本文作者构建了一个离

4、散Hopfield神经网络模型模拟数字识别，该方法较传统神经网络提高了记忆能力和识别的正确率．改进神经网络的记忆样本，然后用Hebb规则对改进的记忆样本进行学习，得到权值矩阵，根据待识别数字的信息联想记忆的数字．1相关基础知识1982年，霍普菲尔德(HopfieldJ)提出了可用作联想记忆的互联网络即Hopfield网络，Hopfield网络采用能量函数的思想形成了一种新的计算方法，阐明了神经网络与动力学的关系，并用非线性动力学的方法来研究这种神经网络的特性，建立了神经网络稳定性判据，并指出信息存储在网络

5、中神经元之间的连接上，形成了Hopfield网络，神经元的输出只取1和0，所以也称为离散Hopfield神经网络．1984年霍普菲尔德和汤克(TankTW)设计与研制模拟电子线路实现的反馈性神经网络，指出神经元可以用运算放大器来实现，所有神经元的连接可用电子线路来模拟，称之为连续Hopfield神经网络．它们都是单层［2－3］对称连接的简单人工神经网络，离散模型可用于联想记忆，连续模型可用于优化计算．1．1离散Hopfield网络离散Hopfield网络(DiscreteHopfieldNeuralNet

6、work，简称DHNN)是单层全互连的，其两种表现形式如图1所示．收稿日期:2014-12-11通信作者:徐晓钟，中国上海市徐汇区桂林路100号，上海师范大学信息与机电工程学院，邮编:200234．E-mail:XXZ-edu@shnu．edu．cn第1期张少平，徐晓钟，马燕:基于联想记忆的Hopfield神经网络的设计与实现17神经元可取二值{0、1}或{－1、1}，任意的神经元i与j之间的突触权值为Wij，神经元之间联接是对称的，即Wij=Wji，神经元自身无联接，即Wii=0，所［4］以DHNN采用

7、对称连接且无自身反馈．但每个神经元都将其输出通过突触权值传递给其他的神经元，同时每个神经元又都接收其他神经元传来的信息，故每个神经元输出的信号经过其他神经元后又可能反馈给自己，可以看出Hopfield网络是一种反图1离散Hopfield网络模型馈神经网络．Hopfield网络中任意神经元i的输入用Ui表示，输出用Vi表示，Vi(t)表示神经元i在t时刻的状态．nUi(t)=∑WijVj(t)+bi．(1)j=1j≠i相应神经元i的输出或状态为:Vi(t+1)=f(Ui(t))．(2)其中的激励函数f(·)

8、可取阶跃函数U(t)或符号函数sgn(t)．如取符号函数，则Hopfield网络的神经元的输出Vi(t+1)取离散值1或－1，即:nìï1∑WijVj(t)+bi≥0j=1ïj≠iVi(t+1)=í．(3)nïï－1∑WijVj(t)+bi＜0îj=1j≠i离散型Hopfield网络是单层的、输入输出为二值的反馈网络，它主要用于联想记忆．当网络的初始［5］态确定后，网络状态按其工作规则向能量递减的方向变化，最后接近或达到平衡点