最新人工神经网络4-药学医学精品资料.ppt

《最新人工神经网络4-药学医学精品资料.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、最新人工神经网络4-药学医学精品资料8/2/2021输出层隐藏层输入层o1o2om…x1x2xn………………6.1Hopfield网络概述前向神经网网络结构x1o1输出层隐藏层输入层x2o2omxn…………………循环神经网网络结构6.1Hopfield网络概述6.1Hopfield网络概述1982年和1984年，美国物理学家J.J.Hopfield发表了两篇著名的文章，提出了一种可用于联想存储器的反馈神经网络，被称为Hopfield网络。1Neuralnetworkandphysicalsystemswithemergentcollectivecomputationalabilit

2、ies2Neuronswithgradedresponsehavecollectivecomputationpropertieslikethoseoftwostateneurons。第一次将能量函数引入到神经网络中，给出了稳定性的判据；利用模拟电子线路实现了提出的模型，成功用神经网络实现了4位A/D转换；用一组耦合的非线性微分方程来表示Hopfield网络；Hopfield网络在任何初始状态下都能够趋于稳定态；Hopfield网络稳定态是由神经元的连接权数决定的；Hopfield网络主要贡献在于成功实现了联想记忆和快速优化计算。6.1Hopfield网络概述6.1Hopfield网

3、络概述基本的Hopfield神经网络是一个由非线性元件构成的全连接型单层反馈系统，由于输出与输入在时间上存在传输延时，所表示的是一个动态过程，一般可用差分方程或微分方程来描述。Hopfield神经网络模型作为一种循环神经网络，从输出到输入均有反馈连接，每一个神经元跟所有其他神经元相互连接，又称为全互联网络。网络结构见下页。6.1Hopfield网络概述反馈神经网网络结构联接：神经元之间都是互联的wij，每个神经元都没有到自身的联接wii=0。神经元个数h，输入向量维数n，输出向量维数m。h≥n，h≥m，n≥1，m≥1。神经元：输入、输出、隐藏状态变化：非同步、同步输入向量：X=(x

4、1，x2，…，xn)输出向量：O=(o1，o2，…，om)6.1Hopfield网络概述三个神经元的Hopfield网络结构6.1Hopfield网络概述希望网络的联接矩阵存放的是一组这样的样本，在联想过程中实现对信息的“修复”和“加强”，要求：它的输入向量和输出向量是相同的向量，即，X=Y样本集：S={X1，X2，…，Xs}6.1Hopfield网络概述wii=01≤i≤nW是一个对角线元素为0的对称矩阵：W=X1T╳X1+X2T╳X2+…+XsT╳Xs-W0W是各个样本向量自身的外积的和——网络实现的是自相联映射。权矩阵：wij=i≠j6.1Hopfield网络概述6.1Hop

5、field网络概述根据激励函数的不同离散型Hopfield网络1982连续型Hopfield网络1984两种网络基本结构相同，都是反馈网络结构。离散型Hopfield网络激励函数：阶跃函数或双极值函数神经元的输入输出均为二值{0，1}或{-1，1}主要用于联想记忆6.1Hopfield网络概述连续型Hopfield网络激励函数：连续型函数输入输出之间形成连续可微、单调上升的函数关系主要用于优化计算评价指标：稳定性、存储容量、吸引半径、收敛时间6.2离散型Hopfield网络离散型Hopfield网络—1982二值神经网络激励函数：阶跃函数或双极值函数神经元输入输出均为二值{0，1}

6、或{-1，1}双极值型激励函数阶跃型激励函数6.2离散型Hopfield网络网络参数单层网络，假设有n个神经元节点网络输入量X=（x1,x2,……,xn)T；Yj(t)(j=1,2,……,n)为第j个神经元在t时刻的输出量；j为神经元的阈值，激励函数f（）；wij为j输出神经元到i输入神经元的反馈连接权值，共有n×n个,构成连接权系数矩阵W。6.2离散型Hopfield网络网络的第j个神经元的输入、输出关系神经元在t+1时刻的输出为6.2离散型Hopfield网络网络状态对于一个离散的Hopfield网络，其网络状态是输出神经元信息的集合。对于一个输出层为n的神经元网络，其t时刻

7、的状态为一个n维向量：Y(t)=[y1(t),y2(t),…,yn(t)]T由于y1(t)（j=1,2,…,n)一般取二值状态，故n维向量Y(t)有2n个网络状态。6.2离散型Hopfield网络Hopfield网络的工作方式反馈神经网络输出端反馈到其输入端，在输入的激励下，会产生不断的状态变化。当给定输入后，可以求取Hopfield的输出，这个输出反馈到输入从而产生新的输出，这个反馈过程就会一直进行下去。如果Hopfield网络是一个能收敛的网络，则这个反馈与迭代的