神经网络控制02 (中文)

《神经网络控制02 (中文)》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、HOPFIELD神经网络（最优化网络）为了得到更深入的信息，需要涉及P.K.Simpson的《人工神经系统》（pp.46）。y1pynpyipy2pynyiy2y1w21winw2iw12wniwi2wiiw22w11wnn输出输入注意：上图并未画出具体的连接。每个神经元结点与所有神经元结点之间都存在连接。用wij.表示连接的权值。输入向量用模p表示Yp=(y1p,y2p,yip,ynp)学习（编码）由以下方程完成：或者（其中y=±1）(1)np是储存在网络W中总的模式数，方程（1）明确地表示为[wij=wji;{wii=0，其中yi=±1

2、}](2)回忆的功能由下方程表示j=1,2,…,n（3）注意表示第i个神经元的总输入，而S(●)表示二进制的S型{函数S(x)=(4)回忆的过程会不停的更新直到函数收敛，例如，所有神经元的所有输出不在改变。例子n=4Y1=(1–11-1)Y2=(1111)我们有2个模式，将它们编码储存并只用一部分信息将他们回忆起来。1、学习（编码）W=(Y1TY1-I)+(Y2TY2-I)=上式中减去一个单位矩阵I使得wii=0。2、回忆让我们把下面的值输入网络，Y=(1–111)≈Y2输入的Y和储存的Y2相近但不完全一样。（1）更新第一个神经元==经过这

3、次更新，4个神经元有以下的状态（输出）：y1(t)=1y2(t)=-1y3(t)=1y4(t)=1（2）更新第二个神经元==经过这次更新，4个神经元有以下的状态（输出）：y1(t)=1y2(t)=1y3(t)=1y4(t)=1（3）更新第三个神经元==（4）继续更新第四个神经元==经过最后这次更新，输出为：Y=(1111)这刚好与Y2一样。结论：我们介绍了HOPFIED神经网络的记忆能够精确的改正和识别存在着一些噪音的Y2。HOPFIELD神经网络的稳定性和容量网络对输入是否稳定的呢？定义以下Lyapunov函数(5)其中，Y=(y1y1…

4、yn.)是一个任意向量。ΔL(Y)与Δyi的关系是(6)若你对上述的ΔL(Y)不是很理解，那就看看下面这个直接的例子：假设n=2,=如果y是连续的，则L(Y)也是连续的。==（假设wij=wji）且或方程按以下方式更新：若>0则>0；若<0则<0；总之，

5、数）LL=x12+x22+…xn2简单地假设所有的fi(x)=-xi例如，最初的微分方程(xi’=-xi)是一个衰减函数，那么这就意味着至少有一个输入(xi)在改变即()，那么这个系统就消耗能量，例子中()。当所有的输入停止改变即()，该系统将保持稳定。Hopfield神经网络中可以储存多少个模例如：当n=10假如我们将模数保持在一下的话，我们获得正确回忆的可能性将会非常高。结论：1.HOPFIELD神经网络具有非常有限的储存容量。2.只有二进制模式的HOPFIELD神经网络具有学习功能。3.HOPFIELD神经网络能够从局部信息中构建完整

6、的信息，这在噪音环境中非常有用。例如它可以作为在噪音环境中检测错误的一种理想网络。4.HOPFIELD神经网络在异步更新下可以保持稳定。5.HOPFIELD神经网络.对并行处理非常理想。HOPFIELD神经网络的扩展动态方程：，wij=wji(7)yi=S(ui)(9)Ii是外部输入，S(·)是非线性方程，Ri和Ci是常数。例如n=2，y1=S(u1)，y2=S(u2)(10)w111/C1Sw211/R1Sw121/C2S1/R2Sw22I1I2++++++u1u2y1y2扩展HOPFIELD神经网络的稳定性假设下列的Lyapunov函数

7、=yiyi=S(ui)ui==但uiuiui=S-1(yi)yi=则例如，是一S型函数那<=0且=0若=0=0的点就是L稳定的平衡点。当L是有界函数，该神经网络必定收敛于L函数的最小值。例子假设程序：y(t)=ay(t-1)+bu(t-1)+n(t)n(t)=0表示白噪音（无噪音），u(t)是输入，y(t)是输出。通过下面的L函数来确定矩阵a和b。和的值是的L最小。将方程展开=为使L最小，我们建立一个相应的Hopfield神经网络a^,b^Ua^,Ub^Ua^,Ub^a^,b^则f(Ua^)f(Ub^)2Wyy(0)2Wyu(0)2Wyu(

8、0)2Wuu(0)a^b^b^a^Ua^Ub^++2Wyy(1)2Wyu(1)HOPFIELD神经网络也可以整定过程参量。（第二部分笔记结束）