资源描述：
《改进的BP网络初始条件的选取与性能分析》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、北方交通大学学报19921rê{ìIG.诠江r11月JOURNAL01'NORTHERNJIAOTONGUNIVERSITYVo1.16NO.11992改进的BP网络初始条件的选取与性能分析刘晓吴景棠杜锡任们儿P、科学研';'t~所〉捅要:本文给出一种改造的BP网络，网络中各个神经元的状态只耳1..1或-1，这是考虑到其用数字电j~实现的方便性.在此基础上，同叶提出了初始条件选取的方法叫增加in]练速度，这种初始条件的选取也最有可能使网络收敛到全局最佳.尽管网络中神经元的状态取1或一1，但在训练中还是利用Sigmoid，w，社tanh(•).网络的输入既可以是元素~1或一1的模式也可以是任何
2、连续变圭所构成的模式.计算机仿真结果表明，用同样的训练算法，利用本文提出的方法选取初始条件比随机选取初始条仲收敛要快的多，与传统括构相比，该网络具有更好的性能.关键词E问ti'n反馈补f去;1复合拉制/神经元网络BP网络分类号TP301，11网络结构类似于传统的BP网络，如图1所示.网络中包含有输入层In，有I个神经元F隐层H(可以有多层)，每层的冲经元是2的事指数z准输出层Zout，有L个神经元，也是z的事指数z输出层Out，有M个神化元(聚类情况下是模式的类别数).其中各层间的连接方式与传统的网络相同，只是Zout层与Out层间的权值固定.H层与Zout层的神经无数要大于等于聚类模式的类
3、数.设定每个神经元只取1或-1两种状态，对于给定的一组训练模式，每一类模式对应于Zout层的一个输出矢量，各类模式所对应的矢量两两相互正交，这样就限定了网辖最多能区分的模式类为Zout层的神经无个数.Zcut层的正交矢量取定为WaIshlE交矢量.输出层的神经元数为M，即模式的类数，每一类只对应于一个输出神经元为1其它均为一1.设模式类l对应于Zout层的正交矢量Zl=(Zj,ZL'",Z:J,对应于输出层的第l位YI为1，其它为一1，刚Zout层神经元j与Out层神经元l的权值为2本文收到日朗1991-05-08n..0"[层Zout!骂H民1n层国1BP网络结构用Wj1=Z:(j=1,2
4、,…,L)(1)这样，只有当Zout层的输出为矢量ZI时，Out层的第l位为Y1=叫L;Wi1Z;-81)=sgn(L-8,J(2)。1>0为对应的l司值.当Zout层的输出为其它模式对应的正交矢量时，y,=-1•其它各层间的连接方式与传统BP网络相同，即每个神经元的输入为上一层中所有神经元的输出.隐层H可以视具体情况选取多个.输入层的输入既可以是两恒变量1或-1，也可以是任意连续变量.2初始条件的选取及训练方法2.,韧拍案件的选罩下面先讨论输入模式的元素为两值1或一1的情况.假定有L类模式，维数为1，取一个隐层H，有I个神经元，Zout层有L个神经元，Out层有L个神经元.首先取在一组L个
5、元素(L为2的阶乘数〉的Walsh正交矢量EZ~=(zLZL…，Z1)(k=1,2,…,L)(3)设第K类模式对应于矢量Zh，每类模式有N"个训练模式，则输入层In中的神经元i与隐层H中的神经元j之间的权值取为Wií(叫严fl.~主川7…lJj=1,2,...,1"',7)(4)?~其中XKλ=(X/飞XJX，…，X~)为给茸的第K类模式声的第N个训练模式.KN由式(4)确定了W;;(0)后，对于每个训练模式XKN求出隐层H的对应输出HUL[{N的求取下面给出)，然后确定隐层H中神经元j与Zout层中神经元1之间的权值zfVi/'阶(早Nh)-l·平EhfAFZf(5)如果包含多个隐层，则
6、依此类推.对于输入模式元素为连续的情况，首先将其两值化，然后根据以上方法选取初{直.初值取寇后，再用原始的连续输入进行训练.两值化的方法是E将所有训练模式的对应位相加，取均值，以此均值为
7、司值，再对每一输入取符号函数.即:11;=(~Nkr1•~~X~N(6)X~N=sgn(X~.'一μ冒)(i=1,2,…,1)然后由主?确定初始条件.2.2训练方法BP网络典型的训练方站是8方住.每个神经元输出是连续的Sigmoid函数S1(α)=(.1+e-")-I，如图2所示.S(π)a图2连续的Sigmoid函数图3修改后的Sigmoid函数在我们的网络中，神经元的输出只取1或-1.训练方站如下z如
8、前所述，谁输出层Zout到输出层Out的权值是固定的，所以我们只需调节其余的权值，直到桂输出层满足要求为止.给定一组训练模式，确定初始条件，取Sigmoid函数，如图3所示.aS(σ)=(e"-e-国)/(e"+e-)对应于输入模式X=X1，叫，…，析，有Zout层的理想输出Z=(ZI,Z2'…,Zd,和实际输出Z'=(Zi,ZL...,Z~).H层中第i个神经元的状态为:24hJ=S(~W;íX;)(7)输
