流域年均含沙量bp模型问题分析

《流域年均含沙量bp模型问题分析》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、流域年均含沙量BP模型问题分析摘要：本文在用人工神经网络BP模型对流域年均含沙量进行多因素建模过程中，对BP算法进行了改进。在学习速率η的选取上引进了一维搜索法，解决了人工输入η时，若η值过小，收敛速度太慢，η值过大，又会使误差函数值振荡，导致算法不收敛的问题。建模实践表明，改进后的BP算法可能使网络误差函数达到局部极小点，提高了算法的拟合精度。关键词：BP算法学习速率年均含沙量一维搜索法　　我国河流众多，自然资源十分丰富，但江河流域水土流失非常严重，给国家的可持续发展以及生态环境带来较大的危害。对于流域产沙的定量研究，一般采用单因子线性回归方法。这类方法虽然也能反映出

2、某种统计特性，但不能刻画自然界复杂的非线性特性。人工神经网络BP网络模型是复杂非线性映射的新方法。在引入这一新的定量研究方法对流域年均含沙量进行建模预测时发现：算法中学习速率η值的选取对算法成败起着关键作用，若η值过小，收敛速度太慢，而η值过大，又会使误差函数值不下降，导致算法不收敛。本文正是针对这一问题进行了探讨。1BP网络模型及学习率η固定的弊端　　人工神经网络理论是80年代中后期迅速发展起来的一门前沿科学，其应用已渗透到各个领域[1]。BP(BackPropagation)神经网络模型是人工神经网络理论的重要模型之一，应用尤为广泛。尽管BP网络模型发展逐步成熟，但

3、仍然存在许多问题，在理论上需要完善[2]。BP算法主要包括两个过程，一是由学习样本、网络权值ω从输入层→隐含层→输出层逐次算出各层节点的输出；二是反过来由计算输出与实际输出偏差构出的误差函数E（ω），用梯度下降法调节网络权值，即ωk+1=ωk+η()使误差E(ωk+1)减小。　　上式中的η为学习速率，即沿负梯度方向的步长。对于BP算法学习速率η的选取标准，一些研究者凭经验认为取0～1之间较合适，但这并无理论依据。实质上，η大小的选取对算法的成败起关键作用，步长过大，误差函数值可能发生振荡，甚至出现不收敛，而步长过小，收敛速度又太慢，并且在每一次迭代中，可选步长也不一样。

4、总之，对于BP算法固定的学习速率η不可能使网络达到局部极值点。为此，本文引进一维搜索法，在每一次迭代过程中让计算机自动去寻找一个最优的步长，这样可使网络收敛到局部极值点。2BP算法及其改进2.1BP算法步骤　　1°随机抽取初始权值ω０；　　2°输入学习样本对（Xp,Yp），学习速率η，误差水平ε；　　3°依次计算各层结点输出opi,opj,opk；　　4°修正权值ωk+1=ωk+ηpk,其中pk=,ωk为第k次迭代权变量；　　5°若误差E<ε停止，否则转3°。2.2最优步长ηk的确定　　在上面的算法中，学习速率η实质上是一个沿负梯度方向的步长因子，在每一次迭代中如

5、何确定一个最优步长ηk，使其误差值下降最快，则是典型的一维搜索问题，即E(ωk+ηkpk)=(ωk+ηpk)。令Φ(η)=E(ωk+ηpk)，则Φ′(η)=dE(ωk+ηpk)/dη=E(ωk+ηpk)Tpk。若ηk为(η)的极小值点，则Φ′(ηk)=0，即E(ωk+ηpk)Tpk=-pTk+1pk=0。确定ηk的算法步骤如下　　1°给定η0=0,h=0.01,ε0=0.00001；　　2°计算Φ′(η0),若Φ′(η0)=0,则令ηk=η0，停止计算；　　3°令h=2h,η1=η0+h；　　4°计算Φ′(η1)，若Φ′(η1)=0，则令ηk=η1，停止计算；　　若Φ′

6、(η1)>0，则令a=η0,b=η1；若Φ′(η1)<0，则令η0=η1，转3°；　　5°计算Φ′(a)，若Φ′(a)=0，则ηk=a，停止计算；　　6°计算Φ′(b)，若Φ′(b)=0，则ηk=b，停止计算；　　7°计算Φ′(a+b/2),若Φ′(a+b/2)=0，则ηk=a+b/2，停止计算；　　若Φ′(a+b/2)<0,则令a=a+b/2;若Φ′(a+b/2)>0，则令b=a+b/2　　8°若｜a-b｜<ε0，则令，ηk=a+b/2,停止计算，否则转7°。2.3改进BP算法的特点分析　　在上述改进的BP算法中，对学习速率η的选取不再由

7、用户自己确定，而是在每次迭代过程中让计算机自动寻找最优步长ηk。而确定ηk的算法中，首先给定η0=0，由定义Φ(η)=E(ωk+ηpk)知，Φ′(η)=dE(ωk+ηpk)/dη=E(ωk+ηpk)Tpk，即Φ′(η0)=-pTkpk≤0。若Φ′(η0)=0，则表明此时下降方向pk为零向量，也即已达到局部极值点，否则必有Φ′(η0)<0，而对于一维函数Φ(η)的性质可知，Φ′(η0)<0则在η0=0的局部范围内函数为减函数。故在每一次迭代过程中给η0赋初值0是合理的。　　改进后的BP算法与原BP算法相比有两处变化，即步骤2°中