小波神经网络模型改进方法

《小波神经网络模型改进方法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、小波神经网络模型改进方法　　摘要：为了改善小波神经网络（WNN）在处理复杂非线性问题的性能，针对量子粒子群优化（QPSO）算法易早熟、后期多样性差、搜索精度不高的缺点，提出一种同时引入加权系数、引入Cauchy随机数、改进收缩扩张系数和引入自然选择的改进量子粒子群优化算法，将其代替梯度下降法，训练小波基系数和网络权值，再将优化后的参数组合输入小波神经网络，以实现算法的耦合。通过对3个UCI标准数据集的仿真实验表明，与WNN、PSOWNN、QPSOWNN算法相比，改进的量子粒子群小波神经网络（MQPSOWNN）算法的运行时

2、间减少了11%～43%，而计算相对误差较之降低了8%～57%。因此，改进的量子粒子群小波神经网络模型能够更迅速、更精确地逼近最优值。关键词：小波神经网络；改进的量子粒子群；参数组合优化0引言小波神经网络（WaveletNeuralNetwork，WNN）自提出以来得到了广泛应用，然而，传统WNN模型存在精度差、不稳定、易早熟等缺点。与此同时，量子粒子群优化（QuantumbehavedParticleSwarmOptimization，9QPSO）算法虽然对传统粒子群优化（ParticleSwarmOptimizatio

3、n，PSO）算法进行一定的改进，但仍然没有完全摆脱PSO容易陷入局部最优的缺点，并存在着易早熟、后期多样性差、搜索精度不高等缺陷。基于此，本文将在前人的研究基础上，提出一套QPSO算法的改进方案，并用改进后的QPSO算法代替梯度下降法，以均方差（MeanSquaredError，MSE）误差为目标函数，优化WNN的小波基系数和网络权值，再将优化后的参数组合输入WNN模型进一步精确优化，从而实现两种算法的耦合。通过实验分析可以证明，改进后的WNN具备更高的收敛精度和更快的收敛速度，对于解决复杂非线性问题拥有更好的泛化能力、

4、容错能力以及学习能力。1量子粒子群算法及其改进1.1量子粒子群算法为了克服传统PSO算法的缺陷，Sun等[1]提出QPSO算法，提高了粒子群的全局收敛能力。由于算法在迭代过程中，仅存在粒子位置的变化，因此计算大大简化，主要迭代方程归纳为：9其中：i=1，2，…，M；n=1，2，…，N；M为粒子的种群规模；N为粒子的维数；t为当前迭代次数；r1、r2和u均为[0，1]的随机数；pi（t）为粒子的个体最优位置；pg（t）为粒子的全局最优位置；p（t）为pi（t）和pg（t）之间的随机点。β为收缩扩张这个说法是标准表达吗？请明

5、确。是否应该为收缩-扩张系数？系数，是量子粒子群算法唯一的初始参数，通常情况下，β的值随着迭代次数增加而线性减小[2]，即：β=0.5+（1-0.5）（T-t）/T（2）其中T为最大迭代次数。当u≤0.5时，β取正号；当u>0.5时，β取负号。与其他智能算法不同，量子粒子群只有收缩扩张系数β作为唯一的初始参数，因此它具有易控制、收敛快以及全局搜索能力强等特点，但也存在以下几点问题：1）量子粒子群算法没有在根本上改变标准粒子群在后期容易陷入早熟的问题，相关研究[3]表明，随着迭代次数的增加，种群的多样性逐步减弱，粒子的全局

6、搜索能力也会随之降低。2）在量子空间里，单个粒子没有速度向量的指引，后期搜索能力较弱，并且随着β参数的递减，粒子的搜索空间也逐步压缩，容易陷入早熟，导致搜索精度不高。1.2改进的量子粒子群算法9为了改善QPSO算法性能，Sun等做了许多工作，比如提出了概率分布机制，维持种群的多样性[4]；与模拟退火算法相结合，提高全局搜索能力[5]；利用免疫记忆来提高粒子的收敛速度[6]等。此外，Coelho[7]提出了基于Gaussian分布的QPSO算法，通过引入变异算子改善后期搜索能力；林星等[8]提出混沌QPSO优化算法，具有较

7、好的搜索精度和较强的克服早熟的能力；许少华等[9]引入量子Hadamard门操作和全局自适应因子，改善了QPSO算法的搜索能力等。上述改进方法都能在一定程度上改善了QPSO算法的性能，但算法的改进应是一个系统工作，仅靠一两个方面的改善，效果非常有限，甚至可能会带来一些负面效果，比如提高粒子搜索精度可能降低收敛速度，加快搜索可能陷入早熟，所以，本文针对QPSO算法固有缺陷，提出从收敛精度、搜索速度以及克服早熟能力的三个方面综合考虑，全面系统地设计改进方案，主要包括以下4点。1）加权系数。式（1）中平均最优位置mbest仅仅

8、是由处于每个维度上最优粒子的简单求和平均得出，这就等同于假定了每个粒子在空间搜索中所做贡献是一样的，而在实际情况中这显然是不合理的。虽然在多数情况下，传统的处理方式是可行的，但是为了降低算法的随机性，提高粒子搜索精度，本文引入加权系数[10]对原算法进行改进。9在每次迭代时，通过计算出适应值pi（t），筛选出每一个维