基于并行pso的模式分类算法及其应用研究

《基于并行pso的模式分类算法及其应用研究》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、摘要模式分类是≯ｌ：多工程领域如自控监测、图像识别、故障诊断、物料配制、医疗诊断等领域广泛应用的一种关键技术。经典的模式分类方法主要是基于多元统计分析方法，近年来人工神经网络技术也逐渐成为模式分类的有效工具。这两类方法各有所长，多元统计分析方法计算规范，有明确的概率意义，但需要有足够多的样本，并且要遵从一定的分布；人工神经网络技术表达能力强，适用范围广，但网络设计困难，训练费时，还存在局部极值等缺点。用于模式分类问题的神经网络大多数采用多层前向神经网络，并且使用反向传播算法（ＢＰ算法）。但ＢＰ算法过度依赖于初始权值的选择，收敛速度缓慢且容易陷入局部最优

2、。ＢＰ算法的上述缺陷使其训练的神经网络的输出具有不一致性和不可预测性，导致模式分类的可靠性降低。遗传算法的并行搜索策略及全局优化特性使其成为同益普遍的神经网络训练算法。通过实验证明，与ＢＰ算法相比，遗传算法（ＧＡ算法）训练的神经网络在提高分类正确率的同时可以加快训练的收敛速度。但是遗传算法复杂的遗传操作如选择、复制、交叉、变异使神经网络的训练时间随着问题的规模及复杂程度呈指数级增长，并且由于缺乏有效的局部区域搜索机制，算法在接近最优解时收敛缓慢甚至出现收敛停滞现象。粒子群优化算法（ＰＳＯ算法）是一种基于群体智能理论的优化算法，通过种群中粒子删的合作与竞

3、争产生的群体智能指导优化搜索。ＰＳＯ保留了基于种群的全局搜索策略，采用的速度一位移模型操作简单，避免了复杂的遗传操作。随着科学计算的不断发展，问题搜索空问的不断扩大，面对越来越复杂的搜索空ＩｈＪ，传统的进化计算的方法通常与种群规模、参数的选择、问题的复杂程度等因素有关，当种群规模较大、参数较复杂、搜索空问增大时，在单个ｃＰＵ上运行的优化算法通常需要很长的计算时问，甚至有时无法得到满意的结果。进化计算出于其本身的内在的并行性，特别适合大规模的并行计算。将并行计算机的高速并行性和进化计算的天然并行性相结合，能够有效的解决了大规模的优化问题。本文提出了～种并

4、行粒子群优化算法ＰＰＳＯ，该算法对采用Ｍａｓｔｅｒ－Ｓｌａｖｅ及ＳＰＭＤ桀于并行Ｐｓｏ的模式分类算法及』ｅ应用研究相结合的并行编程模式，主进程主要完成种群随机初始化、任务的分发和根据适应值进行粒子的选择．从进程主要完成粒子适应值的计算。该算法采用速度一位移搜索模型，操作简单，计算复杂度较低，并通过惯性权重协调全局搜索结果与并行局部搜索结果，既能以较大的概率保证最优解，克服ＢＰ算法局部最优的缺陷，又可以提高局部区域的收敛速度，避免ＧＡ算法在局部区域搜索过程中的收敛停滞现象，同时提高求解的速度。本文将并行ＰＳ０算法用于优化单个多层前向神经网络和神经网络集成

5、技术中，粒子群中的每一个粒子的分量映射为神经网络中的一组不同权值，在曙光天潮ＴＣ３０００服务器上，利用ＭＰＩＣＨ并行环境设计实现了该并行程序，对入侵检测数据及ＢｒｅａｓｔＣａｎｃｅｒ模式分类数据进行测试。实验结果表明，并行的ＰＳ０算法是有效的神经网络训练算法，用于神经网络集成中解决模式分类问题，不仅能提高网络的泛化能力，提高分类误差精度，而且能加快收敛的速度，具有较好的加速比。关键词并行计算，ＰＳＯ，神经网络，模式分类，神经网络集成ＩＩＡＢＳＴＲＡＣＴＰａｔｔｅｒｎｃｌａｓｓｉｆｉｃａｔｉｏｎｉｓａｋｉｎｄｏｆｔｅｃｈｎｏｌｏｇｙｕｓｅｄｉｎａｌｏｔｏ

6、ｆｐｒｏｊｅｃｔｆｉｅｌｄｓｉｎｃｌｕｄｉｎｇａｕｔｏｍａｔｉｃｃｏｎｔｒｏｌｍｏｎｉｔｏｒ，ｉｍａｇｅｒｅｃｏｇｎｉｔｉｏｎ，ｔｒｏｕｂｌｅｄｄｉａｇｎｏｓｅ，ｓｕｐｐｌｉｅｓｃｏｍｐｏｕｎｄ，ｍｅｄｉｃａｌｄｉａｇｎｏｓｉｓ，ｅｔｃ．ＴｈｅｃｌａｓｓｉｃａｌｃａｔｅｇｏｒｉｚｅｄｍｅｔｈｏｄｏｆｐａｔｔｅｒｎｃｌａｓｓｉｆｉｃａｔｉｏｎｉｓｍａｉｎｌｙｔＯｃｏｕｎｔｔｈｅａｎａｌｙｔｉｃａｌｍｅｔｈｏｄｂａｓｅｄｏｎｐｌｕｒａｌｉｓｍ．Ｉｎｒｅｃｅｎｔｙｅａｒｓ，ａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗｏｒｋｔｅｃｈｎｏｌｏｇｙｂｅｃｏｍｅｓｅｆｆ

7、ｅｃｔｉｖｅｔｏｏｌｔｈａｔｐａｔｔｅｒｎｃｌａｓｓｉｆｉｅｄｇｒａｄｕａｌｌｙｔｏｏ．Ｔｈｅｓｅｔｗｏｋｉｎｄｓｏｆｍｅｔｈｏｄｓｈａｖｅｔｈｅｉｒｏｗｎｓｔｒｏｎｇｐｏｉｎｔｓ．Ｐｌｕｒａｌｉｓｍｃｏｕｎｔｓｔｈｅａｎａｌｙｔｉｃａｌｍｅｔｈｏｄｃａｌｃｕｌａｔｅｓｎｏｒｍａｌｌｙ，ｔｈｅｒｅａｒｅｃｌｅａｒｐｒｏｂａｂｉｌｉｔｙｍｅａｎｉｎｇｓ，ｂｕｔｎｅｅｄａｂｕｎｄａｎｔｓａｍｐｌｅｓ，ａｎｄｓｈｏｕｌｄｃｏｍｐｌｙｗｉｔｈｃｅｒｔａｉｎｄｉｓｔｒｉｂｕｔｉｏｎ．Ｔｈｅａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗｏｒｋｔｅｃｈｎｏｌｏｇｙｉｓｓｔ

8、ｒｏｎｇｉｎａｂｉｌｉｔｙｔｏｅｘｐｒｅｓｓａｎｄｓｕｉｔａｂｌｅｆｏ??ｅｘｔｅｎｓｉｖｅｒ