基于改进粒子群算法的最优特征子集研究.pdf

《基于改进粒子群算法的最优特征子集研究.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、64传感器与微系统(TransducerandMicrosystemTechnologies)2010年第29卷第9期基于改进粒子群算法的最优特征子集研究侯大军，朱伟兴(江苏大学电气信息工程学院。江苏镇江212003)摘要：特征选择是模式识别系统的难点。针对高维数据对象，先运用改进粒子群优化(PSO)算法快速、有效地从特征样本中提取一组最优特征子集，然后采用最小二乘支持向量机(LSSVM)分类器对最优特征子集进行分类，验证特征选择的好坏。经大量实验验证，在保证分类正确率的前提下，该方法有效提高了特征选择效率。关键词：特征选择；粒子群优化算法；最小二乘支持向量机中图分类号：TP39

2、1．41文献标识码：A文章编号：1000-9787(2010)09-0064-03OptimizationofasubsetoffeaturesbasedonmodifiedparticleswarmoptimizationHOUDa-jun，ZHUWei—xing(SchoolofElectricalandInformationEngineering，JiangsuUniversity，Zhenjiang212003，China)Abstract：Featureselectionisaverydifficultproblemsformoderecognitionsystem．F

3、orhishdimensiondata，themodifiedparticleswarmoptimization(PSO)algorithmwaseffectivelyandquicklyappliedtothefeatureextractionoftheoptimumsamples．Theoptimumsampleswererecognizedbythesupportvectormachineclassifier，whichischeckedhowtousethefeatureselection．Experimentalresultsonthedatabaseshowthism

4、ethodcallguaranteethecorrectrateofclassificationandimprovetheefficiencyoffeatureselection．Keywords：featureselection；particleswarmoptimization(PSO)algorithm；leastsquaressupportvectormachine0引言(PSO)算法提取出一组最优特征，进而验证了此方法的可特征选择是模式识别中的关键环节，特征选择质量的行性。好坏直接影响到识别的成败，因此，受到科研人员的普遍重1特征选择建模与分类视。特征选择中的搜索问题是

5、一个NP难题。穷尽式搜索在实际问题中，一般情况下在进行特征提取时会存在由于其计算量过大，不可能得到广泛应用。1978年，Kittler一些无关或不重要的特征，这些预先并不知道。无关或不重要的特征有可能引入噪声，甚至对识别的正确率有负面J提出“分支定界算法”，它是一种自上而下方法，但具有回的影响。更进～步说，少量的特征可以减少系统的花费。溯功能，可使所有的特征组合都被考虑到，这样计算量还是因此，很有必要通过特征压缩来寻找一组最佳特征子集。很大。此后出现的顺序前进法(SFS)，顺序后退法(SBS)以图1为特征选择建模框架。及改进的广义顺序前进法(GSFS)，广义顺序后退法(GS—Bs

6、)等，这些启发式搜索策略实际上属于贪心类算法，搜索计算量较小，在原始特征之间相关性较小的情况下，这类算法能够取得较好的效果。但存在明显的缺点：特征一旦被加入或剔除，易出现搜索结果陷于局部最优的“筑巢”现图1特征选择建模框架象。为克服这些缺陷，出现了增1减r法(PTA)，先顺序加Fig1Modelingoffeatureselection入1个特征再依次剔除r个特征，但这种l和r很难确定。1．1改进的离散二进制PSO算法KudoM等人提出了比启发式搜索更有优势的随机搜索1．1．1离散二进制PSO算法基本原理与改进算法策略，如遗传算法]，但出现早收敛、在进化后期搜索效率基本PSO算法

7、是用于实值连续空间，然而，特征选低的问题。鉴于以上情况，本文采用改进粒子群优化择是组合优化问题，因而采用离散形式的PSO算法】。收稿日期：2009-10-29第9期侯大军，等：基于改进粒子群算法的最优特征子集研究根据下面2个公式来更新粒子的速度和位置为一个种群，其中，第i个微粒表示为一个．，维的向量=(k+1)=删()+clr1(k)(pBest()())十[，⋯，r，i=1，2，⋯，m。如果的第位为1，则此c2r2(k)(gst，(k)一(k))，(1)特征被选中；否则，没有被