基于改进SFS特征选择BP识别算法.doc

《基于改进SFS特征选择BP识别算法.doc》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、基于改进SFS特征选择BP识别算法摘要：特征选择在BP神经网络算法中起着重要作用，顺序前向选择算法(SFS算法)利用前向搜索叠加的方式，从众多的原始特征中获得对分类识别算法最有效的主要特征，实现样本特征维数压缩。提出一种改进SFS特征选择算法，设计了加权判别函数和测试反馈停止准则。实验证明，改进算法能有效压缩样本特征维数，提高BP网络收敛速度和正确识别率。关键词：特征选择；SFS；BP网络；收敛速度中图分类号：TN911?34；TP391.4文献标识码：A文章编号：10047373X(2015)12?0001?0

2、4。引言一个完善的BP神经网络识别系统中，特征选择是不可缺少的一个重要技术环节，它一般处于样本特征数据采集和识别算法两大环节之间，与后续的BP神经网络分类算法的性能息息相关，是模式识别领域研究的核心内容之一。近几年来，在数据挖掘的机器学习领域所涉及的维数都比较高，所提取的特征不能满足不同类的样本差别较大，而同类的样本差别较小的特点，或者提取基于改进SFS特征选择BP识别算法摘要：特征选择在BP神经网络算法中起着重要作用，顺序前向选择算法(SFS算法)利用前向搜索叠加的方式，从众多的原始特征中获得对分类识别算法最有

3、效的主要特征，实现样本特征维数压缩。提出一种改进SFS特征选择算法，设计了加权判别函数和测试反馈停止准则。实验证明，改进算法能有效压缩样本特征维数，提高BP网络收敛速度和正确识别率。关键词：特征选择；SFS；BP网络；收敛速度中图分类号：TN911?34；TP391.4文献标识码：A文章编号：10047373X(2015)12?0001?04。引言一个完善的BP神经网络识别系统中，特征选择是不可缺少的一个重要技术环节，它一般处于样本特征数据采集和识别算法两大环节之间，与后续的BP神经网络分类算法的性能息息相关，是

4、模式识别领域研究的核心内容之一。近几年来，在数据挖掘的机器学习领域所涉及的维数都比较高，所提取的特征不能满足不同类的样本差别较大，而同类的样本差别较小的特点，或者提取的特征彼此相关性很大，并且存在很多冗余的特征。另外，当样本特征维数增加到一定值以后若是再继续增加，反而会导致分类识别算法识别率变差，这些不足严重影响到分类识别算法性能。特征选择的任务就是从原始特征中挑选出对识别算法最有效且数目最少的特征，去除噪音特征和冗余不相关的特征，实现样本特征空间维数的简化，减少识别算法运算复杂度和系统运算时间，提高网络收敛速度

5、。因此，特征选择在BP神经网络算法中起着重要作用。一般情况下，一个完整的特征选择算法包括4个要素：搜索起点和方向，搜索策略，特征评估函数和算法停止准则。文献［1?4］提出了SFS特征选择的算法，文献［5］提出了基于一种特征判别函数的SFS特征选择算法，并在BP网络和向量机识别系统中进行了验证;本文在此基础上，设计了加权判别函数和测试反馈停止准则等改进方法，使特征选择算法更为合理、规范，选出的优秀特征子集更为有效和精简。1SFS算法模型和缺陷分析顺序前向选择算法（SFS）是一种简单的自下而上的搜索方法［5］,首先把

6、目标特征集初始化为空集合,然后根据所设立的评价规则函数处理原始特征集合中的每一个特征，比较每个特征的函数值，选择其中函数值最大的对应特征加入目标特征子集。然后在保留这个入选特征的基础上重复上面的过程，从原始特征集剩余的特征中循环选择剩余的特征与入选的特征匹配，比较组合特征所得到的函数值，选择与入选特征组合所得到的评价函数值最大的特征加入目标特征子集。按照顺序前向选择方式重复以上的选择步骤，直到维数达到规定的最大维数［6］。作为一种最基本的贪心算法，该算法要求每次选择的特征都能使加入后的新特征子集最优［7］。具体的

7、算法描述如下：假设原始特征集有n个特征，表示为：(fd,1

8、a)］=max(［FDR(fd)］),将［FDR(fa)］所对应的特征［fa］加入目标特征子集Xk；Step3：将其余未入选的n-1个特征依次与已入选特征［fa］匹配，得到匹配后的组合特征的准则函数值［FDR］的大小按照升序排序，如果：［FDR(Xk?(Fl})>FDR(Xk?(F2})>—>FDR(Xk?(Fn-l})］(2)则将能使［FDR］值最大的特征加入到目标特征