资源描述：
《采用虚拟训练样本的二次判别分析方法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、第34卷第4期自动化学报Vol.34,No.42007年4月ACTAAUTOMATICASINICAApril,2008采用虚拟训练样本的二次判别分析方法王卫东1杨静宇2摘要小样本问题会造成各类协方差矩阵的奇异性和不稳定性.本文采用对训练样本进行扰动的方法来生成虚拟训练样本,利用这些虚拟训练样本克服了各类协方差矩阵的奇异性问题,从而可以直接使用二次判别分析(Quadraticdiscriminantanalysis,QDA)方法.本文方法克服了正则化判别分析(Regularizeddiscriminantanal
2、ysis,RDA)需要进行参数优化的问题.实验结果表明,QDA的模式识别率优于参数最优化时RDA算法的识别率.关键词小样本问题,二次判别分析,虚拟训练样本,扰动方法,分类器,人脸识别中图分类号TP391.4QuadraticDiscriminantAnalysisMethodBasedonVirtualTrainingSamples12WANGWei-DongYANGJing-YuAbstractThesmallsamplesize"(SSS)problemwillcausethesingularityandi
3、nstabilityoftheperclasscovariancematrices.Thispaperusesperturbingtrainingsamplestoproducevirtualtrainingsamplestoovercomesingularityoftheperclasscovariancematrices.Asaconsequence,theclassi¯erbasedonquadraticdiscriminantanalysis(QDA)canbeuseddirectlyinclassi¯c
4、ation.TheproposedQDAovercomestheproblemthattheparametersofregularizeddiscriminant0analysis(RDA)needsoptimizing.OurexperimentsshowthattheQDAsrecognitionaccuracyissuperiortothatofRDAifitsparametersareoptimized.KeywordsSmallsamplesizeproblem,quadraticdiscriminan
5、tanalysis,virtualtrainingsamples,perturbationmethod,classi¯er,facerecognition高维小样本问题是指各类训练样本的数量小于上克服了样本协方差矩阵的逆阵不稳定性问题.但模式特征子空间的维数,或虽大于子空间的维数,但MECS算法仍局限于原训练样本,对于小样本问题,两者相差不多.前一种情况,小样本问题会造成某些这种算法并不能很好地解决协方差矩阵的逆阵不稳特征提取及分类器算法的参数无法进行估计.如会定性问题.造成类内协方差矩阵奇异,使得如何抽取Fis
6、her[1]如果能够大量地增加训练样本的数量,就可以最优鉴别特征成为了一个公认的难题[2¡3].另外,还方便地解决小样本问题,这就是采用虚拟训练样会引起各类协方差矩阵奇异,导致不能直接使用基本[6¡11]的基本思想.传统的虚拟样本生成方法是在于贝叶斯理论的二次判别分析方法.后一种情况,会图像空间中对原始图像进行简单的几何变换,如平引起协方差矩阵的逆阵不稳定.为了解决各类协方移、旋转、对称变换等.文献[6]提出了一种基于对差矩阵奇异性问题,Friedman等[4]提出了正则化判称变换的虚拟样本生成方法,这种虚拟样本
7、的生成别分析(Regularizeddiscriminantanalysis,RDA).方法是在高维空间内进行计算,所耗费的计算量是RDA通过对各类协方差矩阵与总体协方差矩阵之可想而知的.文献[7]将人脸图像分解为几何特征和间的插值运算,解决了各类协方差矩阵的奇异性问纹理特征,再对图像的几何特征进行变换生成虚拟题.但是RDA方法仍有许多不足之处,例如,如何训练样本.该方法可以生成各种姿态的人脸图像.但优化选取参数¸、°的值等.此外,Thomaz等[5]人脸几何特征的提取是非常困难的,由于图像的噪提出了最大熵协方差
8、挑选法(Maximumentropy音干扰,会使所提取的几何特征产生较大的误差.covarianceselection,MECS),该算法在一定程度在模式的特征子空间中,直接生成虚拟训练样本,不但可以提高模式的识别率,还可以极大地提高收稿日期2006-10-19收修改稿日期2007-06-10算法的效率.文献[8]对训练样本增加了不同的权ReceivedOctober19
