一种两阶段判别分析方法.pdf

《一种两阶段判别分析方法.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、学术探讨∙基金项目一种两阶段判别分析方法曾青松（广州番禺职业技术学院信息工程学院，广东广州511483）[摘要]为了解决LDA对复杂分布数据的表达问题，本文提出了一种新的非参数形式的散度矩阵构造方法。该方法能更好的刻画分类边界信息，并保留更多对分类有用的信息。同时针对小样本问题中非参数结构形式的类内散度矩阵可能奇异，提出了一种两阶段鉴别分析方法对准则函数进行了最优化求解。该方法通过奇异值分解把人脸图像投影到混合散度矩阵的主元空间，使类内散度矩阵在投影空间中是非奇异的，通过CS分解，从理论上分析了同时对角化散度矩阵的

2、求解，并证明了得到的投影矩阵满足正交约束条件。在ORL，Yale和YaleB人脸库上测试的结果显示，改进的算法在性能上优于PCA+LDA，ULDA和OLDA等子空间方法。[关键词]非参数化鉴别分析；CS分解；人脸识别；主成份分析；子空间中图分类号：TP391.41文献标识码：A文章编号：1008-6609(2016)05-0014-06性能的下降，这就是LDA/QR的所谓对类中心估计敏感的问1引言题。Chen证明了S的零空间中包含了大部分的鉴别信息，w线性鉴别分析(LinearDiscriminantAnalysi

3、s，LDA)是一[8]因而可以在S的零空间中来求解最优化问题。杨等人提w种有监督的特征提取方法，其主要思想是求解投影向量使得出了具有统计不相关的图像投影鉴别分析方法[9]，Ye对此改同类样本变得紧凑，异类样本尽可能分开。LDA使用参数化进并提出了ULDA(UncorrelatedLDA，ULDA)算法[10]，并对形式的散度矩阵，且没有包含高阶的统计量，因此无法很好的ULDA进行正交化约束扩展提出正交LDA(Orthogonal表达数据的复杂分布。非参数鉴别分析(NonparametricDis-LDA，OLDA)

4、[11]，OLDA得到的所有的鉴别向量都是相互正criminantAnalysis,NDA)采用非参数形式构造散度矩阵，更交的，因此即使在散度矩阵奇异的时候都可以执行，最近被多的考虑样本分布的局部结构特征，能更好的刻画分类边界广泛的应用和扩展。信息，强化分类边界样本的贡献。Fukunaga[1]通过构造非参文章首先运用样本的局部结构特征，构造具有非参数化数化形式的类间散度矩阵来解决两分类问题。Li[2]和Zeng[3]形式的散度矩阵，该方法很好的刻画分类边界信息，突出边扩展了经典的非参数鉴别分析算法，以支持多类情况

5、，但是基界样本对分类的贡献，可以应用复杂分布数据的处理。基于于局部方法构造的类内散度矩阵仍然可能奇异[2]。局部特征构造的散度矩阵，有效的克服样本均值估计有偏的LDA提取的特征个数受到类别数的限制，实际使用时会[4]问题。其次通过SVD分解移除混合散度矩阵的零空间克服遭遇小样本问题。运用正则化方法，通过矩阵平滑可以使[5]类内散度矩阵奇异问题。最后通过应用CS正交分解同时对类内散度矩阵S变得非奇异，但是计算量大。PCA+LDAw角化散度矩阵来求解最优化问题，并在计算过程中运用QL使用PCA把特征维数从D降到N-M(

6、N是样本数，M是类别[6]分解避免了矩阵求逆操作。数)使S变得非奇异，但是S的维数由D降到N-M会损失ww一些鉴别信息。LDA/QR[7]首先将人脸样本投影到一个子空2非参数散度矩阵的构造间，然后在该子空间中进行线性判别分析，不仅克服了LDA假设样本是d维的，训练集包含c个类C，C，…，C，12c的奇异问题，而且大大降低了计算复杂度，但是由于LDA/ck=1,⋯,ck其中Ck类有nk个样本，共n=∑nk个样本。设{xi}表i=1,⋯,nQR的第一步事实上是将人脸样本投影到类间散度矩阵的值k=1i空间，从而如果样本均

7、值估计有偏，则会导致LDA/QR识别示来自第k类的第i个样本，则整个训练集表示为——————————————作者简介：曾青松，男，湖南邵东人，博士，副教授，研究方向：模式识别，数据挖掘。基金项目：广东省自然科学基金：基于图像集的人脸识别若干关键技术研究，项目编号：2015A030313807。-14-学术探讨∙基金项目111c1X=[x,x,⋯,x,⋯,x]。12n1ncHw=[A1,…,Ac](5)n在经典LDA中，计算类间散度矩阵，只用到每一类样本1H=[B,…,B](6)的均值与整体均值的差，很明显，一类样本

8、的均值反映的是t1cn样本的整体信息，没有抓住边界的结构。Zeng等[3]从图论的权函数w(xk,l,δ)定义如下[1-3]，i角度出发，考虑样本点之间的局部邻域结构，提出一种新的klkαkkαkmin{xi-μδ,k(xi),xi-μδ,l(xi)}矩阵的构造方法来提升非参数鉴别分析，同时强化训练集合w(xi,l,δ)=αα(7)klkkkxi-