资源描述：
《典型相关分析(CCA)附算法应用和程序》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、典型相关分析摘要利用典型相关分析的思想，提出了解决了当两组特征矢量构成的总体协方差矩阵奇异吋，典型投影矢量集的求解问题,使之适合于高维小样本的情形，推广了典型相关分析的适用范围•首先，探讨了将典型分析用于模式识别的理论构架,给出了英合理的描述•即先抽取同一模式的两组特征矢量，建立描述两组特征矢量之间相关性的判据准则函数，然后依此准则求取两组典型投影矢量集，通过给定的特征融合策略抽取组合的典型相关特征并用于分类•最后，从理论上进一步剖析了该方法之所以能有效地用于识别的内在本质•该方法巧妙地将两组特征矢量之间的相关性特征作为有效判别信息，既达到了信息融合之目的，又消除了特征之间的信息冗余，为两组
2、特征融合用于分类识别提出了新的思路.典型相关分析发展的背景随着计算机技术的发展，信息融合技术已成为一种新兴的数据处理技术，并已取得了可喜的进展•信息融合的3个层次像素级、特征级、决策级。特征融合，对同一模式所抽取的不同特征矢量总是反映模式的不同特征的有效鉴别信息，抽取同…模式的两组特征矢量，这在一定程度上消除了由于主客观因素带来的冗余信息，对分类识别无疑具有重要的意义典型相关分析(CanoniealComponentAnalysis:CCA)是一种处理两组随机变量之间相互关系的统计方法。它的意义在于:用典型相关变量之间的关系来刻画原来两组变量之间的关系!实现数据的融合和降维!降低计算复杂程度
3、。二、典型相关分析的基本思像CCA的目的是寻找两组投影方向，使两个随机向量投影后的相关性达到最大。具体讲，设有两组零均值随机变量X=(C>-C2,-sX和CCA首先要找到一对投影方向8和3.,使得投影*和W之间具有最大的相关性，U,和V,为第一对典型变量；同理,寻找第二对投影方向5和6,得到第二对典型变量U2和,使其与第一对典型变量不相关，且U2和之间又具有最大相关性。这样下去，直到X与y的典型变量提取完毕为止。从而x与y之间的相关性分析，只需通过分析少数几对典型变量的关系即可达到目的。三、CCA算法详解x=axa2X2~~nr3y=by+加尹2十…十如y旷⑵p=E[«TxyT31」
4、E『心丁叫”耐旷押闿aElxy^]3丿八£[心、a•pTE[y,T]p«t5vv3考虑到：的极值只与a和B的方向有关,而与它们的大小无关，为了得到唯一解不失一般性，加入限制条件：QSxxOc=『S”卩=1问题变为在约束条件式下，求使准则函数式取最大值的典型投影矢量对^和0求解上述优化问题,可定义拉格朗日函数:心①卩—¥（otg—1）一牛（卩花屏—1）分别对a和卩求导数，并令为零，得到：（?/■石=Sxy0—bSxxa=0,=SyXa—X2Syy3=0.qSx』二^l*^xraS严a=入即卩⑺aT5卩=入1aTSxxa=入1，9F⑻P1SyXa=X2^JSyy0=入R⑼再对上式两端分别左乘"
5、和俨得：右=爲=P记为:(10)(13)对II进行奇异值分解:=人“山！i=Iai=SxxUiPi=Sy；%HHj=仙分别将a：兀,a^x，…a：兀与pRp[x，…仿兀看做是变换后的特征分量：X=(afx,ajx,逐)丁=(a“畑…？"XF=(Bb・0"■…,Bjy)丁=(0i・02,…，Rd)。=W}y.X航Xwx0TX.町.・0叭.(14)(15)(16)投影后的组合特征用于分类，其中变换矩阵为:叭0w=0wy四、典型相关分析应用实例欲研究儿童形态与肺通气功能的关系，测得某小学40名旷12岁健康儿童（身高XI,体重X2,胸围X3）与肺通气功能（肺活量Y1,静息通气Y2和每分钟最大通气量Y
6、3）,分析儿童形态和肺通气指标的相关性，确定典型变量的对数。xl=[140.6,135.7,140.2,152.1,132.2,147.1,147.5,130.6,154.9,142.4,136.5,162,148.9,136.3,159.5,165.9,134.5,152.5,138.2,144.2];x2二[43.7,39.5,4&52,36,45,47,3&4&42,3&5&42,33,49,55,41,53,35.5,42];x3二[77,63,75,8&62,7&76,61,87,74,69,95,80,6&87,93,61,83,66,76];yl=[2.6,2,2.6,2.8,
7、2.1,2.8,3.1,2,2.9,2.33,1・98,3.29,2.7,2.4,2.98,3.1,2.25,2.96,2.13,2.52];y2二[7,7,6.1,10.1,7.4,9.25,8.78,5.31,10.6,11.1,7.77,3.35,10.1,7.8,11.77,13.14,&75,6.6,6.62,5.59];y3=[108,91,101,112,97,92,95,77,80,76,49
