模式识别课程作业01

《模式识别课程作业01》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、模式识别理论与方法课程作业实验报告实验名称：GeneratingPatternClasses实验编号：Proj01-01姓名：学号：规定提交日期：2012年3月12曰实际提交日期：2012年3月12曰摘要：了解概率统计方面的知识，掌握多维高斯分布的性质，以及协方差矩阵的对称半正定性质；用Matlab编程生成高斯分布，高斯模式类，以及在二维空间上表示多维模式的分布。本实验主要利用mvnrnd（m，s，n）函数生成多元高斯分布的随机向量。实验所编写的简短程序，经验证符合实验要求。一、技术论述1、协方差矩阵在统计学与概率论中，

2、协方差矩阵是一个矩阵，这是从标量随机变量到高维度随机向量的自然推广。协方差矩阵一般是对于一个多维随机变量来讲的，表现的是随机变量X各个元素分量(为1维随机变量)之间的相互关系，每一项都对应着其屮两个变U的协方差，组合起来就是协方差矩阵了，比如一个n维的随机变量X，其协方差矩阵之第ij个元素即为E[(Xi-E(Xi))*(Xj-E(Xj))]，Xi和Xj分别表示X的第i个和第j个元素分量。协方差越大，说明两个变量的相关度越高。以一个二维向量为例，你就会发现该矩阵的非对角元素正表示了两个分量之间的相关性，而主对角元素则是各分

3、量本身的方差。2=-Ml)2]E((Xi=piaM[E[(x2E[(x2-/x2)2]Jo221S称为协方差矩阵。2、多元正态分布的概率密度函数多元是指样本以多个变量来描述，或具有多个属性，在此一般用d维特征向量表示，X=[x,,xd]d维特征向量的正态分布用下式表示df2il/2(2-1)其巾H是X的均值向量，也是d维，p=E{X}=[(n,m2,…，pd]T(2-2)S是dxd维协方差矩阵，而S—1是S的逆矩阵，

4、Z

5、是S的行列式L=E{(X—g)(X-

6、i)T}(2-2)S是非负矩阵，在此我们只考虑正定阵，即闷

7、〉0。多元正态分布与单态量正态分布在形式上尽管不同，但有很多相似之处，实际上单变量正态分布只是维数为1的多元分布。当d=l时，S只是一个1x1的矩阵，也就是只有1个元素的矩阵，退化成一个数，

8、L

9、1Z2也就是标准差＜7,S—1也就是0-2,而(X—p)T(X-p)也变成(X-M)2。但是多元正态分布要比单变呈时S杂得多，下面只就有关的特性加以简单叙述。多元正态分布的概率密度函数中的元就是我们前面说得特征向量的分量数，也就是维数。为了方便我们着重讨论二维向量，是一个随机向量，其中每一个分量都是随机变量，服从正态分布。但是一

10、个二维随机向量不仅要求考虑每个分量单独的分布，还要考虑两个随机变量之间的关系。下图的例子中的两个二元正态分布的各个分量是相同的，即它们的期望(pi和p2)、方差cvl和o2都相同，但这两个特征向量在空间的分布却不相同。如下图：对右阁来说，xl和x2有很大的相关性，而对左阁来说，随机变量xl与x2之间的相关性很小。3、matlab中的mvnrnd(m，s，n)函以卜引自matlab帮助文件MVNRNDRandomvectorsfromthemultivariatenormaldistribution.R=MVNRND(MU

11、,SIGMA)returnsann-by-dmatrixRofrandomvectorschosenfromthemultivariatenormaldistributionwithmeanvectorMU,andcovariancematrixSIGMA.MUisann-by-dmatrix，andMVNRNDgenerateseachrowofRusingthecorrespondingrowofMU.SIGMAisad-by-dsymmetricpositivesemi-definitematrix，orad-by

12、-d-by-narray.IfSIGMAisanarray，MVNRNDgenerateseachrowofRusingthecorrespondingpageofSIGMA,i.e.,MVNRNDcomputesR(I，:)usingMU(I，:)andSIGMA(:，:，I).IfMUisa1-by-dvector，MVNRNDreplicatesittomatchthetrailingdimensionofSIGMA.R=MVNRND(MU,SIGMA,CASES)returnsaCASES-by-dmatrixR

13、ofrandomvectorschosenfromthemultivariatenormaldistributionwithacommonby-dmeanvectorMU，andacommond-by-dcovariancematrixSIGMA.二、实验结果(a)实验生成10个符合高斯分布的二维向量，输入均值向量m