判别分析及MATLAB实现.04.19.ppt

《判别分析及MATLAB实现.04.19.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、判别分析(discriminantanalysis)1距离判别2Bayes判别3Fisher判别4判别分析的MATLAB实现5判别分析概说统计方法（判别分析）:判别分析—在已知研究对象分成若干类型，并已取得各种类型的一批已知样品的观测数据，在此基础上根据某些准则建立判别式，然后对未知类型的样品进行判别分类。距离判别法—首先根据已知分类的数据，分别计算各类的重心，计算新个体到每类的距离，确定最短的距离（欧氏距离、马氏距离）Fisher判别法—利用已知类别个体的指标构造判别式（同类差别较小、不同类差别较大），按照判别式的值

2、判断新个体的类别Bayes判别法—计算新给样品属于各总体的条件概率，比较概率的大小，然后将新样品判归为来自概率最大的总体判别分析:判别分析是利用原有的分类信息，得到体现这种分类的函数关系式（称之为判别函数，一般是与分类相关的若干个指标的线性关系式），然后利用该函数去判断未知样品属于哪一类。对于给定的数据，用classify函数进行线性判别分析，用mahal函数计算马氏距离。1距离判别1.1判别分析的基本思想及意义我们首先给出常见的距离:1.欧氏距离：设有n维向量x=(x1,x2,…,xn),y=(y1,y2,…,yn)

3、，则称为n维向量x，y之间的欧氏距离在MATLAB中，计算欧氏距离有多种方法(1)sqrt(sum((x-y).^2))设x,y是同维行向量(2)sqrt(dot(x-y,x-y))(3)sqrt((x-y)*(x-y)')(4)dist(x,y')例1.设x,y是同维列向量，上述公式是否成立？若不成立如何修改？解：前两个正确，后两个错误，修改如下：sqrt((x-y)'*(x-y))，dist(x',y)2.绝对距离：在MATLAB中，计算绝对距离方法如下(1)sum(abs(x-y))%行向量、列向量均可(2)ma

4、ndist(x,y’)%行向量为n维向量x，y之间的绝对距离.设有n维向量x(x1,x2,…,xn),y=(y1,y2,…,yn)，则称例2.若x为n维行向量，y为n维列向量如何用MATLAB计算x,y的绝对距离？3.闵可夫斯基距离：设有n维向量x=(x1,x2,…,xn),y=(y1,y2,…,yn)，则称为n维向量x，y之间的闵可夫斯基距离.显然，当r=2和1时闵可夫斯基距离分别为欧氏距离和绝对距离.在Matlab中如何计算？4.马氏距离：马氏距离是由印度统计学家马哈拉诺比斯(PCMahalanobis)提出的，由

5、于马氏距离具有统计意义，在距离判别分析时经常应用马氏距离.(1)同一总体的两个向量之间的马氏距离设有n维向量x=(x1,x2,…,xn),y=(y1,y2,…,yn)，则称为n维向量x，y之间的马氏距离.其中为总体协方差矩阵.显然，当为单位矩阵时马氏距离就是欧氏距离.(2)一个向量到一个总体的马氏距离设x是取自均值向量为μ，协方差矩阵为Σ的总体G的一个行向量，则称为n维向量x与总体G的马氏距离.MATLAB中有一个命令：mahal—计算马氏距离平方Generatesomecorrelatedbivariatedat

6、ainXandcomparetheMahalanobisandsquaredEuclideandistancesofobservationsinY:X=mvnrnd([0;0],[1.9;.91],100);Y=[11;1-1;-11;-1-1];d1=mahal(Y,X)%Mahalanobisd1=1.359221.101323.80861.4727d2=sum((Y-repmat(mean(X),4,1)).^2,2)%SquaredEuclideand2=1.93101.88212.12282.0739(3)两

7、个总体之间的马氏距离设有两个总体G1,G2，两个总体的均值向量分别为，协方差矩阵相等，皆为Σ,则两个总体之间的马氏距离为通常，在判别分析时不采用欧氏距离的原因在于，该距离与量纲有关.马氏距离有如下的特点：1、马氏距离不受计量单位的影响;2、马氏距离是标准化后的变量的欧氏距离证明：1.2两个总体的距离判别由于马氏距离与总体的协方差矩阵有关，所以利用马氏距离进行判别分析需要分别考虑两个总体的协方差矩阵是否相等.1.两个总体协方差矩阵相等的情况①线性判别函数(Ⅰ)设有两个总体G1,G2，的均值分别为协方差矩阵相等为Σ考虑样品

8、x到两个总体的马氏距离平方差：距离判别法:设有两个协方差相同的总体，且对于一个新的样品，要判定它来自哪一个总体，有一个很直观的方法：计算:若其中于是距离判别准则为②线性判别函数(Ⅱ)注意到实数的转置等于实数自身，故有令注意到可得记于是距离判别准则简化为：在实际问题中，由于总体的均值、协方差矩阵通常是未知的，数据资料来自两个总体的训