判别分析方法

《判别分析方法》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、判别分析距离判别分析距离判别的最直观的想法是计算样品到第i类总体的平均数的距离，哪个距离最小就将它判归哪个总体，所以，我们首先考虑的是是否能够构造一个恰当的距离函数，通过样本与某类别之间距离的大小，判别其所属类别。，设X=……，兀ny和Y=（ylf……是从期望为尸（

2、11，……川m）'和方差阵（呵）>0的总体G抽得的两个观测值，则称X与Y之间的马氏距离为:J“mxm=（X-Y）、t（X-Y）样本X与G之间的马氏距离定义为X与G•类重心间的距离，即：f护=（X—/z.）》T（X—他）i=1,2……，k附注：1>马

3、氏距离与欧式距离的关联：为=1,马氏距离转换为欧式距离；2、马氏距离与欧式距离的差异：马氏距离不受计量单位的影响，马氏距离是标准化的欧式距离两总体距离判别先考虑两个总体的情况，设有两个协差阵E相同的p维正态总体，对给定的样本Y,判别一个样本Y到底是来自哪一个总体，一个最直观的想法是计算Y到两个总体的距离。故我们用马氏距离来给定判别规则，有:ye如/(y，GjvdgG2),ywG?,如dTy,G2)

4、-〃J'》Yy-〃J=y±ly-2y士仏+“;-(yTy-2yU“+)=2y，Z_1-角)-("i+角)匸(A-“2)(A-A)w(y)=(y-")为=Q‘(y-")=駕(丁1_“])+•••+知(儿=ay-azp则前面的判别法则表示为yeGp如W(y)>0,

5、已知且不相等yeGp如〃2(y,Gj<〃2(y,g2),

6、前提是各总体均值必须有显著差异。设有个K总体，分别有均值向量

7、ii(i=l,2,・・・,k)和协方差阵纭=各总体出现的先验概率相等。又设Y是一个待判样晶。则与的距离为(即判别函数)J2(y,G/)=(y-“)空_1(y-A)上式中的第一项Y'^Y与i无关,则舍去，得一个等价的函数：将上式中提-2,得80)=-2&"角-0・5“》7<)令zm.5临'心则距离判别法的判别函数为令/.(y)=(y,X-1A-0.5//?-1A)判别规则为/(y)=max/W，则ywG<1

8、总体的分布函数,当参数和协方差未知时，就用样本的均值和协方差矩阵来估计。距离判别方法简单实用，但没有考虑到每个总体出现的机会大小，即先验概率，没有考虑到错判的损失。贝叶斯判别法正是为了解决这两个问题提出的判别分析方法。ayes判别法基本思想贝叶斯判别法是源于贝叶斯统计思想的一种判别分析法。这种方法先假定对研究对象已有一定的认识，这种认识以先验概率来描述，然后取得一个样木，用样木来修正已有的认识，得到后验概率分布，比较这些概率的大小，将待判样品判归为来自概率最大的总体。对多个总体的判别考虑的不是建立判别式，而是比

9、较后验概率的大小。Bayes判别法1、引例办公室新来了一个雇员小王，小王是好人还是坏人大家都在猜测。按人们主观意识，一个人是好人或坏人的概率均为0.5。坏人总是要做坏事，好人总是做好事，偶尔也会做一件坏事，一般好人做好事的概率为0.9,坏人做好事的概率为0.2,—天，小王做了一件好事，小王是好人的概率有多大，你现在把小王判为何种人。P（好人/做好事）=P（好人）P（做好事/好人）"P（好人）P（做好事/好人）+P（坏人）P（做好事/坏人）0.5X0.90.5x0.9+0.5x02=0.82P（坏人/做好事）=P

10、（坏人）P（做好事/坏人）一P（好人）P（做好事/好人）+P（坏人）P（做好事/坏人）0.5x020.5x0.9+0.5x020.18贝叶斯公式:2>bayes判别法设总体=，……,k）,G：具有密度函数fKx）,并且根据以往的统计分析,知道0出现的概率为％。当样本尢°发生吋，它属于某类的概率为：QifiMMj/jg则判别规则:p（q

11、竝）二qJE=她*述色L则％属于G。等价于ZqJj