模式识别导论(五).pdf

《模式识别导论(五).pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、模式识别导论对传统统计模式识别方法的小结监督分类法。从确定性准则出发：判别函数分类，从概率法则出发：基于最小错误概率的Bayes判别法重点研究了线性判别函数求解的感知器算法：任意给定一组初始权向量（即判别函数的系数），对已知样本进行训练。在两类问题的时候，用下列规则对权系数进行修正twk若wkx0kwk1twkcxwkx0kk武汉大学遥感信息工程学院马洪超模式识别导论–多类问题的感知器算法是两类问题的推广。M个类别可以建立m个判别函数。–感知器算法只能对线性可分的情况是有效的。对线性不可分的情况无效。–感知器算法的收敛性可以从理论上证明得到武汉大学遥

2、感信息工程学院马洪超模式识别导论基于最小错误概率的Bayes判别法：这种方法可以归结为最大后验概率准则，即如果P

3、xmaxP

4、xijj则x,分类错误率P(e)1P

5、xii武汉大学遥感信息工程学院马洪超模式识别导论–根据Bayes公式，用已知样本的已知类概率密度函数和类别出现的先验概率，可以计算出给定样本的后验概率–类概率密度函数可以用参数估计（对于分布类型已知的情况）和非参数估计（对于分布类型未知的情况）来进行估计，先验概率用频率来代替–对Bayes决策附加一些条件，就可以得到最小风险、NP决策和最小最大决策–对于多元正态分布的情况，对最小错误率的Bayes决

6、策进行了详细的研究武汉大学遥感信息工程学院马洪超模式识别导论非监督分类法。根据样本的相似性来进行分类，重点研究了K均值算法和ISODATA算法。一般来说，聚类算法的理论基础是薄弱的，有些算法的步骤和参数确定无法从理论上给与严格的证明。在常见的相似性测度中，欧氏距离具有最重要的应用价值，K均值算法和ISODATA算法中的相似性均用欧氏距离来度量。两者都是迭代算法武汉大学遥感信息工程学院马洪超模式识别导论•K均值算法特点是初始聚类中心给定，但随着迭代的进行，中心可变。迭代结束的条件是前后两次得到的聚类中心不变或近似不变•ISODATA算法可以看做是K均值算法的扩展，除有K均值算法的特点，还

7、具有可以进行类别合并和分裂操作的特点武汉大学遥感信息工程学院马洪超模式识别导论ISODATA算法中的初始参数确定非常重要。算法即使结束了，也不见得能够获得比较满意的结果，有时会出现振荡、结果类别数和预先设定的不一致、或者其他难以预测的不良后果。但这种方法符合聚类的客观实际情况，只要参数选择合适，效果是不错的武汉大学遥感信息工程学院马洪超模式识别导论•在遥感图像中，K均值算法、ISODATA算法、由Bayes决策得到的Mahalanobis距离算法、最小距离算法等，都是常用的分类方法。一般商业软件中都提供这些方法•分类结果的评价。一般有统计法、混淆矩阵、各种评价系数（如Kapa系数）法等。

8、但实地的验证不可缺少。分类精度的影响因素很多。武汉大学遥感信息工程学院马洪超模式识别导论模式特征分析与选取武汉大学遥感信息工程学院马洪超模式识别导论参考流程模式识别建立在对模式特征量化的基础上，也就是说，首先要对表征模式的各种特征加以量测或量化，得到每一模式的特征数值集合，或特征向量，然后根据不同类型模式具有不同的特征数值集合，进行自动辩别。维数太多，即特征太多出现几种情况维数不足，即特征太少特征的生成问题以及特征应该具有的性质武汉大学遥感信息工程学院马洪超模式识别导论？？因为模式本身可以看做是特征空间中的点描述模式分布状态的测度描述模式在特征空间中的分布状态，只有对这一分布状况进行分析，

9、才能断定描述模式的特征空间是否有利于分类，才能决定哪些特征是起主导作用的，哪些特征是可以忽略，从而进行特征的选取—点（模式）与点之间1.欧氏距离—点与模式集之间—模式集与模式集之间武汉大学遥感信息工程学院马洪超模式识别导论在n维特征空间中，一个模式表征为一个点，点ttaa1、a2、anbb1、b2bn之间的距离为Da,bab511tababn2aibii1武汉大学遥感信息工程学院马洪超模式识别导论i一模式样本x与某一类别模式集合ai1,2m所有模式间距离的平方和为m2i2iDx,aDx,aaii1

10、,2m注意！m为模式集合i1中模式的个数，n为模式的特征数，i那么x与点集a之间距离定义为即空间维数m2i12iDx,aDx,ami1mn1i2xkak512mi1k1武汉大学遥感信息工程学院马洪超模式识别导论同一类模式内所有点之间距离平方的平均值称为类内距离若同类点集为aii1,2m22ijDDa,ai,j1,2,m;且iji