模式识别第四章第五章课件.ppt

《模式识别第四章第五章课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第四章特征的选择与提取2021/8/291哈尔滨工业大学电信院宿富林2021/8/29哈尔滨工业大学电信院宿富林2学习目的了解特征空间的选择在设计模式识别系统，解决模式识别具体问题中是至关重要的。了解描述量选择，特征组合优化的两种基本方法，一是对原特征空间进行删选，另一种是通过变换改造原特征空间。典型的运用线性变换对原特征空间优化的基本方法，进一步深入理解模式识别处理问题的基本方法——确定准则函数，并通过计算进行优化。使用特征选择方法的基本问题。2021/8/29哈尔滨工业大学电信院宿富林3本章重点弄清对

2、特征空间进行优化的含义对特征空间进行优化的两种基本方法——特征选择与特征的组合优化对特征空间进行优化的一些常用判据利用线段变换进行特征空间优化的基本方法，如：K-L变换，要重点掌握。2021/8/29哈尔滨工业大学电信院宿富林4本章难点首先要透彻理解什么叫特征空间的优化，为什么要对特征空间进行优化。对特征空间进行优化，要用到一些数学工具，如向量点积、线性变换、正交变换、解决条件极值问题的拉格朗日乘子方法等。进一步加深领会。利用K-L变换对特征空间进行降维，其中部分推导中用了正交变换，条件极值问题系数学工具

3、，又涉及矩阵的特征值与特征向量问题。这部分数学内容要掌握，另一方面要体会使用K-L变换的好处，如果对富里叶变换，对信号进行时域分析与在频域分析等概念已有一定理解，可有助于对使用K-L变换方法的理解。2021/8/29哈尔滨工业大学电信院宿富林5§4.1基本概念如何确定合适的特征空间是设计模式识别系统另一个十分重要，甚至更为关键的问题。如果所选用的特征空间能使同类物体分布具有紧致性，即各类样本能分布在该特征空间中彼此分割开的区域内，这就为分类器设计成功提供良好的基础。反之，如果不同类别的样本在该特征空间中混

4、杂在一起，再好的设计方法也无法提高分类器的准确性。这一章要讨论的问题就是特征空间如何设计的问题2021/8/29哈尔滨工业大学电信院宿富林6如何构造一个特征空间，即对要识别的事物用什么方法进行描述、分析的问题？物理量的获取与转换这是指用什么样的传感器获取电信号，如摄取景物则要用摄像机。可以称之为原始信息。描述事物方法的选择与设计在得到了原始信息之后，要对它进一步加工，以获取对分类最有效的信息。设计所要信息的形式是十分关键的。2021/8/29哈尔滨工业大学电信院宿富林7特征空间的优化。这个层次的工作发生

5、在已有了特征的描述方法之后，也就是已有了一个初始的特征空间，如何对它进行改造与优化的问题。一般说来要对初始的特征空间进行优化是为了降维。即初始的特征空间维数较高。能否改成一个维数较低的空间，称为优化，优化后的特征空间应该更有利于后续的分类计算，这就是本章着重讨论的问题。2021/8/29哈尔滨工业大学电信院宿富林8例用RGB颜色空间和HSI颜色空间右边是原始图像，左边是用HSI空间描述的同一图像(但是为了显示出来，用H对应R，S对应G，I对应B，然后再以RGB的方式显示出来2021/8/29哈尔滨工业大学

6、电信院宿富林9总的说来，确定特征空间是对样本使用何种描述量度量的问题，但是其中包括若干层次的问题。一、如何把物体所具有的物理性质，结构性质等转换成计算机能处理的数学描述量。譬如物体表面的颜色、亮暗程度要通过摄像机转换成数值，这就牵涉到使用何种传感器对物理量等进行转换与度量的问题。使用传感器对样本的物理及其它属性进行转换与度量可得到对样本的原始度量。然而原始度量需要进一步转换成有效的特征。2021/8/29哈尔滨工业大学电信院宿富林10对原始度量的加工与处理，是特征提取的主要内容。本章讨论的问题是对原有特征

7、空间的处理与加工，使之较原特征空间优化。所谓优化是要求既降低特征的维数，又能提高分类器的性能。这里讨论的是一些不同模式识别系统中具有共性的问题，特征选择与特征提取，并给出一些解决这些问题的基本方法。2021/8/29哈尔滨工业大学电信院宿富林11特征空间进行优化的两种基本方法对特征空间进行优化有两种基本方法，一种为特征选择，一种为特征的组合优化。简单说，选择只是删掉部分特征，而特征的提取是要通过一种映射，也就是说新的每一个特征是原有特征的一个函数。2021/8/29哈尔滨工业大学电信院宿富林12特征选择已

8、有D维特征向量空间，Y={y1,y2,…,yD}，从原有的D维特征空间，删去一些特征描述量，从而得到精简后的特征空间。在这个特征空间中，样本由d维的特征向量描述：X={x1,x2,…,xd}，d＜D。X只是Y的一个子集，每个分量xi必然能在原特征集中找到其对应的描述量xi＝yj。2021/8/29哈尔滨工业大学电信院宿富林13特征提取找到一个映射关系：A:Y→X使新样本特征描述维数比原维数降低。其中每个分量xi是原特征向量各分