[工学]模式识别导论

《[工学]模式识别导论》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、§2-1、判别函数§2-2、线性判别函数§2-3、线性判别函数的性质§2-4、广义线性判别函数§2-5、非线性判别函数第二章判别函数2021/9/301§2-1判别函数假设对一模式X已抽取n个特征，表示为:模式识别问题就是根据模式x的n个特征来判别模式属于ω1,ω2,…,ωm类中的那一类。2021/9/302例如下图：三类的分类问题，它们的边界线就是一个判别函数2021/9/303判别函数包含两类：一类是线性判别函数：线性判别函数广义线性判别函数所谓广义线性判别函数就是把非线性判别函数映射到另外一个空间变成线性判别函数分段线

2、性判别函数另一类是非线性判别函数2021/9/304§2-2线性判别函数我们现在对两类问题和多类问题分别进行讨论。(一)两类问题即:1.二维情况：取两个特征向量这种情况下判别函数:2021/9/305在两类别情况，判别函数g(x)具有以下性质：这是二维情况下判别由判别边界分类.情况如图：(1)二维情况2021/9/306(2)n维情况现抽取n个特征为：判别函数：另外一种表示方法：为增值权向量，为增值模式向量。2021/9/307模式分类：g(x)=WTX=0为判别边界。当n=2时，二维情况的判别边界为一直线。当n=3时，判别

3、边界为一平面。当n>3时，则判别边界为一超平面。2021/9/308(二)多类问题对于多类问题，模式有ω1,ω2,…,ωm个类别。可分三种情况：1.第一种情况：每一模式类与其它模式类间可用单个判别平面把一个类分开。这种情况，m类可有m个判别函数，且具有以下性质：2021/9/309下图所示，每一类别可用单个判别边界与其它类别相分开。如果一模式X属于ω1，则由图可清楚看出:这时g1(x)>0而g2(x)<0，g3(x)<0。ω1类与其它类之间的边界由g1(x)=0确定.1．第一种情况2021/9/3010例：已知三类ω1,ω2

4、,ω3的判别函数分别为：因此三个判别边界为：2021/9/3011作图如下：2021/9/3012对于任一模式X如果它的g1(x)>0，g2(x)<0，g3(x)<0则该模式属于ω1类。相应ω1类的区域由直线-x2+1=0的正边、直线x1+x2-5=0和直线-x1+x2=0的负边来确定。2021/9/3013必须指出，如果某个X使二个以上的判别函数gi(x)>0，则此模式X就无法作出确切的判决。如图中IR1,IR3，IR4区域。另一种情况是IR2区域，判别函数都为负值。IR1，IR2，IR3，IR4都为不确定区域。2021/

5、9/3014问当x=(x1,x2)T=(6,5)T时属于那一类结论：g1(x)<0，g2(x)>0，g3(x)<0所以它属于ω2类2021/9/30152．第二种情况每个模式类和其它模式类间可分别用判别平面分开。有M(M-1)/2个判别平面。对于两类问题，M=2，则有一个判别平面。同理，三类问题则有三个判别平面。判别函数：判别边界：判别条件：2021/9/3016判别函数性质：假设判别函数为：判别边界为：用方程式作图如下：2021/9/3017结论：判别区间增大，不确定区间减小，比第一种情况小的多.问:未知模式X=(x1,x

6、2)T=(4,3)T属于那一类代入判别函数可得:把下标对换可得:因为结论：所以X属于ω3类2021/9/30183．第三种情况每类都有一个判别函数,存在m个判别函数判别函数：判别规则：判别边界：就是说，要判别模式X属于那一类，先把X代入m个判别函数　　　　中，判别函数最大的那个类别就是X所属类别。类与类之间的边界可由　　　　　　　　　　　来确定。2021/9/3019右图所示是m=3的例子。对于ω1类模式，必然满足g1(x)>g2(x)和g1(x)>g3(x)。假设判别函数为：则判别边界为：2021/9/3020用上列方程组

7、作图如下：结论：不确定区间没有了，所以这种是最好情况。2021/9/3021问假设未知模式x=(x1,x2)T=(1,1)T，则x属于那一类。把它代入判别函数：得判别函数为：因为所以模式x=(1,1)T属于类。2021/9/3022§2-3.线性判别函数的性质1、模式空间与加权空间模式空间：由构成的n维欧氏空间。W是此空间的加权向量，它决定模式的分界面H，W与H正交。加权空间：以为变量构成的欧氏空间模式空间与加权空间的几何表示如下图：2021/9/3023模式空间2021/9/3024该式表示一个通过加权空间原点的平面，此平

8、面就是加权空间图中的平面①,同样令g(x2)=g(x3)=g(x4)=0，分别作出通过加权空间原点的平面②③④，图中用阴影表示的部分是各平面的正侧。加权空间的构造：设是加权空间分界面上的一点，代入上式得：1、模式空间与加权空间2021/9/3025这是一个不等式方程组，它的解处于由ω1类所