模式识别复习重点总结

《模式识别复习重点总结》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、1．线性判别方法（1）两类：二维及多维判别函数，判别边界，判别规则二维情况：（a）判别函数：()（b）判别边界：g(x)=0;（c）判别规则：n维情况：（a）判别函数：也可表示为：（b）判别边界：g1(x)=WTX=0（c）判别规则：（2）多类：3种判别方法（函数、边界、规则）(A)第一种情况：(a)判别函数：M类可有M个判别函数(b)判别边界：ωi（i=1,2,…,n）类与其它类之间的边界由gi(x)=0确定(c)判别规则：(B)第二种情况：(a)判别函数：有M(M_1)/2个判别平面(b)判别边界：(c)判别规则：(C)第三种情况

2、：(a)判别函数：(b)判别边界：gi(x)=gj(x)或gi(x)-gj(x)=0(c)判别规则：2．分段线性判别方法1）基于距离:（1）子类，类判别函数（2）判别规则（1）子类：把ωi类可以分成li个子类:∴分成l个子类。子类判别函数：在同类的子类中找最近的均值（2）判别规则：这是在M类中找最近均值。则把x归于ωj类完成分类2）基于函数：（1）子类，类判别函数（2）判别规则（1）子类类判别函数：对每个子类定义一个线性判别函数为：（2）判别规则：在各子类中找最大的判别函数作为此类的代表，则对于M类，可定义M个判别函数gi(x),i=

3、1,2,…..M,因此，决策规则3）基于凹函数的并：（1）析取范式，合取范式，凹函数判别规则析取范式：P=(L11∧L12∧…∧L1m)∨…∨(Lq1∧Lq2∧…∧Lqm)合取范式：Q=(L11∨L12∨…∨L1m)∧…∧(Lq1∨Lq2∨…∨Lqm)凹函数：Pi=Li1∧Li2∧…∧Lim判别规则：设第一类有q个峰，则有q个凹函数。即P=P1∨P2∨……∨Pq3．非线性判别方法（1）集中，分散（2）,均集中4．分类器的设计（1）梯度下降法（迭代法）：准则函数，学习规则（a）准则函数：J(W)≈J(Wk)+▽JT(W-Wk)+(W-W

4、k)TD(W-Wk)T/2其中D为当W=Wk时J(W)的二阶偏导数矩阵（b）学习规则：从起始值W1开始，算出W1处目标函数的梯度矢量▽J(W1)，则下一步的w值为：W2=W1-ρ1▽J(W1)其中W1为起始权向量，ρ1为迭代步长，J(W1)为目标函数，▽J(W1)为W1处的目标函数的梯度矢量在第K步的时候Wk+1=Wk-ρk▽J(Wk)最佳步长为ρk=

5、

6、▽J

7、

8、2/▽JTD▽J这就是梯度下降法的迭代公式。（2）感知器法：准则、学习规则（批量，样本）（a）准则函数：其中x0为错分样本（b）学习规则：1.错误分类修正wk如wkTx≤0并

9、且x∈ω1wk+1=wk+ρkx如wkTx≥0并且x∈ω2wk+1=wk-ρkx2.正确分类，wk不修正如wkTx＞0并且x∈ω1如wkTx＜0并且x∈ω2wk+1=wk（3）最小平方误差准则法（MSE法）（非迭代法）：准则、权向量解(a)准则函数：(b)权向量解：（4）韦—霍氏法（LMS法）（迭代法）：准则，学习规则(a)准则函数：(b)学习规则：W1任意，Wk+1=Wk+ρk(bk-WkTXk)Xkρk随迭代次数k而减少，以保证算法收敛于满意的W值（5）何—卡氏法（H-K法）（迭代法）：准则，，的学习规则(a)准则：它的解为：（b

10、）b，W的学习规则：其中c为矫正系数，ek为误差矢量，ek=XWk-bk初始条件W1=X+b1并且b1>0迭代时检测如果ek≥0时，XW >b，系统线性可分，迭代收敛如果ek<0时，XW 

11、器：电位函数，累积电位的计算(a)电位函数：电位分布函数有如下三种形式：α为系数xk为某一特定点(b)累计电位的计算：Kk+1(x)=Kk(x)+rk+1K(x,xk)其中：xk+1∈ω1并且Kk(xk+1)>0时rk+1=0xk+1∈ω1并且Kk(xk+1)≤0时rk+1=1xk+1∈ω2并且Kk(xk+1)<0时rk+1=0xk+1∈ω2并且Kk(xk+1)≥0时rk+1=-15．1）二类问题的贝叶斯判别（1）判别函数的四种形式（2）决策规则（3）决策面方程（4）决策系统的结构（1）判别函数的四种形式：（2）判别规则：（3）决策面

12、方程：g（x）=02）多类问题的贝叶斯判别（1）判别函数的四种形式（2）决策规则（3）决策面方程（4）决策系统的结构（1）判别函数的四种形式：M类有M个判别函数g1(x),g2(x),…,gm(x).（2）决策规则：另一