资源描述:
《模式识别考试题.pdf》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、一:监督模式识别与费监督模式识别:监督模式识别:有一个已知样本集(集合中每个样本的类别已知),作为训练样本集,并通过控制先验已知信息来指导设计分类器,这种情况下建立分类器的问题属于监督学习问题,称作监督模式识别。非监督模式识别:没有已知类别的标签的训练数据可用,通过挖掘样本中潜在的相似性分类,这种学习过程成为非监督模式识别,在统计中通常被称作聚类,所得到的类别也称作聚类,由于没有类别已知的训练样本,在没有其他额外信息的情况下,在用不同的方法或不同的假定可能会获得不同的结果,聚类结果只是数学上的划分,对应的实际问题需结合更多的专业知识进行解释
2、。二:聚类分析的基本思想,C-均值动态聚类算法的思想及步骤1.聚类分析是无监督分类:(1)假设:对像集客观存在着若干个自然类,每个自然类中个体的属性具有较强的相似性。(2)原理:将给定模式分成若干组,每组内的模式是相似的,而组间各模式差别较大。(3)方法:a根据带分类的模式属性或特征相似程度进行分类,相似的模式归为一类,不相似的模式划分为不同的类,将带分类的模式集分成若干个不重叠的子集。b定义适当的准则函数,运用有关的数学工具,或利用有关的统计概念和原理进行分类。2.C-均值法(1)条件及约定:设待分类的模式特征矢量集为{x…x},类的
3、数目C是事先取定的。1n(2)算法思想:该方法取定C个类别和选取C个初始聚类中心,按最小距离原则将各模式分配到C类中的某一类,之后不断的计算类心和调整个模式的类别,最终使各模式到其判属性类别中心的距离平方之和最小。(3)原理步骤:(0)(0)(0)z,z,,za任选C个模式特征矢量作为初始聚类中心:12c,令k=0。b将待分类的模式特征矢量集{x}中的模式按最小距离原则分化给C类中的某一类,即:i(k)(k1)(k)(k)(k)(k)x如果d=min[dij](i=1,2,3…N),则il。式中dij表示x和w的中心zj
4、的ilijj(k1)距离,上角标表示选代次数。于是产生新聚类w(j=1,2,…C)。j(k1)1(k1)(k1)c计算重新分类后的各类心,zj=(k1)xi,(j=1,2,…C),式中nj为类wjnxw(k1)jij中所含模式的个数。(k1)(k)d如果zj=zj,j=1,2,….C,则结束,否则k=k+1,转至b。三:说明线性判别函数的正负以及数值大小在分类中的意义并证明。nn维特征空间x中,两类问题的线性判别界面方程为w‘x+w=00n1判别函数为d(x)=w0’x+wn1此方程表示一超平面兀。
5、它有以下三个性质:意义:(1)系数矢量,是该平面的法矢量。(1)判别函数d(x)的绝对值正比于x到超平面d(x)=0的距离。(2)判别函数值的正负表示出特征点位于哪个半空间中,即若为正,在超平面的正侧,若为负,在超平面的负侧。'ww0n1证明:(1)平面兀的方程可以写成x=
6、
7、w
8、
9、
10、
11、w
12、
13、00'w0设平面兀的单位法矢量n=(等号上有小三角)
14、
15、w
16、
17、0wn1上式可以写成n*x=
18、
19、w
20、
21、0n设p是平面兀中的任一点,x是特征矢量x中的任一点点x到平面兀的距离为差矢量(x-p)在n上投影的绝对值
22、,即:d=
23、n‘(x-p)
24、=
25、n’*x-n‘*p
26、x'w''0w0w0wn1=
27、x-p
28、=
29、x+
30、
31、
32、w0
33、
34、
35、
36、w0
37、
38、
39、
40、w0
41、
42、
43、
44、w0
45、
46、1=
47、d(x)
48、
49、
50、w
51、
52、0上式表明,d(x)的值
53、d(x)
54、正比于x到超平面d(x)=0的距离dx(2)两矢量n和(x-p)的数积为'w0xwn1n‘*(x-p)=
55、
56、n
57、
58、
59、
60、x-p
61、
62、cos(n,(x-p))=
63、
64、w
65、
66、0o当n和(x-p)夹角小于90时,即x在n指向的那个半空间中,cos(n
67、,(x-p))>0;o反之,n和(x-p)夹角大于90时,x在n背向的那个半空间中cos(n,(x-p))<0;'由于
68、
69、w
70、
71、>0,故n‘(x-p)和wxw同号;00n1wxw0即x在n指向的半空间中时,0n1即x在n背向的半空间中时,wxw<0;0n1'说明判别函数d(x)=wxw值的正负分别对应特征点位于超平面的正负侧。0n1四:Fisher线性判别分析的思想和定理的推导过程1.Fisher线性判别的思想训练样本集X={x…x},每个样本是一个d维向量1n11
72、22其中w类的样本是X={x…..x},w类的样本是X={x…..x}111N1221N2T寻找投影方向w,投影以后样本变成y=w·x,x=1,2,…N。…①i1i1