资源描述:
《模式识别76324》由会员上传分享,免费在线阅读,更多相关内容在学术论文-天天文库。
1、声明该课件系在李长河教授课件的基础上进行增删修改而成2021/8/9西北农林科大信息工程学院12021/8/9西北农林科大信息工程学院22.2.3基于最小风险的贝叶斯决策使错误率最小并非是一个普遍适用的最佳选择。引进一个度量损失的概念——风险(Risk)。:属于ωj的样本X被判为ωi时的风险。Ri(X):样本X被判为ωi时的风险。则2021/8/9西北农林科大信息工程学院3例如,针对病理切片:以病理切片X为例,ω1表示正常;ω2表示异常.P(ω1
2、X)与P(ω2
3、X)分别表示了两种可能性的大小。判为ω1引起的风险:判为ω2引起的风险:2021/8/9西北农林
4、科大信息工程学院李长河4概括起来,有如下若干概念与定义:自然状态:是指待识别对象的类别.状态空间:由所有自然状态所组成的空间,Ω={ω1,ω2,…,ωc}2.2.3基于最小风险的贝叶斯决策2021/8/9西北农林科大信息工程学院李长河5决策:不仅包括根据观测值将样本划归哪一类别(状态),还可包括其它决策,如“拒绝”等,因此决策空间内决策总数d可以不等于类别数c.决策空间:由所有决策组成的空间,可表示为2.2.3基于最小风险的贝叶斯决策2021/8/9西北农林科大信息工程学院6损失函数λ(αi
5、ωj),或写成λ(αi,ωj)。在观测值X条件下的期望损失Ri(X
6、)=R(αi
7、X)为:这称为条件风险。2.2.3基于最小风险的贝叶斯决策真实状态决策2021/8/9西北农林科大信息工程学院7最小风险的贝叶斯决策决策规则:期望风险它表示对所有X取值所作的决策ai所带来的平均风险。2021/8/9西北农林科大信息工程学院李长河8最小风险贝叶斯决策步骤:根据贝叶斯公式计算出后验概率:利用计算出的后验概率及决策表,计算出采取αi的条件风险:对得到的a个条件风险值找出使条件风险最小的决策αk:则αk就是最小风险贝叶斯决策。2021/8/9西北农林科大信息工程学院李长河9按最小风险贝叶斯决策分类例子:例2.2由例2.1,按最小风险贝
8、叶斯决策进行分类:若已知P(ω1)=0.9,P(ω2)=0.1p(X
9、ω1)=0.2,p(X
10、ω2)=0.4λ11=0,λ12=6,λ21=1,λ22=0这里λij表示λ(αi
11、ωj)的简写,根据2.1的计算结果可知,其后验概率为P(ω1
12、X)=0.818,P(ω2
13、X)=0.1822021/8/9西北农林科大信息工程学院10条件风险:由于R(α1
14、X)>R(α2
15、X),即决策为ω12的条件风险小于决策为ω1的条件风险,因此应采取决策行动α2,即判待识别的细胞X为ω2类——异常细胞。比较例2.1,与P(ω1
16、x)=0.818>P(ω2
17、x)=0.182而判定
18、为正常细胞的分类结果正好相反。关键这里影响决策结果的因素中多了一个“损失”的计算。可见,两类决策所造成的结果差别悬殊。按最小风险贝叶斯决策分类例子:2021/8/9西北农林科大信息工程学院李长河11两种决策方法之间的关系:可把基于最小错误率的决策看作是基于最小风险的决策的一个特例。设损失函数为(2-17)式中假定对C类只有C个决策,即不考虑“拒绝”等其它情况,(2-17)表明,当作出正确决策(即i=j)时没有损失,而对于任何错误决策,其损失均为1。这样定义的损失函数称为0—1损失函数。2021/8/9西北农林科大信息工程学院李长河12根据(2-14)式条件风
19、险为(2-18)可见:最小错误率贝叶斯决策就是在0—1损失函数条件下的最小风险贝叶斯决策。两种决策方法之间的关系:2021/8/9西北农林科大信息工程学院李长河132.2几种常用的决策规则2021/8/9西北农林科大信息工程学院李长河142.2.4在限定一类错误率条件下使另一类错误率最小的两类别决策参考教材P16页2021/8/9西北农林科大信息工程学院李长河152.2.5判别函数、决策面与分类器设计决策域(DecisionRegion):待识别的特征向量落在哪个决策域,该样本就被判为哪一类。决策面(DecisionSurface):决策域的边界面即决策面
20、.判别函数(DiscriminantFunction):用于表达决策规则的某些函数则称为判别函数。2021/8/9西北农林科大信息工程学院李长河16例:两类别问题按最小错误率作决策若相应判别函数:gi(X)=P(ωi
21、X),i=1,2决策面方程:g1(X)=g2(X)决策规则:如果gi(X)>gj(X),i,j=1,2且i≠j则X∈ωi,否则X∈ωj否则2021/8/9西北农林科大信息工程学院李长河172.2几种常用的决策规则2021/8/9西北农林科大信息工程学院李长河18多类别情况决策规则:如果则将X归于ωi类决策面当ωi的决策域与ωj的决策域相邻时,以
22、下关系决定了相应的决策面gi(X)=gj(X).20