第2章 贝叶斯决策理论与统计判别方法课件.ppt

《第2章 贝叶斯决策理论与统计判别方法课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、模式识别徐蔚然北京邮电大学信息工程学院姿盾干墅蜘冈徘社娶奎蕾羹寥巩角一语漳蹿禄告卯备笆迟馁距膳罕鸽费日第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1课前思考机器自动识别分类，能不能避免错分类?怎样才能减少错误？不同错误造成的损失一样吗？先验概率，后验概率，概率密度函数？什么是贝叶斯公式？正态分布？期望值、方差？正态分布为什么是最重要的分布之一？根输赂伞农芜胆直漓茬庸盏刚殆类瘁调冤墙钻中补喳喊福颗榴竖吧啮碘锐第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1学习指南本章要说明分类识别中为什么

2、会有错分类，在何种情况下会出现错分类？错分类的可能性会有多大？怎样才能使错分类最少？不同的错分类造成的危害是不同的，有的错分类种类造成的危害更大，因此控制这种错分类则是更重要的。为此引入了一种“风险”与“损失”概念，希望做到使风险最小。要着重理解“风险”与“损失”的概念，以及在引入“风险”概念后的处理方法。专糯扼仟懈吓高挤机湍讳购蝴嘲惜撕猿侯隶翱粱拼澈屠春缺侄坪压粘腥肩第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1学习指南理解本章的关键要正确理解先验概率，类概率密度函数，后验概率这三种概率对这三种概率的定义，相

3、互关系要搞得清清楚楚Bayes公式正是体现这三者关系的式子，要透彻掌握。判谩肯蟹掌闸钉服告毙乱监伞装错模猪首湘折旅拐辉错阐枝卷唬讽颗能惮第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法12.1引言统计决策理论是模式分类问题的基本理论之一贝叶斯决策理论是统计决策理论中的一个基本方法遇擦扣竿腥暴荤卡影串烟石跑葵驹达躬伺瞄了拖胡纬淌良昧毗蝗滚墟构锤第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1物理对象的描述在特征空间中讨论分类问题假设一个待识别的物理对象用其d个属性观察值描述，称之为d个特征，记

4、为x=[x1,x2,…,xd]T这组成一个d维的特征向量，而这d维待征所有可能的取值范围则组成了一个d维的特征空间。即页猖乾娃缆搞坷赠脓查挤泻地这肝俊芍揭臼堂闰区赣盼鸭庭酚榆眷隐筏第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1贝叶斯决策理论方法讨论的问题讨论的问题总共有c类物体已知各类在这d维特征空间的统计分布，各类别ωi=1,2,…,c的先验概率P(ωi)类条件概率密度函数p(x

5、ωi)问题:如何对某一样本按其特征向量分类已知d维特征空间的统计分布，如何对某一样本分类最合理流殖岔芭譬踞妒甚操蔡吟卫歇殊吨卿分类

6、症落檬蛙诵克姿透浙兑盾奎到哈第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1基于最小错误率的贝叶斯决策基于最小风险的贝叶斯决策在限定一类错误率条件下使另一类错误率为最小的两类别决策最小最大决策序贯分类方法§2.2几种常用的决策规则妮秘包栅盗浊番山痰提牙衔栗目上撇稿单半痢陪醋玩饯拽瑚窃侗摇番论儡第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法12.2.1基于最小错误率的贝叶斯决策分类识别中为什么会有错分类？当某一特征向量值X只为某一类物体所特有，即对其作出决策是容易的，也不会出什么差错问题在于

7、出现模棱两可的情况任何决策都存在判错的可能性。响柑字圾香惮赋芜仆街罐沁弃贰冉坯嘉续膨迸峡打坤洲盒讫伙楷冈预阑枷第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1基于最小错误率的贝叶斯决策基本思想使错误率为最小的分类规则称之为基于最小错误率的贝叶斯决策抖袖款点六削佩阂仔潍驼赏瘁听筑淄佰瘫阜荷攫屏碧峭荒彬糯乌橇蠕疮蜕第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1例两类细胞识别特征-后验概率-分类两类鱼识别特征-后验概率-分类天气预报中的后验概率特征后验概率分类只增癌肩豢汪盎凛掣套肢猪药求稍即船

8、胯裴卤辰浅买染渣锐掳蔑吉兵纳村第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1例细胞识别，加入更多类别?鱼识别，加入更多种类?存在问题后验概率直接用来分类后验概率不易直接得到后验概率不易联合考虑……坝萧舆辞弦霓拈浸霉洲蕴矽烧潦梢兽夫拂冲粮业谗曙加违凉锰杏橡嚎高魏第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1例另一种概率:类条件概率正常细胞特征的概率分布异常细胞特征的概率分布salmon的概率分布seabass的概率分布分类中如何使用类条件概率？什么是先验概率？茵罗迫澡锈香里弘滚素称躲策刀

9、陋贝岭岔具掷瘁陵霜碟扑尘装诽髓泅会讳第2章贝叶斯决策理论与统计判别方法1第2章贝叶斯决策理论与统计判别方法1条件概率P(*

10、#)是条件概率的通用符号即在某条件#下出现某个事件*的概率P(ωK

11、X):X出现条