模式识别作业题(2)

《模式识别作业题(2)》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、模式识别第三章作业及其解答1、已知两个一维模式类别的类概率密度函数为⎧x0≤x<1p(x

2、ω1)=⎨2-x1≤x≤2⎩0其它⎧x−11≤x<2p(x

3、ω2)=⎨3-x2≤x≤3⎩0其它先验概率P(ω1)=0.6，P(ω2)=0.4，（1）求0-1代价Bayes判决函数；（2）求总错误概率P(e)；（3）判断样本{x1=1.35,x2=1.45,x3=1.55,x4=1.65}各属于哪一类别。解：（1）Bayes判决函数如下：P(ω1)P(ω1/x)>P(ω2)P(ω2/x)①==>x∈ω1P(ω2)P(ω2/x)>P(ω1)P(ω1/x)②==>x∈ω2分情况讨论后判决规则

4、如下：当0

5、)xw1()λ12−λ22Pw(2)>p(

6、)xw2()λ21−λ11Pw()1则x∈ω1,反之x∈ω2解：计算条件风险2R(

7、)αλ11xP==∑jj(

8、)ωxλ11P(

9、)ω1x+λ12P(

10、)ω2xj=12R(

11、)αλ22xP==∑

12、jj(

13、)ωxλ21P(

14、)ω1x+λ22P(

15、)ω2xj=1如果R(

16、)αx

17、)αx，则x∈ω112λPxPx(

18、)ωλ+(

19、)ω<λPxPx(

20、)ωλ+(

21、)ω111122211222(λ-λ)Px(

22、)ω>(λ-λ)Px(

23、)ω2111112222(λ-λ)P()ωPx(

24、)ω>(λ-λ)P()ωPx(

25、)ω211111122222px(

26、)ω1()λ12−λ22P(ω2)即>px(

27、)ω2()λλ21−11P()ω1得证。3、使用最小最大损失判决规则的错分概率是最小吗？为什么？答：不是最小的。首先要明确当我们谈到最小最大损失判决规则时，先验概率是未知的，而先验

28、概率的变化会导致错分概率变化，故错分概率也是一个变量。使用最小最大损失判决规则的目的就是保证在先验概率任意变化导致错分概率变化时，错分概率的最坏（即最大）情况在所有判决规则中是最好的（即最小）。4、若λ=λ=0，λ=λ，证明此时最小最大决策面是来自两类的错误率相等。11221221证明：最小最大决策面满足（λ-λ）+（λ-λ）p(

29、)xdωx-（λ-λ）p(

30、)xdωx=011222111∫Ω11222∫Ω221容易得到p(

31、)xdωx=p(

32、)xdωx∫Ω2∫Ω112所以此时P1(e)=P2(e)TT5、二维正态分布，μ（-=），μ（）=，Σ=Σ=I，P(ω1)=P(ω2

33、)。试写出对11,021,012数似然比决策规则。解：h(x)=-ln[l(x)]=-lnpx(

34、)ω+lnpx(

35、)ω121T−11T−11

36、

37、Σ1=()x11−μΣ1()x11−μ-()x22−μΣ2()x22−μ+ln222

38、

39、Σ21TT=[()x−μ()x−μ1-()x−μ()x−μ2]212

40、()

41、Pω1而ln=0。

42、()

43、Pω2TT所以判别规则为当()x−μ()x−μ1>()x−μ()x−μ2,则x∈ω1；反12之，则x∈ω2。即将x判给离它最近的μ的那个类。i将数值代入计算即可。6、设总体分布密度为N(μ，1)，-∞<μ<+∞,并设X={x，x，…x}，分别用

44、最大似然12N∧估计和贝叶斯估计计算μ。已知μ的先验分布p（μ）～N（0,1）。解：似然函数为：NN12L（μ）=lnp(X

45、u)=∑∑ln(

46、)pxui=−+()xi−μCii==112似然函数μ求导N∂L()μ=∑xi-Nμ=0∂μi=1∧1N所以μ的最大似然估计：μ=∑xNii=1贝叶斯估计：NpX(

47、)()μpμp（μ

48、X）==α∏px(

49、)()iμμp∫p(

50、)()Xpdμμui=122⎡⎤⎡⎤N11⎢(xi−−μμ)⎥⎢⎥(μ0)=α∏exp⎢−•−22⎥⎢⎥expi=122πσ⎢2σσ⎥⎢⎥πσ02⎣⎦⎣⎦0⎡⎤111⎛⎞N⎛⎞Nμ''20=αexp⎢⎥⎢⎥−

51、+−[⎜⎟⎜⎟222μμ2⎜⎟∑xi+2]⎣⎦2⎝⎠σσσσ00⎝⎠i=12将p（μ

52、X）写成N(μ，σ)的形式，利用待定系数法，可以求得：nn1N1=+222σσnσ0Nμ1μn02=2∑xi+2σnσi=1σ02进一步求得μ和σnn22Nσσ0μ=m+μn22N220Nσ+σNσσ+00222σσ0σ=n22Nσ+σ0N1其中，mN=∑xi，μn就是贝叶斯估计。Ni=17略