资源描述：
《正态分布中的Bayes决策.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、2.3正态分布时的统计决策Bayes决策的三个前提：类别数确定各类的先验概率P(ωi)已知各类的条件概率密度函数p(x
2、ωi)已知Bayes决策中，类条件概率密度的选择要求：模型合理性计算可行性最常用概率密度模型：正态分布观测值通常是很多种因素共同作用的结果，根据中心极限定理，它们（近似）服从正态分布。计算、分析最为简单的模型。一、正态分布判别函数1、为什么采用正态分布：a、正态分布在物理上是合理的、广泛的。b、正态分布数学上简单，N(μ,σ²)只有均值和方差两个参数。§2-3.1正态分布决策理论2、单变量正态分布：从p(x)的图形上
3、可以看出，只要有两个参数m和s2,就可以完全确定其曲线。若服从正态分布的总体中随机抽取样本x，约有95％的样本落在(m-2s,m+2s)中。样本的分散程度可以用s来表示,s越大分散程度越大。正态分布是指一个随机实数度量值在整个实数域上的分布规律。因此它属于概率密度函数类，不是我们所讨论的先验概率P(ωi)，也不是后验概率P(ωi
4、X)，而是p(x
5、ωi)。3、（多变量）多维正态分布为d维均值向量也就是:（1）函数形式：x=(x1,x2,…,xd)T为d维随机向量S是d×d维协方差矩阵，S-1是S的逆矩阵，
6、S
7、为S的行列式。协方差矩阵
8、S是对称的，其中有d×(d+1)/2个独立元素。由于r(x)可由m和S完全确定，所以实际上r(x)可由d×(d+1)/2+d个独立元素来确定。m、S分别是向量x和矩阵(x-m)(x-m)T的期望。多元正态分布与单态量正态分布在形式上尽管不同，但有很多相似之处，实际上单变量正态分布只是维数为1的多元分布。当d=1时，Σ只是一个1×1的矩阵，也就是只有1个元素的矩阵，退化成一个数，
9、Σ
10、1/2也就是标准差σ,Σ-1也就是σ-2，而(X－μ)T(X－μ)也变成(X-μ)2，多元正态分布的概率密度函数中的元就是我们前面说得特征向量的分量数，也
11、就是维数。具体说：若xi是x的第i个分量，mi是m的第i个分量，sij2是S的第i、j个元素。其中r(xi)为边缘分布，协方差矩阵：是一个对称矩阵，只考虑S为正定矩阵的情况，也就是:
12、S
13、所有的子式都大于0同单变量正态分布一样，多元正态分布r(x)可以由m和S完全确定，常记为N(m,S)。(2)多元正态分布的性质参数μ和Σ完全决定分布等概率密度轨迹为超椭球面不相关性等价于独立性边缘分布和条件分布的正态性线性变换的正态性线性组合的正态性①.参数m和S对分布的决定性对于d维随机向量x，它的均值向量m也是d维的，协方差矩阵是对称的，其中有d
14、×(d+1)/2个独立元素。r(x)可由m和S完全确定，实际上r(x)可由d×(d+1)/2+d个独立元素决定。常记为：r(x)～N(m,S)②.等密度点的轨迹为一超椭球面由r(x)的定义公式可知，右边指数项为常数时，密度r(x)的值不变，所以等密度点满足：二维情况下，上式的解是一个椭圆轨迹，其长短轴方向由Σ协方差矩阵的特征向量决定，三维时是一个椭球面，超过三维则是超椭球面，主轴方向由协方差矩阵S的特征向量决定，各主轴的长度则与相应的特征值成正比。从下图可以看出，从正态分布总体中抽取的样本大部分落在由m和S所确定的一个区域里，这个区域
15、的中心由均值向量m决定，区域的大小由协方差矩阵决定。在数理统计中，令：式中g称为x到m的马氏距离（Mahalanobis）距离。所以等密度点轨迹是x到m的马氏距离g为常数的超椭球面。③.不相关性等价于独立性概率论中，一般来说，两个随机变量xi和xj之间不相关，并不意味着它们一定独立。如果xi和xj之间不相关，则xixj的数学期望有：如果xi和xj相互独立，则有：如果xi和xj相互独立，则它们之间一定不相关，反之则不成立。但是对服从正态分布的两个分量xi和xj，若xi和xj互不相关，则它们之间一定独立。证明：见书P27根据独立性的定义：
16、正态分布随机向量的各分量间互不相关性与相互独立等价。独立性是比不相关更强的条件。不相关反映了xi和xj的总体性质。④.边缘分布与条件分布的正态性从(3)证明得出的结论r(x)表达式，如果x用xj表示，有：也就是说，边缘分布r(x1)服从均值为m，方差为s112的正态分布：同理，二元正态分布协方差矩阵∑及其逆矩阵∑-1为下面以二元正态分布为例进行证明根据边缘分布定义=1另外，条件分布，给定x1的条件下x2的分布：证明条件分布仍然是正态分布（作业题）⑤.线性变换的正态性对于多元随机向量的线性变换，仍为多元正态分布的随机向量。就是：x服从正
17、态分布r(x)～N(m,S)，对x作线性变换y=Ax，其中A为线性变换矩阵，且
18、A
19、≠0，则y服从正态分布：r(x)～N(Am,ASAT)证明：x经过变换为y，设变换矩阵A为非奇异矩阵，y=Ax即x=A-1y即Ex=m,
