信号检测与估计理论 第五章 统计估计理论.ppt

《信号检测与估计理论 第五章 统计估计理论.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、估计理论与信号检测第五章信号的统计估计理论内容提要5.1引言5.2随机参量的贝叶斯估计5.3最大似然估计5.4估计量的性质5.5矢量估计5.7线性最小均方误差估计5.8最小二乘估计5.1引言信号的参量估计若信号中被估计的量是随机参量或非随机未知参量，则称这种估计为信号的参量估计。在观测时间内一般不随时间变化——静态估计信号的波形估计或状态估计若被估计的是随机过程或非随机的未知过程。信号的波形、参量随时间变化——动态估计5.1引言研究内容：信号的参量估计若信号中被估计的量是随机参量或非随机未知参量，则称这种估计为信号的参量估计。理论基础：随机变量与数理统计(2.2,P.8

2、)随机噪声理论(2.6,P.46)5.1引言基本思想信号模型的差异；先验知识与数据之间的关系；估计准则与估计方法；估计的评价指标。数据模型复杂性：足以描述数据的基本特征简单：允许估计量是最佳的，且易于实现5.1引言-信号处理中的估计在雷达、声呐、语音、图像分析、生物医学、通信、自动控制等领域，都涉及到参数估计的问题。例如雷达系统被动声呐系统语音识别系统由时域信号转换为线性预测编码语音模型，模型的参数决定了谱包络。5.1引言-估计的数学问题确定估计量后，建立数据的数学模型例1：实际问题中，未给出PDF，要选择一个与问题的约束与先验知识一致，且在数学上容易处理的PDF。例2

3、-道琼斯指数：参数确定但未知-经典估计参数为随机变量-贝叶斯估计20世纪90年代5.1.2数学模型和估计量构造四个组成部分：参量空间、概率映射、观测空间和估计准则。概率映射函数，完整地描述了含有被估计矢量信息时观测矢量的统计特性。5.1.3估计量性能的评估单次观测量为标量，被估计量为标量（单参量）单次观测量为矢量，被估计量为矢量（多参量）最佳估计准则定义：充分利用先验知识，使构造的估计量具有最优性质的估计准则。被估计参量（随机或非随机）的先验知识（P.264）被估计量及其均值、方差和均方误差的表示（P.264）观测向量为长列向量5.1.3估计量性能的评估例子：非随机未知

4、单参量的估计5.1.3估计量性能的评估例子：非随机未知单参量的估计经典估计与贝叶斯估计FromStevenM.Key--page253-259上述估计假定参数取值范围：考虑到物理条件的限制：经典估计与贝叶斯估计FromStevenM.Key--page253-259贝叶斯最小均方误差估计：令其为零后验概率均值=1经典估计与贝叶斯估计FromStevenM.Key--page253-259①②短数据记录对后验PDF的影响大数据记录对后验PDF的影响经典估计与贝叶斯估计FromStevenM.Key--page253-259后验概率均值：在先验知识和由数据贡献的知识之间进行

5、折衷。例如，当N增加时，后验PDF变得更加集中，MMSE估计量（最小均方误差）对先验知识的依赖越来越小，对数据的依赖越来越多，数据把先验知识“擦除”了。参数估计的贝叶斯方法：假设要估计的参数是随机变量的一个实现。(1)指定一个先验PDF;(2)观测到数据后，后验PDF概括了对参数的了解。(3)利用先验知识通常能改善估计精度。经典估计与贝叶斯估计FromStevenM.Key--page253-259利用先验知识通常能改善估计精度；在贝叶斯估计中，先验PDF的选择是很关键的。错误的选择将导致差的估计量，类似与在经典估计量问题中使用不正确的数据模型设计估计量。围绕贝叶斯估计

6、量的使用上有许多争议，源于在实践中不能证明先验PDF。一般说来，除非先验概率是建立在物理约束的基础上，否则还是使用经典估计比较合适。贝叶斯准则：二元信号检测的贝叶斯准则（P.70）M元信号检测的贝叶斯准则（P.93）5.2随机参量的贝叶斯估计在信号参量的估计中，我们用类似的方法提出贝叶斯估计准则，即使估计的平均代价最小。适用于随机参量情况。代价函数的一般形式：满足（1）非负性；（2）误差时最小。5.2随机参量的贝叶斯估计三种典型的代价函数：5.2.1常用代价函数和贝叶斯估计概念平均代价条件平均代价贝叶斯公式上述条件平均代价函数对求最小，即可以求得随机参量的贝叶斯估计量。

7、5.2.2贝叶斯估计量的构造1、最小均方误差估计（条件均值，代价函数参见图(a)）对求偏导，并令结果为零。5.2.2贝叶斯估计量的构造1、最小均方误差估计（条件均值，代价函数参见图(a)）二阶偏导数，上式求得的估计量，可以使平均代价C达到最小：最小平均代价是条件方差对所有观测量的统计平均。5.2.2贝叶斯估计量的构造1、最小均方误差估计（条件均值，代价函数参见图(a)）估计量是后验概率密度函数的均值。将后验概率转化为先验概率表达5.2.2贝叶斯估计量的构造2、条件中值估计（条件中值，代价函数参见图(b)）称为条件中值估计，或条件中位数估计