梯度校正参数辩识方法

《梯度校正参数辩识方法》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第12章其他辨识方法112.1梯度校正参数辩识方法2引言最小二乘类参数辩识递推算法新的参数估计值=老的参数估计值+增益矩阵新息梯度校正参数辩识方法（简称梯度校正法）递推算法同样具有的结构基本原理不同于最小二乘类方法基本做法–沿着准则函数的负梯度方向，逐步修正模型参数估计值，直至准则函数达到最小值。3主要内容确定性问题的梯度校正参数辩识方法随机性问题的梯度校正参数辩识方法随机逼近法4确定性问题的梯度校正参数辩识方法设过程的输出参数的线性组合如果输出和输入是可以准确测量的，则式过程称作确定性过程5确定性过程置过程6若过程参数

2、的真值记作则在离散时间点可写成其中7例如用差分方程描述的确定性过程可以化成8现在的问题如何利用输入输出数据和确定参数在时刻的估计值使准则函数式中9解决上述问题的方法可以是梯度校正法，通俗地说最速下降法沿着的负梯度方向不断修正值直至达到最小值10数学表达式-维的对称阵，称作加权阵-准则函数关于的梯度11当准则函数取式时12式可写成-确定性问题的梯度校正参数估计递推公式其中权矩阵的选择至关重要13随机性问题的梯度校正参数辩识方法随机性问题的提法确定性问题的梯度校正法与其他辩识方法相比最大的优点：计算简单缺点：如果过程的输入输

3、出含有噪声，这种方法不能用随机性问题的梯度校正法特点：计算简单，可用于在线实时辩识缺陷：事先必须知道噪声的一阶矩和二阶矩统计特性14随机性问题15设过程的输出模型参数的线性组合输入输出数据含有测量噪声16其中和为零均值的不相关随机噪声17置则18现在的问题利用输入输出数据和确定参数在时刻的估计值使准则函数其中19随机逼近法随机逼近法梯度校正法的一种类型颇受重视的参数估计方法20随机逼近原理考虑如下模型的辩识问题-均值为零的噪声模型的参数辩识通过极小化的方差来实现即求参数的估计值使下列准则函数达到极小值21准则函数的一阶负

4、梯度令其梯度为零22原则上由式可以求得使的参数估计值但，因为的统计性质不知道因此式实际上还是无法解的23如果式左边的数学期望用平均值来近似则有这种近似使问题退化成最小二乘问题24研究式的随机逼近法解设是标量，是对应的随机变量是条件下的概率密度函数则随机变量关于的条件数学期望为记作它是的函数，称作回归函数25对于给定的设下列方程，具有唯一的解当函数的形式及条件概率密度函数都不知道时求下列方程的解释是困难的可以利用随机逼近法求解26随机逼近法利用变量及其对应的随机变量通过迭代计算逐步逼近方程式的解27常用的迭代算法Robbi

5、ns–Monro算法Kiefer–Wolfowitz算法2812.2极大似然法和预报误差方法29引言极大似然法一种非常有用的传统估计方法由Fisher发展起来的基本思想可追溯到高斯（1809年）用于动态过程辩识可以获得良好的估计性质30最小二乘法和梯度校正法计算简单参数估计具有优良的统计性质噪声的先验知识要求也不高极大似然法基本思想与最小二乘法和梯度校正法完全不同31极大似然法需要构造一个以数据和未知参数为自变量的似然函数通过极大化似然函数获得模型的参数估计值32意味着模型输出的概率分布将最大可能地逼近实际过程输出的概率

6、分布通常要求具有能够写出输出量的条件概率密度函数的先验知识独立观测的条件下，必须知道输出量的概率分布在序贯观测的条件下，需要确定基于时刻以前的数据在时刻输出量的条件概率分布33预报误差方法需要事先确定一个预报误差准则函数利用预报误差的信息来确定模型的参数某种意义上与极大似然法等价的或极大似然法的一种推广34极大似然法和预报误差方法优点：参数估计量具有良好的渐近性质缺点：计算量比较大35极大似然原理设是一个随机变量在参数条件下的概率密度函数为的个观测值构成一个随机序列个观测值记作则的联合概率密度为的极大似然估计就是使的参数

7、估计值36即有或37对一组确定的数据只是参数的函数已不再是概率密度函数这时的称作的似然函数以示区别有时记作概率密度函数和似然函数有着不同的物理意义但数学表达式是一致的38极大似然原理的数学表现或-对数似然函数-极大似然参数估计值使得似然函数或对数似然函数达到最大值39物理意义（极大似然原理的数学表现）对一组确定的随机序列设法找到参数估计值使得随机变量在条件下的概率密度函数最大可能地逼近随机变量在（真值）条件下的概率密度函数上式反映极大似然原理的本质，但数学上不好实现40预报误差参数辩识方法极大似然法要求数据的概率分布是已

8、知的通常都假设它们是服从高斯分布的实际问题不一定满足这一假设如果数据的概率分布不知道使用极大似然法存在着一定的困难41预报误差法不要求数据概率分布的先验知识解决更加一般问题的一种辩识方法极大似然法的一种推广当数据的概率分布服从正态分布时等价与极大似然法42预报误差准则考虑更加一般的模型-维的输出向量-维的输入向量-模