系统辩识-10-递推最小二乘数估计

《系统辩识-10-递推最小二乘数估计》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第四章系统辨识与参数估计４．１非参数模型辨识４．２最小二乘参数估计４．３递推最小二乘数估计４．４其它最小二乘类估计的思想４．５极大似然估计４．６闭环辨识8/5/20211第十讲４．２最小二乘参数估计４．２．１最小二乘估计回顾8/5/20212第十讲４.2.2最小二乘估计的统计性质回顾持续激励条件：u(k),e(k)那么,最小二乘估计是一致性估计。8/5/20213第十讲定理4.5若观测数据由过程生成,且e的统计特性满足8/5/20214第十讲４．２．３辅助变量法在加权最小二乘估计中,构造一个与Φ的维数相同的矩阵Z,并选择加权矩阵W使其满足Z＝ＷΦ这时的估计为

2、若能做到则不论e是否为不相关噪声,总为一致估计。Z称为辅助变量矩阵,它的元素称为辅助变量。8/5/20215第十讲如何构造一个满足的Z阵？Z应与｛e(k)｝不相关,与｛u(k)｝｛y(k)｝强相关。过程理想辅助变量:Z=F线性(u(k),s(k))y(k)e(k)++s(k)u(k)8/5/20216第十讲滤波法生成辅助变量：辅助矩阵Z的第j行向量为过程y(k)e(k)++s(k)u(k)v(k)辅助模型8/5/20217第十讲时延法生成辅助变量：辅助矩阵Z的第j行向量为过程y(k)e(k)++s(k)u(k)v(k)模型8/5/20218第十讲可以证明,

3、这样选出的辅助变量u(k)与e(k)不相关时,满足：辅助变量法的计算步骤为:(1)用基本最小二乘法估计(2)用辅助模型计算υ(k)(3)构成Z(4)8/5/20219第十讲４．２．４广义最小二乘估计若Σ已知,选W=Σ-1,在有色噪声条件下也能得到最小方差线性无偏估计,因W正定,可分解为其中,C为上三角阵。此时目标函数式为8/5/202110第十讲广义最小二乘估计为若过程噪声可表示为下列自回归(AR)过程:向量矩阵方程为是零均值,方差为1的白噪声8/5/202111第十讲过程噪声作用下可把模型表示为：成为噪声为白噪声的最小二乘结构，当u(k)满足持续激励条

4、件时,可得一致估计。实际上Σ未知,C的系数也需估计8/5/202112第十讲广义最小二乘算法:(1)设初值,令Ｃi=0,i=1,2,…，nc;(2)生成和(3)得(4)生成残差新LS问题8/5/202113第十讲４．３递推最小二乘数估计参数估计的一次算法,当N很大时,(ΦTΦ)-1的计算是个很大的负担,且每增加一个数据(ΦTΦ)-1的计算必须重复进行,因此,递推算法在实际应用中是十分必要.递推算法的基本思想：新估计c(k+1)=原估计c(k)+修正项8/5/202114第十讲４.3.1基本最小二乘递推公式8/5/202115第十讲定理４．６对于定义的辨识问题

5、,未知参数向量θ的最小二乘估计的递推计算式为8/5/202116第十讲（1S）（SS）（S1）标量S=na+nb+18/5/202117第十讲证明:设基于N时刻为止的所有观测数据对N时刻的未知参数θ的最小二乘估计为则8/5/202118第十讲由矩阵求逆引理可知8/5/202119第十讲8/5/202120第十讲注1:新估计c(N+1)是原估计c(N)及校正项K(N+1)［y(N+1)-φT(N+1)c(N)］的线性组合。若记代表原估计对Ｎ＋１时刻输出的预测，则表示新息,即输出误差的预报,若预报误差为零,说明参数估计已准确,不必校正。注2：递推算法所需的

6、存贮容量及计算量都大大下降。8/5/202121第十讲8/5/202122第十讲注5:增益阵K(N)的计算误差δＫ（Ｎ）,通过式给P(N)阵的计算带来误差δＰ(N),显然有δＰ(N)＝－δＫ(N)φT(N)Ｐ(N-1)即误差以一次幂的形式传播,累积现象显著。为此,有人提出等价计算式这样,误差以两次幂形式传播,能减弱误差累积。8/5/202123第十讲注6:最小二乘递推算法的收敛性输入持续激励条件下最小二乘一次完成算法得到一致收敛参数估计。然而,一次完成算法转化为递推算法之后,将一次完成算法的代数运算,转化为递推算法的时变差分运算,它存在稳定性问题,也就是递推

7、算法的收敛性问题。8/5/202124第十讲定理4.7:对于式辨识问题若e为白噪声且下式成立8/5/202125第十讲则递推算法式给出的参数估计是一致收敛的,即8/5/202126第十讲因令有考虑该差分方程的稳定性，设矩阵A(k)的特征值为λ,则8/5/202127第十讲8/5/202128第十讲