系统辨识si-05

《系统辨识si-05》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第五章系统辨识的最小二乘法第一节最小二乘法的基本原理第二节最小二乘法的递推算法第三节最小二乘法的实时算法第四节最小二乘法的应用范围第五节最小二乘法的局限性1第一节最小二乘法的基本原理一、问题的提出二、基本最小二乘法三、加权最小二乘法四、对测试信号的要求五、最小二乘估计值的统计性质2一、问题的提出y0是0℃时的金属轴长度，是膨胀系数确定金属轴长度y与温度t之间的关系存在随机性的测量误差（考虑可加性干扰）3最小二乘准则处理的原则是使误差为最小为了尽量降低测量误差的影响，需要进行多次的测量4二、基本最小二乘法用最小二乘法进行参数估计，首先要指定模型类，然后在给定的模型类中找到一个

2、满足最小二乘准则的模型。通常情况下，采用差分方程来描述被辨识系统，且假定系统的阶次已知（即假设模型结构已知，关于模型结构的辨识问题，将在第八章介绍）。LeastSquaresMethod，简称LS51.数学模型(k)称为广义误差称为残差参数拟合误差62.数据方程783.正规方程最小二乘估计的原则是使残差的平方和为最小最小二乘解存在的充要条件是9参数估计的最小二乘法，就是从一类模型中，找出使残差的平方和为最小的估计量。最小二乘法将参数估计问题转化成一个确定性最优化问题。没有涉及到待估参数和观测量的概率统计特性。4.特点101）设，定义为A与B的Kronecker积。a用于求解

3、如下形式的代数方程求解：附：矩阵导数1矩阵的Kronecker积2）Kronecker积的应用①定义，记为列向量表示，有如下性质：1）线性；2）②对方程取列向量表示b用于函数矩阵求导数112函数矩阵的导数的函数矩阵的所有元素在点均可导，则称函数矩阵在点可导，记为：若函数矩阵在区域D上各点均可导，则称在区域D上可导，记为：1）定义：设数量变量2）定义：设函数矩阵，定义函数矩阵对变量的导数为：3）矩阵导数的性质12例：求对的导数，，为n维向量。13三、加权最小二乘法如果考虑到在不同时刻、不同环境下，数据的价值不同，这时可引入“加权因子”，即修正系数，对不同次的数据进行修正。Mar

4、kov估计R噪声的协方差矩阵14四、对测试信号的要求1516这是一个实对称阵。由输入自相关函数、输出自相关函数和输入输出互相关函数组成。注意，只当输入和输出都是具有各态遍历性的平稳随机过程时，才有这个结果。17为了能求出最小二乘解，要求若输入信号的自相关函数矩阵就说输入是持续激励的系统可辨识条件：输入信号必须是持续激励信号。18是随机向量，要研究其统计性质（无非是数学期望、均方差等），根据统计性质来评价其对真实参数值估计的好坏（即衡量它的“优良度”和“可信度”）。同时也就评价了相应的参数估计方法的实用价值。五、最小二乘估计值的统计性质最小二乘估计把参数估计问题转化成了确定性

5、最优化问题。在求解过程当中并没有涉及到噪声问题。评价估计量的质量的常用统计标准有三个方面：无偏性、有效性和一致性。19无偏性是用来衡量估计值是否围绕真值波动(1)假定是确定性的，(2)假定是随机性的，且与噪声统计独立(或不相关)1.无偏性同理20(3)噪声是白噪声2122232.误差协方差无偏性仅仅讨论了估计值的统计平均值是否等于真值，并没有考虑散布程度。这时可以用估计值的均方差来衡量其在真值附近的散布程度。可以用协方差矩阵来描述。其对角线上的元素就是估计值各分量的均方差。24叫做误差协方差阵或均方误差阵同样当噪声是白噪声时253.一致性所谓估计的一致性是指，当根据无穷多

6、的输入、输出观测信息所得到的估计无限趋近于真值时，则称是一致估计。对于白噪声，有假定输入是持续激励信号，则正定常阵即264.有效性所谓有效性就是指，在众多的参数估计方法中，使得均方误差为最小的估计方法是有效估计方法。若估计值的均方误差达到最小，则称这种参数估计方法具备有效性。也叫做最小方差估计。根据Cramér-Rao不等式：，那么最小二乘法具备有效性。27需要知道噪声的分布特性。即除了假设噪声是白噪声以外，还要确定噪声的分布规律，这里假设是正态分布。同分布Fisher信息矩阵28对上式取对数并求导，得在给定条件下输出向量的概率密度函数（似然函数）295.结论一种参数估计

7、方法如果具有无偏性、一致性和有效性，那么这种估计方法就是一种好的估计方法。根据以上的分析，在噪声是白噪声的情况下，最小二乘估计具有无偏性、一致性和有效性。(k)表示白噪声序列。以后都采用此符号。ARX模型若所面向的数学模型是ARX模型，则最小二乘估计一定具有无偏性、一致性和有效性。最小二乘法是一种非常完美的参数估计方法。30第二节最小二乘法的递推算法一、递推算法的公式推导二、递推算法的启动31一次完成算法或整批算法整批算法有一些缺点：⑴随着数据采集量的增大，即N很大，导至阵很大，需要保存观测数据的