[工学]最小二乘曲线拟合与参数辨识

《[工学]最小二乘曲线拟合与参数辨识》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、m次独立试验的数据1、引言1801年初，天文学家皮亚齐发现了谷神星。1801年末，天文爱好者奥博斯，在高斯预言的时间里，再次发现谷神星。1802年又成功地预测了智神星的轨道。高斯自己独创了一套行星轨道计算理论。高斯仅用1小时就算出了谷神星的轨道形状，并进行了预测1794年，高斯提出了最小二乘的思想。未知量的最可能值是使各项实际观测值和计算值之间差的平方乘以其精确度的数值以后的和为最小。1794年，高斯提出的最小二乘的基本原理是2、最小二乘辨识方法的基本概念通过试验确定热敏电阻阻值和温度间的关系当

2、测量没有任何误差时，仅需2个测量值。每次测量总是存在随机误差。使最小/*minimaxproblem*/太复杂使最小不可导，求解困难使最小测量误差的平方和最小常见做法：2.1利用最小二乘法求模型参数根据最小二乘的准则有根据求极值的方法，对上式求导2.1利用最小二乘法求模型参数2.2一般最小二乘法原理及算法2.2一般最小二乘法原理及算法若考虑被辨识系统或观测信息中含有噪声如果定义2.2一般最小二乘法原理及算法2.2一般最小二乘法原理及算法2.2一般最小二乘法原理及算法2.2一般最小二乘

3、法原理及算法2.2一般最小二乘法原理及算法证明：证明：根据第（1）式的证明，显然有2.2一般最小二乘法原理及算法解：由题意得量测方程2.2一般最小二乘法原理及算法2.3加权最小二乘法原理及算法一般最小二乘估计精度不高的原因之一是对测量数据同等对待各次测量数据很难在相同的条件下获得的有的测量值置信度高，有的测量值置信度低的问题对不同置信度的测量值采用加权的办法分别对待置信度高的，权重取得大些；置信度低的，权重取的小些2.3加权最小二乘法原理及算法2.3加权最小二乘法原理及算法2.3加权最小二乘法原

4、理及算法马尔可夫估计2.3加权最小二乘法原理及算法例3.2用2台仪器对未知标量各直接测量一次，量测量分别为z1和z2，仪器的测量误差均值为0，方差分别为r和4r的随机量，求其最小二乘估计，并计算估计的均方误差。2.3加权最小二乘法原理及算法解：由题意得量测方程例3.4考虑仿真对象选择如下的辨识模型进行一般的最小二乘参数辨识。2.3加权最小二乘法原理及算法4阶M序列输出信号一般最小二乘参数辨识流程图§1线性最小二乘问题一、最小二乘问题的一般提法在实际应用中，经常遇到下列数据处理问题：已知函数在m

5、个点上的数据表，寻求其近似函数。设的近似函数为其中是某函数族中的已知线性无关函数。称为残向量寻求一组常数，要求的2-范数达到最小。如果m=n，且以及即多项式插值记则得到最小二乘问题：上述问题的解也称为方程组的最小二乘解。当时称之为超定（或矛盾）方程组。所谓”曲线拟合”,是指根据给定的数据表,寻找一个简单的表达式来”拟合”该组数据,此处的”拟合”的含义为:不要求该表达式对应的近似曲线完全通过所有的数据点,只要求该近似曲线能够反映数据的基本变化趋势.二、最小二乘多项式拟合引例1：考察某种纤维的强度与

6、其拉伸倍数的关系.下表是实际测定的24个纤维样品的强度与相应的拉伸倍数的数据记录:编号拉伸倍数强度编号拉伸倍数强度11.91.41355.5221.3145.2532.11.81565.542.52.5166.36.452.72.8176.5662.72.5187.15.373.531986.583.52.72087944218.98.51043.52298114.54.2239.58.1124.63.524108.1可以看出,纤维强度随拉伸倍数增加而增加并且24个点大致分布在一条直线附近该直线

7、称为这一问题的数学模型。因此可认为强度与拉伸倍数之间的主要关系是线性关系怎样确定a,b,使得直线能较好地反映所给数据的基本“变化趋势”?采用最小二乘的思想令问题转化为求参数使达到最小值。这种求线性函数y=a+bx的过程称为线性拟合。一般地，设的近似函数为寻求，使得则称为函数的多项式拟合。满足下列法方程组：即非线性拟合已知函数在若干个点上的数据表，确定参数和利用经验函数拟合某组数据：某些非线性拟合问题可转化为线性拟合问题线性化处理：令则由线性拟合方法可得到和，从而得到和。又如：若非线性函数取为令

8、其中三、最小二乘问题解的存在性、唯一性设，若存在精确地满足，则称该方程组是相容的。方程组相容的充要条件是引理7.1.1设，且则总存在分解其中满秩分解证明：记不妨假设的前列线性无关令其中(满秩分解)对任何秩为的矩阵，存在排列阵，使得的前列线性无关，从而由知：其中其中因此，对任何阶矩阵总存在满秩分解二乘解的充要条件是为方程组的解。是方程组的最小证明：充分性设是的解对，令必要性设是方程组的最小二乘解记,则必使达到极小.由极值的必要条件知：即称为方程组的法方程组推论7.1.1若，则方程组有唯一的最