系统辨识最小二乘法大作业

《系统辨识最小二乘法大作业》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、系统辨识大作业最小二乘法及其相关估值方法应用学号：2012302259姓名：王家琦基于最小二乘法的多种系统辨识方法研究1.最小二乘法的引出在系统辨识中用得最广泛的估计方法是最小二乘法(LS)。设单输入-单输出线性定长系统的差分方程为xk+a1xk-1+…+ank-n=b0uk+…+bnuk-n，k=1，2，3，⋯(5.1.1)式中:uk为随机干扰；xk为理论上的输出值。xk只有通过观测才能得到，在观测过程中往往附加有随机干扰。xk的观测值yk可表示为yk=xk+nk(5.1.2)式中:nk为随机干扰。由式(5.1.2)得xk=yk-nk(5.1.3)将式

2、(5.1.3)带入式(5.1.1)得yk+a1yk-1+…+anyk-n=b0uk+b1uk-1+…+bnuk-n+nk+i=1nai(k-i)(5.1.4)我们可能不知道nk的统计特性，在这种情况下，往往把nk看做均值为0的白噪声。设ξ(k)=n(k)+i=1nai(k-i)(5.1.5)则式(5.1.4)可写成yk=-a1yk-1-a2yk-2-…-anyk-n+b0uk+b1uk-1+…+bnuk-n+ξ(k)(5.1.6)在观测uk时也有测量误差，系统内部也可能有噪声，应当考虑它们的影响。因此假定ξ(k)不仅包含了xk的测量误差，而且包含了uk的

3、测量误差和系统内部噪声。假定ξ(k)是不相关随机序列(实际上ξ(k)是相关随机序列)。现分别测出n+N个随机输入值y1，y2，⋯，yn+N，u1，u2，⋯，u(n+N)，则可写成N个方程，即yn+1=-a1yn-a2yn-1-…-any1+b0un+1+b1un+…+bnu1+ξ(n+1)yn+2=-a1yn+1-a2yn-…-any2+b0un+2+b1un+1+…+bnu2+ξ(n+2)⋮yn+N=-a1yn+N-1-a2yn+N-2-…-anyN+b0un+N+b1un+N-1+…+bnuN+ξ(n+N)上述N个方程可写成向量-矩阵形式y(n+1)

4、y(n+2)⋮y(n+N)=-y(n)-y(n+1)⋯⋯-y(1)u(n+1)⋯u(1)-y(2)u(n+2)⋯u(2)⋮⋮⋮⋮⋮-y(n+N-1)⋯-y(N)u(n+N)⋯u(N)×a1⋮anb0⋮bn+ξ(n+1)ξ(n+2)⋮ξ(n+3)(5.1.7)设y=y(n+1)y(n+2)⋮y(n+N)，θ=a1⋮anb0⋮bn，ξ=ξ(n+1)ξ(n+2)⋮ξ(n+N)Φ=-y(n)-y(n+1)⋯⋯-y(1)u(n+1)⋯u(1)-y(2)u(n+2)⋯u(2)⋮⋮⋮⋮⋮-y(n+N-1)⋯-y(N)u(n+N)⋯u(N)则式(5.1.7)可写为y=Φ

5、θ+ξ(5.1.8)式中：y为N维输出向量；ξ为N维噪声向量；θ为(2n+1)维参数向量；Φ为N×(2n+1)测量矩阵。因此式(5.1.8)是一个含有(2n+1)个未知参数，由N个方程组成的联立方程组。如果N<2n+1，方程数少于未知数数目，则方程组的解是不定的，不能唯一地确定参数向量。如果N=2n+1，方程组正好与未知数数目相等，当噪声ξ=0时，就能准确地解出θ=Φ-1y(5.1.9)如果噪声ξ≠0，则θ=Φ-1y-Φ-1ξ(5.1.10)从上式可以看出噪声ξ对参数估计是有影响的，为了尽量较小噪声ξ对θ估值的影响。在给定输出向量y和测量矩阵Φ的条件下求

6、系统参数θ的估值，这就是系统辨识问题。可用最小二乘法来求θ的估值，以下讨论最小二乘法估计。1.最小二乘法估计算法设θ表示θ的最优估值，y表示y的最优估值，则有y=Φθ(5.1.11)y=y(n+1)y(n+2)⋮y(n+N)，θ=a1⋮anb0⋮bn写出式(5.1.11)的某一行，则有yk=-a1yk-1-a2yk-2-…-anyk-n+b0uk+b1uk-1+…+bnuk-n+ξk=-i=1naiy(k-i)+i=0nbiu(k-i)，k=n+1，n+2，⋯，n+N(5.1.12)设e(k)表示y(k)与y(k)之差，即ek=yk-yk=yk-yk=y

7、k—i=1naiyk-i+i=0nbiuk-i=1+a1z-1+⋯+anz-nyk-b0+b1z-1+⋯+bnz-nuk=az-1yk-bz-1uk，k=n+1，n+2，⋯，n+N(5.1.13)式中az-1=1+a1z-1+⋯+anz-nbz-1=b0+b1z-1+⋯+bnz-nek成为残差。把k=n+1，n+2，⋯，n+N分别代入式(5.1.13)可得残差en+1，en+2，⋯，en+N。设e=[en+1en+2⋯en+N]T则有ek=y-y=y-Φθ(5.1.14)最小二乘估计要求残差的平方和为最小，即按照指数函数J=eTe=(y-Φθ)T(y-Φ

8、θ)(5.1.15)为最小来确定估值θ。求J对θ的偏导数并令其等于0可得∂J∂θ