LMS算法原理及推导.pdf

《LMS算法原理及推导.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第八章自适应滤波在第五章和第六章中，我们介绍了维纳滤波和卡尔曼滤波。维纳滤波器参数是固定的，适合于平稳随机信号。卡尔曼滤波器参数是时变的，适合于非平稳随机信号。然而，只有在信号和噪声的统计特性先验已知的情况下，这两种滤波技术才能获得最优滤波。在实际应用中，常常无法得到信号和噪声统计特性的先验知识。在这种情况下，自适应滤波技术能够获得极佳的滤波性能，因而具有很好的应用价值。常用的自适应滤波技术有：最小均方（LMS）自适应滤波器、递推最小二乘（RLS）滤波器、格型滤波器和无限冲激响应（IIR）滤波器等。这些自适应滤波技术的应用又包括：自适应噪声抵消、自适应谱线增强和陷波等。现在，已经有许多

2、信号处理书籍全面介绍了自适应滤波技术。考虑到生物医学工程专业大三本科生的学习基础，本章首先介绍最小均方（LMS）自适应滤波器原理，在此基础上介绍自适应噪声抵消器及其生物医学应用，这样安排更能够突出本教材的宗旨。第一节LMS自适应维纳滤波器LMS自适应滤波器是使滤波器的输出信号与期望响应之间的误差的均方值为最小，因此称为最小均方（LMS）自适应滤波器。8.1.1基本LMS算法构成自适应数字滤波器的基本部件是自适应线性组合器，如图8-1的所示。设线性组合器的M个输入为x(1kx−−),(LkM)，其输出yk()是这些输入加权后的线性组合，即Myk()=∑Wxkii(−)（8-1-1）i=1

3、图8-1自适应线性组合器T定义权向量WWWWW=[,,,L]，且123mTXk()[((1)),,((=−XkTLXkMT−))]（8-1-2）在图8-1中，令dk()代表“所期望的响应”，并定义误差信号ε()kdky=−()()kM（8-1-3）=−dk()∑WXkii(−)i=1式（8-1-3）写成向量形式Tε()kdkWXk=−()()（8-1-4）T=−dk()XkW()误差平方为22TTTε()kd=−()2()()kdkkXWW+XXW()()kk上式两边取数学期望后，得均方误差22TTTEkE{ε()}=−{dkE()2}{d()()kkXW}+WE{X()()kkX}W

4、（8-1-5）T定义互相关函数行向量R：xdTTRxd=EdkXk{()()}（8-1-6）和自相关函数矩阵TRXX=EXkXk{()()}（8-1-7）则均方误差（8-1-5）式可表述为22TTEkE{ε()}=−{dkR()2}xdWW+RXXW（8-1-8）这表明，均方误差是权系数向量W的二次函数，它是一个中间向上凹的抛物形曲面，是具有唯一最小值的函数。调节权系数使均方误差为最小，相当于沿抛物形曲面下降找最小值。可以用梯度来求该最小值。将式（8-1-8）对权系数W求导数，得到均方误差函数的梯度2∇=()kEk∇{ε()}T22⎡⎤2(Ek{}εε)∂Ek{}()=⎢⎥，，L⎢⎥∂

5、∂WW⎣⎦1M=−22R+RW(8-1-9)XdXX令∇=()0k，即可求出最佳权系数向量−1WR=R（8-1-10）optXXXd它恰好是第五章研究Wiener滤波器遇到过的Wiener-Hopf方程。因此，最佳权系数向量Wopt通常也叫作Wiener权系数向量。将W代入式（8-1-8）得最小均方误差opt22TEk{ε()}=−E{dk()}RWxdopt（8-1-11）min利用式（8-1-10）求最佳权系数向量的精确解需要知道R和R的先验统计知识，而且还需XXXd要进行矩阵求逆等运算。WidrowandHoff(1960)提出了一种在这些先验统计知识未知时求W的近似值的方法，习

6、惯上称为WidrowandHoffLMS算法。这种算法的根据是最优化方opt法中的最速下降法。根据最速下降法，“下一时刻”权系数向量W(1k+)应该等于“现时刻”权系数向量W()k加上一个负均方误差梯度−∇()k的比例项，即WW(1kk+=)()(−∇μk)（8-1-12）式中，μ是一个控制收敛速度与稳定性的常数，称之为收敛因子。不难看出，LMS算法有两个关键：梯度∇()k的计算以及收敛因子μ的选择。（一）∇()k的近似计算精确计算梯度∇()k是十分困难的，一种粗略的但是却十分有效的计算∇()k的近似方法22是：直接取ε()k作为均方误差Ek{ε()}的估计值，即∇=ˆ()kkk∇[(

7、)]2()[()]εε2=∇εk（8-1-13）式中的∇[()]εk为T∇=[()]εkd∇−[()kkWX()()]k=−X()k（8-1-14）将式（8-1-14）代入式（8-1-13）中，得到梯度估值∇=ˆ()kk−2()()εXk于是，Widrow–HoffLMS算法最终为WW(1kkk+=)()2()(+μεXk)（8-1-15）式（8-1-15）的实现方框图如图8-2所示图8-2LMS算法的实现方框图下面分析梯度估值∇ˆ()k的无偏