LMS算法-推导-应用-试验结果分析.ppt

《LMS算法-推导-应用-试验结果分析.ppt》由会员上传分享，免费在线阅读，更多相关内容在PPT专区-天天文库。

1、LMS算法主要内容：LMS算法的定义及由来LMS算法推导的近似计算μ的选择LMS算法应用LMS算法过程LMS算法基本步骤MATLAB实验过程MATLAB实验结果及分析LMS的定义及由来LMS算法即最小均方误差(least-mean-squares)算法，是线性自适应滤波算法。感知器和自适应线性元件在历史上几乎是同时提出的，并且两者在对权值的调整的算法非常相似。它们都是基于纠错学习规则的学习算法。感知器算法存在如下问题：不能推广到一般的前向网络中；函数不是线性可分时，得不出任何结果。而由美国斯坦福大学的Widr

2、ow和Hoff在研究自适应理论时提出的LMS算法，由于其容易实现而很快得到了广泛应用，成为自适应滤波的标准算法。自适应是指处理和分析过程中，根据处理数据的数据特征自动调整处理方法、处理顺序、处理参数、边界条件或约束条件，使其与所处理数据的统计分布特征、结构特征相适应，以取得最佳的处理效果。LMS算法推导：LMS算法是自适应滤波器中常用的一种算法，与维纳算法不同的是，其系统的系数随输入序列而改变。维纳算法中截取输入序列自相关函数的一段构造系统的最佳系数。而LMS算法则是对初始化的滤波器系数依据最小均方误差准则进

3、行不断修正来实现的。因此，理论上讲LMS算法的性能在同等条件下要优于维纳算法，但是LMS算法是在一个初始化值得基础上进行逐步调整得到的，因此，在系统进入稳定之前有一个调整的时间，这个时间受到算法步长因子u的控制，在一定值范围内，增大u会减小调整时间，但超过这个值范围时系统不再收敛，u的最大取值为R的迹。LMS算法推导：构成自适应数字滤波器的基本部件是自适应线性组合器，如图1的所示。设线性组合器的M个输入为，其输出y(k)是这些输入加权后的线性组合，即（1）图1自适应线性组合器LMS算法推导：（2）（3）在图1

4、中，令d(k)代表“所期望的响应”，并定义误差信号式（3）写成向量形式（4）LMS算法推导：（5）（6）LMS算法推导：则均方误差（5）式可表述为（7）（8）这表明，均方误差是权系数向量W的二次函数，它是一个中间向上凹的抛物形曲面，是具有唯一最小值的函数。调节权系数使均方误差为最小，相当于沿抛物形曲面下降找最小值。可以用梯度来求该最小值。LMS算法推导将式（8）对权系数W求导数，得到均方误差函数的梯度（9）（10）LMS算法推导最佳权系数向量通常也叫作Wiener权系数向量。将代入式（8）得最小均方误差（11

5、）利用式（10）求最佳权系数向量的精确解需要知道RXX和RXd的先验统计知识，而且还需要进行矩阵求逆等运算。WidrowandHoff(1960)提出了一种在这些先验统计知识未知时求的近似值的方法，习惯上称为WidrowandHoffLMS算法。这种算法的根据是最优化方法中的最速下降法。根据最速下降法，“下一时刻”权系数向量W(k+1)应该等于“现时刻”权系数向量W(k)加上一个负均方误差梯度−∇(k)的比例项，即LMS算法推导式中，μ是一个控制收敛速度与稳定性的常数，称之为收敛因子。不难看出，LMS算法有两

6、个关键：梯度∇(k)的计算以及收敛因子μ的选择。的近似计算（13）（15）（14）式（15）的实现方框图如图2所示图2LMS算法的实现方框图的近似计算（16）在得到最后的结果时，利用了式（9）。式（16）表明，梯度估值是无偏估计。的近似计算μ的选择对权系数向量更新公式（15）两边取数学期望，得（17）μ的选择μ的选择（18）（19）将式（19）代入式（18）后得：（20）μ的选择（1）（8-1-21a）（8-1-21c）（8-1-21d）（22）（8-1-21b）μ的选择或（22）LMS算法应用LMS算法应用

7、LMS算法应用LMS算法应用LMS算法过程LMS算法是线性自适应滤波算法，它包含两个基本过程：1）滤波过程包括：（a）计算线性滤波器输出对输入信号的响应；（b）通过比较输出结果与期望响应产生估计误差。2）自适应过程根据估计误差自动调整滤波器参数。LMS算法基本步骤LMS算法的基本步骤：1、设置变量和参量：x(n)为输入向量，或称为训练样本w(n)为权值向量b(n)为偏差d(n)为期望输出y(n)为实际输出u为步长因子n为迭代次数2、初始化，赋给w(0)一个较小的随机非零值，令n=0；LMS算法基本步骤3、对于

8、一组输入样本x(n)和对应的期望输出d，计算e(n)=d(n)-x(n)w(n)w(n+1)=w(n)+ux(n)e(n)4、判断是否满足条件，若满足算法结束，若否n增加1，转入第3步继续执行。MATLAB实验过程在实验开始前，首先确定本次实验应满足的条件如下所示：AR参数步长因子u＝0.01、0.05、0.1；高斯白噪声v(n)的功率为AR序列x(n)的长度为500；实验次数为80；由于噪声的存在