现代信号处理03——自适应信号处理

《现代信号处理03——自适应信号处理》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章自适应信号处理周围1内容梯度下降算法横向LMS自适应滤波器横向RLS自适应滤波器自适应格型滤波器盲自适应滤波器自适应滤波器的应用2参数可调数字滤波器自适应算法Σ+_y(n)参考信号d(n)e(n)自适应滤波器原理图x(n)输入输出3自适应FIR滤波器：定义输入向量输入信号：输出信号：期望信号（参考信号或训练信号）：d(n)抽头权矢量：输出误差信号：………+-+Σ自适应算法最优权矢量：4均方误差性能曲面及其性质输入信号的自相关矩阵：互相关矩阵5与FIR维纳滤波器的最优解一致。均方误差函数（代价函数）678几何意义对二维实加权情况：均方误差性能函数：为求得等高线令9均方误差

2、性能曲面均方误差性能曲面的等高线10定义输入向量输出信号：复加权矢量：输出误差信号：11定义输入向量其中空间自相关矩阵：最优加权矢量：互相关矩阵12最陡（梯度）下降算法梯度的数学表示：相对于向量的梯度算子记作，定义为因此，一个实际量函数相对于一列向量的梯度为13最陡（梯度）下降算法（续）梯度的几何特征梯度的每个分量给出了标量函数在该分量方向上的变化率。梯度的重要性质指出了当变元增大时函数的最大增大率。相反，梯度的负值（简称负梯度）指出了当变元增大时函数的最大减小率。这一性质是梯度下降算法的基础。14极小化取负曲率方向作搜索方向取负梯度作目标函数的更新方向。定理：令是实向量的实

3、值函数。将视为独立的变元，实目标函数的曲率方向由梯度向量给出。最陡（梯度）下降算法15梯度下降算法的迭代过程：近似解在迭代过程中的校正量与目标函数的负梯度成正比。上式称为优化问题近似解的学习算法；常数称为学习步长，它决定近似解趋向最优解的收敛速率。梯度：故坐标平移最陡（梯度）下降算法16坐标旋转去耦合由初始权向量迭代可得：（变量间无耦合）或表为因为最陡（梯度）下降算法17若满足：实际常用（保守的）收敛条件：则有：则有：或最陡（梯度）下降算法（续）18过渡过程令：则其中权向量时间常数（1）权向量过渡过程（2）均方误差过渡过程其中均方误差时间常数最陡（梯度）下降算法（续）19（3

4、）特征值分散对过渡过程的影响均方误差和权矢量的分量均按M个不同时间常数的指数函数之和的规律变化。收敛速度主要取决于最慢的指数过程，相应时间常数：为了保证收敛，步长，故有：当特征值分散性大（条件数大）时，算法最陡下降法收敛性很差。最陡（梯度）下降算法（续）20梯度下降算法（续）（4）步长µ对过渡过程的影响步长µ必须满足收敛条件:●µ太大将不收敛；●在保证收敛情况下：µ越大，收敛越快，但太大时过渡过程具有振荡特性，且稳态误差较大；µ越小，稳态误差越小，但收敛越慢。或(a)小的µ值情况步长µ值的影响(b)大的µ值情况21内容最优滤波理论与Wiener滤波器梯度下降算法横向LMS自适

5、应滤波器横向RLS自适应滤波器自适应格型滤波器盲自适应滤波器自适应滤波器的应用22自适应滤波基本原理自适应滤波器包括两个过程：滤波过程和自适应过程。此仅考虑后者,即滤波器的自适应实现问题；且主要考虑FIR滤波器的自适应实现，其关键是自适应算法。FIR滤波器的自适应实现指的是：M阶FIR滤波器的抽头权系数w1,…,wM-1可以根据估计误差e(n)的大小自动调节，使得误差在某个统计最优准则下最小。滤波器设计最常用的准则：MMSE准则，即是使滤波器实际输出y(n)与期望响应d(n)之间的均方误差最小;最终达到Wiener解。23自适应滤波基本原理（续）最广泛使用的自适应算法是“下降

6、算法”式中w(n)为第n步迭代(亦即时刻n)的权向量，为第n步迭代的更新步长，v(n)为第n步迭代的更新方向(向量)下降算法的两种实现方式-自适应梯度算法：LMS算法及其改进算法-自适应高斯－牛顿算法：RLS算法及其改进算法本节介绍LMS类算法，下一节介绍RLS类算法。24最小均方（LMS）滤波器最陡下降法：随机优化问题：Wiener滤波器：真实梯度25LMS滤波器（续）梯度下降算法：步长参数，学习速率真实梯度缺点：真实梯度含数学期望，不易求得。梯度估计改进：瞬时梯度：先验估计误差26LMS滤波器（续）基本LMS算法：瞬时梯度分析：最陡下降法LMS算法搜索方向为梯度负方向，每

7、一步更新都使目标函数值减小（“最陡下降含义”）。搜索方向为瞬时梯度负方向，不保证每一步更新都使目标函数值减小，但总趋势使目标函数值减小。27LMS滤波器（续）梯度下降法要求：不同时间的梯度向量（搜索方向）线性独立。LMS算法的独立性要求：要求不同时间的输入信号向量线性独立（因为瞬时梯度向量为）。28LMS滤波器（续）自适应学习速度参数及收敛性（3）“换档变速”方法：固定＋时变（2）时变学习速度：（递减），模拟退火法则（1）固定学习速度：（常数）缺点：偏大收敛快跟踪性能差偏小收敛慢跟踪性能好29LMS滤波