《独立成分分析》PPT课件

《《独立成分分析》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、独立成分分析Independentcomponentanalysis盲源分离与ICA概念ICA简介ICA过程Infomax算法fastICA算法数学基础根据源信号的统计特性，仅由观测的混合信号恢复(分离)出未知原始源信号的过程“盲”源信号不可观测混合系统的特性事先不可知盲源分离（BlindSourceSeperation）1、盲源分离与ICA的概念盲源分离的目的是求得源信号的最佳估计。给定随机变量的一组观测（X1(t)，X2(t)，X3(t)）其中t是时间或者样本标号。假设他们有独立成分线性的混合而产生：式中，A是一个未知矩阵。在我们观测仅能观测到Xi(

2、t)的情况下，独立分量分析就要同时估计出矩阵A和Si（t）。并且假设观测到的独立成分Xi(t)数目与Si（t）数目相同。当盲源分离的各分量相互独立时，就成为独立分量分析公式1我们将ICA定义为另一种模式寻找一个类似于【公式1】中矩阵B确定线性变换，使得随机变量Yi，i=1，..n尽可能独立。如矩阵B能估计出，对其求逆就能得到矩阵A。2、ICA简介ICA是20世纪90年代提出的，起初是神经网络的研究中有一个重要的问题，独立成分分析是一个解决问题的新方法。在许多应用方面，包括特征识别、信号分离。这种方法是用一种解线性方程组的方式的估计方式求解信号源。声音提取

3、：典型例子：“鸡尾酒会”的问题。人的大脑可以很快辨出或集中听某种需要关注声音。麦克风1麦克风2麦克风3a为权重的参数，在鸡尾酒舞会问题中为距离，x为两个话筒得到信号，s为两个表演者的声音。这两个人的声音相对独立并且忽略所有的其他因素比如声音的时间延迟。如果我们知道a的参数，也就是说知道距离，反解出s就很简单。（半盲源）但ICA是在不知道a和Si(t)的情况下的一种估计的算法，也就是说的盲信号分离的一种算法。ICA的约束为了确保上边刚刚给出的基本的ICA模型能被估计，我们必须要做出一定的假设和约束。1.独立成分被假定是统计独立的；2.独立成分具有非高斯的分

4、布；3.假定混合矩阵是方阵；1.独立成分被假定是统计独立的该假设是ICA能够成立的前提。概念上理解：我们说随机变量y1，y2..yn独立，是指在i≠j时，有关yi的取值情况对于yj如何取值没有提供任何信息。技术角度上理解：联合概率密度等于各边缘概率密度的乘积。2.独立成分具有非高斯的分布如果观测到的变量具有高斯分布，那么ICA在本质上是不可能实现的。原因：因为独立成分联合分布式高斯的，那么他们的联合概率密度为：P(s1,s2)=1/2πexp[-(s12+s22)/2]=1/2πexp（-s2/2）假定S经过混合矩阵A后，他们的联合概率密度仍然不变化，因

5、此我们没有办法在混合中的得到混合矩阵的信息。3.假定混合矩阵是方阵换句话说，就是独立成分的个数与观测到的混合量个数相同。ICA的含混因素在公式1定义的ICA模型中，存在一些含混因素和不确定性。1.我们无法观测处独立成分的幅值；原因：在计算的过程中我们做过相应的预处。单位化。2.我们无法确定独立成分的次序；原因：也是由于S和A的未知造成的。寻找独立成分方法1.极大化非高斯性；2.非线性去相关；1.极大化非高斯性（fastICA）分离过程中，可通过对分离结果的非高斯性度量来表示分离结果间的相互独立性，当非高斯性度量达到最大时，则表明已完成对各独立分量的分离。

6、2.非线性去相关(infomaxICA)独立性本身蕴含了非线性不相关性：若S1和S2独立，那么任何非线性变换g(s1)和h(s2)都是不相关的。这样我们可以通过一种更强的形式去相关运算来实现ICA。即：寻找举证B(分离矩阵)，使得yi即使经过非线性变化仍然不相关。应用场景生物医学信号领域心电图(ECG)脑电图(EEG)信号分离听觉信号分析、功能磁共振图像(FMRI)分析处理孕妇身上测到的心电信号，分别得到孕妇自己和胎儿的心电信号阵列信号处理领域应用场景在阵列传感器中，各传感器接收到混合信号，源信号和混合特性未知，是典型的盲分离应用问题。在移动通信阵列天线

7、处理、海洋声纳探测等方面的作用越来越重要声信号处理领域应用场景移动通信中，ICA技术能够有效地消除噪声、抑制干扰、增强语音，提高通信质量；通过ICA方法对车辆行驶时产生的声音信号进行分离，对车辆个数与行车方向进行估计，实现车辆的简单分类3、数学基础牛顿迭代法熵负熵牛顿迭代法法牛顿法最初是用于求解方程f(x)=0的解。其解的过程：由初始值x(k)开始，用一阶导数f’(x(k))=0计算新的估计值x(k+1)。x(k+1)由f(x)在Pk点的切线与x轴的交点来确定。因此：f’(xk)=f(xk)Xk-xk+1Xk+1=xk-f(xk)f’(xk)而式中的f’

8、(xk)可以看做是在初始点的导数，是可以很容易求出来的。例.用牛顿迭代法求方程的