独立成分分析的若干算法及其应用研究

《独立成分分析的若干算法及其应用研究》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、大连理工大学博士学位论文独立成分分析的若干算法及其应用研究姓名：史振威申请学位级别：博士专业：运筹学与控制论指导教师：唐焕文;唐一源20050401独立成分分析的若干算法及其应用研究摘要独立成分分析(independentcomponentanalysis，ICA)是一种新的数据处理方法，目的在于从未知源信号的观测混合信号中分离(或抽取)相互统计独立的源信号．将ICA用来处理盲源分离问题(blindsourceseparation，BSS)已经引起了广泛的关注，并已成功地应用于语音信号处理、通信、人脸识

2、别、图像特征提取、神经计算和医学信号处理等众多领域．本论文就独立成分分析、盲源分离的若干算法及其应用进行了一些研究．本文的概要如下：第一章对独立成分分析的算法和应用，国内外的发展状况作了较详细的介绍，并阐述了本文的主要工作．第二章对标准的ICA进行了研究．国际上应用最广的是FastICA算法(Fixed-Point算法)和极大似然的自然梯度法(Infomax算法或Leeeta1．的ExtICA算法)，它们各有优缺点．FastICA收敛速度快，但分离精度上逊于ExtICA算法；而ExtICA算法的收敛速度

3、较慢．针对这种情况，我们提出一种新的不动点算法，该算法综合了FastlCA算法和ExtICA算法各自的优势，能够盲分离超高斯和亚高斯分布源的混合信号．与FastlCA算法和ExtICA算法比较，该算法在分离的精度上较高且算法收敛速度较快．将该算法应用到大规模的生物医学信号fMPH(功能磁共振成像)的数据处理中，得到了不错的结果，从时间动力学的角度来看，该算法优于FastICA算法．进一步针对ICA对于幅度和捧序的不确定性，提出一种基于投影方法的约束独立成分分析算法，使分离出的信号能按某种统计量来进行捧序

4、．第三章针对源信号的个数多于混合信号个数时的盲分离问题，即超完备的独立成分分析(overcompleteICA)进行了研究．我们提出用两阶段方法来求解该问题，即先估计混合矩阵，当估计出混合矩阵后，再估计源信号．首先，提出用广义指数混合模型f或稀疏混合模型)来估计混合矩阵，这同时适用于无噪和低噪声模型的情况．估计出混合矩阵后，对于无噪的情况，通过解大规模的线性规划来估计源信号；对于低噪声的情况，可通过MAP方法来估计源信号．将算法用于自然语音信号的盲分离中，取得了较好的结果．第四章研究具有时间结构的独立成

5、分分析．当源信号具有时间结构时，从信息论的观点出发，提出复杂性寻踪的不动点算法，来寻找数据投影最易编码的方向．这个观点可能与大脑的信息处理原理有联系．与一般的只利用非高斯性或只利用时间结构的ICA算法不同，该算法有效结合了数据的非高斯性和时间结构信息，能够最大限度的挖掘数据的信息，来获得更好的结果．这个算法与一般的神经梯度算法相比有优势，如收敛速度快，不用选择学习率，这些特点使得该算法能够有效应用到实际问题的处理中，能够解决标准的IGA算法所不能髂决的问题．我们还对算法进行了收敛性分析．有趣的是，当源信

6、号不具有时间结构时，该算法即是著名的FastICA算法．该算法能够分A1大连理工大学博士学位论文离出具有相同自协方差的信号(包括两个以上的高斯信号)，这对于一般的盲分离算法是相当艰巨的任务．将该算法用于自然图像的盲分离中，取得了较好的效果．这是标准的ICA算法难以完成的任务，因为通常自然图像之间并不是统计独立的，具有一定的相关性，结合它们内在的时间结构信息，复杂性寻踪的不动点算法能够较好的完成这个任务．第五章针对fMRI(功能磁共振成像)数据的空间独立成分分析，提出了两个算法：Orth-Infomax算

7、法和新的牛顿型算法．到目前为止，国际上常用两个ICA算法来执行flVIRI数据的空间独立成分分析：Infomax算法和Fixed-Point算法(FastmA算法)．本章提出独立成分分析的一个改进的梯度学习算法，简称正交信息极大化算法(OrthogonalInfomax，Orth．Infomax)．这个算法综合TInfomax算法和Fixed-Point算法的优点．我们从语音信号和fMPd信号两方面来比较这三个算法．就语音信号的分离准确度来说，Orth．Infomax算法具有较好的分离精度．对于真实的f

8、lvIRI数据来说，Orth-Infomax算法具有最佳的估计脑内激活的时问动力学准确性．这说明该算法是对大规模flVIRI信号进行空间独立成分分析的有效算法．另外，我们采用独立成分分析的一种新的牛顿型算法来提取fiVIRI信号中的各种独立成分(包括与实验设计相关的成分以及备种噪声)．与FastlCA相比，该算法减少了运算量，提高了运算速度，而且能够很好地分离出各个独立成分．我们对算法进行了收敛性分析，在较弱的条件下，算法具有收敛快速的特点