基于SVM的多特征数据的概率融合方法

《基于SVM的多特征数据的概率融合方法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、第29卷湖匕师范学院学报(自然科学版)V01．29第2期JournalofHubeiNormalUniversity(NaturalScience)No．2，2009基于SVM的多特征数据的概率融合方法潘继斌(湖北师范学院数学与统计学院，湖北黄石435002)摘要：针对刻画研究对象的独立多特征的多来源数据或信息，目的为对总体类别识别问题，研究了利用支持向量机方法对各特征分别进行模式识另q后，引入样本的后验概率，并以此形成似然函数，从而建立多源数据特征级概率融合方法，该方法具有不必对数据进行预处理，处理的数据可以是不同质、高维、小样本数据，没有强的先验假设，能用机器自动实现等特点。关键词：

2、支持向量机；后验概率；似然函数；数据融合中图分类号：TP'／51文献标识码：A文章编号：1009-2714(2009)02·0021-03数据融合是将来自多传感器观测数据或多源信息进行综合处理，从而得出比单传感器更为准确可靠的结论。人类可以非常自然地把多传感器(眼、耳、鼻、四肢)的信息(景物、声音、气味、触觉)组合起来，使用先验知识去估计，理解周围的环境和正在发生的事情。多传感器数据融合的基本原理就象人脑综合处理信息一样，充分利用多个传感器资源，对它们观测的信息进行合理支配和使用，把多个传感器在空间和时间上的冗余或互补信息依照某种规则进行组合，以获得被测对象的一致性解释或描述。目前，对多

3、源数据的比较成熟融合方法和应用大多为像素数融合。像素数融合是直接在原始数据层上进行融合，要求信息有一定的精度且来自同质传感器，处理数据量大，可用于多源图像复合、图像分析和理解等。而实际应用中，常遇到的多源数据是不同质的，反映研究对象不同特性的特征数据，需要进行特征级融合，要求用更高级的融合技术。对特征融合，人们一般采用Bayesian方法，逻辑推理结合D—s证据理论法及神经网络法。它们都有一定的假设条件，使用范围受到限制，实际中难以实现等缺点，最近一些学者提出一些新的融合方法。如文[3]在对各类各指标假定服从正态分布的前提下，利用参数估计得到密度函数，进而用极大似然思想对密度函数作概率融

4、合。本文针对多源数据或信息的模式识别问题，提出了基于支持向量机输出，引入后验概率，融合过程采用最大化后验概率形成的似然函数的概率融合方法。该方法没有数据噪声模型的先验假设，具有支持向量机的高维、非线性、小样本条件等优点，利用现有算法可自动、简便实现。1多特征模式类型判别模型设有研究对象x，其可能属于k个类型{c。，c：，⋯，c}中的某一类，为了对x的实际类型作出判别，可选取能够反映本质特征的／7,个独立指标{，⋯}，若每个指标到K个类型有一个未知的概率分布(／=。c)，i=I，2，⋯，rt√=I，2，⋯，k，则问题是由按每个(，ci)独立抽取的容量为m的观测数据{x,j(￡)}，f=1，

5、2，⋯，m，i=1，2，⋯，rt,j。=1，2，⋯，k及的指标观测值(，，2，⋯，)，对的类型进行判别，即建立一个判别准则，：其中：F={，⋯}，力={c，c：，⋯，c。}．上述问题在实践中大量存在，如对未知类型物体的不同部位用不同的传感器进行测量，依此判别收稿日期：20o9—o2一l6作者简介：潘继斌(1963～)，男，湖北浠水人，副教授。在读博士，主要研究方向为统计学习理论、模式识别、信息处理·21·物体的类型；根据病人不同生理特征值作出病情诊断；对同一地面物体用不同测量手段得到的观测数据对其类型作出判断，用不同的教育测量量表或心理测量方法对人的能力、性格作出判断等。上述模型对每个指

6、标而言是基于经验数据的一般学习模型，可以利用支持向量机方法解决，但为了能将所有指标信息结合起来，需要把支持向量机的输出转换为后验概率，据此利用极大似然函数的思想得到判别规则。本文提出的算法模型为：圈亟囹匝匦匝互委囫亟囹匝堕囹一匝五囹圈i!i匦亟囹匦囹匦堕五团2支持向量机中引入后验概率的理论支持向量机的思想是在由核函数(，Y)确定的特征空间日上构造软间隔分离超平面，用正则化因子平衡间隔最大化和训练误差最小化，它可转化为优化问题：minimize~b(to，)=÷Il∞ll+c互￡，Y[(∞·i)+b]≥l一直，基≥0此问题可转化为具有凸线性约束的二次规则问题：maxi。mizeW(ct)=

7、一寺f荟1y-Ii}(，)+，i，，‘％0，o≤≤c，=1，2，⋯，m·它的最优解是)=l∑％Yk(x，)+b，其中b可由KK一7’条件和标准支持向量求出，分类的决策规贝q为g(x)=sgn(．厂())=sgn(Yik(x，)+b)．传统的支持向量机并不产生后验概率，但后验概率对分类器的设计非常重要。近几年，一些学者开始研究如何在支持向量机分类器中引人后验概率。多数人的思想是利用输出中的判别函数厂()，对后验概率采用指数型参数化模型