支撑向量回归中样本简化及加权回归方法

《支撑向量回归中样本简化及加权回归方法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、＼l；1独创性声明本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得北京工业大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢意。签名：盈!墨日期：竺』：：红≯关于论文使用授权的说明本人完全了解北京工业大学有关保留、使用学位论文的规定，即：学校有权保留送交论文的复印件，允许论文被查阅和借阅；学校可以公布论文的全部或部分内容，可以采用影印、缩印或其

2、他复制手段保存论文。(保密的论文在解密后应遵守此规定)签名：建!鱼导师签名：辎必童日期：丝＆：笸．n、摘要摘要统计学习理论(StatisticalLeaningTlleory，SLT)是针对小样本情况的机器学习理论，其核心思想是通过控制学习机器的复杂度来实现对学习机器泛化能力的控制。在这一理论基础上发展起来的支撑向量机(SupportVectorMachine，SvM)是一种新的通用学习方法，它与以往方法相比表现出一些理论和实践上的优势，已经在模式识别、回归估计、自动控制、时间序列预测等多方面得到成功的应用。SVM方法最早是针对模式分类问题提

3、出来的，但近些年来随着占不敏感损失函数的引入，SVM方法己经推广到了非线性系统的回归估计，并表现出了很好的学习性能。然而，支撑向量回归(Support、‰torRe铲ession，SVR)无论在理论研究还是应用方面都没有支撑向量分类的研究工作深入和广泛，在训练算法和实际应用等方面有诸多值得深入探讨的课题。本论文首先综述了支撑向量回归的相关理论基础，如结构风险最小化原则、Wrolfe对偶理论和核方法等，并对其常用模型及参数选择方法进行了介绍，同时分析了存在的问题。对于样本数目较多的数据集，支撑向量回归算法的计算时间比较长，这对于支撑向量机性能的

4、提高有一定限制；此外，实验数据难免受到噪声和野点的影响，可能使得回归结果严重偏离原始模型。本文就这两方面问题进行了深入学习和探索，提出了一种基于样本简化的加权支撑向量回归(SWSVR)方法。实验结果表明，该方法在保证预测正确率的前提下，可以明显缩短计算时间，提高工作效率。关键词支撑向量回归；核方法；样本简化；弱剔除H』●_，I●●．＼Abs仃actAbstractStatisticalle锄ingtheo叫(SLl’)isaI(indofmachine1e锄ingtheo巧forsmalls锄ple-set，itSmainideaist0co

5、n协olthecomplexityofthele锄ingmodel，accordin91y，t0controlthegeneralizationability．SupportVectormachine(SVM)isanewuniVersalleamingmethodbaSedonSLT，itShowssometheoretical锄dpracticaladV锄tagescolnparedwithmeexistentmemods，andith船beensuccessmllyappliedtopanemreco印ition，re乒essiones

6、timation，automaticcontrDl，times喇esf．orec硒tandotherfields．SVMmethodw勰proposedforpattemreco髓itionatfirst，but弱theintroductionof占·insensitiVeloss‰ctioniIlrccentyears，ith硒extelldedoVermeareaofnonline盯re伊ession，趾dhaSshownexcellent1e锄ingperf-0HIl锄ce．HoweVer，theresearchonsupportVec

7、torre黟essionislesssu伍cientbothintheory狃dapplicationcomparedwimsupportVectorclassification．Therearestillmanytopicstostudyin-d印th．First，thisp印eroVeⅣiewthereleVantmeoriesaboutsupponVectorre伊ession，such雒stmcturalriskminiIllizationprinciple，W6lfedualitytheo巧andk锄elmethods．hl仃0du

8、cethecommonmodelofSVRa11dmethodsofpar锄eterselectioIl'aIldanalyzetheirexistingprobl