支持向量回归机算法理论研究与应用

《支持向量回归机算法理论研究与应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、重庆大学博士学位论文支持向量回归机算法理论研究与应用姓名：曾绍华申请学位级别：博士专业：控制理论与控制工程指导教师：曹长修20061030重庆大学博士论文构建新的训练样本子集的时间复杂度降低为o(11。并利用整数规划对m的取值进行了优化。最后，进行仿真实验，验证了支持向量逐步回归机算法及其改进算法的收敛性和有效性。(2)根据LS—SVM不具有稀疏解的特性，提出了LS．SVM组合优化算法。其算法思想是：运用两模型的组合优化的解析解，将大样本随机划分的各训练样本子集(每训练样本子集包含P个样本)独自iJtl练的

2、LS．SVM依次组合一稀疏化(保留k个支持向量)--iitl练这k个支持向量的LS．SⅥ以一再组合，¨⋯．，这样循环，获得最终的LS—SVM。LS—SVM组合优化算法的时间复杂度从传统LSSVM算法D《，’)的时间复杂度降低为o{(后+p)5)。由于稀疏化算法非常耗时，用组合后直接稀疏掉P个(划分的训练样本子集包含的样本个数)训练样本改进了上述算法，减少稀疏化的时间花销。并利用整数规划对划分的训练样本子集包含的样本个数P进行了优化。最后，进行仿真实验，验证了LS．SVM组合优化算法及其改进算法的收敛性和有效

3、性。(3)分析了支持向量回归中异常数据的特征，提出了支持向量回归中剔除异常数据算法。仿真结果显示，提出的剔除支持向量回归中异常数据的算法是有效的。根据支持向量回归中剔除异常数据算法原理，提出了用系统正常运行数据建立支持向量回归机，进行故障检测的算法思想。根据系统输出的时变性，实现了建立静态模型的在线故障检测算法和自适应动态模型的故障检测算法，并进行仿真，其结果表明：用系统正常运行数据训练支持向量回归机用于系统故障检测是非常有效的。(4)用支持向量回归机实现了数据挖掘中没有确切定义的目标交量的非线性定义，解决

4、了定义的非线性和泛化性问题。(5)将支持向量回归机改进算法、支持向量回归中剔除异常数据算法用于解决工程背景下的铁水脱硫、提钒问题。基于上述研究，对支持向量逐步回归机的特点进行了总结，对支持向量回归机的理论研究和应用研究进行了展望。关键词：支持向量回归机，组合优化，整数规划，异常数据，故障检测，目标变量，铁水脱硫提钒Ⅱ英文摘要ABSTRACTSupportVectorMachine(SVM)wasinventedbyBoser,GuyonandVapnik，andWasputforwardatthe54ann

5、ualACMWorkshop(1992)onComputationLearningTheory(COLT)forthefirsttime．ItwasanewmilestoneinthefieldofintellectualcomputationafI盯artificialneuralnet，SVMisbasedonstrictlyjustifiedstatisticalstudyingtheory．Itmapsdatafromsamplingspacetohigherdimensionalcharacter

6、isticspacebythekernelfunctionsandconvertsnonlinearproblemintoline舡divisibleproblemtogetoptimumrelation．Thisisagreatinnovationintheory．SVMhasrigorousmathematicfoundation,trainingresultsonlyhavingrelationshipwithSupportVectors(SVs)，thusSVMhasstronggeneraliza

7、tionandbecomesimportanttoolforsolvingnonlinearproblem．Therefore,itisofbroadconcemadinthefieldofintellectualcomputationandbroadlyusedinPatternClassificationandRegression．Basedonpre-scholars’achievementandfirst-phaseworkingofthisstudy,theyWaSprimarilystudied

8、inthispaper,thealgorithmsofSupportVectorRegression(svg)undertheconditionoflargesamplesetaswellastheapplicationsofSVRinrejectingexceptionaldata,failuretesting,thenonlineardefinitionofatargetvariablewhichCan’tb