支持向量机参数选择及训练算法研究

支持向量机参数选择及训练算法研究

ID:36805313

大小:4.19 MB

页数:178页

时间:2019-05-15

支持向量机参数选择及训练算法研究_第1页
支持向量机参数选择及训练算法研究_第2页
支持向量机参数选择及训练算法研究_第3页
支持向量机参数选择及训练算法研究_第4页
支持向量机参数选择及训练算法研究_第5页
资源描述:

《支持向量机参数选择及训练算法研究》由会员上传分享,免费在线阅读,更多相关内容在学术论文-天天文库

1、华南理工大学博士学位论文支持向量机参数选择及训练算法研究姓名:田翔申请学位级别:博士专业:系统工程指导教师:邓飞其20061013摘要摘要基于数据的机器学习是现代智能技术中的重要方面。支持向量机(SVM)是近年发展起来的一种基于统计学习理论(SLT)处理小样本学习问题的算法,它采用结构风险最小化原理,解决了过学习、非线性、维数灾、局部极小点等问题,成为目前最普遍使用的机器学习算法。本文对支持向量机中的参数选择、增量学习、多类分类、在线训练等多个问题的模型、算法及其在证券投资决策中的应用进行了研究和探讨。主要工作如下:1、提出了一种改进的免疫网络算

2、法。针对标准免疫网络在函数寻优过程中存在的问题,提出了基于“年龄”的搜索半径策略,以增强局部搜索能力;改进了网络的扩展策略,以兼顾样本多样性与计算效率;改进了网络收缩时的保留策略,防止最优解的退化,消除了原算法在寻优过程后期最优解性能的波动现象。数值实验表明,与原算法相比,改进后的算法在找到全局最优解的比例和效率方面有非常明显的提高。2、将SVl\I预测精度看作是一个关于模型参数的不连续的多极值函数,基于上述改进的免疫网络算法,对支持向量机的模型参数选择问题进行了研究,将免疫网络算法与支持向量机相结合形成一个AIN.SVM算法。分别对分类和回归数

3、据集进行了测试,结果表明该方法能够更快速地在更大的空问内进行有效搜索,与传统的交叉验证方法相比,在搜索速度与稀疏性上具有较大的优势。3、针对最小二乘支持向量机(LS.SVM)的计算特点,提出了快速的递增学习过程和递减学习过程。通过让训练样本以序列输入方式替代批华南理工大学博士学位论文量输入方式,交替地对样本进行递增训练和递减训练,并迭代训练多次,得到了迭代增量LS.SVM训练算法。通过对多个UCI和Statlog中数据集的测试表明,该算法与现有的采用迭代裁剪方法的稀疏近似LS.SVM算法相比,在识别精度相当的情况下,在训练效率和稀疏性方面都具有明

4、显的优势,有效地实现了LS.SVM的稀疏性。4、针对传统多类分类方法中存在的“不可识别区域”问题,提出了“1.b.1”的方法,该方法消除了“不可识别区域”,并有效降低了多个二类分类器的训练运算量。通过对“1.b.1”的进一步改进,提出了自适应二叉树多类分类方法(ABTSVM),该方法利用聚类分析中的类距离和类包含的思想,通过先聚类再分类的方式,解决了“1.b.1”中存在的随机性问题。对多个UCI和Statlog中的多类数据集进行了测试,ABTSVM在识别精度和支持向量数量方面都表现出良好的性能。5、在(3)中的增量式训练算法的基础上,给出了适合实

5、时系统使用的在线增量稀疏LS.SVR训练算法。通过简化增量训练中的递增学习过程和递减学习过程,进一步提高了训练效率,同时将支持向量数目维持在较低水平、提高了测试速度。通过对两个标准集的测试表明:提出的在线增量稀疏LS.SVR与现有的在线增量算法相比,改善了训练效率、测试速度和预测精度的综合性能。6、将支持向量机分类方法应用于上市公司的财务风险评价模型及预警研究,将支持向量机回归方法应用于股市指数的预测研究。使用AIN.SVM进行上市公司的财务风险评价模型及预警研究,使用ABTSVM进行上市公司的多类财务风险评价模型研究,与现有的方法相比获得了更好

6、的推广性能;使用在线支持向量机回归算法进行上证180指数预测,摘要有效地拟合金融数据之间的非线性关系,解决了金融数据由于其随机性、非线性、小样本、强噪声而难以预测的问题。关键词:支持向量机;参数选择;多类分类;在线训练;投资决策;人工免疫网络华南理工大学博士学位论文ABSTRACTDatabasedmachinelearningisanimportanttopicofmodernintelligenttechniques.SupportVectorMachine(SVM)hasgainedgreatattentioninrecentyearsfo

7、ritspowerfulpotentialinsolvingnonlinearoptimizationproblemsanditsadvantagesinavoidingover-fitting,dimensiondisaster,andlocalminimum.ThisdissertationstudiesSVMparameterselection,SVMincrementaltrainingalgorithms,multi.classSVM,onlineSupportVectorRegression,andapplicationsofSVMs

8、instockinvestmentdecision.Themaincontentsofthedissertationareasfollo

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。