耦合的支持向量学习方法及应用研究

《耦合的支持向量学习方法及应用研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、分类号密级博±学位论文＊题目；禪合的支持向置学习方法及应用硏巧英文并列题目：ＳＵｉｄｙｏｎＣｏｕｐｌｅｄＳｕｐｐｏｒｔｅｄＶｅｃｔｏｒＭｅｔ：ｈｏｄＡｎｄＩｔｓＡｌｉｃａｔｉｏｎｐｐ研究生：．史英中；較下倍息巧术与下巧专业研究方向：模式识别与人工智能导师：王±同指导小组成员；学位授予日期：答辩委员会主席：Ｉ解江南大学地址；无锡市蠢湖大道］８００号二六年四月独创性声明本人声巧所呈交的学位论文是本人在导师指导下进行的研究工作及助得

2、的研巧巧果。皂我巧知，除了文中特别加ｗ标注和致谢的地方外，论文中不包含貨他人已经发表巧撰写过的研究成果，也不包含本人为获得江南大学或真它教育机构的学位或证书而使用过的材料一同工作的同志。与巧对本研究所做的任何责献均百在论文中作了明确的说明巧表示谢意。文Ｉ７＇签名：攻忘十曰期：＞口关于论文使用授权的说明本学位论文作着完全了解江南大学有关保留：、使用学位论文的规定江南大学有权保留巧向国家育关部口或机构送交论文的复印件和磁盘，化许论文彼查阅和借阅，可獻巧学位论文的全部或部分内容編入有关数据店进行检索，可Ｗ

3、采用影印、缩印或妇描等复制手段保巧、汇编学位论文，巧且一本人电子的肉容和纸质论的内巧致。文档文容保密的学位论义在密后也遵此规定。解守ｙ／签：：名导师签名Ｉ：ｂ期曰摘要摘要传统的机器学习问题面向的是单一学习机问题，当前多学习机问题正得到越来越多的关注，但目前尚没有研究从宏观的角度来统一来描述多学习机问题。多任务学习是同时求解相关数据集上的既关联又有不同特征的多个学习机；迁移学习则关注于相关历史场景中丰富但又不能直接使用的数据或模型对当前场景建模的增益作用；概念漂移是对不断变化的学习场景进行研究。它们都是直接或间

4、接地对多个子学习机及其关系进行研究，本文统一称之为耦合的机器学习方法。本文提出耦合支持向量学习的框架，期望在此角度下，可以使多学习机问题的研究焦点更多地放在场景之间的耦合特征上。时间自适应支持向量机方法在处理非静态数据集时表现出良好的性能，但仅根据邻接子分类器相似而获得的相关信息并不充分，由此可能会导致训练所得模型不可靠，限制其应用能力。通过定义子分类器序列的相关性衰减函数，提出新的面向非静态数据分类问题的演进支持向量机(EvolvingSupportVectorMachines,ESVM)。ESVM使用衰变函数以体现子分类器之间的相关程度,

5、通过约束所有子分类器之间的带权差异以求得变化更光滑的子分类器序列，契合了数据中隐藏的渐变概念。在各种数据缓慢变化场景的对比实验中，该文的ESVM方法优于以往方法。虽然时间自适应支持向量机有着从兼顾局部优化和全局优化的角度同时求解多个子分类器的特性，但子分类器之间的直接耦合带来了计算中的矩阵求伪逆问题,因而难以从理论上保证其扩展核函数为Mercer核函数；且对于大数据集,较高的计算代价限制了其实用性。针对此不足,提出了改进型时间自适应支持向量机(ImprovedTimeAdaptiveSupportVectorMachine，ITA-SVM)，

6、用基分类器及一组增量来描述子分类器序列，以避免因直接求解子分类器序列而带来的矩阵求伪逆问题；并结合CVM理论，给出了ITA-SVM的快速算法。ITA-SVM在处理非静态数据集时有着与TA-SVM相当或更良好的分类性能，同时又具有渐近线性时间复杂度的优点。该方法的有效性在实验中得到了验证。传统的回归系统构建方法在训练时仅考虑单一的场景，其伴随的一个重要缺陷是：若当前场景中重要信息缺失，受训所得系统泛化能力较差。针对此不足,以支持向量回归机为基础，提出了具有迁移学习能力的回归机系统，即迁移学习支持向量回归机(TransferlearningSup

7、portVectorRegression，T-SVR)。T-SVR不仅能充分利用当前场景的数据信息，而且能有效地利用历史知识来学习，具有通过迁移历史场景知识来弥补当前场景信息缺失的能力。具体地，通过控制目标函数中当前模型与历史模型的相似性，使当前模型能在信息缺失和不足时从历史场景中得到有益信息，得到增强的当前场景模型。在模拟数据和汾酒光谱数据集上的实验研究亦验证了在信息缺失场景下T-SVR较之于传统回归系统建模方法的更好适应性。多任务学习方法旨在借助相关任务中的信息以提高各个子学习机的性能，在理论研究及基因测序、网页分类等实际应用方面都已经取

8、得了较好的成果。然而以往方法仅关注于多个任务之间的关联，而未充分考虑算法的复杂度。当前社会信息量的急剧膨胀对I摘要多任务学习提出了新的挑战,较高的计算代价限制了以往