支持张量机的切平面算法研究

《支持张量机的切平面算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、．．’：ｒｉ．一．：．訂憩覺驚护．＾营難Ｖ硕±学位论文ｉ．Ｌ支持张量机的切平面算法硏究ＩＰｒ作者姓名ｍｍ学科专业计算数学指导教师杨晓伟教授所在学院数学学院论文提交日期２０１６年５月ｒ＼’粗？＇＇：：費：．ＩＶ．？巧：．＇掉霉山．占．ResearchonCuttingPlaneAlgorithmforSupportTensorMachineADissertationSubmittedfortheDegreeofMasterCandidate：LiQianSu

2、pervisor：Prof.YangXiaoweiSouthChinaUniversityofTechnologyGuangzhou,China分类号：ＴＰ巧１学校代号；１０５６１学号；２０１３２０１２０％１华南理工大学硕±学位论文支持张量机的切平面算法研究作者姓名；李倩指导教师姓名、职称：杨晓伟教授申请学位级别：理学硕±学科专业名称：计算数学研究方向：优化计算与数据挖掘论文提交日期：如＾年Ｊ月３＞日论文答辩日期：名年＾月丈日学位授予单位：华南理工大学学位授予日期：年月日答辩委员会成员；主席；拜讀委员：讳遍也辞抑躺201

3、6年6月1日摘要支持向量机在解决回归和分类问题时，通过把二次规划问题转化成对偶问题进行求解，使得其在处理高维小样本数据问题上具有期望的良好性能。分解算法如：chunking、SMO利用支持向量机算法的特殊结构，把对对偶问题的求解分解成对一系列固定规模的子问题的求解，使得支持向量机在处理较大规模的数据分类问题时也能表现出较好的性能。然而，随着数据规模的增大，分解算法需要解决的子问题的数量也随之增加，分解算法也会出现计算上的瓶颈。随后，一系列基于切平面算法解决支持向量机原始优化问题模型的提出，使得支持向量机解决大规模数据分类问题上的性能有了显著的提高。在文本分类和计算机安全等诸多领域

4、的应用问题中，通常需要处理大量的多线性数据比如矩阵或者高阶张量。传统机器学习领域的经典方法往往需要把张量数据转化为向量时才能使用，然而这种做法必然会破坏数据原有的结构和联系，甚至还会引起维数灾难。针对大规模张量数据的出现和传统向量模型的局限性，本文提出了一种新颖的解决大规模张量数据分类问题的线性支持高阶张量机切平面算法(CPA-SHTM)。该算法把张量作为算法的输入，结合张量的秩一分解算法，构造线性支持高阶张量机(SHTM)模型。在线性支持高阶张量机模型的原问题中，加入切平面算法，用一系列分段线性函数在某些点处的最大值来近似优化问题中的风险函数，达到既能够最大可能的保留张量数据的

5、结构信息又能够高效快速的对大规模张量数据进行分类的目的。本文在人脸识别，步态识别和手写体识别三种不同类型的12个数据集上进行试验，将本文新提出的线性支持高阶张量机切平面算法(CPA-SHTM)与支持向量机改进切平面算法(OCA-T)在测试精度和训练时间上进行对比。实验结果表明线性支持高阶张量机切平面算法(CPA-SHTM)无论在训练时间上还是测试精度上都表现出了更优的性能。实验最后还对张量的秩R与平均测试精度和平均测试时间之间的关系进行了讨论。关键词：支持向量机；支持张量机；切平面算法IAbstractSupportvectormachinegainedalotofattract

6、ivefeaturesandpromisingperformancefordataclassificationandregressionanalysisofsmallsamplesize,high-dimensionalproblemswhichwassolvedusingthedualformulationoftheprimalquadraticoptimizationproblem.So-calleddecompositiontechniquesaschunkingorSMOareabletohandleclassificationproblemswithlargerdata

7、setsbyexploitingthespecialstructureoftheSVMproblem.Thekeyideaofdecompositionistosolveasequenceofconstant-sizesubproblemsinsteadofthedualproblem.Howeverwiththeincreaseinthesizeofdatasets,thenumberofsubproblemsindecompositiontechniquestobesolve