多标记维度约减和分类算法研究

《多标记维度约减和分类算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、多标记维度约减和分类算法研究重庆大学硕士学位论文（学术学位）学生姓名：燕凯指导教师：唐朝伟教授专业：通信与信息系统学科门类：工学重庆大学通信工程学院二O一四年六月ResearchontheDimensionalityReductionandClassificationAlgorithmsinMulti-LabelLearningAThesisSubmittedtoChongqingUniversityinPartialFulfillmentoftheRequirementfortheMaster’sDegreeofEngineeringByKaiYanSupervisedbyProf.Cha

2、oweiTangSpecialty:CommunicationandInformationSystemCollegeofCommunicationEngineeringofChongqingUniversity,Chongqing,ChinaJune,2014重庆大学硕士学位论文中文摘要摘要多标记学习来源于文本分类问题的研究，现实生活中很多基于机器学习的问题都可以看作是多标记学习。传统监督学习中每个示例仅仅具有单个标记，但是多标记学习中每个示例拥有多个标记。为了提高多标记学习中分类的准确率，示例的大量原始特征被采集，导致输入空间维数非常高，从而造成“维数灾难”问题。因此，如何从输入空间的高维

3、特征向量中获取有效的低维数据，对于提高多标记分类问题的准确率有重要意义。本文的研究重点是多标记分类中的维度约减算法和多标记分类算法。本文主要工作内容如下：（1）介绍多标记学习、常见的维度约减算法和流形学习算法。流形学习算法能够从高维特征向量数据中获取低维流形结构，并且从高维特征向量数据映射到低维特征空间时，能够保留高维数据中局部邻域间的相互关系。但是局部线性嵌入流形学习(LocallyLinearEmbedding，LLE)算法的近邻点个数是固定的，不能剔除流形中的小规模结构和不能避免将连续的流形分割为不相关的子流形。因此，如何选取近邻点个数成为一个重要的问题。（2）研究了在已标记数据比较少

4、但是未标记数据大量存在的场景下，多标记分类正确率不高的问题。由于实际场景中输入空间的高维特征向量数据仅有少量被标记，大部分数据都没有标记。为了有效去除冗余特征并使用大量未标记样本所提供的潜在信息，需要使用半监督学习方法。为了能够利用类别已知的示例的监督信息，又利用大量类别未知的示例的统计信息进行维度约减；并且确定合适的近邻点个数，本文提出一种可变K近邻半监督局部线性嵌入流形维度约减算法(VariableK-NearestSemi-SupervisedLocallyLinearEmbedding，VKSSLLE)。（3）探讨多标记分类问题中出现的数据分类性能不理想的问题，并提出一种基于VKSS

5、LLE维度约减算法的多标记朴素贝叶斯分类算法。该方法通过使用可变K近邻半监督流形学习算法进行维度约减，并引入朴素贝叶斯分类器进行多标记分类，从而提高多标记分类的准确率。利用不同维度约减算法与朴素贝叶斯分类器相结合，作用于不同的数据集进行实验，结果表明基于VKSSLLE维度约减算法的多标记朴素贝叶斯分类算法能够更好地提高多标记分类的准确率。关键字：多标记分类，多标记维度约减，朴素贝叶斯分类器，流形学习，半监督学习I重庆大学硕士学位论文英文摘要ABSTRACTMulti-labellearningcomesfromtextclassification,andmanyreal-worldprobl

6、emsbasedonmachinelearningfallintothecategoryofmulti-labellearning.Differentfromtraditionalsupervisedlearningmethodswhichassumethateachinstanceisassociatedwithonlyoneclasslabel,oneinstanceinmulti-labellearningusuallybelongstomultiplelabelssimultaneously.Numerousoriginalfeaturesshouldbesampledtoenhan

7、cetheaccuracyofmulti-labellearning,whichresultsin‘curseofdimensionality’problem.Theaccuracyoflearningalgorithmswillbeseverelydegeneratedduetothisproblem.Thus,howtoobtaineffectivelow-dimensionaldatafromhigh-