基于图的半监督学习模型研究与分类器设计

《基于图的半监督学习模型研究与分类器设计》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、中国科学技术大学硕士学位论文基于图的半监督学习模型研究与分类器设计姓名：郝建柏申请学位级别：硕士专业：电路与系统指导教师：陈贤富20090501摘要在机器学习领域，有监督学习和无监督学习是两种常用的学习算法，但是他们在处理由于类别标注困难带来的标签数据极少、未标签数据众多的分类问题时效果往往不佳。针对此类问题，半监督学习近来被提出并获得广泛的研究。半监督学习结合两种传统学习算法的优势，能同时采用标签数据和未标签数据构造分类器，且一般能够获得较传统学习算法更好的学习效果。本文对半监督分类算法开展了

2、较深入的研究，具体工作如下：文章首先对半监督学习中的典型算法进行了分析，并将其与有监督学习进行比较，发现半监督分类器的分类精度与其模型假设密切相关。只有在算法模型假设能够较好符合数据的真实结构时，未标签数据的采用能够帮助提升分类精度；否则，未标签数据可能不起作用，甚至起反作用。其次，本文通过对标签传递算法的实验研究，发现用随机选择的数据作为训练集会造成算法分类精度的较大波动。这说明可通过主动选择较优训练集去提升标签传递算法的分类精度。而在主动学习中，分类器可根据当前状态主动挑选能最大程度提升自身

3、性能的待标注数据。通过引入此思想，本文提出了结合主动学习的标签传递算法，并对算法模型及待标注数据选择策略开展了研究，使得该算法可动态选择能最大程度降低标签传递算法当前分类风险的数据，提高训练集的质量。在UCI等数据集上的实验结果显示，训练数据数量相同时，该算法的分类精度超越了随机选择训练集数据的标签传递算法。实验中，我们发现该算法经常选择聚类中心的数据，因此，这些数据适合于作为标签传递算法的训练集。基于图的半监督分类算法需构造一个以数据为顶点、以数据间相似性值为边的图。在这种构造图的方法中相似性

4、度量函数及其参数不易控制，数据的近邻个数也难以选择。通过对局部线性嵌入算法的研究，我们发现该算法构造线性近邻时不采用相似性函数，并且通过对数据局部流形的估算，判断数据是否位于分类间隙附近，可动态调整数据的近邻个数，达到减少不同类数据间连接的目的，进而减少标签误传递的概率。结合这两个优点，本文提出了基于局部线性嵌入算法构建图的标签传递算法。在UCI等数据等集上的实验结果表明，该算法中的图较传统图更容易使用，与典型标签传递算法相比，基于该图的标签传递算法分类精度更高。关键词：半监督学习主动学习基于图

5、的方法标签传递算法局部线性嵌入AbstractABSTRACTIntraditionalmachinelearningarea,therearetwocommonlyusedleamingalgorithms，supervisedlearningandunsupervisedlearning，butneitherofthemissuitablefordealing、Ⅳitllthesituationwheretherearefewlabeleddataandlargeamountofunlabe

6、leddata．Tothisproblem，semi—supervisedlearningwasproposedrecentlyandhasattractedgreatresearchinterest．Semi—supervisedlearningcombinestheadvantageofbothtraditionallearningmethods，itCanbuildabetterclassifierbyusingtheunlabeleddatatogetherwiththelabeledd

7、ata．Thispaperdoessomeresearchonsemi—supervisedclassificationalgorithms，themainworkisasfollows：Firstly,thispaperanalysesthetypicalsemi-supervisedclassificationalgorithms，bycomparingittosupervisedones，findsthattheclassifier’saccuracyiscloselyrelatedtoi

8、tsmodelassumption．Onlywhenthemodelassumptionmatchestheproblemstructurewell，theunlabeleddataCanhelptoimprovetheclassifier’saccuracy；otherwise，unlabeleddatamaybeofnouse，orevenhavebadaffectontheclassifier．Secondly,bydoingexperimentoflabelpropagationalgo