机器学习在模式识别中的应用研究

《机器学习在模式识别中的应用研究》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、机器学习在模式识别中的应用研究杜明1周而重2（1.沈阳化工学院计算中心辽宁沈阳110142；2.北京工业大学计算机学院中国北京100124）【摘耍】近年来，机器学习已成功应用于模式识别领域，并且随着研究的深入，机器学习的相关算法和理论又得到了完善和扩展。本文将阐述机器学习的基本概念，分析应用在模式识别领域的若干机器学习算法。【关键词】机器学习；遗传算法；人工神经网络；支持向量机；k-近邻法机器学习是人工智能研究领域的核心问题之一。它的应用已遍及人工智能的各个分支，如专家系统、自动推理、自然语言理解、模式识别、

2、计算机视觉、智能机器人等领域。机器学习顾名思义就是让计算机通过某种方法进行学习来提高其性能。模式识别可以看成是让计算机将不同的事物划分为不同的类别。人类通过不断学习加深对事物的认识，同样模拟人类智能的模式识别系统也需要通过机器学习算法的改进来提高其分类性能，因此机器学习和模式识别间的联系非常紧密。本文将阐述机器学习的基本概念，分析应用在模式识别领域的若干机器学习算法。1.机器学习1.1机器学习的定义机器学习目前的准确定义是：对于某类任务T和性能度量P,如果一个计算机程序在T上以P衡量的性能随着经验E而自我完善

3、，那么称这个计算机程序在从经验E中学习［1］。1.2机器学习系统的工作机制参看图1的机器学习模型[2],环境向系统的学习部件提供某些信息，学习部件利用这些信息修改知识库，以增进系统执行部件的性能；执行部件根据知识库完成任务，同时把获得的信息反馈给学习部件，这个过程可以看成是机器学习系统通过内部和外部环境提供的信息(经验)来自动获取知识的过程。图1机器学习的简单模型1.3机器学习系统的设计一个机器学习系统的建立主耍考虑两部分：模型的选择和建立;学习算法的设计和选择。不同的模型决定了不同的目标函数，也决定了不同的

4、学习机制。算法的能力和复杂性决定了学习系统的学习能力和效率。同时训练样本集大小和特征选择问题也是制约机器学习系统性能的关键因素。2.机器学习算法在模式识别中的应用模式识别(PatternRecognition)是指对感知信号进行分析，对其中的物体现象或行为进行判别和解释的过程。模式识别过程如图2所示。机器学习的核心问题是搜索问题。针对不同的应用模型，研究者们设计了不同的搜索算法。目前在模式识别领域，采用得比较多的有遗传算法、神经网络、支持向量机、k-近邻法等机器学习算法。图2模式识別过程2.1遗传算法特征维数

5、是困扰机器学习的一大难题，因为从一种模式中提出的特征，反映事物本质的权重是不一样的，有些对分类结果无重大贡献,甚至是冗余的，所以特征的选择过程是非常关键的。遗传算法作为一种寻优算法可以在很大程度上解决特征选择问题。遗传算法可以选择出那些既能反映原模式信息，又对分类结果有重大影响，且彼此间关联性非常小的特征。遗传算法是根据达尔文的自然界生物进化思想，将其灵活运用到优化运算领域而产生的一种寻优算法。它是由美国Michigan大学的Holland教授于1975年提出的［3］。遗传算法的基本方法是以种群中的个体为对象

6、，对其进行选择、交叉和变异等遗传操作。通过遗传操作使群体一代又一代地不断进化，最终得到最优的个体。群体的进化首先从初始群体开始进行，在进化过程中，依据个体对环境的适应度从当前群体中选出优良的个体，使它们有机会作为父代繁衍子孙。遗传算法的程序实现步骤如下：1）选择编码策略，确定适应度函数和遗传策略。遗传策略包括选择种群大小和选择、交叉、变异方法，以及交叉概率、变异概率等遗传参数。2）根据编码策略，把特征集转换成位串结构。3）初始化群体。4）计算群体中个体的适应度值。5）按照遗传策略，运用选择、交叉和变异算子作用

7、于群体，形成下一代群体。6）判断群体性能是否满足某一指标，或已完成预定迭代次数，不满足则返回步骤5或修改遗传策略后再返回步骤5。遗传算法从提出至今，其4个基本要素：编码策略；初始群体的设定；适应度函数的设计；遗传操作算子的设计，即选择算子、交叉算子、变异算子，一血是遗传算法研究者研究和改进的重点。2.2人工神经网络人工神经网络（ANN）是人脑及其活动的一个理论化的数学模型，它由大量的处理单元通过适当的方式互连而成，是一个大规模的非线性自适应系统［4］。人们根据不同的应用，研究出了许多不同的神经网络。迄今为止已

8、有50余种神经网络模型，它们的区别主要在于网络的拓扑结构不同，神经元特性，学习和训练规则不同。例如BP神经网络是应用最普遍的神经网络模型之一，它基于成熟并得到广泛应用的BP算法。BP网络学习是典型的有导师学习，其学习算法采用Delta规则，BP网络实现了多层网络学习设想，其学习过程包括止向传播和反向传播两部分。在止向传播过程中，给定网络的一个输入后，输入信息从输入层经隐含层逐层处理，并传向输岀层，每