论机器学习中符号主义与连接主义的结合-关于混合型机器学习系统的研究

《论机器学习中符号主义与连接主义的结合-关于混合型机器学习系统的研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、中山大学硕士学位论文论机器学习中符号主义与连接主义的结合—关于混合型机器学习系统的研究姓名：周晓宁申请学位级别：硕士专业：计算机软件与理论指导教师：王若梅2003.5.8摘要r本文讨论的主要问题是如何构造一个性能更好的机器学习系统。机器学习是＼一个多学科的领域，在发展中也形成了不同的流派。本文选择了其中应用比较成熟和广泛的“符号主义”和“连接主义”两类方法作为研究的范围，针对这两类机器学习方法相互问的优缺点有一定互补性的特点，试图构造出融合双方优点的全新混合型机器学习系统。在研究中分别采用“符号主义”和“连接主

2、义”两类方法中具有代表性的“决策树学习方法”和“人工神经元网络学习方法”作为研＼究对象。、lJ本文主要讨论了两方面的研究成果：利用决策树提高人工神经元网络的可理解性，以及利用人工神经元网络提高决策树的泛化能力。在“利用决策树提高人工神经元网络的可理解性”方面，本文提出了全新的“相关系数决策树”概念，通过神经网络训练建立进行分类的数据，在不需要具体应用领域知识指导下，以统计学理论为基础，通过计算人工神经元网络的每一个输入节点和输出节点之间的相关程度建立决策树，把隐含在人工神经元网络中，的规则表示出来，提高了提取人

3、工神经元网络的隐含规则的准确程度。映验结果＼表明，该方法可理解性强，简洁有效并且适应大量的数据处理，分类结果拟合度高。上／在“利用人工神经元网络提高决策树的泛化能力”方面，本文提出了全新的“可信度模型”，该模型评估决策树每一次计算的可信程度，把那些可信程度不高、很可能出现预测错误的结果交给人工神经元网络重新进行计算，从而利片』人工神经元网络修正决策树的预测错误。利用该模型构造的混合系统，决策树进行定性计算，而人工神经元网络进行定量计算，在一定程度上模拟了人类定性分析，与定量分析结合的思维方式。恢验结果表明，基于

4、“可信度模型”构造的混合系统，获得了比独立的决策树或人工神经元网络更强的泛化能力，是一种有效的混I合系统构造方法。J关键词：机器学习?决策树，‘人工神经元网络，。相关系数i可信度模型TheCombiningofConnectionistandSymbolicLearningMethods·-——OntheHybndMachineLearningSystemAbstract：maintopicofthisPaDeristoconstructamoreaccuratemachinelearningsystem．Al

5、ongwiththedevelopingofMachineLearning,ConnectionistandSymbolicbecometwoofMachineLearning'smainstreams．Basedontheuniqueadvantagesandshortcomingsofthesetwolearningmethods，thispapertrytocreatenewhybridsystemsthatCOuldpossessboththeadvantagesofConnectionistandsy

6、mboliclearningmethods．Inthisresearch．DecisionTreeandNeuralNetworkmethodsarechosenasresearchOb{ect。fortheyarethetypicalmachinelearningmethodsofConnectionistandsymbolic，respectively．Inthispaper，twoaspectsofresearcharereported：usingtheDecision砒etoimprovetheappr

7、ehensibilityoftheNeuralNetworks,andontheotherhand，usingtheNeuralNetworkstoimprovethegeneralizationabilityoftheDecision乃它e．InusingtheDecision乃℃etoimprovetheapprehensibilityoftheNeuralNetworks,abrandnewdecisiontreegrowingmethod一”Correlative．coe箭cientMethod”isp

8、roposed．Byanalyzingthecorrelativedegreebetweentheinputandoutputnodesofnearalnetworks．the”Correlative．coemcientMethod”maygrowoutdecisiontreesthatcouldrepresentthecalculationprinciplesofneuralnetw