探索优生演进优化和统计学习建模

《探索优生演进优化和统计学习建模》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、浙江大学博士学位论文优生演进优化和统计学习建模姓名：宋晓峰申请学位级别：博士专业：控制理论与控制工程指导教师：胡上序20030501浙江大学博士学位论文摘要科学技术的发展使人们对客观世界不断要求更为深入的认识，然而在许多领域，如化学化工、生物医学等，仍有许多对象的内在机理暂时还难以为人们所了解，但人们仍迫切需要了解和研究它们的自变量和因变量间的定量关系。这时，根据采集研究对象的观测数据建立模型，用以对自变量和因变量之间的定量关系作出预测，是科学工作者重要的基础性工作之一。数学模型是对客观对象活动规律的一种定量描述，是表述对象行为和性能的一种重要形式。建模方法涉及到最优

2、化方法、数理统计、人工智能、模式识别、机器学习、神经网络等多方面的理论和方法。本文首先回顾了现行的建模方法。由于优化方法在建模中有相当重要的作用，因此，接着对具有全局寻优性能的遗传算法进行了较为深入的研究，提出了基于优生演进策略的遗传算法(EaA)，使寻优性能有较大的提高，并成功应用于化工领域中重油热解模型参数的估计。所提EGA方法为随后的支持向量机参数优化打下了良好的基础。本文紧接着还对统计学习理论(SLT)和支持向量机(sVM)技术进行了较为详细的讨论，这是对神经网络方法发展到目前的一种新的突破，在多个方厩显示出良好的性能。本文在基于观测数据的统计学习建模方法上提

3、出了一些新思想、新方法。以下是本文的主要研究成果。(1)针对简单遗传算法容易早熟，全局寻优效率偏低等缺点，提出了一种优生演进策略，在演进过程中获取种群繁衍的有用信息，自适应地改善子代个体的分布，适时地引入确定性寻优操作，以改进常规遗传算法的性能。提出的相应技术包括：采集种群多样性指标用以调整变异概率；改进交叉算子，避免子代收缩，并提高其适应度；新增Powell寻优算子，加速局部搜索。测试实例表明优生演迸策略和相关技术收到了较好的效果。本文还将基于优进策略的遗传算法(EGA)成功地应用于重油热解三集总反应动力学模型的参数估计，效果良好。EGA是适用于模型中参数优化的一种

4、有效方法。(2)支持向量机采用了结构风险最小化(SRM)原则，用于模式分类已表现出优良的性能，但在观测数据中存在复共线性时，其分类效果就有所降低。I因此，为了充分利用支持向量机良好的分类能力，使之能处理存在复杂相关关系的观测数据，给出了结合分类相关成分分析(CCA)的支持向量机建立分类模型的方法(CCA—SVM)，又利用本文第三章所提出的EGA算法优化分类相关成分数及支持向量机参数。然后将其成功地应用在建立留兰香的分类器模型上，它的训练与预浙江大学博士学位论文测分类精度比SVM方法、分类相关成分分析～自组织映射网(CCA．SOM)方法都有明显提高。所提出的CCA．SV

5、M方法可有效的建立高维复杂模式分类器。(3)支持向量机(SVM)的参数对其回归估计性能有很大影响。在分析这种影响的基础上，导出了参数调整的自适应算法，由此构成自适应支持向量机(A-SVM)。它采用结构风险最小原则，又能自动确定最优参数，其回归估计函数有良好的预测能力。并成功地为延迟焦化反应焦炭产率建模。与径向基网一偏最小二乘(RBFN—PLSR)方法相比，A—SVM方法的拟合精度和预测能力均有明显的提高。(4)通过对现行的支持向量机(SVM)回归估计性能的分析，确定核函数及其参数和惩罚因子等是影响回归估计性能的重要因素。针对定义域各分区间内样本数据的噪声强度不同，以及

6、在局部范围内数据变化急剧等复杂情况，本文提出了结构可调的支持向量回归估计(As—SVM)方法，包括采用不同的损失函数，对各数据点自适应地选用不同的参数等。推导了求解公式，给出了调整算法。实例测试表明，AS．SVM方法的建模效果优于常规方法。总之，论文对基于观测数据统计学习建模方法及与之有关的优化方法进行了较为全面深入的分析和探讨，通过深入研究目前该领域中最新发展起来的统计学习理论和支持向量机技术，提出了多种能够提高建模效果的新方法，为化学化工对象等许多领域的建模提供了新途径。论文最后对所做的工作进行了总结，并提出了迸一步研究的方向。关键词：建模，优生演进优化，遗传算法

7、，统计学习，支持向量机，结构可调，自适应参数调整，回归估计，模式分类II浙江大学博士学位论文AbstractInmanyfieldssuchaschemicalengineering，biomedicalengineering，andSOon，manyinternalmechanismsofobjectssubjecttoresearchcanhardlyberecognized．Howevegobservationdate．,whichreflectthevaluesofdependentvariableschangingwithrespectto