基于变量筛选的偏最小二乘回归方法及其应用

《基于变量筛选的偏最小二乘回归方法及其应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、中图分类号Q212：垒UDC510硕士学位论文学校代码!Q5三三密级垒珏基于变量筛选的偏最小二乘回归方法及其应用AStepwisePartialLeastSquaresRegressionMethodandItsApplication作者姓名：学科专业：研究方向：学院(系、所)：指导教师：杨国栋概率论与数理统计回归分析及其应用数学与统计学院刘庆平教授答辩委员会主席盟中南大学2013年05月原创性声明本人声明，所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了论文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过

2、的研究成果，也不包含为获得中南大学或其他单位的学位或证书而使用过的材料。与我共同工作的同志对本研究所作的贡献均已在论文中作了明确的说明。作者签名：超!：鱼挞日期：丝丛年土月丛日学位论文版权使用授权书本人了解中南大学有关保留、使用学位论文的规定，即：学校有权保留学位论文并根据国家或湖南省有关部门规定送交学位论文，允许学位论文被查阅和借阅；学校可以公布学位论文的全部或部分内容，可以采用复印、缩印或其它手段保存学位论文。同时授权中国科学技术信息研究所将本学位论文收录到《中国学位论文全文数据库》，并通过网络向社会公众提供信息服务。基于变量筛选的偏最小二乘回归方法

3、及其应用摘要：多元回归分析是统计学中的一个重要分支，而最小二乘法是多元回归分析中最常用的方法．最小二乘法经过了两百多年的发展，目前已经具备了比较成熟的理论体系，但在实际应用中也遇到了一些其无法很好处理的问题，如多重共线性问题．近年来，许多统计学工作者在多重共线性问题方面做了大量研究，提出了不少改进方法，如逐步回归法、岭回归法、主成分回归法等，这些方法在一定程度上能解决多重共线性问题，但是仍存在不足．1983年由S．Wold和C．Albano等人提出了偏最小二乘回归方法．由于该方法能比较好地解决多重共线性问题，其应用领域从最初的化工领域迅速扩展到了生物、医

4、学、机械和经济学等领域．本文试图将变量筛选与偏最小二乘法结合起来，以进一步提升回归方程的拟合精度．全文共三章．前两章是对最小二乘法和偏最小二乘法的现有理论的系统归纳和总结．其中第一章简单介绍了最小二乘法的原理和相关性质，论述了多重共线性问题产生的原因和判断方法，以及它对回归模型产生的影响．第二章首先介绍了偏最小二乘回归的原理和计算方法，随后介绍了偏最小二乘回归的一种更简便的成分提取方法，最后阐述了偏最小二乘回归的局限性，并介绍了用以改进该局限性的正交投影算法．第三章是本文的主要部分，提出了一种基于变量筛选的逐步偏最小二乘回归方法．筛选变量的方法包括后退选

5、择变量法和前进选择变量法，这种方法借鉴了普通回归分析中变量筛选的思想，其不同之处在于普通回归分析中变量筛选法是利用参数统计的方法对模型的参数做显著性检验来决定变量的取舍，而本文提出的变量筛选法是依据筛选变量后所得的回归方程的拟合精度来决定变量的取舍．我们还编写了后退选择变量法的实现代码，并以实例论证了所提出的逐步偏最小二乘回归方法的优越性．关键词：多重共线性；交叉有效性；正交投影算子；变量筛选分类号：0212．4AStepwisePartialLeastSquaresRegressionMethodandItsApplicationAbstract：Mu

6、ltipleregressionanalysisisallimportantbranchofstatistics．andtheleastsquaremethodplaysakeyroleinthemultipleregressionanalysis．SophisticatedandsystematicdevelopmentsbothintheoryandinapplicationontheIeastsquareregressionanalysishavebeenachieyedsincethecreationoftheleastsquaremethod．

7、Nevertheless，themethoddoesnotworkwellwhentheexplanatoryvariablespossessmulticollinearity．Tosolvethemulticollinearityproblem．alotofimprovedmethodshavebeenputforward，suchasthemethodsofstepwiseregression，ridgeregression，Althoughthosemethodscansolveandprincipalcomponentregression．the

8、multicollinearityprobleminacertainextent