多重共线性论文：高维多重共线性数据变量选择问题

《多重共线性论文：高维多重共线性数据变量选择问题》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、多重共线性论文：高维多重共线性数据的变量选择问题【中文摘要】变量降维问题一直在统计研究学习以及实际应用领域起到至关重要的作用,对于存在多重共线性问题的数据,一般的最小二乘方法基本失效。本文介绍了一般的共线性变量选择方法包括惩罚的似然方法,如岭估计,桥估计和一些降维方法,如主成分回归,偏最小二乘回归以及高维数据降维方法ElasticNet方法。本文从新的角度来解释岭回归的惩罚作用,借助于这个方法我们为ElasticNet方法l2惩罚部分增加了权重,本文也提供了两种选择权重的方法,在保证了变量选择的有效性下,通过对实际数据以及模型的模拟验证了其有效地减小

2、了预测误差。【英文摘要】Variablesselectionplaysapivotalroleinthecontemporarystatisticallearn-ingandpracticalbackgrounds.Forcollinearity,ordinaryleastsquareregressiontendstobeinefficient.Somedimensionreductionmethodsareintroduced,suchaspenalizedlikelihoodridgeestimator,bridgeestimator,princ

3、ipalcomponentre-gression,partialleastsquareregressionandhigh-dimensionalvariablesselectionmethodelasticnetmethod.Bygivinganewexplainationonridgepenalty,weaddtheweighttol2penaltyofelasticnetmethodandtwokindsofweightselectionmethodsareproposed.Therealdataperformanceandnumericalst

4、imulationsin-dicatethatmeanpredictionerrorontheweightedelasticnetcanbeimproved.【关键词】多重共线性岭估计主成分回归权重选择ElasticNet【英文关键词】collinearityridgeregressionprincipalcomponentregressionweightselctionElasticNet【目录】高维多重共线性数据的变量选择问题摘要8-9Abstract91引言10-151.1变量选择方法的历史回顾101.2高维变量选择方法的回顾10-131.3多

5、重共线性问题以及危害13-141.4文章的结构14-152一般共线性的变量选择方法15-222.1岭估计15-182.1.1岭估计的引入152.1.2岭估计的新角度解释15-172.1.3岭估计与贝叶斯方法的联系172.1.4岭估计变量选择的方法17-182.2主成分回归与偏最小二乘方法18-202.2.1主成分回归的提出与计算18-192.2.2偏最小二乘方法19-202.3BridgeEstimator20-222.3.1BridgeEstimator的提出202.3.2参数选择方法20-212.3.3BridgeEstimator与贝叶斯方法的

6、联系21-223高维共线性数据参数估计以及变量选择方法22-293.1ElasticNet定义与解22-233.2与lasso的等价性23-243.3组效应24-253.4处理共线性问题25-263.5与贝叶斯方法的联系26-273.6适应性的elasticnet方法及其大样本性质27-294实证分析与数值模拟29-354.1实证分析-前列腺癌样本29-324.2数值模拟32-35参考文献35-38致谢38-39学位论文评阅及答辩情况表39