基于group scad的组变量选择

《基于group scad的组变量选择》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、＇ｆ．－■ｉＩ分类号：０２１２学校代码：１０６９７Ｉ密级：：公开学号２０１３２０５２１ｉＨ卷厂巧！占－‘－ｒ．遵．．Ｉ．．４■＼１１５±亨恆巧交１＇ＳＤＭＡＳＴＥＲＩＳＳＥＲＴＡＴＩＯＮｆ．．．．ｉ＞！ｉ基于Ｇｒｏｕｐ＊ＳＣＡＤ的组变量选择Ｊ＊？古学科名称：统计学作者：郭貌指导老师：张海教授西北大学学位评定委员会二〇—六年ＶａｒｉａｂｌｅＳｅｌｅｃｔｉｏｎｗｉｔｈ化

2、ｅＧｒｏｕｐＳＣＡＤＡｔｈｅｓｉｓｓｕｂｍｉ行ｅｄｔｏＮｏｒｔｈｗｅｓｔＵｎｉｖｅｒｓｉｔｙｉｎａｒｔｉａｌｆｕｌｆｉｌｌｍｅｎｔｏｆｔｈｅｒｅｕｉｒｅｍｅｎｔｓｐｑｆｏｒｔｈｅｄｅｇｒｅｅｏｆＭａｓｔｅｒｉｎＳｔａｔｉｓｔｉｃｓＢｙＧｕｏＸｉａｏＳｕｐｅｒｖｉｓｏｒ：ＺｈａｎｇＨａｉＰｒｏｆｅｓｓｏｒＪｕｎｅ２０１６西北大学学位论文知识产权声明书本人完全了解西北大学关于收集、保存、使用学位论文的规定。学校有权保留并向

3、国家有关部口或机构送交论文的复印件和电子版。本人允许论文被查阅和借阅。本人授权西北大学可ｙＡ将本学位论文的全部或部分内容编入有关数据库进行检索、，可采用影印缩印或扫描等复制手段保存和汇编本学位论文。同时授权中国科学技术信息研究所等机构将本学位论文收录到《中国学位论文全文数据库》或其它相关数据库。保密论文待解密后适用本声明。学位论文作者签名：指导教师签名；聲今■■ｉＷｉ年＾月細＞〇／名年＾月＾曰西北大学学位论文独创性声明本人声明：所呈交的学位论文是本人在导师指导下进行的

4、研究工作及取得的研究成果。据我所知，除了文中特别加Ｗ标注和致谢的地方外，本论文不包含其他人已经发表或撰写过的研究成果，也不包含为获得西北大一学或其它教育机构的学位或证书而使用过的材料。与我同工作的同志对本研究所做的任何贡献均己在论文中作了明确的说明并表示谢意。＂＊学位论文作者签名；＾１年＆月曰《摘要受科学技术发展的驱动海量数据可较之过去更小的代价被高效的采，一集和存储．维数极高是这些数据的个共同显著特征．同时海量数据往往具有，低维结构特征．因此结合数据结构先验开展高

5、维数据的稀疏建模方法及理论，，研究具有十分重要的科学意义．正则化方法是近年来发展起来的求解高维问题的有效方法它是处理高维数据的有力工具．，本文聚焦于变量具有组结构的非凸正则化理论及算法研究具体地包括＾？下两部分：，，立Ｇ一Ｗ建ｒｏｕｐＳＣＡＤ高维理论框裝证明在系列正则条件下，当组个数随着样本个数Ｗ多项式次数增长时存在一，个ＧｒｏｕｐＳＣＡＤ的局部最优解使得其与Ｏｒａｃｌｅ估计相等的概率趋于１即ＧｒｏｕＳＣＡＤ具有强Ｏｒａｃｌｅ性质．，ｐ实验表明ＧｒｏｕＳＣＡＤ在变量选择和

6、预测方面均表现良好．，ｐＧ一例针对ｒｏｕｐＳＣＡＤ理论解与计算解不致的问题，提出ＧｒｏｕｐＬＬＡ算法并分析Ｇｒｏｕ．具体地我们证明当初值，ｐＬＬＡ算法的高维统计性质，为ＧｒｏｕｐＬａｓｓｏ时，ＧｒｏｕｐＬＬＡ算法两步迭代可Ｗ得到具有强Ｏｒａｃｌｅ性质的解．数值实验表明ＧｒｏｕＡ算法两步迭代所得的解与坐标下降法求得的解，ｐＬＬ相比有显著提高．关键词稀疏性组变量选择非凸优化Ｏｒａｃｌｅ性质，，，ｉＡｂｓｔｒａｃｔＤｒｉｖｅ打ｂｙｔｈｅｄｅｖｅｌｏｍｅｎ

7、ｔｏｆｓｃｉｅｎｃｅａｎｄｔｅｃｈｎｏｌｏｍａｓｓｉｖｅａｍｏｕｎｔｓｏｆｐｇｙ，ｄａｔａａｘｅｒｏｄｕｃｅｄａｎｄｓｔｏｒｅｄｗｉｔｈｍｕｃｈｃｈｅａｅｒｃｏｓｔｔｈａｎｔｈｅｕｓｅｄｔｏｂｅｏｆｐｐｙ，ｉｉ－ｉｉｉｉｉｉｔｆｅｔｗｈｃｈｈｇｈｄｍｅｎｓｏｎａｌｔｙｓａｃｏｍｍｏ打ｓｎｆｉｃａｎａｕｒｅ．Ｔｈｅｍａｓｓｉｖｅａｍｏｕｎｔｓｇｏｆｄａｔａａｘｅｏｆｔｅｎｅｑｕｉｐｐｅｄｗｉｔｈｌｏｗｄｉｍｅｎｓｉｏｎａｌ

8、ｓｔｒｕｃｔｕｒｅａｔｔｈｅｓａｍｅｔｉｍｅ．ｌａｎｄｔｈｅｏｒｅｔ－Ｈｅｎｃｅｉｔｉｓｏｆｇｒｅａｔｉｍｐｏｒｔａｎｃｅｔｏｄｅｖｅｏｐｓａｒｓｅｍｏｄｅｌｉｎｉｃａｌｔｃｃｈｐｇ，打ｉｃｓｂｙｉｎｃｏｒｐｏｒａｔｉ打ｇｔｈｅｓｔｒｕｃｔｕｒａｌｐｒｉｏｒｏｆｄａｔａ．Ｒｅｇｕｌａｒｉｚａｔｉｏ打ｉｓａｎｅｆｅｃｔｉｖｅ注ｒｏａｃｈｔｏｃｏｅｗｉｔｈ