求解l0正则化凸优化问题的加速IHT算法.pdf

《求解l0正则化凸优化问题的加速IHT算法.pdf》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、硕士学位论文求解l正则化凸优化问题的加速IHT算法0FASTIHTMETHODSFORl0REGULARIZEDCONVEXOPTIMIZATIONPROBLEMS吴帆哈尔滨工业大学2018年6月国内图书分类号：O221.2学校代码：10213国际图书分类号：519.85密级：公开理学硕士学位论文求解l0正则化凸优化问题的加速IHT算法硕士研究生：吴帆导师：边伟教授申请学位：理学硕士学科：基础数学所在单位：数学系答辩日期：2018年6月授予学位单位：哈尔滨工业大学ClassifiedIndex:O221.2U.D.C:519.85DissertationfortheMast

2、erDegreeinScienceFASTIHTMETHODSFORlREGULARIZED0CONVEXOPTIMIZATIONPROBLEMSCandidate：WuFanSupervisor：Prof.BianWeiAcademicDegreeAppliedfor：MasterofScienceSpeciality：PureMathematicsAffiliation：DepartmentofMathematicsDateofDefence：June,2018Degree-Conferring-Institution：HarbinInstituteofTechnolo

3、gy哈尔滨工业大学理学硕士学位论文摘要本文研究了一类出现在信号处理、图像去噪以及视觉编码等重要领域中的稀疏优化问题。稀疏优化问题的目的在一定程度上可以理解为寻求绝大多数元素为零的解。因此，带有基数项的优化问题为解决稀疏优化问题最直接最理想的模型。首先，本文设计了一类加速投影梯度算法用来求解约束凸优化问题，并分析了该算法求解约束凸优化问题的收敛行为。证明了当目标函数强凸时，该算法的最坏计算复杂性为指数阶的。随后，本文提出了加速IHT算法，用于求解带有盒约束的l正则化凸优化问0题，并分析了算法的收敛行为。在外插系数上确界小于某一给定临界值的条件下，证明了加速IHT算法产生的迭代

4、序列的l范数仅改变有限次。因此，在迭代有限0次后，该算法等价于求解某一凸优化问题的加速投影梯度算法。在数据拟合函数满足误差界的条件下，本文证明了该算法生成的迭代序列和函数值序列均为R线性收敛，并且迭代序列收敛到优化问题某个局部最小值点。关键词：稀疏优化问题；加速IHT算法；l正则化；线性收敛0-I-哈尔滨工业大学理学硕士学位论文AbstractThesparseoptimizationproblemshaveawidevarietyofapplicationssuchassignalprocessing,imagedenoisingandvisualcoding.Thema

5、ingoaloftheseproblemsistofindasolutioninwhichmostofitselementsarezeros.Therefore,theoptimizationmodelwithcardinalitytermsisthemostdirectandidealmodelforsolvingsparseoptimizationproblems.Inthisthesis,wefirstproposeanacceleratedprojectiongradientalgorithmforsolvingtheconstrainedconvexoptimiz

6、ationproblems.Weshowthatthealgorithmhastheexponentialworstcasecomputationalcomplexitywhentheobjectivefunctionisstronglyconvex.WethenproposeanacceleratedIHTalgorithmforsolvingthelregularizedconvex0optimizationproblemwithboxconstraints.Wefirstsubstantiatethatthereexistsathreshold,suchthatift

7、heextrapolationcoefficientsarechosenbelowthisthreshold,theproposedalgorithmisequivalenttotheacceleratedprojectedgradientalgorithmforsolvingaconvexoptimizationproblemafterfiniteiterations.Undertheerrorboundconditionofthedatafittingfunction,weprovetheiteratesequ