资源描述:
《一类求解l1正则化最小二乘问题的快速邻近梯度算法》由会员上传分享,免费在线阅读,更多相关内容在学术论文-天天文库。
1、分类号:密级:UDC:编号:201321104002河北工业大学硕士学位论文一类求解l1正则化最小二乘问题的快速邻近梯度算法论文作者:刘紫娟学生类别:全日制专业学位类别:理学硕士领域名称:应用数学指导教师:刘新为职称:教授DissertationSubmittedtoHebeiUniversityofTechnologyforTheMasterDegreeofScienceinAppliedMathematicsACLASSOFFASTPROXIMALGRADIENTALGORITHMSFORl1REGULARIZEDLEASTSQUARESPROBLEMSbyLiuZiju
2、anSupervisor:Prof.LiuXinweiMay2016摘要快速邻近梯度算法[LecturenotesforEE236C,UniversityofCalifornia,LosAngeles,2013]利用加速梯度思想,每次迭代都充分利用了前两个迭代点的信息,这使得该算法在解决信号和图像处理中的线性逆问题中具有更快的收敛速率.本文基于快速邻近梯度算法,将快速邻近梯度算法中前两个迭代点的线性组合的形式写成了更为一般的结构,提出了一类求解l正则化最小二乘问题的快速邻近梯度算法,并且给出了这类1快速邻近梯度算法中未知参数满足的一个充分条件,证明了该算法在这个充分条件下2的
3、全局收敛速率为Ok(1/).通过数值试验可以看出,这类快速邻近梯度算法不仅在处理图像时可以得到较为清晰的图像,而且在相同迭代步数的限制内产生的误差值是小于快速迭代收缩阈值算法[SIAMImageScience,2009,2(1):183-202]产生的误差值.关键字:快速邻近梯度算法算法加速梯度思想l正则化最小二乘问题全局1收敛速率IABSTRACTThefastproximalgradientalgorithm[LecturenotesforEE236C,UniversityofCalifornia,LosAngeles,2013]usestheacceleratedgra
4、dientidea,eachiterationtakesfulladvantageoftheprevioustwopoints'sinformation,whichmakesthealgorithmhaveafasterconvergencerateinsolvinglinearinverseproblemsinthesignalandimageprocessing.Inthisarticle,weproposeaclassoffastproximalgradientgradientalgorithmstosolvelregularizedleastsquaresproble
5、ms.Basedonthefastproximalgradientmethod,1wemodifythelinearcombinationoftheprevioustwopointstoamoregeneralstructure,giveasufficientconditionfortheunknownparametersintheclassoffastproximalgradientgradientalgorithms,andprovethatthealgorithmshaveaglobalrateofconvergence2Ok(1/).Thenumericalexper
6、imentsshowthat,theclassofalgorithmsproposedinthispapernotonlygiveamoreclearpicture,butalsohavethesmallererrorvaluethanthefastiterativeshrinkage-thresholdingalgorithm's[SIAMImageScience,2009,2(1):183-202]withinthelimitsofthesameiterativenumbers.KEYWORDS:fastproximalgradientalgorithmaccelerat
7、edgradientidealregularizedleastsquaresproblemsglobalrateofconvergence1II目录中文摘要.........................................................................................................................................I英文摘要..................................