基于增量梯度下降的Logistic回归分类算法研究-毕业论文.docx

《基于增量梯度下降的Logistic回归分类算法研究-毕业论文.docx》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、、毕业论文基于增量梯度下降的Logistic回归分类算法研究院别专业名称班级学号学生姓名指导教师年月日东北大学秦皇岛分校毕业论文第39页基于增量梯度下降的Logistic回归分类算法研究摘要梯度下降优化算法在数学建模中应用的领域有很多，但是在利用Logistic回归线性分类模型处理存在非线性数据的线性样本数据时，由于梯度下降法的步长固定和更新系数时需要遍历全部样本的局限性，使回归系数难以快速稳定，导致系数无法迅速收敛，影响了算法的迭代效率。虽然线性分类结果正确，但是很大程度上浪费了系统资源。针对上述问题，本文提出基于增量梯度下降的Logistic回归分类算法

2、的研究，通过在更新回归系数的时候改变梯度下降的步长和样本选择顺序这两方面对梯度下降法进行改进。在对原始数据进行预处理之后利用改进的梯度下降法进行迭代实验，在保证线性分类结果准确率的情况下提升算法的迭代效率，使之在较少的迭代次数下回归系数也能快速收敛，达到预期正确的分类结果。关键词：Logistic回归，数学建模，梯度下降东北大学秦皇岛分校毕业论文第39页TheResearchonLogisticregressionclassificationbasedonincrementalgradientdescentalgorithmAbstractTherearem

3、anymathematicalmodelapplicationsaboutgradientdescentalgorithminmanydifferentfields.However,theclassificationmodelusingLogisticregressionlinearsampledataprocessingnonlineardata,thelimitationsduetotheneedtotraversetheentirelengthofthesamplefixedtimestepandupdatecoefficientgradientdes

4、cent,sotheregressioncoefficientisdifficulttoquicklystabilizewhichleadcoefficientcannotbequicklyconvergenceandaffecttheefficiencyoftheiterativealgorithm.Althoughlinearclassificationresultiscorrect,itlargelywastemanysystemresources.Toavoidtheaboveproblems,thisarticlepointsouttheResea

5、rchonLogisticregressionclassificationbasedonincrementalgradientdescentalgorithmandgivesomemethodstoimproveincrementalgradientdescentalgorithmthroughupdatingtheregressioncoefficientswhenchanginggradientdescentstepandsampleselectionorder.Performedafterpretreatmentoftherawdatausingamo

6、difiediterativegradientdescentexperimentstoimprovetheefficiencyofthealgorithmiterativelinearclassificationresultsinensuringtheaccuracyofthesituation,sothatinthenextfewiterationsofregressioncoefficientscanquicklyconverge,theexpectedcorrectclassificationresults.KeyWords:Logisticregre

7、ssion,Mathematicalmodeling,Gradientdescent东北大学秦皇岛分校毕业论文第39页目录1绪论11.1课题研究背景11.2国内外研究现状11.3本文主要内容21.4文章结构32Logistic回归分类模型42.1数据采集42.2数据预处理52.2.1数据预处理简介52.2.2本文所采用的预处理方法62.3Logistic回归模型72.3.1Logistic回归模型思想72.3.2基于最大似然函数的Logistic回归模型93基于增量梯度下降的Logistic回归分类算法113.1梯度下降算法思想113.2基于增量梯度下降的L

8、ogistic回归分类算法133.2.1增量梯度下降