最小二乘法原理及应用【毕业论文】

《最小二乘法原理及应用【毕业论文】》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、（20__届）本科毕业设计信息与计算科学最小二乘法原理及应用14摘要：本文主要对数理统计中的最小二乘法及其直线和曲线拟合进行了整理归纳，并在此基础上给出了几个特殊的例子。关键词：特殊最小二乘法统计量性质拟合Matlab实现Least-squarePrincipleandApplicationAbstract:Thispaperfocesesontheleast-squaremethodinmathematicalstatisticsandthelinearandcurvefittingarearr

2、angedininduction,andonthisbasisgivesseveralspecificexamplesKeywords:Special;LeastSquares;Statistics;Properties;Fitting;Matlabclose1引言最小二乘法是一种传统的参数估计方法，它早已经被大家所了解。但是很多同学对最小二乘法的认识还是很模糊，仅仅是把最小二乘法理解为简单的线性参数估计。事实上，最小二乘法在参数估计、系统辨识以及预测、预报等众多领域都有着广泛的应用。本文就最小二

3、乘法的引入、最小二乘法原理的简单证明、最小二乘法在曲线拟合和直线拟合，还有最小二乘法的Matlab实现。以及经济领域的模型参数估计等应用方面进行简单的阐释。本文的一些理论建立在学习过高等代数、数值分析及了解简单的经济计量学的基础上。本文的理论简明易懂，仅对现实中常见的问题用最小二乘法理论结合阐释。1.1最小二乘法历史简介最小二乘方法最早是有高斯提出的，他用这种方法解决了天文学方面的问题，特别是确定了某些行星和彗星的天体轨迹。这类天体的椭圆轨迹由5个参数确定，原则上，只要对它的位置做5次测量就足以确

4、定它的整个轨迹。但由于存在测量误差，由5次测量所确定的运行轨迹极不可靠，相反，要进行多次测量，用最小二乘法消除测量误差，得到有关轨迹参数的更精确的值。最小二乘法近似将几十次甚至上百次的观察所产生的高维空间问题降到了椭圆轨迹模型的五维参数空间。1.2最小二乘法基本概念假如想了解某个地方的月降雨量，一个月的观测当然不够，任何一个月都可能是异常晴朗或异常多雨。相反，人们应该研究几个月或至少一年甚至十年，并将所有数据加以平均。平均的结果对任何一个具体的月份并不一定能完全符合，但凭直觉，这个结果所给我们的标

5、准降雨量图形将比只研究一个月所得到的结果要准确得多。这个原理在观察和实验科学领域是通用的。它是通过多次测量消除测量误差及随机波动。木匠的格言“量两次，再下手”14也正是这个常识的一个例子。在降雨的例子中，我们用一个数来代表或一定程度地近似整个测定数据的效果。更一般的，鉴于各种理论和实际的原因，常用低维来近似说明高维的对象。在下面几种工作中都可以采用这个方法，象消除误差或忽略无关细节，从干扰数据中提取信号或找出趋势，将大量数据降低到可管理的数量或用简单的近似来代替复杂函数。我们并不期望这个近似值多么

6、精确，事实上，在许多时候它也不用很精确。但尽管如此，我们还是希望它能保持对原始数据的相似之处。在线性代数领域，我们希望将一个高维空间的向量投影到低维子空间，完成这个工作的最普遍和最便于计算的方法之一就是最小二乘法。2最小二乘法原理及拟合2.1最小二乘法原理最小二乘法定义：设有一列实验数据（xi，yi）(i=0,1,2,3,……，n),他们大体分布在某条曲线上，通过偏差平方和最小求该曲线的方法称为最小二乘法，找出的函数关系称为经验函数。在物理实验中经常要观测两个有函数关系的物理量。根据两个量的许多组

7、观测数据来确定它们的函数曲线，这就是实验数据处理中的曲线拟合问题。这类问题通常有两种情况：一种是两个观测量x与y之间的函数形式已知，但一些参数未知，需要确定未知参数的最佳估计值；另一种是x与y之间的函数形式还不知道，需要找出它们之间的经验公式。后一种情况常假设x与y之间的关系是一个待定的多项式，多项式系数就是待定的未知参数，从而可采用类似于前一种情况的处理方法。在我们研究两个变量(x，y)之间的相互关系时，通常可以得到一系列成对的数据(x1，y1，x2，y2……xm，ym)；将这些数据描绘在x-y

8、直角坐标系中，可以得到m个点，这种图形称为“散点图”，如果从图中粗略看出这些点大致散落在某直线近旁，我们认为Y与X之间近似为一线性函数，可以令这条直线方程为：Y计=a0+a1X（1）其中：a0、a1是任意实数。为建立这直线方程就要确定a0和a1，将实测值Yi与利用式1计算值（Y计=a0+a1X）的离差(Yi-Y计)的平方和（∑(Yi-Y计)〕最小作为“优化判据”。令：φ=∑(Yi-Y计)（2）把式1代入式2中得：14Φ=∑(Yi-a0-a1Xi)（3）当∑(Yi-Y计)平方最小时，