多元线性回归模型的参数估计

《多元线性回归模型的参数估计》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、多元线性回归模型的参数估计EstimationofMultipleLinearRegressionModel一、多元线性回归模型二、多元线性回归模型的参数估计三、OLS估计量的统计性质四、参数估计量的方差-协方差矩阵和随机误差项2方差的估计五、样本容量问题六、多元线性回归模型实例一、多元线性回归模型1、多元线性回归模型的形式由于：在实际经济问题中，一个变量往往受到多个原因变量的影响；“从一般到简单”的建模思路。所以，在线性回归模型中的解释变量有多个，至少开始是这样。这样的模型被称为多元线性回归模型。多元线性回归模型参数估计的

2、原理与一元线性回归模型相同，只是计算更为复杂。多元线性回归模型的一般形式为：习惯上把常数项看成为一个虚变量的系数，在参数估计过程中该虚变量的样本观测值始终取1。这样：模型中解释变量的数目为（k+1）。多元线性回归模型的矩阵表达式为：2、多元线性回归模型的基本假定模型(2.3.1)或(2.3.2)在满足下述所列的基本假设的情况下，可以采用普通最小二乘法（OLS）估计参数。关于经典回归模型的假定二、多元线性回归模型的参数估计1、普通最小二乘估计普通最小二乘估计估计过程的矩阵表示：2、最大或然估计Y的随机抽取的n组样本观测值的联合概

3、率对数或然函数为参数的最大或然估计结果与参数的普通最小二乘估计相同3、矩估计(MomentMethod,MM)用每个解释变量分别乘以模型的两边，并对所有样本点求和，即得到：对每个方程的两边求期望，有：得到一组矩条件求解这组矩条件，即得到参数估计量与OLS、ML估计量等价矩方法是工具变量方法(InstrumentalVariables,IV)和广义矩估计方法(GeneralizedMomentMethod,GMM)的基础在矩方法中关键是利用了如果某个解释变量与随机项相关，只要能找到1个工具变量，仍然可以构成一组矩条件。这就是IV

4、。如果存在＞k+1个变量与随机项不相关，可以构成一组包含＞k+1方程的矩条件。这就是GMM。4、多元回归方程及偏回归系数的含义称为多元回归方程（函数）。多元回归分析（multipleregressionanalysis）是以多个解释变量的固定值为条件的回归分析，并且所获得的是诸变量X值固定时Y的平均值。诸i称为偏回归系数（partialregressioncoefficients）。偏回归系数的含义如下：1度量着在X2,X3,…,Xk保持不变的情况下，X1每变化1个单位时，Y的均值E(Y)的变化，或者说1给出X1的单位变

5、化对Y均值的“直接”或“净”（不含其他变量）影响。其他参数的含义与之相同。三、OLS估计量的统计性质四、参数估计量的方差-协方差矩阵和随机误差项2方差的估计1、一个疑问与回答疑问：在无偏性证明中将参数估计量看作随机量，而在正规方程组的推导中又将它看作确定值。如何解释？解释：将一组具体样本资料代入参数估计量的表达式给出的参数估计结果是一个“估计值”，或者“点估计”，是参数估计量的一个具体数值，是确定的；但从另一个角度，仅仅把它看成是参数估计量的一个表达式，那么，则是被解释变量观测值的函数，而被解释变量是随机变量，所以参数估计量

6、也是随机变量，在这个角度上，称之为“估计量”。2、参数估计量的方差-协方差将参数估计量看作随机量，具有数字特征。参数估计量的方差以及不同参数估计量之间的协方差在模型理论中具有重要性。具体描述如下：3、随机误差项2方差的估计五、样本容量问题⒈最小样本容量所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。样本最小容量必须不少于模型中解释变量的数目（包括常数项）。2、满足基本要求的样本容量从参数估计角度：＞3×解释变量数目从检验的有效性角度：＞303、模型的良好性质

7、只有在大样本下才能得到理论上的证明六、多元线性回归模型实例中国消费函数模型根据消费模型的一般形式，选择消费总额为被解释变量，国内生产总值和前一年的消费总额为解释变量，变量之间关系为简单线性关系，选取1981年至1996年统计数据为样本观测值。中国消费数据表单位：亿元模型估计结果拟合效果多元线性回归模型的统计检验StatisticalTestofMultipleLinearRegressionModel一、拟合优度检验二、方程显著性检验三、变量显著性检验说明由计量经济模型的数理统计理论要求的以多元线性模型为例将参数估计量和预测值

8、的区间检验单独列为一节，在一些教科书中也将它们放在统计检验中包含拟合优度检验、总体显著性检验、变量显著性检验、偏回归系数约束检验、模型对时间或截面个体的稳定性检验等一、拟合优度检验TestingtheSimulationLevel1、概念检验模型对样本观测值的拟合程度。通过构