32多元线性回归模型的参数估计.ppt

《32多元线性回归模型的参数估计.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、§3.2多元线性回归模型的估计一、普通最小二乘估计*二、最大或然估计*三、矩估计四、参数估计量的性质一、普通最小二乘估计对于随机抽取的n组观测值如果样本函数的参数估计值已经得到，则有：i=1,2…n根据最小二乘原理，参数估计值应该是右列方程组的解其中ki1i2iki1i2ikij)于是得到关于待估参数估计值的正规方程组：解该（k+1）个方程组成的线性代数方程组，即可得到(k+1)个待估参数的估计值$,,,,,bjj=012L。ki1i2iki1i2iki1i1i1i2iki2i2i2i1ikikik2□正规方程组的矩阵形式即由于X’X满秩，故有ikikiki1iki1i1

2、i1iki121n11k2knk将上述过程用矩阵表示如下：即求解方程组：得到：于是：例3.2.1：在例2.1.1的家庭收入-消费支出例中，可求得：于是：1582939007100×107×1071582939007100－142.40.67*二、最大或然估计对于多元线性回归模型易知Y的随机抽取的n组样本观测值的联合概率即为变量Y的或然函数i1i2iki1+i2+i1ik))对数或然函数为对对数或然函数求极大值，也就是对求极小值。,因此，参数的最大或然估计为结果与参数的普通最小二乘估计相同四、参数估计量的性质在满足基本假设的情况下，其结构参数的普通最小二乘估计、最大或然估

3、计仍具有：线性性、无偏性、有效性。1、线性性其中,C=(X’X)-1X’仅与固定的X有关。2、无偏性这里利用了假设:E(X’)=03、有效性（最小方差性）X’X其中利用了和五、样本容量问题所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。⒈最小样本容量样本最小容量必须不少于模型中解释变量的数目（包括常数项）,即nk+1因为，无多重共线性要求：秩(X)=k+12、满足基本要求的样本容量一般经验认为:当n30或者至少n3(k+1)时，才能说满足模型估计的基本要求。3、模型的良好性质只有在大样本下才能得到

4、理论上的证明六、实例地区城镇居民消费模型被解释变量：地区城镇居民人均消费Y解释变量：地区城镇居民人均可支配收入X1前一年地区城镇居民人均消费X2样本：2006年，31个地区数据变量间关系变量间关系OLS估计OLS估计结果ML估计ML估计结果MM估计MM估计结果⃟随机误差项的方差的无偏估计可以证明，随机误差项的方差的无偏估计量为：