线性回归模型的有偏估计

《线性回归模型的有偏估计》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、计量经济学的统计学基础——简要复习数理统计学为什么要复习数理统计学数理统计学是计量经济学的基础，它为计量经济学提供了唯一而有效的方法。数理统计较难，而且许多同学对于数学公式与数学符号的健忘，提醒我们有必要在展开计量经济学讨论之前，对本课程中经常使用到的数理统计学基本内容事先进行一些温习和回顾。主要内容第一节基本概念第二节对总体的描述——随机变量的数字特征第三节对样本的描述——样本分布的数字特征第四节随机变量的分布——总体和样本的连接点第五节通过样本，估计总体（一）——估计量的特征第六节通过样本，估计总体（二）——估计方法第七节通过样本，估计总体（三）——假设检验第一节基本概念总体和个体样本

2、和样本容量随机变量统计量随机变量的分布函数和分布密度函数1.1总体（集合）、个体（构成集合的元素）、样本和样本容量研究对象的全体称为总体或母体，组成总体的每个基本单位称为个体。总体中抽出若干个个体组成的集体称为样本。样本中包含的个体的个数称为样本的容量，又称为样本的大小。注意：抽样是按随机原则选取的，即总体中每个个体有同样的机会被选入样本。1.2随机变量根据概率不同而取不同数值的变量称为随机变量（RandomVariable）。一个随机变量具有下列特性：可以取许多不同的数值，取这些数值的概率为p，总体、随机变量、样本间的联系样本就是一个随机变量，所谓“样本容量为n的样本”就是n个相互独立且

3、与总体有相同分布的随机变量X1，……，Xn。每一次具体抽样所得的数据，就是n元随机变量的一个观察值，记为（x1，……，xn）。样本是总体的一部分。总体一般是未知的，一般要通过样本才能部分地推知总体的情况。1.3统计量设（x1，x2，……，xn）为一组样本观察值，函数y=f（x1，x2，……，xn）若不含有未知参数，则称为统计量。统计量一般是连续函数。由于样本是随机变量，因而它的函数y也是随机变量，所以，统计量也是随机变量。统计量一般用它来提取由样本带来的总体信息。1.4随机变量的分布函数定义若X为一随机变量，对任意实数x，称F（x）＝P（Xx）为随机变量X的分布函数。连续型随机变量的分布密

4、度定义：对于任何实数x，如果随机变量X的分布函数F（x）可以写成分布密度函数的性质：概率密度函数的大小能够反映X在x附近取值的概率的大小，从而比分布函数更直观。举例：正态分布X～N（u，）x2x2f(x)F(x)x1x1XX第二节对总体的描述——随机变量的数字特征2.1、数学期望2.2、方差2.3、数学期望与方差的图示2.1.1数学期望：一个加权平均值数学期望描述随机变量（总体）的一般水平。定义2.1离散型随机变量数学期望的定义：定义2.2连续型随机变量数学期望的定义变量X的取值x1x2……xn相应概率Pp1p2……pn2.1.2数学期望的性质（1）如果a、b为常数，则E(aX+b)=a

5、E(X)+b（2）如果X、Y为两个随机变量，则E(X+Y)=E(X)+E(Y)（3）如果g(x)和f(x)分别为X的两个函数，则E[g(X)+f(X)]=E[g(X)]+E[f(X)]（4）如果X、Y是两个独立的随机变量，则E(X.Y)=E(X).E(Y)2.2.1方差的定义定义离均差如果随机变量X的数学期望E(X)存在，称[X-E(X)]为随机变量X的离均差。显然，随机变量离均差的数学期望是0，即E[X-E(X)]=0定义方差、标准差随机变量离均差平方的数学期望叫随机变量的方差，记作Var(x)或D(x)。方差的算术平方根叫标准差。2.2.2方差的意义（1）离均差和方差都是用来描述离散程

6、度的，即描述X对于它的期望的偏离程度，这种偏差越大，表明变量的取值越分散。（2）一般情况下，我们采用方差来描述离散程度。因为离均差的和为0，无法体现随机变量的总离散程度。方差中由于有平方，从而消除了正负号的影响，并易于加总。2.2.3方差的性质（1）Var(c)=0（2）Var(c+x)=Var(x)（3）Var(cx)=c2Var(x)（4）x,y为相互独立的随机变量，则Var(x+y)=Var(x)+Var(y)=Var(x-y)（5）Var(x)=E(x2)-(E(x))2数学期望与方差的图示数学期望描述随机变量的集中程度，方差描述随机变量的分散程度。1.方差同、期望变大2.期望同、

7、方差变小51055第三节对样本的描述——样本分布的数字特征一、样本均值：二、样本方差、样本标准差第四节随机变量的分布——总体和样本的连接点4.1几种重要的分布4.2分布：总体和样本之间的连接点学习的重点应放在确定X服从什么分布，和各种分布的联系上。4.1几种重要的分布4.1.1正态分布4.1.2卡方分布4.1.3t分布4.1.4F分布4.1.5临界值点4.1.1正态分布定义正态分布的定义定理正态分布的数学期望和方差正