第七讲 多元回归的联合检验.ppt

《第七讲 多元回归的联合检验.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、多元线性回归分析总体回归函数：样本回归函数：总体回归模型：样本回归模型：多元线性回归模型的基本经典假定假设1随机误差项具有零均值。假设2对于解释变量的所有观测值，随机误差项有相同的方差。假设3随机误差项彼此之间不相关满足经典假设的u的方差协方差矩阵如果不满足假设二，我们称误差项存在异方差：Var(u)主对角线上的元素不相等。如果不满足假设三，我们称误差项存在自相关：非主对角线上的元素不为0。假设4所有的解释变量Xi为确定性变量，与随机误差项彼此之间不相关。假设5解释变量Xi之间不存在精确的线形关系，即解释变

2、量的样本观测值矩阵X是满秩矩阵，应满足关系式：rank(X)=k+1

3、可以放松为i.i.d.假设7不太可能出现大异常值。总体回归模型n个随机方程的矩阵表达式为令原方程可以简写为在满足上述经典假设下，系数的决定为：回归标准误差对于误差项ui，我们更关心它在回归线附近的离散程度，即标准差。希望标准差越小越好。由于ui本身是不可知的，因此，实际上sui是无法获得的，为了模拟其数值大小，我们用的标准差作为ui的标准差的估计值，称为回归的标准误差。多元回归的拟合优度总离差平方和的分解总体平方和（TotalSumofSquares）回归平方和（ExplainedSumofSquares）

4、残差平方和（ResidualSumofSquares）可以推导：TSS=ESS+RSS可决系数R2统计量称R2为（样本）的可决系数/判定系数/拟合优度（coefficientofdetermination)。拟合优度的取值范围：[0，1]R2越接近1，说明实际观测点离样本线越近，拟合优度越高。由于每次向回归方程中增加解释变量，R2必然只增不减。为此，可以通过调整自由度对解释变量过多进行“惩罚”，因此，可以定义“调整的拟合优度”即对于每一个系数，满足：最小二乘估计量的性质在满足基本假设的情况下，最小二乘估计量

5、具有：线性性、无偏性、有效性（最小方差性）(BLUE特性)。高斯—马尔可夫定理(Gauss-Markovtheorem)在满足基本经典线性回归的假定下，最小二乘估计量是具有最小方差的最优线性无偏估计量。多重共线性的检验和处理多元回归中的假设检验和置信区间单个系数的假设检验和置信区间：方法同一元线性回归。1。单个系数的假设检验。需要检测某个回归系数是否显著。单个变量的假设检验（大样本假设下）单个变量的置信区间（大样本假设下）regtestscrstrel_pct,robust单个变量的假设检验（小样本假设下）

6、（1）对总体参数提出假设H0：i=0，H1：i0（2）以原假设H0构造t统计量，并由样本计算其值（3）给定显著性水平，查t分布表，得临界值t/2(n-k-1)(4)比较，判断若

7、t

8、>t/2(n-k-1)，则拒绝H0，接受H1；若

9、t

10、t/2(n-k-1)，则拒绝H1，接受H0；i的置信区间是单个变量的置信区间（小样本假设下）regtestscrstrel_pct我们可以看出，大样本假设和小样本假设下同一个回归的系数完全一样，但标准误和t值、置信区间完全不同。多元回归分析使学区负责人相信，

11、基于目前的证据，缩小学区内的班级规模有利于提高测试成绩。但她现在又提出了有点细微差别的问题。即如果她雇用了更多的教师，则她要么通过缩减预算内的其他开支(不再购买新的计算机，降低维修费等等)，要么要求增加预算(显然不是纳税人喜欢的)来支付这些教师的工资。因此她问到，如果保持每个学生所分摊的预算(和英语学习者百分率)不变那么降低学生/教师比对测试成绩的效应是多少?这个问题可以通过估计测试成绩对学生/教师比，每个学生所分摊的预算以及英语学习者百分率的回归来解决。即解释变量包含三个：学生/教师比，每个学生所分摊的预

12、算、英语学习者百分率。方程中加入每个学生的花费原因的一种解释是，在这些加利福尼亚学区的数据中，学校管理者有效地分配了预算。假设，与事实相反，上式中STR的系数取大的负值。如果是这样的话，学区可以通过减少其他用途(教材、技术、运动等等)的资金而将其用于雇用更多的教师以便在费用固定情况下通过降低班级规模来提高测试成绩。但是，上式中STR的系数较小且统计上不显著，表明资金的这种转移对测试成绩几乎没什么影响。换言之，学区