第三章__现代多元回归模型

《第三章__现代多元回归模型》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第三章现代多元回归模型Chapter3现代多元线性回归模型有了条件期望的知识，我们重新对第一章多元线性回归模型进行阐释。本章是伍书第4——6章内容的缩写。§3.1正确设定下的多元回归一、关于模型仍设模型基本形式（结构式）为：…，其中Y，X1……Xk为可观测或受到限制或不可观测的随机变量，Y与X1……Xk存在因果关系，且（Y，X1……Xk）的联合分布存在，是不可观测的随机误差，模型中等式是严格成立的，且它是条件期望的正确设定，则。模型中设定有截距项（Unit），可认为中不再含有X1…Xk的影响（但中可能含有影响Y的其他因素）。当把Y投影到X=(1，X1……Xk)空间上时，为避免条件期望的麻烦，

2、我们可以减弱的条件，假定模型和，。注：如果某一，，即与相关。则称解释变量有内生性。内生性产生的原因是多方面的，在应用中，一般归结为三种方式：（1）隐性解释变量（omitted）。不是有意遗漏的，客观实际存在的某些因素，但数据不可观测，如果不对模型加以处理，它们只能包含在随机误差项中。（2）测量误差。数据获取有明显失误，数据不能做到准确测量，如自报数据，传递失误等。（3）同时同步性。结果和原因的数据同时获取时，由Y与的相关性，导致某一Xj与的相关性，即存在某一随机因素既影响也影响原因。如Y是犯罪率，而是警力。又如产出Y与投资I，等等。内生性问题是我们在后面主要讨论的问题。为了保证传统模型与基本

3、模型的一致性，将其改写成向量形式：，记，且，。又假定我们可以获得N个随机样本：，于是，对每一次观测，有，。括号表示第几次观测，不产生混淆时省略括号，按行排列，则也可认为是矩阵形式。二、关于一致估计因为模型正确设定，现在对随机向量和随机误差给出假定：假定OLS1：，。假定OLS2：，即随机矩阵列满秩。于是，由，得，两边取期望，根据假定、25第三章现代多元回归模型，求得真值：。如果和可观测，则称未知参数是可识别的。由大数定律，利用样本矩估计代替期望值和，可得到的估计：由WLLN和连续映射定理及非奇异，得：，和，所以，即是的一致估计。注：（1）现代回归模型的实质就是把结果投影到原因上，只要能随机从

4、和中抽样，且满足假定、，得到的就是的一致估计。模型的背景，的含义无关紧要。只有当模型是正确设定时，的含义才是边际效果。（2）如果不成立，即，一致性就不成立。且条件OLS1比正确设定条件要弱。即，则OLS1成立。如果不成立，不可识别。于是解释变量线性相关，传统观点是存在多重共线性，则模型就不是正确设定的，因为有某一解释变量是完全多余的。进一步，如果成立，那么。故OLS也是条件无偏的，又当认为是确定性的，不是随机的，这又回到了传统观点。（3）现代回归模型没有限制与X独立，允许与有联系，仅限制与，没有线性关系。因此，条件方差可以是的函数，但若限制与独立，则=即就与无关了，这也回到了传统观点。25第

5、三章现代多元回归模型三、关于渐近检验完成了估计，接着就是检验。要检验就要知道统计分布，现代回归模型对的分布和X的分布没有任何规定。只有误差项的期望、方差存在有限和样本独立同分布的规定。所以现代回归模型采用大样本的渐近检验。我们要考虑渐近正态性。，由大数律，，。又序列是来自随机变量母体的随机样本，故是，且有期望0（假定），进一步，假定有有限方差，那么由中心极限定理（CLT），则：，其中，是k×k正定阵。所以(有界），从而假定OLS3：。注：，即与可分别取期望，不一定就与Ｘ独立。其含义是与每一不相关。一个充分条件是，条件方差与无关。于是，由正态随机向量的线性变换定理，我们有如下结果：，其中。按照

6、渐近理论的说法，此意味着具有渐近正态分布，且期望和方差分别为。未知，用残差，容易证明是的一致估计，故我们可得到的渐近方差估计。假定OLS3不是本质的，不影响估计的一致性，只影响有效性，当OLS3不成立的时候，即传统观点下的异方差假定，，那么的渐近方差估计是，但是B未知，由于，我们用OLS残差25第三章现代多元回归模型代替，可得到B的一致估计，。（习题）进而得到的渐近方差估计是：。此称为异方差下稳健协方差估计。矩阵中对角线元素的平方根称为的标准差，称为异方差稳健标准差。（也称White标准差）将异方差稳健标准差同OLS3条件成立时的标准差相比较，常放在的下方，可对异方差的严重性有一个初步认识。

7、有了一致估计和渐近分布，现代回归模型的假设检验问题同传统模型要检验的问题提法是一致的，在OLS1——3成立时，可直接用t和F检验。特别，对有关的部分参数为0的检验，仍可采用残差形式的F检验。具体做法为：设，其中为列，为列。欲检验？1．，得残差；2．，得残差；3．；4。给出临界值，和给出值：。注：现代观点在假设检验中更强调值的重要性，有了分布函数，计算值就很方便了，值既可以省掉查表找临界值，也可以自主地选择接受