第四章 多元回归分析new

《第四章 多元回归分析new》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第四章多元回归分析——推论•β的分布•对单个参数的检验–参数检验，t-检验，P-值，置信区间•对多个参数的检验–F-检验多元回归分析•模型yx=β++ββx+L+βx+µii0112i2kiki⎛⎞yx11⎛11Lx1k⎞⎛β0⎞⎛µ1⎞⎜⎟⎜⎟⎜⎟⎜⎟yx==MM,,MMβµ=M,=M⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟yx1Lxβµ⎝⎠nn⎝1nk⎠⎝k⎠⎝n⎠yx=+ⵕ估计−1β=('xx)x'y•推论经典线性模型的假设(CLM)•到现在为止，我们知道，给定高斯-马尔科夫假设(MLR1到MLR5)，OLS是BLUE,•为了能够做经典的假设检验，我们需要增加一个假设（在MLR1到M

2、LR5假设之外）•MLR6.假设u与x,x,…,x独立，且u是12k均值为0方差为2σ的正态分布：u~Normal(0,2σ)CLM假设(接上页)•在CLM情况下(MLR1-MLR6)，OLS不仅是BLUE，而且是所有无偏估计中方差最小的•我们可以总结关于CLM的总体假设如下：•y

3、x~Normal(2β0+β1x1+…+βkxk,σ)•尽管我们现在假设正态分布，但是显然，事实并不总是如此•大样本情况下，我们不需要正态分布假设一个自变量情况下，同方差正态分布yf(y

4、x).E(y

5、x)=β+βx.01正态分布xx12的分布β定理1、在MLR1到MLR6的假设下，21−ββ~(Nx,σ(

6、'x))其中：2σββ~(N,)jj2SST(1−R)jjββ−jj~(N0,1)2σ2SST(1−R)jj参数检验–虚拟假设H：通常是母体中参数的值，一0般是我们希望推翻的理论；–对立假设H：是我们希望证明是正确的理1论；–检验统计量：用来决定是否拒绝虚拟假设，如t统计量，F统计量；–拒绝区域：在一定显著程度（例如1%，5%或10%）下虚拟假设被拒绝的区域–计算出检验统计量的值；–结论参数检验•如果计算出的检验统计量的值落在拒绝区域里，则拒绝虚拟假设。此时我们得出错误结论（即拒绝正确的虚拟假设）的概率是α，α是显著程度。–类型I错误：拒绝正确的虚拟假设•如果计算出的检验统计量的值落在

7、拒绝区域外，则不能拒绝虚拟假设。此时我们得出错误结论（即没有拒绝错误的虚拟假设）错误称为类型II错误。–类型II错误：没有拒绝错误的虚拟假设–类型II错误的概率一般不容易计算，但与发生类型I错误的概率成反比。•根据对立假设的不同，参数检验分单侧和双侧检验。t检验定理2、在MLR1到MLR6的假设下，ββ−jj~tnk−−12σˆ2SST(1−R)jj其中：'2µµσ=nk−−1t检验（接上页）•知道标准化的估计量的样本分布，我们就可以进行假设检验了•从一个虚拟假设（Nullhypothesis)开始•例如：H:β=00j•如果接受虚拟假设，那么就接受了“控制其它x之后，x对y没有影

8、响”。jt检验（接上页）ˆ为了进行我们的检验，首先需要为β构造j一个t统计量：ˆβt≡jˆβjseˆ()βj然后我们用这个t统计量和一个拒绝原则来决定是否接受虚拟假设t检验：单边对立假设•除了我们的虚拟假设H之外，我们需要另0一个对立假设H和一个显著性水平α1•H可以是单边的，也可以是双边的1•H:β>0和H:β<0是单边的1j1j•H:β≠0是一个双边对立假设1j•如果我们希望错误地拒绝（当它为真，却被拒绝）H的概率只有5%，那么我们说我0们的显著性水平是5%单边替代假设（接上页）•选择了一个显著性水平α之后，我们找自由度为n–k–1的t分布的第1–α个百分位（percentile）处的

9、值，把它叫做c：临界值•如果t统计量的值大于临界值，我们拒绝虚拟假设•如果t统计量的值小于临界值，我们不能拒绝虚拟假设单边对立假设（接上页）y=β+βx+…+βx+ui01i1kikiH:β=0H:β>00j1j不能拒绝拒绝(1−α)α0c单边检验vs双边检验•因为t分布是对称分布，检验H:β<0是直截1j了当的，临界值正是上例中临界值的相反数•如果t统计量<–c，那么我们可以拒绝虚拟假设，如果t统计量>–c那么我们不能拒绝虚拟假设•在双边检验中，我们以α/2为基础确定临界值，并且当t统计量的绝对值>c时，拒绝虚拟假设双边对立假设y=β+βX+…+βX+ui01i1kikiH:β=0H:β

10、≠00j1j不能拒绝拒绝拒绝α/2(1−α)α/2-c0c虚拟假设H:β=0总结0j•除非特别说明，对立假设都是双边的•如果拒绝了虚拟假设，我们通常说：“在α的水平上，x统计上显著”j•如果我们不能拒绝虚拟假设，我们通常说：“在α的水平上，x统计上不显著”j检验其他假设•当我们要检验类似H:β=a这样的假设的0jj时候，我们需要t检验的一个更一般的形式•这种情况下，正确的t统计量是：(βˆ−a)jjt=,其中se()βˆ