资源描述：
《bootstrap和刀切法（jackknife）经典授课讲义》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、上节课内容总结统计推断基本概念统计模型：参数模型与非参数模型统计推断/模型估计：点估计、区间估计、假设检验估计的评价：无偏性、一致性、有效性、MSE偏差、方差、区间估计CDF估计：点估计、偏差、方差及区间估计统计函数估计点估计区间估计/标准误差影响函数BootstrapBootstrap也可用于偏差、置信区间和分布估计等计算1本节课内容重采样技术（resampling）Bootstrap刀切法（jackknife）2引言是一个统计量，或者是数据的某个函数，数据来自某个未知的分布F，我们想知道的某些性质（如偏差、方差和置信区间）假设我们想知道的方差如果的形式比较简单，可以直接用
2、上节课学习的嵌入式估计量作为的估计例：，则，其中，其中问题：若的形式很复杂（任意统计量），如何计算/估计？3Bootstrap简介Bootstrap是一个很通用的工具，用来估计标准误差、置信区间和偏差。由BradleyEfron于1979年提出，用于计算任意估计的标准误差术语“Bootstrap”来自短语“topulloneselfupbyone’sbootstraps”（源自西方神话故事“TheAdventuresofBaronMunchausen”，男爵掉到了深湖底，没有工具，所以他想到了拎着鞋带将自己提起来）计算机的引导程序boot也来源于此意义：不靠外界力量，而靠自身
3、提升自己的性能，翻译为自助/自举1980年代很流行，因为计算机被引入统计实践中来4Bootstrap简介Bootstrap：利用计算机手段进行重采样一种基于数据的模拟（simulation）方法，用于统计推断。基本思想是：利用样本数据计算统计量和估计样本分布，而不对模型做任何假设（非参数bootstrap）无需标准误差的理论计算，因此不关心估计的数学形式有多复杂Bootstrap有两种形式：非参数bootstrap和参数化的bootstrap，但基本思想都是模拟5重采样通过从原始数据进行n次有放回采样n个数据，得到bootstrap样本对原始数据进行有放回的随机采样，抽取的样
4、本数目同原始样本数目一样如：若原始样本为则bootstrap样本可能为…6计算bootstrap样本重复B次，1.随机选择整数，每个整数的取值范围为[1,n]，选择每个[1,n]之间的整数的概率相等，均为2.计算bootstrap样本为：Web上有matlab代码：BOOTSTRAPMATLABTOOLBOX,byAbdelhakM.ZoubirandD.RobertIskander,http://www.csp.curtin.edu.au/downloads/bootstrap_toolbox.htmlMatlab函数：bootstrp7Bootstrap样本在一次boot
5、strap采样中，某些原始样本可能没被采到，另外一些样本可能被采样多次在一个bootstrap样本集中不包含某个原始样本的概率为一个bootstrap样本集包含了大约原始样本集的1-0.368=0.632，另外0.368的样本没有包括8模拟假设我们从的分布中抽取IID样本，当时，根据大数定律，也就是说，如果我们从中抽取大量样本，我们可以用样本均值来近似当样本数目B足够大时，样本均值与期望之间的差别可以忽略不计9模拟更一般地，对任意均值有限的函数h，当有则当时，有用模拟样本的方差来近似方差10模拟怎样得到的分布？已知的只有X，但是我们可以讨论X的分布F如果我们可以从分布F中得到
6、样本，我们可以计算怎样得到F？用代替（嵌入式估计量）怎样从中采样？因为对每个数据点的质量都为1/n所以从中抽取一个样本等价于从原始数据随机抽取一个样本也就是说：为了模拟，可以通过有放回地随机抽取n个样本（bootstrap样本）来实现11Bootstrap：一个重采样过程重采样：通过从原始数据进行有放回采样n个数据，得到bootstrap样本模拟：为了估计我们感兴趣的统计量的方差/中值/均值，我们用bootstrap样本对应的统计量（bootstrap复制）近似，其中12例：中值X=(3.12,0,1.57,19.67,0.22,2.20)Mean=4.46X1=(1.57,
7、0.22,19.67,0,0,2.2,3.12)Mean=4.13X2=(0,2.20,2.20,2.20,19.67,1.57)Mean=4.64X3=(0.22,3.12,1.57,3.12,2.20,0.22)Mean=1.7413Bootstrap方差估计方差：其中注意：F为数据X的分布，G为统计量T的分布通过两步实现：第一步：用估计插入估计，积分符号变成求和第二步：通过从中采样来近似计算Bootstrap采样+大数定律近似14Bootstrap：方差估计Bootstrap的步骤：1.画出2.计
