《统计方法建模》PPT课件

《《统计方法建模》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、统计方法建模3.1多元回归与最优逐步回归3.2主成份分析与相关分析3.3判别分析3.4聚类分析3.5模糊聚类分析3.6马尔可夫链及其应用3.7存贮论§3.1多元回归与最优逐步回归一、数学模型二、模型的分析与检验三、回归方程系数的显著性检验四、回归方程进行预测预报和控制五、最优逐步回归分析一、数学模型设可控或不可控的自变量；目标函数，已测得的n组数据为：(1.1)其中是系统的测试数据，相当于如下模型：设多目标系统为：系　　统为简化问题，不妨设该系统为单目标系统，且由函数关系，可以设：(1.2)可得如下线性模型

2、(1.3)为测量误差，相互独立，。令可得（1.4）(1.4)称为线性回归方程的数学模型。利用最小二乘估计或极大似然估计，令　　　　使，由方程组　　(1.5)可得系数的估计。令方阵可逆，由模型可得：　　即有(1.6)可以证明(1.6)与(1.5)是同解方程组的解，它是最优线性无偏估量，满足很多良好的性质，另文补讲。二、模型的分析与检验设目标函数的平均值，则由公式可计算得总偏差平方和，回归和剩余平方和：假设检验：至少有一个不为零结论是：当当被拒绝以后，说明方程(2)中系数

3、不全为零，方程配得合理。否则在被接受以后，说明方程配得不合适，即变量对目标函数都没有影响，则要从另外因素去考虑该系统。三、回归方程系数的显著性检验假设备选假设可以证得：(1.8)或者的对角线元素。.当时，显著不为零，方程(1.2)中第j个变量作用显著。若有某一个系数假设被接受，则应从方程中剔除。然后从头开始进行一次回归分析工作。四、回归方程进行预测预报和控制经过回归分析得到经验回归方程为(1.9)设要在某已知点上进行预测，可得点估计：(1.10)下面对预测预极值进行区间估计，可以证得其中得的预测区间：五、

4、最优逐步回归分析在线性回归分析中，当经过检验，方程(1.2)作用显著，但为显著,说明不起作用，要从方程中剔除出去，一切都要从头算起，很麻烦。这里介绍的方法是光对因子逐个检验，确认它在方程中的作用的显著程度，然后依大到小逐次引入变量到方程，并及时进行检验，去掉作用不显著的因子，依次循环，到最后无因子可以进入方程，亦无因子被从方程中剔除，这个方法称为最优逐步回归法。从方程(1.2)中,为方便计,设变量个数,记可得(1.12)此时仍可得是回归估计值回归方程为(1.13)分别是的系数估计。为了减少误差积累与放大，进

5、行数据中心化标准化处理：(1.14)可得数学模型为：(1.15)经推导可得：，，，称为系数相关矩阵由此可得经验回归方程：(1.16)然后以变换关系式代入可得将(17)式与(13)式进行比较，可得：(1.18)只要算得(16)式的即可。注意到其中是对于因子的偏回归平方和，可以证明线性方程中对变量的多元线性回归方程中的偏回归平方和为（是原方程中的偏回归平方和）：把系数矩阵R变成加边矩阵，记为比较,设,则相应变量作用最大，但是否显著大，要进行显著性检验，可以证得当时，可将变量引入方程中去。现将这个循环步骤介绍如下

6、：第一步：挑选第一个因子对计算的偏回归和找出决定F检验当时引入，一般总可以引入的。第二步：挑选第二个因子首先变换加边矩阵则，因子的偏回归平方和记决定可否引入步骤：1.对，计算的偏回归平方和。2.找出中最大的一个，记为。3.对作显著性检验：当时，要引入。第三步：当引入时，是否要剔除呢？即已有方程：检验的偏回归平方和：当时因子不剔除。同样的方法以时因子不剔除。第四步：重复进行第二步到第三步。一直到没有可引入的新因子，也没有可剔除的因子。最后方程为：(1.19)并把(1.19)式换算成类似的(1.13)式。§3.

7、2主成份分析与相关分析一、数学模型二、主成份分析三、主成份的贡献率这是一个将多个指标化为几个少数指标进行统计分析的问题，设有维总体有个随机指标构成一个维随机向量，它的一个实现为；而且这个指标之间往往相互有影响，是否可以将它们综合成少数几个指标，使它们尽可能充分反映原来的个指标。例如加工上衣，有袖长、身长、胸围、肩宽、领围、袖口、袖深，……等指标，是否可以找出主要几个指标，加工出来就可以了呢？例如主要以衣长、胸宽、型号(肥瘦)这样三个特征。一、数学模型设为维随机向量，为期望向量,为协方差矩阵，其中设将综合成很

8、少几个综合性指标，如，不妨设则有要使尽可能反映原来的指标的作用，则要使尽可能大，可以利用乘子法:要对a加以限制否则加大,增大无意义。令设并使可得方程组(2.1)的解为(2.2)以左乘(2.2)之两边，得即由(2.2)式可得(2.3)要使满足(2.3)的a非零，应有即入是的特征根，设是的个特征根，只要取，再由，求出V的属于的特征向量，在条件是唯一的维特征向量。于是得(2.4)二、主成份分析一般协方差方阵为非负定，对