数理统计CH7_回归分析71.ppt

《数理统计CH7_回归分析71.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第七章回归分析regressionanalysis9/18/20211王玉顺：数理统计07_回归分析本章内容7.1变量间的关系7.2一元线性回归7.3多元线性回归7.4回归注意事项7回归分析重点：一元线性回归和决定系数9/18/20212王玉顺：数理统计07_回归分析7.1变量间的关系CorrelationbetweenVariables7回归分析9/18/20213王玉顺：数理统计07_回归分析7.1变量间的关系(1)函数关系9/18/20214王玉顺：数理统计07_回归分析7.1变量间的关系(2)随机关系9/18/20215王玉顺：数理统计07_回

2、归分析(3)相关关系7.1变量间的关系9/18/20216王玉顺：数理统计07_回归分析(4)回归分析解决的问题考察响应变量与自变量之间的关系，存在如下三种类型：(1)确定性关系：响应=自变量的函数(2)不确定关系：响应=独立随机变量(3)相关关系：响应=函数+独立随机变量回归分析就是对相关关系中的函数部分进行估计和检验7.1变量间的关系9/18/20217王玉顺：数理统计07_回归分析生物学家F·Galton和统计学家K·Pearson的种族身高研究(1889)。高个父亲群体的平均身高高个父亲群体儿子们的平均身高整个种族的平均身高低个父亲群体儿子们的

3、平均身高低个父亲群体的平均身高(5)为什么称作“回归分析”7.1变量间的关系9/18/20218王玉顺：数理统计07_回归分析(6)回归分析类型一元回归：只有一个自变量的回归多元回归：有两个以上自变量的回归线性回归：回归函数是自变量的线性组合非线性回归：回归函数是自变量的非线性组合7.1变量间的关系9/18/20219王玉顺：数理统计07_回归分析7.2一元线性回归LinearRegression7回归分析9/18/202110王玉顺：数理统计07_回归分析案例：某特种钢抗拉强度试验，控制某稀有金属含量x测得不同抗拉强度y，试验结果如表所示。问题：(1

4、)估计y对x的回归函数；(2)检验回归估计的显著性；(3)考察y与x的相关程度；(4)由x预测y。抗拉强度试验结果(1)案例和问题7.2一元线性回归x(%)y(MPa)2.073.104.145.176.20128194273372454x称作自变量y称作响应变量9/18/202111王玉顺：数理统计07_回归分析(2)数据模式7.2一元线性回归抗拉强度试验结果x(%)y(MPa)2.073.104.145.176.20128194273372454随机的试验响应非随机人工控制变量9/18/202112王玉顺：数理统计07_回归分析(3)回归模型7.2

5、一元线性回归回归模型指响应与自变量关系的数学表达回归模型描述响应y与自变量x的关系模型对ε的分布没有特别要求9/18/202113王玉顺：数理统计07_回归分析用线性回归模型描述第i次观测响应yi与自变量xi的关系：7.2一元线性回归(3)回归模型回归模型指响应与自变量关系的数学表达一元线性回回模型9/18/202114王玉顺：数理统计07_回归分析以矩阵形式表达线性回归模型：7.2一元线性回归(3)回归模型响应向量设计矩阵回归参数误差向量9/18/202115王玉顺：数理统计07_回归分析7.2一元线性回归(3)回归模型n阶协差阵n阶单位阵以矩阵形式

6、表达线性回归模型：9/18/202116王玉顺：数理统计07_回归分析(4)回归分析内容7.2一元线性回归9/18/202117王玉顺：数理统计07_回归分析7.2.1回归最小二乘估计Least-SquareEstimationonLinearRegression7.2一元线性回归9/18/202118王玉顺：数理统计07_回归分析对于回归方程回归方程的估计记作回归估计实际上是由样本数据求得回归方程的一个估计，回归方程的估计亦简称作回归方程。求一元回归方程等价于对回归系数和回归截距进行参数估计。(1)回归估计问题7.2.1回归最小二乘估计回归方程估计的

7、期望：9/18/202119王玉顺：数理统计07_回归分析(2)最小二乘思想7.2.1回归最小二乘估计最小二乘几何描述9/18/202120王玉顺：数理统计07_回归分析求回归方程a+bx的估计，数学上就是用一个一元线性函数去拟合试验数据，几何上可看作为试验点拟合一条直线。可拟合的直线有无穷多条，哪一条直线在表达y对x的相关关系上更合理呢？自然想到与所有试验点总距离为最小的那条线较合理。(2)最小二乘思想7.2.1回归最小二乘估计合理解决方案9/18/202121王玉顺：数理统计07_回归分析回归方程的最小二乘估计可归结为求解下面的优化模型：用残差(误

8、差)平方和代表试验点与回归直线的总距离残差计算：(2)最小二乘思想7.2.1回归最小二乘估计9