回归分析、主成分分析、贝叶斯判别

《回归分析、主成分分析、贝叶斯判别》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、1实验内容（1）掌握回归分析的思想和计算步骤；（2）编写程序完成回归分析的计算，包括后续的显著性检验、残差分析、Box-Cox变换等内容。2模型建立与求解(数据结构与算法描述)Y与X1,X2,…,的关系可表示为Y=f(X1,X2,…,)+ε,回归分析既是利用Y与X1,X2,…,的观测数据，并在误差项的某些假定下确定f(X1,X2,…,)。利用统计推断方法对所确定的函数的合理性一级由此关系所揭示的Y与X1,X2,…,的关系作分析。用最小二乘法计算回归参数总离差平方和残差平方和回归平方和SST=SSE+SSRR为复相关系数Box-Cox变换对Y做如下变换：通过

2、最大似然方法确定问题转化为选择，使达到最小，其中3.实验数据为：习题2.4误差方差估计为：4.9445e+004复相关系数：0.9595exersice2_6得b=-54.98774.70820.3393R=0.9376因此回归方程为：y=-54.9877+4.7082X1+0.3393X2习题2.9复相关系数：0.82024．程序代码清单：2.4functionhuigui(X,Y)D=xlsread('2.4.xls');p=3;n=15;X=D(:,1:end-1);Y=D(:,end);a=ones(n,1);X=[a,X];B=(inv(X'*X

3、))*X'*YH=X*inv(X'*X)*X';y1=mean(Y);%ƽ¾ùÖµy2=B(1)+B(2).*X(:,2)+B(3).*X(:,3);%»Ø¹éÖµSST=sum((Y-y1).^2)%×ÜÀë²îƽ·½ºÍSSE=sum((Y-y2).^2)%²Ð²îƽ·½ºÍSSR=sum((y2-y1).^2)%»Ø¹éƽ·½ºÍMSR=SSR/(p-1)%¾ù·½»Ø¹éMSE=SSE/(n-p)%¾ù·½²Ð²îF=MSR/MSE;R=sqrt(SSR/SST)%¼ÆË㸴Ïà¹ØϵÊýo=SSE/(n-p)%·½²î¹À¼ÆÖµy3

4、=y2-Y;%²Ð²îÖµe=(eye(n)-H)*Y;%²Ð²îÏòÁ¿plot(Y,e,'*')未进行Box-Cox变换时的残差分析进行Box-Cox变换后，残差图为2.6loadexersice2_6.txtdata=exersice2_6;[b,R]=reg(data)function[b,R]=reg(data)X=data(:,1:end-1);Y=data(:,end);temp=ones(length(data),1);X=[temp,X];b=inv(X'*X)*X'*Y;YY=X*b;SST=sum((Y-mean(Y)).^2);SS

5、E=sum((Y-YY).^2);R=sqrt(1-SSE/SST);2.9functionhuigui(X,Y)D=xlsread('2.9.xls');p=4;n=23;X=D(:,1:end-1);Y=D(:,end);a=ones(n,1);X=[a,X];B=(inv(X'*X))*X'*YH=X*inv(X'*X)*X';y1=mean(Y);%ƽ¾ùÖµy2=B(1)+B(2).*X(:,2)+B(3).*X(:,3)+B(4).*X(:,4);%»Ø¹éÖµSST=sum((Y-y1).^2);%×ÜÀë²îƽ·½ºÍSSE=sum((

6、Y-y2).^2);%²Ð²îƽ·½ºÍSSR=sum((y2-y1).^2);%»Ø¹éƽ·½ºÍMSR=SSR/(p-1);%¾ù·½»Ø¹éMSE=SSE/(n-p);%¾ù·½²Ð²îF=MSR/MSE;R=sqrt(SSR/SST)%¼ÆË㸴Ïà¹ØϵÊýo=SSE/(n-p);%·½²î¹À¼ÆÖµy3=y2-Y;%²Ð²îÖµe=(eye(n)-H)*Y;%²Ð²îÏòÁ¿plot(Y,e,'*')残差分析上课纪律（20%）实验过程及结果（40%）实验报告质量（40%）总分：教师签字：1.模型建立与求解(数据结构与算法描述)主成分分

7、析：将p个特征变量通过线性组合综合成尽量小的几个综合性变量(q

8、=1,2,…,p)。则第k个样本主成分可表示为,k=1,2,…,p