资源描述:
《模式识别作业》由会员上传分享,免费在线阅读,更多相关内容在学术论文-天天文库。
1、第四章模式识别作业姓名:谢雪琴学号:20102220551、阐述线性判别函数的几何意义和用于分类的实用价值。答:线性判别函数的几何意义:利用线性判别函数进行决策,它可以看成是两类数据沿着一个向量投影,在向量上存在一个超平面,能将两类数据分隔开,即两类数据能够完全被区别。线性判别函数可以是最小错误率或最小风险意义下的最优分类器。它利用一个超平面把特征空间分割成为两个决策区域,超平面的方向由权向量W确定,它的位置由阈权值w0确定,判别函数g(x)正比于x点到超平面的代数距离(带正负号),当x在H正侧
2、时,g(x)>0,当在H负侧时,g(x)<0;使用价值:线性分类器是最简单的分类器,但是样本在某些分布情况时,线性判别函数可以成为最小错误率或最小风险意义下的最优分类器。而在一般情况下,线性分类器只能是次优分类器,但是因为他简单而且在很多情况下效果接近最优,所以应用比较广发,在样本有限的情况下有时甚至能取得比复杂分类器更好地效果2、参考教材4.3,完成线性判别分析(LDA)的Matlab实现,并用Fisher'sIrisData【注】进行验证(考虑其中的2类即可)。注:Fisher'sIrisD
3、ata:Fisher'sirisdataconsistsofmeasurementsonthesepallength,sepalwidth,petallength,andpetalwidthof150irisspecimens.Thereare50specimensfromeachofthreespecies.在Matlab中调用loadfisheriris可以得到该数据,meas为150×4的数据矩阵,species为150×1的cell矩阵,含有类别信息。1、试推导出感知器算法的迭代求解过程
4、,尝试用Matlab实现,并用Fisher'sIrisData进行验证(考虑2类分类即可)。clc;clearall;closeall;loadfisheririsClassLabel=unique(species);%选择唯一的类别data=meas(:,:);%分类groups1=ismember(species,'setosa');%根据ismember查找到与setosa类别相同的数据与否,返回1或者0groups2=ismember(species,'versicolor');%根据i
5、smember查找到与versicolor类别相同的数据与否,返回1或者0%find()找到与目标类别相同的数据的下标Class1num=find(groups1==1);%在species找到与setosa相同的数据Class2num=find(groups2==1);%在species找到与versicolor相同的数据data=meas(1:150,1:4);%取meas前100行数据data1=meas(Class1num,:);%data1(50*4)存放setosa类别所有数据的矩阵
6、data2=-meas(Class2num,:);%data2(50*4)存放versicolor类别所有数据的矩阵%求均值m1=mean(data1);%求data1的均值m2=mean(data2);%求data2的均值%计算类内散度Si和总类内散度SwS1=(data(1,:)-m1)'*(data1(1,:)-m1);S2=(data2(1,:)-m2)'*(data2(1,:)-m2);fori=2:50S1=S1+(data1(i,:)-m1)'*(data1(i,:)-m1);S2
7、=S2+(data2(i,:)-m2)'*(data2(i,:)-m2);endSw=S1+S2;%计算类间离散度SbSb=(m1-m2)'*(m1-m2);%计算投影方向ww=inv(Sw)*(m1-m2)';%投影后的样本为fori=1:50DATA1(i)=w'*data1(i,:)';endfori=1:50DATA2(i)=w'*data2(i,:)';end%计算分界阈值点M1=mean(DATA1);M2=mean(DATA2);w0=-(M1+M2)/2;%根据感知器定义分别将w
8、和data的维数增加一维w1=[w0w']';data1=[ones(150,1)data];%产生一个与data相同大小的零矩阵G=zeros(150,1);%感知器中当判别函数小于0时,采用迭代函数修正系数fork=1:150G(k,1)=perceptron(data1(k,:),w1);fork=1:150if(G(k,1)<0)%迭代求解过程w1=w1+data1(k,:)';endendenddisp('修正后的支持向量机是');w11、试推导出最小平方误差判别规则的两种求解方法,尝