资源描述：
《基于LMSE的分类器设计.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、主讲：周润景教授单位：电子信息工程学院基于LMSE的分类器设计目录LMSE算法简介算法的原理算法的实现步骤实现算法的MATLAB编程过程算法的MATLAB仿真情况结论LMSE算法简介LMSE是LeastMeanSquareError的英文缩写,中文的意思是最小均方误差,常记做LMS算法。感知器和自适应线性元件在历史上几乎是同时提出的，并且两者在对权值的调整的算法非常相似。它们都是基于纠错学习规则的学习算法。感知器算法存在如下问题：不能推广到一般的前向网络中；函数不是线性可分时，得不出任何结果。而由美国斯坦福大学的Widrow和Hoff在研究自适应理论时提出的
2、LMS算法，由于其容易实现而很快得到了广泛应用，成为自适应滤波的标准算法。LMSE算法是对准则函数引进最小均方误差这一条件而建立起来的。这种算法的主要特点是在训练过程中判定训练集是否线性可分，从而可对结果的收敛性做出判断。LMSE算法属于监督学习的类型,而且是“模型-无关”的，它是通过最小化输出和期望目标值之间的偏差来实现的。一、算法的原理(一)LMSE算法属于自适应算法中一种常用的算法,它不同于C均值算法和ISODATA算法那样属于基于距离度量的算法,直观容易理解,它是通过调整权值函数求出判别函数,进而将待测样品代入判别函数求值最终做出判定得解。一、算法的
3、原理(二)一、算法的原理(二)准则函数:准则函数在时得的最小值。准则函数对Wi的偏导数为:一、算法的原理(二)求取迭代方程:将上式偏导数代入迭代方程，得到:对于多类问题来说，M类问题应该有M个权函数方程，对于每一个权函数方程来说，如，则否则二、LMSE算法步骤设各个权矢量的初始值为0，即：输入第k次样品，计算确定期望输出函数值：若，则，否则计算迭代方程，其中。循环执行第2步，直到满足条件：属于类的所有样品都满足如下不等式：。三、实现LMSE算法的详细过程1.首先给定四类样品，各样品的特征向量经过增1(这里以第一类为例)pattern=struct('feat
4、ure',[])p1=[864.451647.312665.9;877.882031.663071.18;1418.791775.892772.9;1449.581641.583405.12;864.451647.312665.9;877.882031.663071.18;1418.791775.892772.9;1449.581641.583405.12;1418.791775.892772.9;1449.581641.583405.12;]pattern(1).feature=p1'三、实现LMSE算法的详细过程pattern(1).feature(4,
5、:)=12.设权值向量的初始值均为0w=zeros(4,4);%初始化权值3.计算di(k)fork=1:4m=pattern(i).feature(:,j)m=m/norm(m)d(k)=w(:,k)'*m%计算d4.调整权值fork=1:4ifk~=iifd(i)<=d(k)%d(i)不是最大，则继续迭代flag=1;三、实现LMSE算法的详细过程endendend%调整权值fork=1:4w(:,k)=w(:,k)+m*(r(k)-d(k))/num5.通过判别函数将待分类数据分类调用function函数，将待测数据分类，因为调用一次只能判别一个样品的
6、类别，所以循环30次完成分类：fork=1:30sample=sampletotall(:,k)y=lmseclassify(sample)x=sample(1)三、实现LMSE算法的详细过程yy=sample(2)z=sample(3)ac(k)=y6.用三维效果图将结果直观显示axis([035000350003500])ify==1plot3(x,yy,z,‘g*’);%一类表示为绿色elseify==2plot3(x,yy,z,‘r*’)%二类表示为红色elseify==3plot3(x,yy,z,‘b*’)%三类表示为蓝色elseify==4plo
7、t3(x,yy,z,‘y*’)%四类表示为黄色endholdon四、算法的MATLAB仿真情况最终的分类结果：ac=1至15列33134223413212416至30列243422131141333四、算法的MATLAB仿真情况数据编号原始分类预测分类数据编号原始分类预测分类数据编号原始分类预测分类数据编号原始分类预测分类数据编号原始分类预测分类133722131119442511233833142220222644311944154421222711433101116222231283354411331744233329336221232183324113
8、033结果分析：从表中可以看出有2个分类结果是错的，
