资源描述:
《最新2.3 线性神经网络-药学医学精品资料.ppt》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库。
1、最新2.3线性神经网络-药学医学精品资料2.3.1线性神经元网络模型线性神经元模型它与感知器的主要不同之处在于其神经元有一个线性激活函数,这允许输出可以是任意值,而不仅仅只是像感知器中那样只能取0或1。2.3.1线性神经元网络模型线性神经元激活函数2.3.2线性神经网络的学习算法算法实现步骤第一步:初始化给各个连接赋一个较小的随机值第二步:输入一个样本,计算连接权值的调整量2.3.2线性神经网络的学习算法其中表示第次循环中的第个输入向量。则有:第三步:调整连接权值根据负梯度下降的原则,网络权值和阈值修正公式如下式中为学习率,当其取较大值时,可以加快网络的训练速度,但是如果其值太大,会导致网
2、络稳定性的降低和训练误差的增加。所以,为了保证网络进行稳定的训练,学习率的值必须选择一个合适的值。2.3.2线性神经网络的学习算法第四步:计算均方误差第五步:判断误差是否为零或者是否达到预先设定的要求。如果是,则结束算法,否则输入下一个样本,返回第二步进入下一轮求解过程2.3.3线性神经网络的MATLAB实现MATLAB中线性神经网络相关的常用函数和基本功能函数名功能newlin()新建一个线性层learnwh()Widrow-Hoff的学习函数purelin()线性传输函数mse()最小均方误差性能函数2.3.3线性神经网络的MATLAB实现MATLAB中线性神经网络相关的常用函数和基本
3、功能newlin()功能新建一个线性神经网络函数。格式(1)net=newlin(2)net=newlin(PR,S,ID,LR)说明式(1)返回一个没有定义结构的空对象,并显示图形用户界面函数nntool的帮助文字;式(2)中net为生成的线性神经网络;PR为网络输入向量中的最大值和最小值组成的矩阵[Pmin,Pmax];S为输出向量的个数;ID为输入延时向量(可省略);LR为学习速率(可省略),默认值为0.01。learnwh()功能线性神经网络学习函数格式(1)[dW,LS]=learnwh(W,P,Z,N,A,T,E,gW,gA,D,LP,LS)(2)[db,LS]=learnwh
4、(b,ones(1,Q),Z,N,A,T,E,gW,gA,D,LP,LS)2.3.3线性神经网络的MATLAB实现MATLAB中线性神经网络相关的常用函数和基本功能Purelin()功能纯线性传输函数格式A=purelin(N)说明函数purelin(N)为返回网络输入向量N的输出矩阵a;神经元最简单的传输函数是简单地从神经元输入到输出的线性传输函数,输出仅仅被神经元所附加的偏差所修正,newlin和newlind函数建立的网络都可以用该函数做为传递函数。mse()功能均方误差性能函数格式perf=mae(E,w,pp)说明perf表示均方误差,E为误差矩阵或向量(网络的目标向量与输出向量
5、之差),w为所有权值和偏值向量(可忽略),pp为性能参数(可忽略)。2.3.3线性神经网络的MATLAB实现例2-2要求设计一个线性神经网络,寻找给定数据之间的线性关系。P=[1.1-1.3];T=[0.61];%创建一个只有一个输出,输入延时为0,学习速率为0.01的线性神经网络,minmax(P)表示样%本数据的取值范围net=newlin(minmax(P),1,0,0.01);%对创建的线性神经网络进行初始化,设置权值和阈值的初始值net=init(net);net.trainParam.epochs=500;%设置网络训练后的目标误差为0.0001net.trainParam.g
6、oal=0.0001;net=train(net,P,T);y=sim(net,P)%求解网络的均方误差值E=mse(y-T)2.3.3线性神经网络的MATLAB实现例2-2的输出结果%使用TRAINB作为训练函数,最大训练次数为500,开始训练时的均方误差值为0.68,%目标误差为0.0001>>TRAINB,Epoch0/500,MSE0.68/0.0001.......TRAINB,Epoch200/500,MSE0.000193748/0.0001.TRAINB,Epoch217/500,MSE9.87777e-005/0.0001.%训练到217次时,达到目标误差要求,结束训练T
7、RAINB,Performancegoalmet.y=0.58830.9922E=9.8778e-0052.3.3线性神经网络的MATLAB实现例2-2的训练误差曲线2.3.3线性神经网络的MATLAB实现原数据关系与线性神经网络逼近关系对比注:两者仍存在误差,可以通过修改训练步数或精度来减少两者的误差小结线性神经网络模型线性神经网络激活函数神经网络学习算法线性神经网络的MATLAB实现线性神经网络的局限性论“三焦学说”