资源描述:
《3前馈神经网络.ppt》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、3.前馈神经网络前馈神经网络是神经网络中一种典型分层结构,信息流从输入层进入网络后逐层向前传递至输出层。根据前愦网络中神经元转移函数、隐层数以及权值调整规则的不同,可形成具有各种功能特点的神经网络。3.1单层感知器1958年,美国心理学家FrankRosenblatt提出一种具有单层计算单元的神经网络,称Perceptron,即感知器。感知器是模拟人的视觉接受环境信息,并由神经冲动进行信息传递。感知器研究中首次提出了自组织、自学习的思想,而且对所能解决的问题存在着收敛算法,并能从数学上严格证明,因而对神经网络的
2、研究起了重要的推动作用。单层感知器的结构与功能都很简单,以至于目前很少被应用来解决实际问题,但它是研究其他神经网络的基础。3.1.1感知器模型y1yjym……W1WjWmx1x2xixn……单层感知器处理层输入层处理层,m个神经接点,每节点均有信息处理能力,m个节点向外部处理输出信息,构成输出列向量Y。Y=[Y1Y2….Yj…Ym]T输入层,感知层,n个神经节点,无信息处理能力,只负责引入外部信息X。X=[x1x2…xi…xn]T两层间连接权值用权值列向量Wj表示,m个权向量构成单层感知器的权值矩阵W。Wj=[
3、w1jw2j…wij…wnj]TW=[W1W2…Wj…Wm]T由神经元数学模型,处理层中任一节点,其净输入netj来自输入层各节点的输入加权和:离散型单计算层感知器采用符号型转移函数,则j节点输出为:3.1.2感知器的功能为便于直观分析,现考虑单计算节点感知器的情况:yjWjx1x2xi……xnw1jw2jwijwnjj明显看出:单计算节点感知器实际上就是一个M-P神经元模型。因为采用符号转移函数,又称符号单元。下面分三种情况讨论单计算节点感知器的功能:(1)设输入向量X=[x1x2]T两个输入分量x1和x2构
4、成一个二维平面,输入样本X可用该平面上一个点表示。节点j的输出yj为:则方程成为二维输入样本空间上的一条分界线。线上方的样本用*表示,它们使,*的区域都会使yj=1;线下方样本用△表示,它们使,△的区域都会使yj=-1.显然,由感知器权值和阈值确定的直线方程规定了分界线在样本空间的位置,可将输入样本分为两类。******△△△△△x1x2(2)设输入向量X=[x1x2x3]T,则x1,x2,x3几何上构成一个三维空间。节点j的输出为:方程确定的平面成为三维输入样本空间的一个分界面。把输入样本*和△正确分两类(对
5、应yj=1和-1)(3)推广到n维空间的一般情况,输入向量X=[x1x2…xn]T,则n个输入分量构成几何n维空间。方程定义的n维空间超平面,将输入样本分为2类。看出,一个简单的单计算节点感知器具有分类功能,其分类原理是将分类知识存储于感知器的权向量(包括阈值)中,由权向量确定的分类判决界面(线),可将输入模式分为两类。但是,权重系数和阈值一般是不可事先预知的,在初始人为给定的权值和阈值所确定的分界面也不可能将类别正确分开。只有用足够多的已知其类别的输入样本X,对神经网络进行训练,让神经元通过学习自动地找到那些
6、权重系数和阈值,从而,确定的分界面,才是有实际意义的。神经元在实现其分类功能以前,必须有学习和训练阶段,在此阶段向神经元送入足够多数量的样本X,并需要指明每个矢量X所属类别。所以这是一种教师指导下的学习。单计算节点感知器实现逻辑运算问题:逻辑”与”功能:真值表:X1x2y000010001114个样本,两种输出01属分类问题使用单节点感知器,用感知器规则训练,得到连接权及阈值如图:x1x2y0.50.50.75-1令计算节点净输出为0,得分类判决方程:0.5x1+0.5x2-0.75=0该直线方程正确地把两类样
7、本分类.将输出为1的样本点作*、输出为0的样本点作△表示。按真值表作图,得:*△△△(0,1)(1,0)(1,1)(0,0)x1x20.5x1+0.5x2-0.75=0该分类线不唯一,取决于具体的权值训练逻辑”或”功能:真值表:X1x2y000011011114个样本,两种输出01△*属分类问题x1x2y11-0.5-1学习训练的w1=w2=1,θ=-0.5,净输入为0得分类判决方程:x1+x2-0.5=0*△(1,0)(1,1)x2(0,1)(0,0)x1**x1+x2-0.5=0实现两类样本正确分类例:设计
8、一个感知器神经网络,完成下列分类,以MATLAB编程仿真程序,并画出分类线.解(1)问题分析输入向量2个元素,取值范围[-1,1];输出向量一个元素,是一个二值节点,取值0或1.可确定单层感知器神经网络结构:一个二维输入向量,一个神经元,神经元转移函数为hardlim(硬限幅函数)(2)程序设计已知:p1p2a-1%设计一个感知器神经网络,实现二维向量分类功能clearall;%清除所