《前馈神经网络模型》ppt课件

《《前馈神经网络模型》ppt课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章前馈神经网络模型前馈神经网络：由一层或多层非线性处理单元组成。相邻层之间通过突触权阵连接起来。由于前一层的输出作为下一层的输入，因此此类神经网络为前向神经网络。在前向神经网络结构中输入输出之间包含着一层或多层隐含层。前向神经网络可以看成是一种一组输入模式到一组输出模式的系统变换，这种变换通过对某一给定的输入样本相应的输出样本集的训练而得到，为了实现这一行为，网络的权系数在某种学习规则下进行自适应学习，也就是有导师指导学习。内容提要感知器多层感知器自适应线性元模型BP算法第一节感知器线性阈值单元线性阈值单元是前向网络（又称前馈网络）中最基本的计算单元，它具有n个输入（x1,

2、x2,…,xn），一个输出y，n个连接权值（w1,w2,…,wn），且xiwiyӨ感知器简介1958年，美国心理学家FrankRosenblatt提出一种具有单层计算单元的神经网络，称为Perceptron，即感知器。感知器是模拟人的视觉接受环境信息，并由神经冲动进行信息传递的层次型神经网络。感知器研究中首次提出了自组织、自学习的思想，而且对所能解决的问题存在着收敛算法，并能从数学上严格证明，因而对神经网络研究起了重要推动作用。感知器的结构与功能都非常简单，以至于在解决实际问题时很少采用，但由于它在神经网络研究中具有重要意义，是研究其它网络的基础，而且较易学习和理解，适合于作

3、为学习神经网络的起点。感知器模型结构感知器的模型结构如图所示。感知器是指只有一层处理单元的感知器，如果包括输入层在内，应为两层。图中输入层也称为感知层，有n个神经元节点，这些节点只负责引入外部信息，自身无信息处理能力，每个节点接收一个输入信号，n个输入信号构成输入列向量X。输出层也称为处理层，有m个神经元节点，每个节点均具有信息处理能力，m个节点向外部输出处理信息，构成输出列向量O。两层之间的连接权值用权值列向量Wj表示，m个权向量构成单层感知器的权值矩阵W。3个列向量分别表示为：感知器模型结构j=1,2,…,m感知器模型结构感知器的功能一个最简单的单计算节点感知器具有分类功能

4、。其分类原理是将分类知识存储于感知器的权向量（包含了阈值）中，由权向量确定的分类判决界面将输入模式分为两类。感知器的功能(1)设输入向量X=(x1,x2)T输出：则由方程w1jx1+w2jx2-Tj=0确定了二维平面上的一条分界线。ojx1-1x2感知器的功能w1jx1+w2jx2–Tj=0w1jx1=Tj-w2jx2x1=(Tj-w2jx2)/w1j=-(w2j/w1j)x2+Tj/w1j=ax2+c感知器的功能(2)设输入向量X=(x1,x2,x3)T输出：则由方程w1jx1+w2jx2+w3j–Tj=0确定了三维空间上的一个分界平面。x2ojx1x3-1感知器的功能w1j

5、x1+w2jx2+w3jx3–Tj=0x1=ax2+bx3+c感知器的功能(3)设输入向量X=(x1，x2,…，xn)T则由方程w1jx1+w2jx2+…+wnj–Tj=0(3.6)确定了n维空间上的一个分界平面。输出：w1jx1+w2jx2+…+wnj–Tj=0(3.5)例一用感知器实现逻辑“与”功能x1x2y000010100111逻辑“与”真值表例一用感知器实现逻辑“与”功能感知器结构wix1+w2x2-T=00.5x1+0.5x2-0.75=0例二用感知器实现逻辑“或”功能x1x2y000011101111逻辑“或”真值表例二用感知器实现逻辑“或”功能感知器结构wix1

6、+w2x2-T=0x1+x2-0.5=0思考分界线的方程是什么？感知器的模型如何表示？数学表达式？感知器的局限性Rosenblatt已经证明，如果两类模式在分布空间中可以找到一个超平面将它们分开，那么感知器的学习过程就一定会收敛。否则判定边界就会振荡不休，永远不会稳定，这也正是单层感知器所无法克服的缺陷，所以它连最简单的异或（XOR）问题也解决不了。“异或”的真值表x1x2y000011101110感知器的局限性关键问题就是求感知器的学习式中，当实际输出与期望值相同时，权值不需要调整。感知器学习规则代表一种有导师学习。感知器的学习规则感知器学习规则的训练步骤：(1)对各权值w0

7、j(0),w1j(0),┄,wnj(0)，j=1,2,┄,m（m为计算层的节点数）赋予较小的非零随机数；(2)输入样本对{Xp,dp}，其中Xp=(-1,x1p,x2p,┄,xnp)，dp为期望的输出向量（教师信号），上标p代表样本对的模式序号，设样本集中的样本总数为P，则p=1,2,┄,P；感知器的学习规则(3)计算各节点的实际输出ojp(t)=sgn[WjT(t)Xp],j=1,2,...,m；(4)调整各节点对应的权值，Wj(t+1)=Wj(t)+η[djp-ojp(t)]Xp,j=1