人工神经网络及模式识别ppt课件.ppt

《人工神经网络及模式识别ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第3章人工神经网络及模式识别3.1引言模式识别与人工智能所研究的是如何用计算机实现入脑的一些功能。一方面，从要实现的功能出发，将功能分解成子功能，直至设计出算法来实现这些子功能。这是自顶向下的分析方法，前面各章是这条思路的产物。另一方面，入脑无论多么复杂，都可以看作是由大量神经元组成的巨大的神经网络。从神经元的基本功能出发，逐步从简单到复杂组成各种神经网络，研究它所能实现的功能，是自底向上的综合方法。2021/8/172人工神经网络研究的发展1943年，McCulloch和Pitts提出了神经元

2、的数学模型1949年，Hebb提出神经元之间突触联系强度可变的假设，并据此提出神经元的学习准则，为神经网络的学习算法奠定了基础50年代末，Rosenblatt提出了感知器模型，首次把神经网络的研究付诸工程实践。1969年，人工智能创始入之一的Minsky和Papert出版了《感知器》，深入分析了感知器的原理，指出其局限性。1982年，Hopfield提出了神经网络模型，引入了能量函数的概念，研究了其动力学性质，设计出用电子线路实现这一网络的方案，开拓了神经网络用于联想记忆和优化计算的新途径，大大

3、促进了神经网络的研究。1986年，Rumelhart及LeCun等学者提出了多层感知器的反向传播算法，克服了阻碍感知器模型发展的重要障碍。2021/8/173另一方面，20世纪80年代以来，传统的基于符号处理的人工智能在解决工程问题时遇到了许多困难。串行机尽管有很好的性能，但在解决像模式识别、学习等对入来说是轻而易举的问题上显得非常困难。这就促使入们怀疑当前的VonNeumann机是否能解决智能问题，也促使入们探索更接近入脑的计算模型，于是又形成了对神经网络研究的热潮。现在神经网络的应用已渗透到

4、多个领域，如智能控制、模式识别、信号处理、计算机视觉、优化计算、知识处理、生物医学工程等。2021/8/1743.2人工神经元3.2.1生物神经元图4.1典型的神经元构成示意图2021/8/175典型的神经元构成胞体。是神经细胞的本体，内有细胞核和细胞质，完成普通细胞的生存功能树突。有大量的分枝，长度较短，接受自其他神经元的信号轴突。它用以输出信号；较长的轴突被髓鞘包裹，以提高传导速度并减少相互干扰，相当于导线的绝缘层；轴突远端也有分枝，可与多个神经元连接。突触。它是一个神经元与另一个神经元相联

5、系的特殊部位，通常是一个神经元轴突的端部靠化学接触或电接触将信号（兴奋）传递给下一个神经元的树突或胞体；对树突的突触多为兴奋性的，使下一个神经元兴奋，而对胞体的突触多为抑制性，其作用是阻止下一个神经元兴奋。2021/8/176神经元的基本工作机制一个神经元有两种状态兴奋和抑制。平时处于抑制状态的神经元，其树突和胞体接收其他神经元经由突触传来的兴奋电位，多个输入在神经元中以代数和的方式叠加；如果输入兴奋总量超过某个闹值，神经元就会被激发进入兴奋状态，发出输出脉冲，并由轴突的突触传递给其他神经元。神

6、经元被触发之后有一个不应期，在此期间内不能被触发，然后闽值逐渐下降，恢复兴奋性。神经元是按照“全或无”的原则工作的，只有兴奋和抑制两种状态，但也不能认为神经元只能表达或传递二值逻辑信号。因为神经元兴奋时往往不是只发出一个脉冲，而是发出一串脉冲，如果把这一申脉冲看成是一个调频信号，脉冲的密度是可以表达连续量的。2021/8/1773.2.2人工神经元人工神经元模型与两种常见的输出函数2021/8/178图中的n个输入，相当于其他神经元的输出值，n个权值相当于突触的连接强度，f是一个非线性函数，例如

7、阈值函数或Sigmoid函数，是阈值。神经元的动作如下：当f为阈值函数时，其输出为：或2021/8/179选取不同的输出函数f，y的取值范围也不同则则某些重要的学习算法要求输出函数f可微，此时通常选用Sigmoid函数：若若则则也可以选2021/8/1710Sigmoid函数的特性：非线性，单调性。无限次可微。当权值很大时可近似阑值函数。当权值很小时可近似线性函数。2021/8/1711如果神经元ui接收来自另一神经元uj的输出，则当这两个神经元同时兴奋时，从uj到ui的权值wij就得到加强。具

8、体到前述的神经元模型，可以将Hebb规则表现为如下的算法：式中是对第i个权值的修正量，η是控制学习速度的系数。3.2.3神经元的学习算法–--Hebb学习规则2021/8/17123.3前馈神经网络及其主要算法3.3.1前馈神经网络构成前馈网络的各神经元接受前一级输入，并输出到下一级，无反馈，可用一有向无环图表示。图的节点分为两类，即输入节点与计算单元。每个计算单元可有任意个输入，但只有一个输出，而输出可藕合到任意多个其他节点的输入。前馈网络通常分为不同的层，第i层的输入只与第i-1层的输出相