人工神经网络的发展与应用

《人工神经网络的发展与应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、李凡（MZ12663）人工神经网络的发展与应用1、神经网络发展1）启蒙时期启蒙时期开始于1980年美国著名心理学家W．James关于人脑结构与功能的研究，结束于1969年Minsky和Pape~发表的《感知器》(Perceptron)一书。早在1943年，心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型(即M—P模型)，该模型把神经细胞的动作描述为：1神经元的活动表现为兴奋或抑制的二值变化；2任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态无关；3任何抑制性突触有输入激励后，使神经元抑制；4突触的值不随时间改变；5突触从感知输入到传送出一个输出脉冲的延

2、迟时问是0．5ms。可见，M—P模型是用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。现在来看M—P模型尽管过于简单，而且其观点也并非完全正确，但是其理论有一定的贡献。因此，M—P模型被认为开创了神经科学理论研究的新时代。1949年，心理学家D．0．Hebb提出了神经元之间突触联系强度可变的假设，并据此提出神经元的学习规则——Hebb规则，为神经网络的学习算法奠定了基础。1957年，计算机学家FrankRosenblatt提出了一种具有三层网络特性的神经网络结构，称为“感知器”(Perceptron)，它是由阈值性神经元组成，试图模拟动物和人脑的感知学习能力，Rosenblatt认

3、为信息被包含在相互连接或联合之中，而不是反映在拓扑结构的表示法中；另外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神经网络系统内开始形成新的连接或传递链路后，新的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是要求任何识别或坚定他们的过程。1962年Widrow提出了自适应线性元件(Ada—line)，它是连续取值的线性网络，主要用于自适应信号处理和自适应控制。2）低潮期人工智能的创始人之一Minkey和pape~经过数年研究，对以感知器为代表的网络系统的功能及其局限性从数学上做了深入的研究，于1969年出版了很有影响的《Perceptron)一书，该书提出了感知

4、器不可能实现复杂的逻辑函数，这对当时的人工神经网络研究产生了极大的负面影响，从而使神经网络研究处于低潮时期。引起低潮的更重要的原因是：20世纪7O年代以来集成电路和微电子技术的迅猛发展，使传统的冯·诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算机和寻求新的神经网络的必要性和迫切性。但是在此时期，波士顿大学的S．Grossberg教授和赫尔辛基大学的Koho—nen教授，仍致力于神经网络的研究，分别提出了自适应共振理论(AdaptiveResonanceTheory)和自组织特征映射模型(SOM)。以上开创性的研究成果和工作虽然未能引起当时人们的普遍重视，但其科学价值却不可磨灭，

5、它们为神经网络的进一步发展奠定了基础。3)复兴时期20世纪80年代以来，由于以逻辑推理为基础的人工智能理论和冯·诺伊曼型计算机在处理诸如视觉、听觉、联想记忆等智能信息处理问题上受到挫折，促使人们怀疑当前的冯·诺伊曼型计算机是否能解决智能问题，同时也促使人们探索更接近人脑的计算模型，于是又形成了对神经网络研究的热潮。1982年，美国加州理工学院的物理学家JohnJ．Hopfield博士发表了一篇对神经网络研究的复苏起了重要作用的文章，他总结与吸取前人对神经网络研究的成果与经验，把网络的各种结构和各种算法概括起来，塑造出一种新颖的强有力的网络模型，称为Hopfield网络。他引入了“计算能量函数

6、”4的概念，给出了网络稳定性依据。从而有力地推动了神经网络的研究与发展。1986年，Rumelhart及．Cun等学者提出了多层感知器的反向传插算法，克服了当初阻碍感知器模型继续发展的重要障碍。这一时期，大量而深入的开拓性工作大大发展了神经网络的模型和学习算法，增强了对神经网络特性的进一步认识，使人们对模仿脑信息处理的智能计算机的研究重新充满了希望。4)新时期1987年6月，首届国际神经网络学术会议在美国加州圣地亚哥召开，这标志着世界范围内掀起了神经网络开发研究的热潮。在这次会上成立了国际神经网络学会(INNS)，并于1988年在美国波士顿召开了年会，会议讨论的议题涉及到生物、电子、计算机、

7、物理、控制、信号处理及人工智能等各个领域。自1988年起，国际神经网络学会和国际电气工程师与电子工程师学会(IEEE)联合召开了每年一次的国际学术会议。这次会议后不久，美国波士顿大学的StephenGrossberg教授、芬兰赫尔辛基技术大学的TeuvoKohonen教授及日本东京大学的甘利俊一教授，主持创办了世界第一份神经网络杂志《NeuralNetwork)。随后，IEEE也成立了神经网络协会并于1990