资源描述：
《人工神经网络导论幻灯版》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、第1章绪论1.1从生物神经网络到人工神经网络在你阅读本书时,你就用到了一个复杂的生物神经网络,大约有1011个相互连接的神经元帮助你进行阅读、呼吸、思考、完成各种动作等,部分神经网络的结构和功能是与生具有的,比如支配呼吸、哭、吮吸等本能动作的功能;而大多数的功能需要通过后天的学习才能获得。虽然人们还并不完全清楚生物神经网络是如何进行工作的,但幻想构造一些“人工神经元”,进而将它们以某种方式连接起来,可以模拟“人脑”的某些功能。这就是本书所要讨论的“人工神经网络”。1.2人工神经网络的发展史人工神经网络(artificialneuralnetwork,ANN)的发展经
2、历了大约半个世纪,从20世纪40年代初到80年代,神经网络的研究经历了低潮与高潮几起几落的发展过程。早在1943年,心理学家W.McCulloch和数学家W.Pitts合作,从数理逻辑的角度,提出了神经元和神经网络最早的数学模型(McCulloch-Pitts,MP模型),标志着神经网络研究的开始。1958年,F.Rosenblatt首次引进了模拟人脑感知和学习能力的感知器(perceptron)概念,引起了人们的极大兴趣。感知器由简单的阈值性神经元构成,初步具备了诸如学习、并行处理、分布存储等神经网络的一些基本特征,从而确立了从系统角度进行人工神经网络研究的基础。
3、1960年,B.Widrow和M.Hoff提出了主要适用于自适应系统的自适应线性元件(ADAptiveLINearNEuron,ADALINE)网络,采用了比感知器更复杂的学习程序。Widrow-Hoff技术被称为最小均方误差(leastmeansquare,LMS)学习规则。从此神经网络的发展进人了第一个高潮期。1969年,美国麻省理工学院著名的人工智能专家M.Minsky和S.Papert出版了颇有影响的PercePtron一书,从数学上剖析了简单神经网络的功能和局限性,并且指出多层感知器还不能找到有效的计算方法,由于M.Minsky在学术界的地位和影响,其悲观
4、的结论,被大多数人不做进一步分析而接受;加之当时以逻辑推理为研究基础的人工智能和数字计算机的辉煌成就,大大降低了人们对神经网络研究的热情,故使神经网络的研究在其后的若于年内处于低潮。1972年T.Kohonen和J.Anderson不约而同地提出具有联想记忆功能的新神经网络;1976年,S.Grossberg与G.A.Carpenter提出了自适应共振理论(adaptiveresonancetheory.ART),并在以后的若干年内发展了ART1,ART2,ART3这3种神经网络模型,从而为神经网络研究的发展奠定了理论基础。进人20世纪80年代,特别是80年代末期,
5、对神经网络的研究从复兴很快转人了新的热潮。这主要是因为：一方面经过十几年迅速发展的以逻辑符号处理为主的人工智能理论和冯·诺依曼(vonNeumann)计算机在处理诸如视觉、听觉、形象思维、联想记忆等智能信息处理问题上受到了挫折;另一方面,并行分布处理的神经网络本身的研究成果,使人们看到了新的希望。1721982年美国加州工学院的物理学家J.Hoppfield提出了HNN(Hoppfieldneuralnetwork)模型,并首次引人了网络能量函数概念,使网络稳定性研究有了明确的判据,其电子电路实现为神经计算机的研究奠定了基础,同时开拓了神经网络用于联想记忆和优化计算
6、的新途径。1983年K.Fukushima等提出了神经认知机网络理论;1985年D.H.Ackley、G.E.Hinton和T.J.Sejnowski将模拟退火概念移植到Boltzmann机模型的学习之中,以保证网络能收敛到全局最小值。1986年,D.Rumelhart和J.McCelland等提出的PDP(paralleldistributedprocessing)理论则致力于认知微观结构的探索,同时发展了多层网络的BP算法,使BP网络成为目前应用最广的网络。1987年,T.Kohonen提出了自组织映射(Selforganizingmap,SOM)。1987年,
7、美国电气和电子工程师学会IEEE(instituteforelectricalandelectronicengineers)在圣地亚哥(SanDieg。)召开了盛大规模的神经网络国际学术会议,国际神经网络学会(internationalneuralnetworkssociety)也随之诞生。1988年,学会的正式杂志NeuralNetworks创刊;从1988年开始,国际神经网络学会和IEEE每年联合召开一次国际学术年会;1990年IEEE神经网络会刊问世,各种期刊的神经网络特刊层出不穷,神经网络的理论研究和实际应用进人了一个蓬勃发展的时期。1.3人工神经网络的
