模式识别第11章人工神经网络以及在模式识别中的应用

《模式识别第11章人工神经网络以及在模式识别中的应用》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第11章人工神经网络以及在模式识别中的应用Chapter11:Artificialneuralnetworksanditsapplicationinpatternrecognition本章主要内容11.1人工神经网络的发展历程11.3人工神经元的基本概念及学习算法11.2生物神经元的机理11.4前馈神经网络的类型与拓扑结构11.6径向基函数网络11.7神经网络在模式识别中的应用11.5前馈神经网络的反向传播算法11.1人工神经网络的发展历程11.1.1人类大脑的优势人类大脑具有智能，即具有感知、学习、理解、联想、决策等能力。人脑是由极大量的的“生物神经元”经过复杂的相互连接而成的一种非线性并行

2、信息处理系统。尽管单个生物神经元的反应速度比构成计算机的基本单元——逻辑门——慢五六个数量级，但人脑中神经元数目巨大且连接复杂，因此对有些问题的处理速度比计算机还快。感知：获取外界信息，是智能的基础；学习：取得经验与积累知识，是人类不断发展的基本能力；理解：分析与解决问题，是智能的高级形式；11.1.2人工神经网络研究的必要性计算机尽管有很高的计算速度与超大的存储容量，但它却缺乏感知、识别、联想、决策和适应环境等人脑具备的能力。计算机能否象人脑那样工作？人工神经网络做了一个有益的尝试。人工神经网络是对人类大脑功能的一种模拟；这种模拟粗略而简单，无论是在规模上还是功能上都与人脑差得太远，但这并不

3、妨碍它在一些实际工程应用领域显示出威力。11.1.2人工神经网络研究的必要性（续）相异点传统的人工智能技术人工神经网络基本实现方式串行处理；由程序实现控制并行处理；对样本数据进行多目标学习；通过人工神经元之间的相互作用实现控制基本开发方法设计规则、框架、程序；用样本数据进行调试（由人根据已知的环境去构造一个模型）定义人工神经网络的结构原型，通过样本数据，依据基本的学习算法完成学习——自动从样本数据中抽取内涵（自动适应应用环境）适应领域精确计算：符号处理，数值计算非精确计算：模拟处理，感觉，大规模数据并行处理模拟对象左脑（逻辑思维）右脑（形象思维）人工神经网络与传统的人工智能技术思路迥然不同：1

4、1.1.3人工神经网络的研究历史第一阶段：萌芽期（20世纪40年代）1943年，心理学家McCulloch和数学家Pitts建立起了著名的阈值加权模型，简称M-P模型，成为人工神经网络研究的开端。1949年，心理学家D.O.Hebb提出神经元之间突触联系是可变的假说——Hebb学习律，为神经网络奠定了基础。第二阶段：第一高潮期（1950~1968年）1957年Rosenblatt提出了感知器，首次把神经网络的理论研究付诸工程实践，引起了人们的极大关注。人们乐观地认为几乎已经找到了智能的关键。许多部门都开始大批地投入此项研究，希望尽快占领制高点。第三阶段：反思期（1969~1982年）11.1.

5、3人工神经网络的研究历史（续）第四阶段：第二高潮期（1983~1990年）1990年12月在北京举行了国内首届神经网络大会；1969年Minsky出版《感知器》一书，对感知器提出了严厉的批评，认为它连最简单的线性不可分问题——异或问题都解决不了；早期的人工智能研究取得了很大成就，掩盖了神经网络研究的重要性；1982年，J.Hopfield提出了循环网络的概念；1986年提出了多层感知器的反向传播算法，较好地解决了多层网络的学习问题。第五阶段：再认识与应用研究期（1991年~）11.1.3人工神经网络的研究历史（续）（1）局部极小问题；（1）希望在理论上寻找新突破，建立新的专用/通用网络和算法；

6、（2）开发现有网络应用，并在应用中根据实际运行情况对网络加以改造，以提高网络的训练速度和运行的准确度。（3）进一步对生物神经系统进行研究，不断地丰富对人脑的认识。当前人工神经网络的研究任务：当前人工神经网络存在的主要问题：（2）模型选择问题；（3）计算速度和准确度问题；11.1.4人工神经网络的研究范围网络模型感知器误差反传网径向基函数网自组织映射Hopfield网自适应共振网波尔茨曼机英文缩写——BPRBFSOM——ARTBM提出时间1957198619881982198219871984学习方式有监督有监督有监督无监督无监督无监督有监督拓扑结构前向前向前向前向反馈反馈反馈活动方式确定型确定

7、型确定型确定型确定型确定型随机型有监督学习（有教师学习）：预先已知训练样本集合中每个样本的类别标号无监督学习（无教师学习）：预先不知道训练样本集合中每个样本的类别标号11.2生物神经元的机理胞体(Soma)枝蔓（Dendrite）胞体(Soma)轴突（Axon）突触（Synapse）11.2.1生物神经元的构成胞体：是神经细胞的本体，用于普通细胞的生存；枝蔓(树突)：含有大量分支，用于接受其它神经