第二章人工神经网络基础ppt课件.ppt

《第二章人工神经网络基础ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第2章人工神经网络基础主要内容：BN与AN；拓扑结构；存储；训练重点：AN；拓扑结构；训练难点：训练第2章人工神经网络基础2.1生物神经网2.2人工神经元2.3人工神经网络的拓扑特性2.4存储与映射2.5人工神经网络的训练人脑是具有高度智能的复杂系统.结构上，是140亿个神经细胞(neurons)互连的大规模神经网络.通过超并行处理使得整个系统实现处理的高速性和信息表现的灵活性.神经元组成：细胞体为主体.神经元功能：刺激、兴奋、传导、效应.2.1生物神经网2.1生物神经网1、构成胞体(Soma)枝蔓（Dendrite）胞体(Soma)轴突（Axo

2、n）突触（Synapse）图1神经细胞形状图2.1生物神经网图1神经细胞形状图树突（接受信息）细胞体内核（处理信息）轴突(传递信息)2、工作过程神经网络模型的基本组成之神经元生物神经元的基本组成细胞体突起树突轴突人工神经元的基本结构处理单元连接输入输出神经元的基本功能（1）接收输入输入类型输入的权值抑制性连接权值活跃性连接权值传播规则（传播函数）把某类净输入与其连接权值结合起来，使该类输入对目的处理单元产生最终净输入的规则.处理输入活跃状态（活跃值）活跃值活跃函数（活跃规则）把某一处理单元的各类净输入相互结合起来，再与该处理单元当前活跃状态相结合

3、，以产生一个新的活跃状态的规则.活跃函数类型恒等函数、阈值函数、S型单调函数.神经元的基本功能（2）3、六个基本特征：(1)神经元及其联接；(2)神经元之间的联接强度决定信号传递的强弱；(3)神经元之间的联接强度是可以随训练改变的；(4)信号可以是起刺激作用的，也可以是起抑制作用的；(5)一个神经元接受的信号的累积效果决定该神经元的状态；(6)每个神经元可以有一个“阈值”.研究大脑的目的：a）揭示功能造福人类b）构造ANN用于工程及其他领域（生物神经网络的模型化：ANN）BNNmodelingANNANN非BNN模型，而是对结构及功能大大简化后保

4、留主要特性的某种抽象与模型.2.2人工神经元的基本构成人工神经元模拟生物神经元的一阶特性.输入：X=（x1，x2，…，xn）联接权：W=（w1，w2，…，wn)T网络输入：net=∑xiwi向量形式：net=XWxnwn∑x1w1x2w2net=XW…1.激活函数(ActivationFunction)激活函数——执行对该神经元所获得的网络输入的变换，也可以称为激励函数、活化函数：o=f（net）1、线性函数（LinerFunction）2、阈值函数（ThresholdFunction）阶跃函数3、S形函数3、S形函数a+bo(0,c)netac

5、=a+b/2M-P模型x2w2∑fo=f（net）xnwn…net=XWx1w1McCulloch—Pitts（M—P）模型，也称为处理单元（PE）2.3人工神经网络的拓扑特性连接的拓扑表示ANiwijANj联接模式用正号（“+”，可省略）表示传送来的信号起刺激作用，它用于增加神经元的活跃度.用负号（“-”）表示传送来的信号起抑制作用，它用于降低神经元的活跃度.神经网络模型的基本组成之网络神经网络结构连接矩阵连接模式多层、单层反馈、前馈分类：按网络连接的拓扑结构分类层次型结构互连型网络结构按网络内部的信息流向分类前馈型网络反馈型网络网络拓扑结构类

6、型层次型结构：将神经元按功能分成若干层，如输入层、中间层（隐层）和输出层，各层顺序相连.互连型网络结构：网络中任意两个节点之间都可能存在连接路径.层次型结构输出层到输入层有连接层内有连接层次型结构全互连型结构局部互连型网络结构网络信息流向类型前馈型网络前馈:网络信息处理的方向是从输入层到各隐层再到输出层逐层进行.反馈型网络在反馈网络中所有节点都具有信息处理功能，而且每个节点既可以从外界接收输入，同时又可以向外界输出.前馈型网络反馈型网络2.4存储与映射空间模式（SpatialModel）时空模式（SpatialtemporalModel）空间模式

7、三种存储类型1、RAM方式（RandomAccessMemory）随机访问方式是将地址映射到数据.2、CAM方式（ContentAddressableMemory）内容寻址方式是将数据映射到地址.3、AM方式（AssociativeMemory）相联存储方式是将数据映射到数据.后续的两种方式是人工神经网络的工作方式.在学习/训练期间，人工神经网络以CAM方式工作；权矩阵又被称为网络的长期存储（LongTermMemory，简记为LTM）.网络在正常工作阶段是以AM方式工作的；神经元的状态表示的模式为短期存储（ShortTermMemory，简记为

8、STM）.自相联（Auto-associative）映射：训练网络的样本集为向量集合为{A1，A2，…，An}在理想情况下，该网络在完成