《人工神经网络b》ppt课件

《《人工神经网络b》ppt课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第2部分：人工神经网络zhangzhaohui_hbsd@163.com河北师范大学数学与信息科学学院2011.7.28主要内容一.人工神经网络基本知识生物神经网络、生物神经元人工神经网络、人工神经元人工神经网络三要素典型激活函数神经网络几种典型形式二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五.应用人工神经网络是生物神经网络的某种模型(数学模型)是对生物神经网络的模仿基本处理单元为人工神经元1.生物神经系统与生物神经元大量生物神经元的广泛、复杂连接，形成生物神经网络(BiologicalNeuralNetwork,BNN)。

2、实现各种智能活动生物神经元(neuron)是基本的信息处理单元(1)生物神经系统生物神经元(neuron)是基本的信息处理单元,其组成：树突(dendrites),接收来自外接的信息细胞体(cellbody),神经细胞主体，信息加工轴突(axon),细胞的输出装置，将信号向外传递，与多个神经元连接突触（synapsse),神经元经突触向其它神经元（胞体或树突）传递信号(2)生物神经元的基本特征神经元之间彼此连接神经元之间的连接强度决定信号传递的强弱神经元之间的连接强度可以随训练改变学习、遗忘、疲劳----神经网络中各神经元之间连接的强弱，按外部的激励信号做自适应变化兴奋与

3、抑制信号可以起兴奋作用，也可以起抑制作用一个神经元接受信号的累积效果（综合大小，代数和）决定该神经元的状态(兴奋、抑制)每个神经元可以有一个“阈值”2.人工神经网络与人工神经元(1)基本的人工神经元模型McCulloch-Pitts神经元模型输入信号；链接强度与权向量；信号累积激活与抑制(1)基本的人工神经元模型(2)输出函数f(2)几种常见形式的传递函数(激活函数)(2)输出函数f(2)输出函数f主要内容人工神经网络基本知识二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五.应用各神经元接受来自前级的输入，并产生输出到下一级，无

4、反馈，可用一有向无环图表示。网络中的节点分两类：输入节点；计算节点(神经元节点)节点按层(layer)组织：第i层的输入只与第i-1层的输出相连。输入信号由输入层输入,由第一层节点输出，传向下层，……前馈：信息由低层向高层单向流动。-------------------------------------------------可见层输入层(inputlayer)输入节点所在层，无计算能力输出层(outputlayer)节点为神经元隐含层(hiddenlayer)中间层，节点为神经元1.前馈(forward)神经网络具有三层计算单元的前馈神经网络结构2.感知器神经网络(感

5、知器)、感知器神经元感知器神经元单层感知器网络感知器神经元的传递函数单层感知网络可以实现线性分类2.感知器神经网络、感知器神经元(续)(1)多层感知器(MLP)的一致逼近性单个阈值神经元可以实现任意多输入的与、或及与非、或非逻辑门。任何逻辑函数可由两层前馈网络（一层计算单元）实现。三层或三层以上的前馈网络通常称为多层感知器多层感知器的适用范围大大超过单层网络。3.多层感知器（含两层以上的计算单元）多层感知器示意当神经元的输出函数为sigmoid等函数时，三层前馈网络(含两层计算单元)可以逼近任意的多元非线性函数。主要内容一.人工神经网络基本知识、神经元与感知器二.前馈神经

6、网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五应用基于阈值神经元的多层感知器不足隐含层不直接与外界连接，误差无法直接估计中间层神经元的激活函数为阈值函数(或阶跃函数)无法采用梯度下降法训练神经元权值基于BP算法的多层感知器(BP网络)各计算单元(神经元节点)传递函数：Sigmoid函数误差逐层反向传播；信号逐层正向传递BP神经网络训练的两个阶段(1)信号正向传递过程输入信息从输入层经隐层逐层、正向传递，直至得到各计算单元的输出(2)误差反向传播过程输出层误差从输出层开始，逐层、反向传播，可间接计算隐层各单元的误差，并用此误差修正前层的权值

7、.BP网络的优点①特别适合于求解内部机制复杂的问题BP网络实质上实现了一个从输入到输出的映射功能，而数学理论已证明它具有实现任何复杂非线性映射的功能②具有自学习能力网络能通过学习带正确答案的实例集自动提取“合理的”求解规则③网络具有一定的推广、概括能力。BP网络的问题，如：①BP算法的学习速度较慢②网络训练失败的可能性较大③网络结构的选择尚无一种统一而完整的理论指导，一般只能由经验选定。④网络的预测能力（泛化能力、推广能力）与训练能力（逼近能力、学习能力）的矛盾。。。。。。主要内容一.人工神经网络基本知识、神经元与感知器二.前