人工神经元模型及学习方法.ppt

《人工神经元模型及学习方法.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、人工神经元模型MP模型、感知器模型及其训练学习算法M-P模型目前人们提出的神经元模型有很多，其中最早提出且影响最大的，是1943年心理学家McCulloch和数学家W.Pitts在分析总结神经元基本特性的基础上首先提出的M-P模型。指出了神经元的形式化数学描述和网络结构方法，证明了单个神经元能执行逻辑功能，从而开创了人工神经网络研究的时代。M-P模型的六点假定关于神经元的信息处理机制，该模型在简化的基础上提出了以下六点假定进行描述：每个神经元都是一个多输入单输出的信息处理单元神经元输入分兴奋性输入和一致性输

2、入两种类型神经元具有空间整合特性和阈值特性神经元输入与输出间有固定的时滞，主要取决于突触延搁忽略时间整合作用和不应期神经元本身是非事变的，即其突触时延和突触强度均为常数假设1：多输入单输出图(a)表明，正如生物神经元有许多激励输入一祥，人工神经元也应该有许多的输入信号，图中每个输入的大小用确定数值xi表示，它们同时输入神经元j，神经元的单输出用oj表示。假设2：输入类型：兴奋性和抑制性生物神经元具有不同的突触性质和突触强度，其对输入的影响是使有些输入在神经元产生脉冲输出过程中所起的作用比另外一些输入更为重要

3、。图(b)中对神经元的每一个输入都有一个加权系数wij，称为权重值，其正负模拟了生物神经元中突触的兴奋和抑制，其大小则代表了突触的不同连接强度。假设3：空间整合特性和阈值特性作为ANN的基本处理单元，必须对全部输入信号进行整合，以确定各类输入的作用总效果，图(c)表示组合输人信号的“总和值”，相应于生物神经元的膜电位。神经元激活与否取决于某一阈值电平，即只有当其输入总和超过阈值时,神经元才被激活而发放脉冲,否则神经元不会产生输出信号。神经元的输出图(d)人工神经元的输出也同生物神经元一样仅有一个，如用oj表

4、示神经元输出，则输出与输入之间的对应关系可用图(d)中的某种非线性函数来表示，这种函数一般都是非线性的。神经元模型示意图神经元的数学模型τij——输入输出间的突触时延；Tj——神经元j的阈值；wij——神经元i到j的突触连接系数或称权重值；f()—神经元转移函数。神经元的数学模型net’j=WjTXWj=(w1w2…wn)TX=(x1x2…xn)T令x0=-1，w0=Tj则有-Tj=x0w0神经元的数学模型净输入与阈值之差可表示为：综合以上各式，神经元模型可以简化为：oj=f(netj)=f(WjTX)神经

5、元的转移函数神经元各种不同数学模型的主要区别在于采用了不同的转移函数，从而使神经元具有不同的信息处理特性。神经元的信息处理特性是决定人工神经网络整体性能的三大要素之一，反映了神经元输出与其激活状态之间的关系，最常用的转移函数有4种形式。神经元的转移函数(1)阈值型转移函数1x≥0f(x)={0x＜0图中所示为单极性阈值型转移函数，具有这一作用方式的神经元成为阈值型神经元，这是神经元模型中最简单的一种，MP模型就属于这一类。神经元的转移函数(2)非线性转移函数神经元的转移函数(3)分段线性转移函数0x≤0f(

6、x)={cx0＜x≤xc1xc＜x神经元的转移函数(4)概率型转移函数温度参数MP模型神经元特性函数可表示为u的输入输出关系如表：E≥T，I=0y=1E≥T，I>00E00MP模型的逻辑表示MP模型可以表示布尔逻辑关系（与或非）例如逻辑与：设T=2，I=0，E=x1W+x2W=x1+x2当x1=1，x2=1，E=1+1=2，触发y=1当x1=1，x2=0，E=1+0=1，不触发y=0当x1=0，x2=1，E=0+1=1，不触发y=0当x1=0，x2=0，E=0+0=0，不触发y=0

7、满足y=x1.x2逻辑与关系。逻辑或：令T=1，I=0，E=x1+x2（二个兴奋性输入）当x1=1,x2=1,E=1+1=2,触发y=1当x1=1,x2=0,E=1+0=1,触发y=1当x1=0,x2=1,E=0+1=1,触发y=1当x1=0,x2=0,E=0+0=0,不触发y=0满足y=x1+x2逻辑或关系逻辑非：令T=0，E=0，I=xW=x（一个抑制性输入）当x=1，I=1>0,不触发y=0当x=0，I=0，触发y=1满足逻辑非关系MP模型能够构成逻辑与、或、非，就可进而组成任意复杂的逻辑关系，因此，

8、MP模型是按一定方式组织起来，可以构成具有逻辑功能的神经网络。MP模型是最简单的网络，但是由于生物神经元本质上是模拟过程，过早地把物理量抽象为0和1，会丢失许多有用信息，因此神经计算应当将模拟的和数字的技术结合起来。从最简化的观点看，仍具有一定指导意义。MP模型应用MP模型应用：可用于实现分类、模式识别等，当前已经有许多成功的基于M-P神经元模型的神经网络得到应用，如BP算法，这种算法是实现人脸识别的主要算法之一