最新4=第4章 神经网络基本理论-药学医学精品资料.ppt

《最新4=第4章 神经网络基本理论-药学医学精品资料.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、最新4=第4章神经网络基本理论-药学医学精品资料4.1人工神经元模型人工神经元是对人或其它生物的神经元细胞的若干基本特性的抽象和模拟。生物神经元模型生物神经元主要由细胞体、树突和轴突组成，树突和轴突负责传入和传出信息，兴奋性的冲动沿树突抵达细胞体，在细胞膜上累积形成兴奋性电位；相反，抑制性冲动到达细胞膜则形成抑制性电位。两种电位进行累加，若代数和超过某个阈值，神经元将产生冲动。4.1人工神经元模型人工神经元模型模仿生物神经元产生冲动的过程，可以建立一个典型的人工神经元数学模型[x1,…,xn]T为输

2、入向量，y为输出，f(·)为激发函数，θ为阈值。Wi为神经元与其它神经元的连接强度，也称权值。4.2神经网络的定义和特点神经网络系统是由大量的神经元，通过广泛地互相连接而形成的复杂网络系统。定义特点（1）非线性映射逼近能力。任意的连续非线性函数映射关系可由多层神经网络以任意精度加以逼近。（2）自适应性和自组织性。神经元之间的连接具有多样性，各神经元之间的连接强度具有可塑性，网络可以通过学习与训练进行自组织，以适应不同信息处理的要求。（3）并行处理性。网络的各单元可以同时进行类似的处理过程，整个网络的

3、信息处理方式是大规模并行的，可以大大加快对信息处理的速度。（4）分布存储和容错性。信息在神经网络内的存储按内容分布于许多神经元中，而且每个神经元存储多种信息的部分内容。网络的每部分对信息的存储具有等势作用，部分的信息丢失仍可以使完整的信息得到恢复，因而使网络具有容错性和联想记忆功能。（5）便于集成实现和计算模拟。神经网络在结构上是相同神经元的大规模组合，特别适合于用大规模集成电路实现。4.3感知器模型感知器(Perceptron)是由美国学者F.Rosenblatt于1957年提出的，它是一个具有单

4、层计算单元的神经网络，并由线性阈值元件组成。激发函数为阈值型函数，当其输入的加权和大于或等于阈值时，输出为1，否则为0或-1。它的权系W可变，这样它就可以学习。感知器的结构感知器的学习算法感知器的学习是有导师学习。感知器的训练算法的基本原理来源于著名的Hebb学习律。基本思想：逐步地将样本集中的样本输入到网络中,根据输出结果和理想输出之间的差别来调整网络中的权矩阵。离散单输出感知器训练算法二值网络：自变量及其函数的值、向量分量的值只取0和1权向量：W=(w1，w2，…，wn)输入向量：X=(x1，x

5、2，…，xn)训练样本集：{(X，Y)

6、Y为输入向量X对应的输出}离散单输出感知器训练算法1.初始化权向量W；2.重复下列过程，直到训练完成：2.1对每个样本（X，Y），重复如下过程：2.1.1输入X；2.1.2计算o=F（XW）；2.1.3如果输出不正确，则当o=0时，取W=W+X，当o=1时，取W=W-X离散多输出感知器训练算法样本集：{(X,Y)

7、Y为输入向量X对应的输出}输入向量：X=(x1,x2,…,xn)理想输出向量：Y=(y1,y2,…,ym)激活函数：F权矩阵W=(wij)实际输出向

8、量：O=(o1,o2,…,om)o1多输出感知器x1x2o2omxn…………输入层输出层离散多输出感知器训练算法1.初始化权矩阵W；2.重复下列过程，直到训练完成：2.1对每个样本（X，Y），重复如下过程：2.1.1输入X；2.1.2计算O=F（XW）；2.1.3forj=1tomdo执行如下操作：ifoj≠yjthenifoi=0thenfori=1tonwij=wij+xielsefori=1tondowij=wij-xi离散多输出感知器训练算法算法思想：将单输出感知器的处理逐个地用于多输出感知

9、器输出层的每一个神经元的处理。第1步，权矩阵的初始化：一系列小伪随机数。离散多输出感知器训练算法第2步，循环控制。方法1：循环次数控制法：对样本集执行规定次数的迭代改进——分阶段迭代控制：设定一个基本的迭代次数N，每当训练完成N次迭代后，就给出一个中间结果离散多输出感知器训练算法方法2：精度控制法：给定一个精度控制参数精度度量：实际输出向量与理想输出向量的对应分量的差的绝对值之和；实际输出向量与理想输出向量的欧氏距离的和;“死循环”：网络无法表示样本所代表的问题;离散多输出感知器训练算法方法3：综合

10、控制法：将这两种方法结合起来使用注意：精度参数的设置。根据实际问题选定；初始测试阶段，精度要求低，测试完成后，再给出实际的精度要求。连续多输出感知器训练算法用公式wij=wij+α（yj-oj）xi取代了算法3-2第2.1.3步中的多个判断yj与oj之间的差别对wij的影响由α（yj-oj）xi表现出来好处：不仅使得算法的控制在结构上更容易理解，而且还使得它的适应面更宽连续多输出感知器训练算法1．用适当的小伪随机数初始化权矩阵W；2.初置精度控制参数ε，学习率α，精度