智能传感器系统神经网络技术及其在智能传感器系统中的应用.ppt

《智能传感器系统神经网络技术及其在智能传感器系统中的应用.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第六章神经网络技术及其在智能传感器系统中的应用人类大脑的思维分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维三种基本方式。逻辑性的思维：是指根据逻辑规则进行推理的过程。神经网络信息概念（符号表示）逻辑推理串行指令直观性的思维：是将分布式存储的信息综合起来，结果是瞬间产生想法或解决问题的办法。1.信息是通过神经元上的兴奋模式分布存储在网络上；2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。6.1神经网络基本知识6.1.1人工神经网络模型图6-1基本神经元模型神经元是神经网络的基本单元；Wli表示某一神经元与第i个神经元的连接权值；阈值（偏置值）；神经元的输出可描述为

2、：式中：f(Ai)表示神经元输入—输出关系的函数，称为作用函数或传递函数，常用的作用函数有如图6-2所示的三种：阈值型、S型和分段线性型(伪线性型)。这样，就有三类神经元模型。如果有阈值，则表示当神经元的输入达到一定的强度后才能激活。图6-2常见的作用函数形式(a)阈值型；(b)S型；(c)伪线性型一、阈值型神经元阈值型神经元是一种最简单的神经元，由美国心理学家Mc.Culloch和数学家Pitls共同提出，因此，通常称为M-P模型。M-P模型神经元是二值型神经元，其输出状态取值为1或0，分别代表神经元的兴奋状态和抑制状态。其数学表达式为对于M-P模型神经元，权值Wji可在(

3、-1,1)区间连续取值。取负值表示抑制两神经元间的连接强度，取正值表示加强。二、S型神经元模型这是常用的一种连续型神经元模型，输出值是在某一范围内连续取值的。输入—输出特性多采用指数函数表示，用数学公式表示如下：S型作用函数反映了神经元的非线性输入—输出特性。用于多层神经网络的隐层三、分段线性型神经元的输入—输出特性满足一定的区间线性关系，其输出可表示为式中,C、AC表示常量。多用于输出层。6.1.2神经网络结构一、分层网络图6-3分层网络功能层次二、相互连接型结构图6-4相互连接型网络6.1.3学习与记忆一、神经网络的学习Hebb（赫布是加拿大著名生理心理学家）学习规则可以描述

4、为：如果神经网络中某一神经元与另一直接与其相连的神经元同时处于兴奋状态，那么这两个神经元间的连接强度应该加强。用算法表达式表示为Wji(t+1)=Wji(t)+η［xi(t),xj(t)］式中：Wji(t+1)——修正一次后的某一权值；η——常量，决定每次权值修正量，又称学习因子；xi(t)、xj(t)——t时刻第i个、第j个神经元的状态。误差修正算法是神经网络学习中另一个更重要的方法。像感知机、BP网络学习均属此类。是最基本的误差修正学习方法，即通常说的δ学习规则，可由如下四步来描述：(1)任选一组初始权值Wji(0)。(2)计算某一输入模式对应的实际输出与期望输出的误

5、差。(3)更新权值Wji(t+1)=Wji(t)+η［dj-yj(t)］xi(t)式中：η——学习因子；dj、yj——第j个神经元的期望输出与实际输出；xi——第i个神经元的输入。(4)返回步骤(2)，直到对所有训练模式、网络输出均满足误差要求为止。二、神经网络的记忆神经网络记忆包含两层含义：信息的存储与回忆。网络通过学习将所获取的知识信息分布式存储在连接权的变化上，并具有相对稳定性。一般来讲，存储记忆需花较长时间，因此这种记忆称为长期记忆，而学习期间的记忆保持时间很短，称为短期记忆。6.1.4神经网络的信息处理功能神经网络可以完成大量的信息处理任务，正因为这样，其应用

6、涉及相当广泛的领域。归纳起来，神经网络的信息处理任务主要包括：一、数字上的映射逼近通过一组映射样本(x1,y1),(x2,y2),…,(xn,yn)，网络以自组织方式寻找输入、输出之间的映射关系：yi=f(xi)。二、联想记忆联想记忆是指实现模式完善、恢复相关模式的相互回忆等，典型的有如Hopfield网络等。6.2前向网络6.2.1感知机图6-5基本感知机结构感知机的学习算法为i=1,2,…,n式中：η为学习因子，在(0,1］区间取值。期望输出与实际输出之差为输入状态xi(k)=1或06.2.2BP网络一、BP网络模型是一种多层前馈神经网络，变换函数是S型，输出为0~1之间

7、的连续量；通过网络权值和偏置值调整，以满足输出要求。图6-6一个三层BP网络结构在实际应用中一般为三层：输出层：Lwkj表示隐层第j个节点与输出层第k个节点的连接权值；神经元序号k=1，2，…，M隐层：Iwji表示输入层第i个节点与隐层第j个节点的连接权值；神经元序号j=1，2，…，L输入层：神经元序号i=1，2，…，R二、网络结构示意图（书中图6-9）网络的输入层有3个节点；隐层有4个节点；输出层有2个节点。三、BP神经网络神经元模型BP网络神经作用函数