物性估算原理及计算机计算 教学课件 作者 董新法 方利国 陈砺 编著第8章人工神经网络在物性估算中的应用.ppt

《物性估算原理及计算机计算 教学课件 作者 董新法 方利国 陈砺 编著第8章人工神经网络在物性估算中的应用.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第8章人工神经网络在物性估算中的应用8.1神经网络理论的发展及沿革8.2神经网络的基本原理8.3几种典型的人工神经网络的基本原理及应用策略8.4神经网络物性估算应用策略及实例应用总目录8.1神经网络理论的发展及沿革8.1.1生物神经网络和人工神经网络概念生物神经网络生物特有的对外界的各种刺激快速有效地做出有效应反应的神经网络。典型的生物神经网络：人脑人工神经网络是对生物神经网络的模拟，神经元也由生物神经元，变成了人工神经元。总目录本章目录上页下页8.1.2人工神经网络的发展历史第一阶段是早期工作阶段194

2、3年，心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型（简称MP模型）1949年D.O．Hebb从心理学的角度提出了至今仍对神经网络理论有着重要影响的Hebb学习法则1961年E·Rosenblatt提出了著名的感知机（Perceptron）模型第二阶段是过渡期阶段1962年，Widrow提出了主要适用于自适应系统的自适应线性元件（Adaline）网络本章目录上页下页总目录1969年，人工智能创始人之一美国麻省理工学院的Minsky和Papert以感知器为名出版了一本书第三阶段是

3、复苏阶段1982年，HoPfield提出了神经网络一种新的数学模型——HoPfield网络模型Hinton和Sejnowski于1984年提出的Boltzmann机模型Rumelhart和McCelland为首的科学小组，于1986年提出误差逆传播网络及其学习算法第四阶段成熟理智阶段本章目录上页下页总目录8.1.3人工神经网络物性估算中的应用及未来发展趋势有关人工神经网络在化学化工方面的应用研究在80年代后期才有报道。主要分成五类：谱图分析结构与性质预测信号处理过程控制和故障诊断化学反应产物估计本章目录上

4、页下页总目录8.2神经网络的基本原理8.2.1神经元的基本生物特性生物神经元详见教材8.2.2神经元的基本数学表达目前对生物神经元的认识而言，神经元的数学模型可用图8-4及式8-1，8-2表示。（8-1）（8-2）本章目录上页下页总目录上面神经元示意图及数学模型中，xi是输入神经元的信号，wi是输入各信号的权重，θ是神经元的输出阀值，只有当输入神经元各信号的加权之和大于神经元的输出阀值，神经元才有输出信号。输出响应函数阶约响应函数符号函数S（Sigmoid）型响应函数（8-3）（8-4）（8-5）本章目录

5、上页下页总目录8.2.3神经网络的基本结构类型及学习规则基本连接结构有两种：阶层型：图8-6阶层型神经网络本章目录上页下页总目录图8-7全互连型神经网络全互连型无论哪种形式的神经网络都有一个共同的特点：网络的学习和运行取决于个神经元连接权值及阀值的动态演化过程。决定神经网络特性的因素有两个，它们分别是网络的拓扑结构和网络的学习、工作规则。本章目录上页下页总目录人工神经网络的训练几种典型的学习规则（1）Hebb学习规则原则是如果两个神经元同时兴奋，则它们之间的连接权值增加，对于相互连接节点i和j，其输出值分

6、别为ai和bj，则根据下式调整权重：(8-6)其中j是节点j的学习速度常数，0＜j＜1。（2）随机学习规则应用统计学、概率论随机调节连接权重。其特点是只接受可使误差矢量减小的随机权重变化。本章目录上页下页总目录（3）误差修正学习现今应用最普遍的人工神经网络学习方法，是一种有监督学习。误差修正学习是通过定义输出层某一节点t的输出误差开始的：然后计算输出层的总平方误差：已知E，可以计算出与第j个节点连接的第i个连接权重因子的变化wij：（8-7）（8-8）（8-9）本章目录上页下页总目录8.2.4神经

7、网络解决物性估算问题的基本策略用神经网络来估算物质的性质必须解决三个基本问题。第一个是对物质的表针问题第二个是采用何种神经网络及其算法问题第三个问题是神经网络输入与输出数据的归一化问题本章目录上页下页总目录8.3几种典型的人工神经网络的基本原理及应用策略8.3.1BP网络1）网络的基本原理BP网络是目前应用最广，其基本思想最直观、最容易理解的阶层型神经网络，网络采用误差逆传播学习算法。工作原理如下：首先根据需要解决的问题确定网络的层数及各层的神经元数；其次，利用已知的模式，按误差逆传播的算法训练网络，直至

8、确定网络的各连接权及阀值。最后，利用已经训练好的网络，在输入层输入变量，让网络按照前面确定的连接权及阀值进行运算，得到输出层神经元的各输出层，最后一步，又称回响，也是最后解决问题的关键训练学习工作由四个过程组成：（1）模式顺传播过程（2）误差逆传播过程（3）神经网络训练过程（4）网络的收敛过程本章目录上页下页总目录2）网络的计算过程BP网络的具体计算过程可以分为以下几步。初始化工作。随机选取一已知模式对，进行模式顺传播计算，直