神经网络与MATLAB仿真ppt课件.ppt

《神经网络与MATLAB仿真ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、神经网络1Outline1.人工神经网络简介2.神经网络的特点及应用3.神经网络模型4.神经网络的学习方式21.人工神经网络简介人工神经网络（ArtificialNeuralNetwork，ANN），通常简称为神经网络，是一种在生物神经网络的启示下建立的数据处理模型。主要通过调整神经元之间的权值来对输入的数据进行建模，最终具备解决实际问题。31.人工神经网络简介单层感知器结构人工神经网络的可塑性表现于，其连接权值都是可调整的，它将一系列仅具有简单处理能力的节点通过权值相连，当权值调整至恰当时，就能输出正确的结果。

2、网络将知识存储在调整后的各权值中，这一点是神经网络的精髓。42.神经网络的特点及应用1.自学习和自适应性。给神经网络输入新的训练样本，网络能够自动调整结构参数，改变映射关系2.非线性性。人工神经元处于激活或抑制状态，表现为数学上的非线性关系。3.鲁棒性与容错性。局部的损害会使人工神经网络的运行适度减弱，但不会产生灾难性的错误。4.计算的并行性与存储的分布性。每个神经元都可以根据接收到的信息进行独立运算和处理。人工神经网络具有强大的模式识别和数据拟合能力52.神经网络的特点及应用1.模式分类。需要提供已知样本2.聚

3、类。不需要提供已知样本。3.回归与拟合。相似的样本输入在神经网络的映射下，往往能得到相近的输出。4.优化计算。寻找一组参数组合，使由该组合确定的目标函数达到最小值。5.数据压缩。将数据保存于连接权值中。63.神经网络模型单层网络：单层感知器，线性网络。多层网络：其他网络。前向网络：BP、径向基网络、自组织网络等。反馈网络：Hopfield网络，Elman网络等。本书共介绍了单层感知器、线性网络、BP网络、径向基网络、自组织竞争网络、反馈网络、随机神经网络等神经网络模型。74.神经网络的学习方式1.有监督学习（有教

4、师学习）。训练样本对应一个教师信号。2.无监督学习（无教师学习）。网络只接受一系列的输入样本，而对该样本应有的输出值一无所知。1.Hebb学习规则：权值的调整量与输入前一神经元输出值和后一神经元输出值的乘积成正比。2.纠错学习规则：权值的调整量与误差大小成正比。3.随机学习规则：Boltzmann机事实上就是模拟退火算法。4.竞争学习规则：只有一个获胜神经元可以进行权值调整，其他神经元的权值维持不变，体现了神经元之间的侧向抑制。8单神经元网络9神经元模型图中为神经元的内部状态，为阈值，为输入信号，，为表示从单元到

5、单元的连接权系数，单神经元模型可描述为：10通常情况下，取即11图7-1单神经元模型12常用的神经元非线性特性有以下四种：（1）阈值型图7-2阈值型函数13（2）分段线性型图7-3分段线性函数14（3）Sigmoid函数型图7-4Sigmoid函数15单层感知器16Outline1.单层感知器的结构2.单层感知器的学习算法3.感知器的局限性4.单层感知器应用实例171.单层感知器的结构单层感知器属于单层前向网络，即除了输入层和输出层之外只拥有一层神经元节点。感知器（perception）的原理相对简单，是学习其他

6、复杂神经网络的基础。由单个神经元组成的单层感知器只能用来解决线性可分的二分类问题。典型使用场景：将其用于两类模式分类时，就相当于在高维样本空间中，用一个超平面将样本分开。Rosenblatt证明，如果两类模式线性可分，则算法一定收敛。181.单层感知器的结构输入是一个N维向量其中的每一个分量都对应于一个权值，隐含层的输出叠加为一个标量值：随后在二值阈值元件中对得到的v值进行判断，产生二值输出：191.单层感知器的结构二维空间中的超平面是一条直线。在直线下方的点，输出-1；在直线上方的点，输出1。分类面：202.单

7、层感知器的学习算法在实际应用中，通常采用纠错学习规则的学习算法。将偏置作为一个固定输入输入权值212.单层感知器的学习算法（1）定义变量和参数。X为输入，y为实际输出，d为期望输出，b为偏置，w为权值。（2）初始化。n=0，将权值向量设置为随机值或全零值。（3）激活。输入训练样本，对每个训练样本指定其期望输出。d（4）计算实际输出。222.单层感知器的学习算法（5）更新权值向量。（6）判断。若满足收敛条件，算法结束；若不满足，n自增1，转到第3步继续执行。误差小于某个预先设定的较小的值两次迭代之间的权值变化已经很

8、小设定最大迭代次数M，当迭代了M次之后算法就停止迭代条件的混合使用，防止出现算法不收敛现象。232.单层感知器的学习算法确定学习率不应当过大，以便为输入向量提供一个比较稳定的权值估计不应当过小，以便使权值能够根据输入的向量x实时变化，体现误差对权值的修正作用粗准焦螺旋和细准焦螺旋的类比。——自适应学习率。243.感知器的局限性单层感知器无法解决线性不可分问题，只能做近似分