神经网络笔记(部分).doc

《神经网络笔记(部分).doc》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、神经网络笔记（部分）智能科学的概念：智能科学研究智能的本质和实现技术,是由脑科学、认知科学、人工智能等综合形成的交叉学科。脑科学从分子水平、细胞水平、行为水平研究自然智能机理，建立脑模型，揭示人脑的本质；认知科学是研究人类感知、学习、记忆、思维、意识等人脑心智活动过程的科学；人工智能研究用人工的方法和技术，模仿、延伸和扩展人的智能，实现机器智能。智能科学不仅要进行功能仿真,而且要从机理上研究、探索智能的新概念、新理论、新方法。是用科学的方法和手段来研究智能及其应用过程的一门学科。人工智能研究途径和方法：

2、1、结构模拟，神经计算；2、功能模拟，符号推演；3、行为模拟，控制进化。人工神经网络（ArtificialNeuralNetworks，简写为ANNs）也简称为神经网络（NNs）或称作连接模型（ConnectionModel），它是一种模范动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。权重表示相对强度给定输入数据通过传递函数一个激活的值被转换到一个输出。输出可被一个线性或非线性的方式或通过一个阈值联

3、系起来。描述传递函数的作用，举例神经网络的价值、用途：举例神经网络的局限性：如何开发神经网络？第一阶段：学习训练阶段；第二阶段：回想阶段：第三阶段：泛化阶段（类推）。学习过程就是不断调整“权值”的过程。一个成熟的神经网络要即稳定又收敛。建立ANN需要哪些因素？1、选定训练的规模和测试数据；2、对输入、输出的归一化；3、学习算法（讲了10种）；4、选定网络结构：5、传递函数6、用动量因子提高学习的速度。简单解释BP算法？1传统的BP算法简述　　BP算法是一种有监督式的学习算法，其主要思想是：输入学习样本，

4、使用反向传播算法对网络的权值和偏差进行反复的调整训练，使输出的向量与期望向量尽可能地接近，当网络输出层的误差平方和小于指定的误差时训练完成，保存网络的权值和偏差。2改进算法概述　　此前有人提出：任意选定一组自由权，通过对传递函数建立线性方程组，解得待求权。本文在此基础上将给定的目标输出直接作为线性方程等式代数和来建立线性方程组，不再通过对传递函数求逆来计算神经元的净输出，简化了运算步骤。没有采用误差反馈原理，因此用此法训练出来的神经网络结果与传统算法是等效的。其基本思想是：由所给的输入、输出模式对通过作

5、用于神经网络来建立线性方程组，运用高斯消元法解线性方程组来求得未知权值，而未采用传统BP网络的非线性函数误差反馈寻优的思想。例举一些特殊的神经网络？Anautoassociativenetwork(自联想神经网络)，是BP网络的一种Ahierarchialneuralnetwork(分层神经网络)Recurrentnetwork(复发性神经网络)怎样在神经网络算法中获得更准确的数据？在标准算法基础上增加动量因子。说说神经网络稳定与收敛的关系？要即稳定又收敛。正常化的输入和输出数据集为什么对ANN的训练很

6、重要？解释如何自联想网络可以使用的数据压缩和滤波和维度？反馈网络(RecurrentNetwork)，又称自联想记忆网络，其目的是为了设计一个网络，储存一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到这个设计的平衡点上。1982年，美国加州工学院物理学家霍普菲尔德(J．Hopfield)发表了一篇对人工神经网络研究颇有影响的论文。霍普菲尔德网络是单层对称全反馈网络，根据其激活函数的选取不同，可分:离散型的霍普菲尔德网络(DiscreteHopfieldNeuralNetwork,DHN

7、N)和连续型的霍普菲尔德网络(ContinuousHopfieldNeuralNetwork,CHNN)。其中，DHNN的激活函数为二值型的，其输入、输出为{0，1}的反馈网络，主要用于联想记忆；CHNN的激活函数的输入与输出之间的关系为连续可微的单调上升函数，主要用于优化计算。反馈网络用于优化计算时W是已知的，求稳定状态；反馈网络做联想存储时稳定状态是给定的，要求找合适的W.