人工神经网络原理教学课件作者马锐第8章节课件

《人工神经网络原理教学课件作者马锐第8章节课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第8章人工神经网络应用的设计开发目录8.1人工神经网络应用的特点及适用范围8.2人工神经网络的设计开发过程8.3人工神经网络模型的选取8.4人工神经网络模型的设计8.5人工神经网络模型的实现8.1ANN应用特点及适用范围(1)人工神经网络应用的特点该应用涉及一批密集的数据，并且这些数据依赖于多个相互关联的参数该应用涉及的领域内，已经积累或收集了大量的历史数据和样本该应用中提供的数据是不完善的、有误差的，但它们却描述了确定的样本模式该应用涉及的问题或者没有确定的求解方法，或者要获得某种求解方法花费太大，时间太长8.1ANN应用特点及适用范围(2)选用ANN技术的原则人工神经网络技术在处理对内部规

2、律不甚了解，也不能用一组规则和方程等数学表达式描述的较为复杂的问题时具有一定的优越性问题的数学算法缺少清晰的解析和分析，用一般的计算机方法不能解决或者解决起来非常困难；问题要求有定性描述或是复杂量化推论问题的解是从一些高度关联的参数中推导得来的，并且参数没有确切的数量表示8.1ANN应用特点及适用范围(3)数据虽然是可用的，但却具有多变、模糊、有噪声或误差、以及不确定性特点具有足够的数据积累，能够产生充足的训练和测试模式集合项目要求的开发时间太短，但对训练神经网络来说时间是足够的8.2ANN的设计开发过程8.3人工神经网络模型的选取(1)人工神经网络的大小非统计型网络模型，如BP神经网络，一般

3、应少于1000个节点统计型网络模型，如Boltzmann机，一般最好少于200个节点要求的输出类型分类图形实数最优化8.3人工神经网络模型的选取(2)联想记忆的类型自联想互联想训练方法有指导的学习训练方式无指导的学习训练方式时间的限制神经网络的训练时间执行时间8.3人工神经网络模型的选取(3)8.4人工神经网络模型的设计8.4.1节点级设计8.4.2网络级设计8.4.3训练级设计8.4人工神经网络模型的设计节点级设计：确定所选择人工神经网络模型的神经元节点类型和转移函数网络级设计：确定神经网络的大小、层数、节点数量和节点之间的互连关系训练级设计：确定神经网络采用的学习训练算法、学习参数、初始条

4、件和初始值8.4.1节点级设计神经元节点输入信号的组合方式加权求和神经元节点采用的转移函数8.4.2网络级设计(1)神经网络的层数大多数通用的人工神经网络模型都有预先确定的层数BP神经网络的隐含层经验表明，对于分类或判决边界问题（包括二进制输入输出的逻辑和判决边界问题），一般只需要一层隐含层但是如果神经网络的输出需要表示成输入的任意连续函数或是需要表示一些复杂的功能，则可以选用两层隐含层8.4.2网络级设计(2)输入层节点数输入层的节点数目取决于源数据的维数，每一维均对应一个输入节点源数据的预处理源数据的表示方法eg:表示大写字母A可以用(001000101010001111111000110

5、00110001)T8.4.2网络级设计(3)隐含层的节点数目增加隐含层的节点数可以改善神经网络与训练数据匹配的精确度（该精确度近似正比于隐含层节点数的平方）为了改善神经网络的泛化推理能力，即改善神经网络对新图形的适应性，又要求适当减少隐含层的节点数经验公式Nielsen提出单隐含层节点数为p=2n+1，其中p为隐含层节点数，n为输入层节点数8.4.2网络级设计(4)Lipmann认为最大隐含层节点数为p=(n+1)×q，q为输出层节点数Kuarycki认为最大隐含层节点数为p=3×qMaren等认为对小型网络来说，当输入节点数大于输出节点数时，最大隐含层节点数为Lippmann认为在用于图形

6、识别的有两个隐含层的神经网络模型中，第二个隐含层的节点数为p2=2×q，其中p2为第二个隐含层的节点数，q为输出层节点数8.4.2网络级设计(5)Kuarychi根据实验发现，在高维输入时，第一个隐含层对第二个隐含层的最佳节点数的比例为3:1Gorman和Sejnowski提出了用于模式分类的神经网络隐含层节点数的估算公式为p=log2m，其中m为输入的训练模式个数NielsenheIllingworth建议用于过程控制的神经网络隐含层节点数的估算公式为p=4×q8.4.2网络级设计(6)输出层结点数输出层节点数由采用的人工神经网络模型和需要的输出表示方式确定具有自联想能力的人工神经网络模型的

7、输出节点数与输入节点数相同具有互联想能力的人工神经网络模型的输出节点数一般均少于输入节点数节点间的连接节点之间的连接关系反映了人工神经网络模型的互连结构8.4.3训练级设计学习训练算法现有的ANN模型基本上都具有了确定的学习训练算法，但在实际应用中，可以根据具体需求对采用的学习训练算法进行适当的调整和改进学习参数和初始条件无一定的理论指导，普遍采用的方法也是根据经验数据，不断试探得出终止条件取决于