资源描述：
《BP神经网络隐含层单元数的确定.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、第卷第期天津理工大学学报年月文章编号一一一的神经网络隐含层单元数的确定’,‘,,‘,‘,,沈花玉王兆霞高成耀秦娟姚福彬徐巍天津理工大学电子信息与通信工程学院,天津天津大学电子信息工程学院,天津,,摘要本文针对神经网络隐含层单元数难以确定的问题提出了一种改进的方法并通过实验证明该方法有效的减少,,了验证次数提高了确定隐含层最佳单元数的效率具有较高的应用价值关键词神经网络隐含层单元误差中图分类号文献标识码一,一,一,,,一’,‘,,,州,,,卿·,即,二罗一’’〕邵神经网络是年由和为首的科学家小组提出,是一种单向
2、传播的多层前馈网络,是目前应用最广泛〔‘〕的神经网络模型之一但神经网络至今仍存在一个难以解决的问题难以确定隐含层单元的个数本文提出一种确定隐含层单元数的方法,并加以验输人层隐含层输出层证,证明了其可行性,具有一定的应用价值图神经网络结构示意图神经网络神,,经网络结构如图所示由图可见播在输出层的各神经元获得网络的输人响应接,下来,按神经网络是一种具有层或层以上的神经网络照减少期望输出与实际输出之间误差的方包括输人层、隐含层盯和输向,从输出层经过各中间隐含层逐层修正各连接权,,,,出层上下层之间实现全连接而每层值
3、最后回到输人层随着这种误差逆的传播修正,,神经元之间无连接当一对学习样本提供给网络后不断进行网络对输人模式响应的正确率也不断神经元的激活值从输人层经各隐含层向输出层传上升圈一收稿日期卜基金项目天津市高等学校科技发展基金中国博,士后科学基金第一作者沈花玉一,女,硕士研究生天津理工大学学报第卷第期的常数隐含层单元数的确定,二,其中,,为隐含层单元数,为输隐含层的单元数目选择是个十分复杂的问题,人单元数往往需要根据设计者的经验和多次实验来确定,因在实际问题中应该选择哪种方法来确定最佳隐而不存在一个理想的解析式来表示
4、隐含层单元的含层单元数通常的选择就是每种方法分别验证其、数目与问题的要求输人输出单元的数目都有着直最佳隐含层单元数,然后将各方法得出的最佳隐含,接关系若数目太少则网络所能获取的用以解决问层单元数综合比较,然后确定网络最终的最佳隐含,,题的信息太少若数目太多不仅增加训练时间更层单元数,这样就需要验证几十次甚至几百次作者,重要的是隐含层单元数过多会导致学习时间过长提出一种方法由方法,,综合确定最佳隐,、且误差不一定最佳也会导致容错性差不能识别以,。,,,含层单元数的边界数从最小单元,“”,,前没有训练过的样本还可
5、能出现所谓过渡吻合数开始训练网络逐个增加单元数验证到,问题即测试误差增大导致泛化能力下。、,。、一一“,一十最大单元数一一共验证,降因此合理选择隐含层单元数非常重要一定存在次,在每种隐含层单元数情况下,待网络收敛后,比一个最佳的隐单元数较在训练集相同的情况下网络的收敛速度最后,根隐含层单元数的确定方法据训练结果得到的训练误差和测试误差来选择隐含以下种途径可用于选择最佳隐含层单元数时层最佳单元数这样可以有效的减少验证次数,从而的参考公式以最快的速度找到隐含层最佳单元数‘,,‘为,,实例验证其中样本数为隐含层二,
6、二下面给出一个具体问题根据这个具体问题来单元数,。为输人单元数,为「,司之间的常数,如验证这种确定隐含层最佳单元数的方法果【‘,问题描述设定样本数据如表所示其。,,,二十。。,一,一丫五丁丽其中为隐含层单元数中为训练样本巧为测试样本为输人单元数,为输出单元数,为,之间表样本数据别口样本序号样本输人特征数据类别一一一一一一一一一一一一一一一一巧一一一一一一一一一一一一一一一一一一一一一一一一屯一一一一一一一一一一一一一一一一佣一一一一一一一一一一一一一一一一一一以一一一一一加一一一一一一一一一一一一一一一一一一
7、一一一一一一,等神经年月沈花玉网络隐含层单元数的确定对任何在闭区间内的连续函数,都可以用一个,‘。川隐含层的神经网络来逼近因而一个层的一洲工三ō国月如巴ù刁礴巧魂神经网络可以完成任意的维到维的映照因此本文从含有一个隐含层的网络开始进行训练下面需要确定样本数、输人单元数和输出单元数,由上表可知一共个样本,即样本数,每个样本中有个输人特征数据,即输人单元数,该组样本数据一共有,,种类别,为了简化网络,用,表示第类状态,用,表示第类状态,用一,表示第类状态,因此在网络输出层中只设计图隐二含层单元数时的训练图两个输出
8、单元就可以表示这种状态类别,即输出川单元数妇,一二隐含层单元数边界的确定由以上分析可知,一在个数为时训练误差随着隐含层单元的个样本数,输人单元数,输出单元数根据上述个数增加而逐渐增大,虽然增大的幅度不是很大,但足一参考公式可知最佳隐含层单元数应处在之以影响网络的性能间,依次从最小单元数二开始到最大单元数对于普通的确定隐含层单元数的方法,即从隐几,一二训练网络,。二,含层单元数时开始训练至少一直训练到
