人工神经网络设计课程归纳总结报告byHHU.docx

《人工神经网络设计课程归纳总结报告byHHU.docx》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、人工神经网络课程报告姓名：张进学号：151307040035专业：计算机科学与技术指导老师：曾晓勤2015年12月基于BP神经网络的英文字母识别技术报告摘要：本技术报告主要介绍了利用BP神经网络进行英文字母的识别主要过程，为了检测网络的容错性能和抗干扰能力，试验中我还准备了隐藏16%和33%样本数据，因为题目中没有特别要求，故本次实验程序的编写主要使用了作者较为熟悉的JAVA语言。关键词：BP神经网络；噪声干扰；模式识别；JAVA语言一、项目设计题目用多层感知机网络实现对样本图像A-Z的识别，输出相应的数

2、值0-25，通过分析实验结果讨论感知机网络的识别和容错性能。二、实验设计概要1、实验数据预处理模式识别应用的领域非常广泛，其中字母的识别是一个经常研究的课题。由于在不同的课题中，由于具体的条件不同，解决的方法也不尽相同，因而字符识别的研究仍具有理论和实践意义。这里讨论的是用BP神经网络对26个英文字母的识别，BP网络算法是学者Rumelhart、McClelland和他们的同事在20世纪80年代中期提出的多层前馈网络MFNN(MutltilayerFeedforward Neural Networks)的

3、反向传播学习算法。BP网络是对非线性可微分函数进行权值训练的多层前向网络。。在对字母进行识别之前，需要将字母进行预处理，即将待识别的26个字母中的每一个字母都通过的方格形式进行数字化处理，其有数据的位置设为1，其他位置设为-1。如图1给出了字母A、B和C的数字化过程。下面给出了字母A的数字化处理结果，是用一个1*30向量表示，其结果为：38P[0][30]={-1,-1,1,1,1,1,-1,1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,1,1,

4、1}；其他字母对应的向量也做类似的处理。最终的标准输入矩阵P[26][30],包含26个字母向量。-1-11-1-1-11-11-11-1-1-11111111-1-1-111-1-1-11-1111-11-1-1-111-1-1-1-11-1-1-1-11-1-1-11-1111-11111-11-1-1-111111-11-1-1-111-1-1-111111-1ABC图1字母数字化样式1、网络的初始设计本次网络主要选择如图2所示的网络结构，其中有一个输入层，一个隐含层，一个输出层，网络结构为30-3

5、0-1，其中，。38图2网络结构本次如图2所示的网络中，p为待输入的学习（识别）向量，因为每个字母都有30个元素的向量表示，所以p的维数为30*1，w1为第一层权值，维数30*30，w2为第二层权值，维数30*1，b1为第一层偏值，维数30*1，b2为第二层偏值，维数1*1，a1为第一层输出，维数30*1，a2为网络最后的输出，至此基本的网络结构初始设计完毕。1、初始化各项参数本次初始化参数主要包括初始化隐含层第一层的权值w1[30][30]和偏置值b1[30]，初始换隐含层第二层的权值w2[30]和偏置

6、值b2，本次实验选取的初始值为0-0.5之间的随机实数。其中随机实数可以通过调用JAVA语言的random()方法得到。对于学习速度α可以先设置为：α=0.01，当然，也可以在后面的实验过程中不断的调节α的值使得学习的更快更好，具体代码实现见附录。2、前向传播设计在前面工作完成的基础上，首先需要根据BP算法的公式和计算第一层网络的输出a1，然后根据公式计算出最后输出层的a2，这就是BP神经网络的前向传播过程。最后根据计算出误差e，具体代码实现见附录。3、敏感性计算由于在计算敏感性之前需要用到传输函数的导数

7、，故需要提前计算出来。具体导数推导如式（5.1）和式（5.2）所示：38（5.1）（5.2)然后根据式（5.1）和式（5.2）可以得到s2的计算公式和第一层敏感性s1的计算公式，具体代码实现见附录。1、权值和偏值的更新这里需要用到我之前设置的学习速度α，实验中可以尝试修改α的值，观察实验效果。具体的权值偏值计算可以根据公式（6.1）、公式（6.2）、公式（6.3）、公式（6.4）计算得到，具体代码实现见附录。（6.1）（6.2）（6.3）（6.4）2、测试网络性能BP算法需要不停地迭代去更新权值和偏置直至

8、某次迭代后误差e满足了实验的要求或者达到了最大的迭代次数。学习后预期的效果应当是当使用训练样本给BP网络识别时，它能够识别出字母A-Z，输出对应的数字0-25；当使用隐藏部分数据的样本给它识别时，如果它能够识别多数A-Z破损数据，说明该BP网络的抗干扰、容错能力较强，反之如果大部分无法识别，则说明本网络容错能力较差。三、实验结果展示1、实验一38学习速度a=0.1，误差e=0.01，迭代次数m=2000，学习结束效果如图3所示