基于快速神经网络算法的非特定人语音识别.pdf

《基于快速神经网络算法的非特定人语音识别.pdf》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、第卷第期控制与决策年月文章编号基于快速神经网络算法的非特定人语音识别田岚陆小珊白树忠山东大学信息科学与工程学院山东济南山东大学电气工程学院山东济南摘要提出一种用于语音识别的改进的快速神经网络算法即动态不等步长的误差分段学习算法将步长看作误差和网络节点输出的函数对各权值按不同步长进行动态调整并将其应用于一个基于前馈神经网络模型的非特定人语音识别系统实验表明该算法比传统算法在训练速度上可提高十几倍训练出的语音识别网络系统具有较高的识别率关键词非特定人语音识别神经网络学习算法中图分类号文献标识码引言经某种处理后所得的模板集或概率模型识别时

2、以待识别单元与哪个模板最接近或哪个模型产生的可神经网络是一种与传统模式识别完全不能性最大作为系统的输出而基于神经网络的语音同的分布式并行信息处理系统由于它具有自适应识别系统是对词表的总体建立模型该模型的参数自组织及联想等反映人脑加工存储和搜索信息的集或权值通过自学习而获得这个参数集是整个某些特征使其特别适合于语音识别这类感知问题词表的语音特征在系统中的映射参数子集与词之基于神经网络的语音识别与传统的语音识别有间没有对应关系因此基于神经网络的语音识别系着本质的差异传统的语音识别通常采用模板匹配统对知识的存储是分布的或概率模型的方法其参

3、考模型空间是训练样本集收稿日期修回日期作者简介田岚女山东济南人副教授硕士从事语音处理及应用等研究陆小珊男江苏南京人讲师从事通信及语音处理等研究控制与决策第卷多层结构的前馈神经网络模型已广泛应用于模式识别联想存储等领域为使神经网络能作为系统的重要部件或系统本身参与应用对网络进行训练或学习是至关重要的学习算法是训练前馈神经网为隐含层节点的误差输入层权值调节量络连接权值的常用算法本文首先分析传统算法的原理进而针对其权值调整和收敛速度慢的缺其中陷提出一种动态不等步长的误差分段学习快速算法从而有效地缩短了训练时间在此基础上将其应用于一个基于神

4、经网络的非特定人语音识别系统取得了满意的实验结果为输入层节点误差由此可见网络的学习是一个优化逼近的过算法原理及其改进程逼近某些给定的输入与输出模式的映射实现一个连续的函数映射多层结构的神经网络由输入层个神经元因此具有高度的非线性输出层个神经元和隐含层构成随着层数的增在神经网络的实际应用中人们往往关心以下加网络的模式分类功能逐渐增强根据两方面问题网络的学习速度及学习算法的运行的结论一个具有非线性响应函数的三层效率网络的推广性能即训练后的网络对测试网络能以任意给定精度逼近任何给定的连续函数集的正确响应率而传统的算法在这些方面存在学习算法

5、是多层前馈神经网络所使用的监控式一些缺陷主要表现在学习算法传统方法按照最小均方误差准则使用梯各权值采用相同的步长不适合窄长峡谷型度搜索技术以期最小化网络的实际输出和期望输的误差曲面梯度最陡下降法会使误差在两壁间跳出的均方差网络的学习过程是一种误差边传播边来跳去权值得不到充分的训练收敛很慢修正权值的过程若采用型转移函数出现过早饱和现象即当某一神经元输出接近型函数上下饱和值或时梯度变得很小很难摆脱局部极小状态造成有关权值修正量近输入层隐含层及输出层的权矩阵分别为似为零而其它权值的调整有可能出现过学习现和其学习方法如下象使网络的响应率变差

6、误差函数为研究发现权值调整的单一步长不能兼顾前期训练和后期训练的要求是导致过早饱和的一个重要原因若将步长看作误差和网络节点输出函数其中和分别是期望输出和网络实际输出对值的函数对各权值进行动态调整必将加速处于输出层权值的调节上下饱和状态的神经元梯度方向的调节使其迅速脱离饱和状态同时训练过程中由于误差曲面存在由于为隐含层节点的输许多平坦区而且对不同的映射其平坦区的位置和出则输出层权值调节量范围各不相同因此若开始就按误差精度进行训练势必造成误差在这些区域产生振荡使得收敛变慢为了加快收敛速度我们改用选取多级误差的训练方法加速全局最小点的搜索

7、以很小的额外代价其中换取网络收敛速度的加快和逼近精度的提高这样由此训练出的网络将具有更好的推广性能动态不等步长权值调整方法为输出层节点的误差同理可得隐含层权值调节量设为训练样本总数定义网络的目标函数其中第期田岚等基于快速神经网络算法的非特定人语音识别类为给定的误差精度采用等比误差序进行训练初始误差为一般取分段进行训练首先求出误差放大倍数总则等比为各段误差分别权值调节为为将以上方法结合起来便是本文提出的改进学习算法具体过程是先设置较大的初始误差对每个样本按当前误差进行训练并按动态不等步长方法其中调整权值当所有样本在当前误差训练好后再按

8、误差逐级减小的分段方法重复上述训练过程直到满为第层中第个神经元与第层中第个足误差精度为止神经元之间的权值为第层中第个节点的输出值为第层中第个节点的误差初始值取实验结果可见随误差的减小而减小当接近为了研究改进算法的性能我们在联想微或时增