基于神经网络的数据挖掘算法研究

《基于神经网络的数据挖掘算法研究》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、基于神经网络的数据挖掘算法研究神经网络可以实现分类、预测等多种网络模型。将神经网络的BP（前馈神经网络）和SVM（支持向量机）数据挖掘算法应用于丙安地区的空气质量预测，虽然它们的泛化和收?磕芰2煌？，但通过以往的历史数据训练网络模型。实验结果证明该算法可以较准确地预测未来的数据。版权和著作权归原作者所存，如存不愿意被转载的情况，己关键词：BP神经网络；支持向量机；核函数；数据挖掘TN711934A1004?373X(2017)11?0111?04ResearchondataminingalgorithmbasedonneuralnetworkWANGChunmci

2、(SchoolofComputerScienceandTechnology,Xi’anUniversityofPostsandTelecommunications,Xi?an710121，China)Abstract：Theneuralnetworkcanclassifyandpredictthevariousnetworkmodels.ThedataminingalgorithmbasedonBPneuralnetworkandSVMisappliedtotheairqualitypredictioninXi’anregion.AlthoughtheBPneur

3、alnetworkandSVMmethodhavedifferentgeneralizationabilityandconvergenceability,thepasthistoricaldataisusedtotrainthenetworkmodel.Theexperimentalresultsprovethatthedataminingalgorithmcanpredictthefuturedataaccurately.Keywords:BPneuralnetwork；supportvectormachine；kernelfunction；datamining

4、0引言近年来空气污染严重，空气问题不容忽视，准确的空气质量预测具有极大的现实意义。神经网络算法在数据挖掘中占有重要的地位，因为网络模型、复杂度等不同，神经网络可以拟合各种曲线实现分类、预测等多种模式，至今神经网络已经研究出了多种类型来适应不同的耍求神经网络要求网络模型对训练数据集存比较好的逼近能力，也需要对训练集之外的分布数据能给出比较精准的预测。泛化能力即经过训练学习得到的预测模型，对没有在训练集中出现但是具有一定规则的数据能有比较准确的预测能力，不只是荇通的保存学过的样本，而是需要进行有限次数据的训练，找到未知的规律。本文基于神经网络的BP算法和SVM算法利用

5、匕存的历史数据训练网络模型，对未来的天气进行较为准确的预测工作。1BP算法前馈神经网络是一种典型的神经网络模型，网络具有分层结构，输入数据从输入层进入到前馈神经网络，经过输入层和隐层传递到输出层。不同的前馈网络节点限制函数、神经元个数、隐层个数、权重修改方法能够实现拥有多样能力的前馈神经网络。只存一个隐层的感知器只能解决输入数据线性能够区分的问题，但很多分类问题的输入数据都是线性不能区分的。要完成线性不可分的难题，需要在结构中加入隐层。含有多隐层的前馈网络相比于单层感知器的区分效果有明显的提升。因为误差相反传递算法经常用于神经网络，所以也叫BP网络。1.1基本思想

6、BP学习过程分为两个过程，即输入数据经过输入层和隐层正向流给输出层，输出层的误差经隐层反传给输入层。正向传播时，输入数据从输入层到达，经过每个隐层的加工后，再传递给最后的输出层。如果输出数据达不到预期目标，则进入误差的反向传递。误差的反向传递是指将最后一层的误差经过某种方法，经网络的隐层反转传递向输入层，将误差均匀给网络每个层的所有神经元节点，因此得到网络每层神经元节点的误差信号，通过节点获得的误差来调整节点。这两部分反复，通过不断地权重修改将误差减少到比较满意的情况，或达到学习次数上限1.2基本原理三层BP网络模型图如图1所示。在该三层前馈网络中，为输入向量，代

7、表隐层神经元节点的阈值;隐层输出为图1中是为输出层神经元引入阈值设置的；输出层的输出向量为预期输出网络的隐层和网络输入层的权值用矩阵表示；用表示网络隐层到M络输出层的权值矩阵。对于输出层来说：(1)对于隐层来说：(2)转移函数为：(3)1.3学习算法当网络输出距离预期结果有差距时，代表输出误差。隐层：(4)输入层：(5)据式(5)得知，网络误差展幵到输入层只和有关，要想减小误差,就要修改神经元的权值。假设网络有个隐层，神经元数代表网络隐层的输出，为权重，则权重修改公式如下：输出层：第个隐层：(7)递推可得：(8)在BP算法中，所有的权重修改公式都一样，都取决于学习

8、率、输入和