用于图像分类的浅层结构深度学习方法.doc

《用于图像分类的浅层结构深度学习方法.doc》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、用于图像分类的浅层结构深度学习方法AsmaElAdel∗,RidhaEjbali∗,MouradZaied∗andChokriBenAmar∗∗REsearchGroupinIntelligentMachines,NationalSchoolofEngineersofsfax,B.P1173,Sfax,TunisiaEmail:{asma.eladel,ridhaejbali,mourad.zaiedandchokri.benamar}@ieee.org摘要——本论文介绍了一种新的图像分类方案。该方案提出了一种用于深

2、度学习的卷积神经网络（CNN）：利用多分辨率分析法（MRA）计算每一张用于分类的图像在不同的抽象层次中输入层与隐层之间的连接权值。然后，利用Adaboost算法选择出能代表每一类图像的最佳的特征和对应的权值。这些权值将作为隐层与输入层之间的连接权值，并且在测试阶段用于对所给的图像的分类。所提出的方法在不同的数据集上进行了测试，所获得的结果证明了该方法具有较好的效率和较快的速度。关键词：多分辨率分析，Adaboost，深度学习，小波，图像分类一、介绍图像分类是计算机视角中最具挑战性的问题之一，特别是在类别数量巨大的情况

3、下。有许多解决这个问题的方法，例如小波相关向量机（WRVM）[1]，分别应用于不同类别对象上，以形成每个对象独立特征空间的独立主成分分析法[2]，全局显著和局部差异相结合的不寻常特征编码法[3]，以及用来学习可述性视觉词袋（BOW）表现的正则化矩阵分解法[4]。另外一种最近提出的方法介绍了旨在学习图像层次表示的深度学习的方法。在这种方法中，为了理解数据的意义，图像可以看作是由一些非线性特征经过多层次的抽象而形成的。高层次的特征是从低层次特征中得到的，并以此形成层次化表示[5][6][7]。这类方法的基础是利用了机器学

4、习的不同结构。这种结构的其中一种是前馈结构，前馈结构中多层神经网络和卷积网络在图像分类[8][9][10][11]，目标识别[12]，人脸识别[13]和语音识别[14]等分类任务中都取得了良好的效果。这些网络的设计，分类，自动推断和学习能力都引起了人们的注意。但是到目前为止，它们的训练仍然需要大量的计算，同时还要选择适当的方法以防止过拟合现象。另外一个不足是特征变换阶段的次数是随机确定的，也就是说网络层次的数量和大小影响了抽象过程的数量。而且，分类仅仅是在最后的抽象层上对特征进行选择而完成。此外，我们还要知道每一个抽

5、象层次中更多的重要细节（也即特征），以减少分类阶段的复杂性。在此背景下，Y.Zou等人[15]通过模拟影像中的固定点提出了一种显著特征的深度学习方法。另外，Weston等人[16]提出一种用于图像分类的非线性半监督的嵌入算法，称为嵌入式卷积神经网（EmbedCNN）。以及，Xu[17]创新地提出了一种称为空间金字塔深层神经网络（SPDNN）的半监督分类方法，这是基于一个新的深层结构集成神经网络和空间金字塔模型。在本文中，我们得到了两个具体的成果：首先，我们提出了一种改进的前馈深层结构。我们称之为基于二元多分辨率分析的

6、改进型前馈卷积神经网络[18][19][20]。这种方法在不同的抽象层次中使用快速小波变换（FWT）[21]。这一成果的优点在于我们可以使用浅层结构（一个隐层）取代多层结构进行深度学习。此外，多分辨率分析法（MRA）可以让我们确切知道深度学习层次的必要数量。同时，由于对图像不同层次的抽象都是通过进行多分辨率分析法进行的，所以我们可以得到对应于各级的图像特征，这可以很好地帮助我们完成分类。第二个成果是利用Adaboost算法从不同层次的抽象中更重要的，能更好代表每一类图像的特征[22]。所提出的方法能通过简单的结构实现

7、卷积神经网络的优点，同时能减少计算的复杂度。本文的结构如下：第二部分介绍了我们所提出的图像分类方法的核心思想，其中我们会重点介绍在不同层次抽象中的MRA特征提取法，特征选择和分类方法。第三部分是实验结果和讨论。最后一部分是结论。二、所提出的方法所提出的方法是一种用于图像分类的浅层结构深度学习方法。一般的深度学习方法是通过改变神经网络中层的数量和大小得到不同层次的抽象。分类仅仅是在最后一层抽象的特征上完成的。在这种结构中，我们不确定所提取的特征能不能代表图像所有有用的信息。在本次实验中，我们提出了一种基于二元多分辨率分

8、析法改进的前馈卷积神经网络。前馈意味着信息只能向前传递，从输入节点经过隐层节点到达输出节点。所提出的基于MRA结构的主要优点是：第j层的特征可以转化为第j-1层的特征，或者直接使用j-1次二元小波代换后转化为第一层的特征。过程如图1所示。这种学习和分类的步骤将在A部分和B部分分别介绍。图1A学习图像过程学习阶段是单隐层卷积神经网络对每一幅参考图