基于深度学习的图像语义理解和分类研究

《基于深度学习的图像语义理解和分类研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

‘－？－．－．．Ｔ＇．．．，Ｖ．ｆＶ．，一－■Ｊ－Ｖ．．＊＇．＇．诗．’乃‘／Ｖ／，■■＼Ｉ．．、分类号ＴＰ３９１．４／，学号２０１３１３７０３００４学校代码１０４８８密级；＇：Ｉ一－、＇＇一．乃一八心皆證硕±学位论文‘．＇、／Ｖ．游＇一／．．（．＜，八基于巧度学习的图像语义理巧和分类＼茜研究＇片．？．＇．．．、：苦＼’Ｖ’－＇ｉ；４ＶＶ：学位申请人：ｍ学科专业：计算机科学与技术■？指导教师：ｍ答辩日期：２０１６．０５．２１．－ｉ＇？．．．．ｊ＼＇＇＇＾－Ｖ＞－Ｖ＇？－＇．＇４．＇巧，．．：， ＡＤｉｓｓｅｒｔａｔｉｏｎＳｕｂｍｉｔｔｅｄＵｌＰａｒｔｉａｌＦｕｌｆｉｌｌｍｅｎｔｏｆ化６ＲｅｑｕｉｒｅｍｅｎｔｓｆｂｒｔｈｅＤｅｇｒｅｅｏｆＭａｓ化ｒｉ田ＥｎｇｉｎｅｅｒｉｎｇＩｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎａｎｄｓｅｍａｎｔｉｃｒｅｓｅａｒｃｈｂａｓｅｄｏｎｄｅｅｌｅａｒｎｉｎｇｐＭａｓｔｉｅｒＣａｎｄｉｄａｔｅ：ＰｉｎＷｕｇＭａｏｒ：ＣｏｍｕｔｅｒｓｃｉｅｎｃｅａｎｄｔｅｃｈｎｏｌｏｊｐｇｙＳｕｐｅｒｖｉｓｏｒ：Ｐｒｏｆ．ＺｈａｎｇＷｕｈａｎＵｎｉｖｅｒｓｉｔｏｆＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｙｇｙＷｕｈａｎ，Ｈｕｂｅｉ４３００８１，Ｐ．Ｒ．ＣｈｉｎａＭａ２０１６ｙ， 武汉科技大学研究生学位论文创新性声明本人郑重声明：所呈交的学位论文是本人在导师指导下，独立进行研究所取得的成果。除了文中己经注明引用的内容或属合作研究共同完成的工作外，本论文不包含任何其他个人或集体己经发表或撰写过的作品成果。。对本文的研究做出重要贡献的个人和集体，均已在文中明确方式标明一申请学位论文与资料若有不实之处，本人承担切相关责任。论文作者签名：征曰期：岐；、、，４研究生学位论文版权使用授权声明本论文的研究成果归武汉科技大学所有，其研究内容不得レッ其它单位的名义发表。本人完全了解武汉科技大学有关保留、使用学位论文的规定，同意学校保留并向有关部ｎ（按照《武化科技大学关于研究生学位论文收录工作的规定》执行）送交论文的复印件和电子版本，允许论文被查阅和借阅，同意学校将本论文的全部或部分内容编入学校认可的国家相关数据库进行检索和对外服务。论文作者签名：４豕指导教师签名：＾參日期：如ｄｓ、ｙ 摘要随着当今社会互朕网技术的快速发展，ｗ及图像多媒体等设备的流行，越来越多的人开始在网络上发表、下载和共享图像资源，Ｗ图像数据为代表的多媒体视觉信息量日益剧增。因此，如何对目前存在的海量图像信息进行有效而准确的分类管理和信息标注是亟待解决的技术难题与研究热点。传统的图像分类方法中，大多数根据人为定义的规则来对原始图像数据进行处理计算得到相应的特征矩阵；而深度学习算法则通过对计算机的训练过程来自一动学习持征。因此，本文提出了种改进的Ｓｏｆｔｍａｘ回归模型与基于线性解码器深度神经网络相结合的图像分类算法。首先，通过基于线性解码器的神经网络训练得到局部小图像的特征，再通过卷积、池化得到原始大图像的特征矩阵；其次，通过传统特征提取算法得到图像的颜色和纹理特征；然后结合这两类图像特征对参数优化后的Ｓｏｆｔｍａｘ回归模型进巧训练并结合距离度量完成图像分类，得到最终分类结果。在实验结果的对比分析中，采用查准率、查全率作为评价指标，验证了基于。深度学习的图像语义理解和分类方法的有效性和优越性同时，将实验与多种传统分类方法做了对比，实验结果显示出该算法具有较高的分类能力。关键词：图像分类；深度学习；线性解码器；Ｓｏｆｔｍａｘ回归模型Ｉ Ａｂｓｔｒａｄ：ＷｉｔｈｔｈｅｖｉｏｒｏｕｓｄｅｖｅｌｏｍｅｎｔｏｆＩｎｔｅｒｎｅｔａｎｄｍｕｌｔｉｍｅｄｉａｔｅｃｈｎｏｌｏａｓｗｅｌｌａｓｇｐｇｙ，ｔｈｅｒｉｓｉｎｇｐｏｐｕｌａｒｈｙｏｆｓｏｃｉａｌｍｅｄｉａ，ｍｏｒｅａｎｄｍｏｒｅｐｅｏｐｌｅｂｅｇｉｎ化ｕｐｌｏａｄ，ｄｏｗｎｌｏａｄａｎｄｓｈａｒｅｉｍａｇｅｓＫｓｏｕｒｃｅｓｉｎｔｈｅＩｎｔｅｒｎｅｔ．Ｉｍａｇｅｄａｔａｒａｄｕａｌｌｂｅｃｏｍｅａｎｉｍｏｒｔａｎｔｇｙｐｍｅｄｉｕｍｏｆｉｎｆｏｒｍａｔｉｏｎｅｘｃｈａｎｇｅａｎｄｉｆｓｇｒｏｗｉｎｇａｔａｌｌａｓｔｏｎｉｓｈｉｎｇｒａｔｅ．Ｔｈｅｒｅｆｏｒｅ，ｈｏｗ化ｃｌａｓｓｉｆｙａｎｄｍａｎａｅｍｅｎｔｔｈｅｍａｓｓｉｖｅｉｍａｅｄａｔａｉｓｎｏｔｏｎｌａｎｕｒｅｎｔｒｏｂｌｅｍ，ｂｕｔｇｇｙｇｐａｌｓｏａｃｈａｌｌｅｎｇｉｎｇａｎｄ化ｗａｒｄ虹ｇｐｒｏｊｅｃｔ．Ｔｈｅｔｒａｄ扣ｏｎａｌｉｍａｇｅｃｌａｓｓｉ扫ｃａｔｉｏｎｍｅｔｈｏｄｓａｌｓｏｏｂｔａｉｎ把ａｔｕｒｅｓｂｙｐｒｅｐｒｏｃｅｓｓｉｎｇ化６ｏｒｉｇｉｎａｌｉｍａｇｅｄａｔａｗｉ也ｓｏｍｅｄｉｆｅｒｅｎｔｒｕｌｅｓｄｅｆｉｎｅｄｂｙｐｅｏｐｌｅ．Ｂｕｔｔｈｅｄｅｅｐｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍａｕｔｏｍａｌｉｃａｌｌｙｌｅａｒｎｉｎｇｆｅａｔｕｒ的ｔｈｒｏｕｇｈ化ｅｔｒａｉｎｉｎｇｐｒｏｃ货ｓｏｆ化ｅｃｏｍｐｕｔｅｒｓ．Ｔｈｅｒｅｆｏｒｅ，ｔｈｉｓｐａｐｅｒｐｒｏｐｏｓｅｓａｎｉｍａｇｅｃｌａｓｓｉ巧ｃａｔｉｏｎａｌｇｏｒｉ出ｍｂａｓｅｄｏｎｄｅｅｐｎｅｕｒａｌｎｅｔｗｏｒｋｏｆｌｉｎｅａｒｄｅｃｏｄｏ：ａｎｄｓｏｆｔｍａｘｒｅｇｒｅｓｓｉｏｎｍｏｄｅｌ．Ｆｉｒｓｔ，ｗｅｌｅａｍ佐ａｔｕｒｅｓｏｆｓｏｍｅｓｍａｌｌｉｍａｇｅｐａｔｃｈｅｓｗｉ化ｌｉｎｅａｒｄｅｃｏｄｅｒ，ａｎｄｂｙｃｏｎｖｏｌｖｉｎｇａｎｄｐｏｏｌｉｎｇｔｈｅｌａｒｇｅｉｍａｇｅｓｗｉｔｈｔｈｅｌｅａｒｎｅｄ色ａｔｕｒｅｓ，化ｅｎｗｅｏｂｔａｉｎｔｈｅｐｏｏｌｅｄｃｏｎｖｏｌｖｅｄｆｅａｔｕｒｅｓ；ｓｃＧｏｉｉｄｌｙ，ｅｘｔｒａｃｔｔｈｅｉｍａｇｅｃｏｌｏｒａｎｄｂｘｔｕｒｅ拓ａｔｕｒｅｓ；ｔｈｉｒｄｌｙ，ｗｅｕｓｅｓｏｆｔｍａｘｒｅｇｒｅｓｓｉｏｎｍｏｄｅｌｔｏｔｒａｉｎｔｈｅ拓ａｔｕｒｅｓ；ｆｉｎａｌｌ乂ｗｉｔｈｃｏｌｏｒ，ｔｅｘｔｕｒｅｆｅａｔｕｒｅｓａｎｄｄｉｓｔａｎｃｅｍｅｔｒｉｃ，ｗｅｃａｎｏｂｔａｉｎｔｈｅｆｉｎａｌｃｌａｓｓｉｆｉｃａｔｉｏｎｒｅｓｕｌｔｓ．虹ｔｈｅｅｖａ山ａｔｉｏｎｏｆ化ｅｅｘｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｗｅｕｓｅｒｅｃｉｓｉｏｎａｎｄＫｃａｌｌａｓｐ，ｐｓｔａｎｄａｒｄｓ．Ｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｉｓｍｅｔｈｏｄｃａｎｎｏｔｏｎｌｙａｃｈｉｅｖｅｇｏｏｄｅｒｆｏｒｍａｎｃｅｂｕｔａｌｓｏ化ｅｃｌａｓｓｉ扫ｃａｔｉｏｎａｃｃｕｒａｃｉｓｈｉｅｒ化ａｎｔｒａｄｉｔｉｏ凸ａｌｉｍａｅｐ，ｙｇｈｇｃｌａｓｓｉ巧ｃａｔｉｏｎａｌｇｏｒｉｔｈｍ．Ｋｅｗｏｒｄｓ：ＩｍａｅｃｌａｓｓｉｆｉｃａｔｉｏｎＤｅｅｌｅａｒｎｉｎＬｉｎｅａｒｄｅｃｏｄｅｒＳｏｆｔｍａｘＫｒｅｓｓｉｏｏｙｇ；ｐｇ；；ｇｍｏｄｅｌｎ 目录Ｉ摘要ＡＢＳＴＲＡＣＴＩＩ第１章绪论１１１１．研巧背景１．２国内外研究现状２１．３本文的主要工作４１．４本文的结构安排４第２章图像分类研究综述６２１６．图像分类流程２．２传统神经网络７２７．２．１基本思想２．２．２ＢＰ神经网络８．１２２３深度学习简介２．３．１基本思想１２１３２．３．２训练过程概述２４图像分类中的相关性度量１４．１２５５．本章小结第３章图像视觉特征分析与深度学习１６３１１６．图像传统特征提取３丄１１６颜色特征３丄２纹理特征１８３．２基于深度学习的图像特征分析２１３．２．１基于线性解码神经网络的特征分析２１３．２．２基于部分联通网络的卷积特征弘３．３本章小结２８第４章基于回归预测的图像分类算法巧ＩＩＩ ４．１基于ＳＯＦＴＭＡＸ的回归分析２９４．２分类器参数优化３１４巧．３本章小结第５章系统构建和实验结果分析３４５．１系统的整体框架和流程３４５．２图像数据集３５５．３分类结果与对比分析％５．３．１性能评价标准３６５．３．２分类结果对比分析％５４０．４本章小结．第６章总结与展望４１６．１总Ｓ４１６．２展望４１致谢４３参考文献４４附录１攻读硕±学位期间发表的论文４８附录２攻读硕±学位期间参加的科研项目４９ＩＶ 式汉科技大学硕去学位论文第１章绪论１．１研究背景随着目前互联网技术与多媒体技术的蓬勃发展，人们开始通过音频、图像、视频相互交流，，传达信息基于互联网传播的多媒体数据也因此呈现出直线增长的趋势，。在依托互联网的信息交流中图像渐渐成为了人们信息交流、状态分享Ｗ及情感表达的重要媒介。这不仅仅是因为图像本身的纷繁多彩，更因为它在视觉上更加直观、在情感表达上更加的丰富。也正因为这样，人类能够从互联网上获取、下载、存储的图像数量日益剧增，随之而来的信息膨胀问题首当其冲需要良好的解决方一法，。面对着海量的图像信息资源如何进行有效而合理的组织管理和存储是项极具理论意义与实际意义的研究。与此同时，，在这些网络资源库中绝大多数的多媒体图像数据是完全没有任何文本标注的。如果单单只是依靠人工标注的方式对这些纷繁复杂的图像数据进行分类和管理是极其不现实的，而且这种方式也存在着费时费力Ｗ及效率低下等等问题。因此，如何采用合理、精确的计算机图像分类方法，对大量图像进行高效的自动分类一直是图像信息处理领域的研究热、管理及使用，点。一一图像分类就是通过定量的分析来代替人类对图像类别的判断，然后把它们Ｗ划入到对应的某种语义类别中。传统的分类方法包括：基于文本的图像分类方法２ＴＢ［］（ＴｅｘｔＢａｓｅｄ虹化ｇｅＣｌａｓｓｉｆｉｃａｔｉｏｎ，ＩＣ）、基于内容的图像分类方法（Ｃｏｎ化ｎｔＢａｓｅｄ口］Ｉｍ巧ｅＣｌａｓｓｉｆｉｃａｔｉｏｎ，ＣＢＩＣ）、基于语义的图像分类巧ｅｍａｎｔｉｃＢａｓｅｄＩｍａｇｅＷＣｌａｓｓｉｆｉｃａｔｉｏｎ，ＳＢＩＣ。ＴＢＩＣ主要通过手工，）对图像进行类别标记再利用基于文本关键词匹配的方法完成分类。显然，随着目前图像数据的持续增长，人工地为每幅图像添加准确的标记信息是不切实际的。ＣＢＩＣ则是采用图像本身所包含的信息，例如：颜色，并利用相似性匹配方法来实现图像的分、纹理、形状、轮廓、空间等＂语义鸿沟＂类。然而，在图像分类的研巧中，所面临的最大挑战就是ＳｅｍａｎｔｉｃＧａｐ（）ＷＷＷ，即颜色、纹理、形状等图像的底层特征无法充分地反映其原始图像的高层语一ＳＢＩＣ义。因此，该方法也存在定缺陪。则是从语义层上实现图像的分类，使分类结果在语义上更加接近，而不仅仅是所标注的文本关键词相同或者颜色、形状等特征上的相似，这样才能使得对图像数据的分类结果更加符合人类对图像信息的认知习惯。在此基础上得到快速发展的机器学习（ＭａｃｈｉｎｅＬｅａｒｎｉｎｇ）理论给解决上述问题提供了有效思路一。机器学习是人工智能研究中个重要的发展方向。它通过对人类１ 式汉科技大学硕去学位论文自身学习过程的模拟，，让机器从大量数据中进行学习从学习过程中得到知识对未知的知识进行判断。简单来说就是通过训练得到图像语义的抽象表达，然后基于该ＷＷ表达，再对图像进行分类。不过，如何选取合适的机器学习方法、构造良好的学习模型，如何准确提取图像语义层信息，这将最终决定和影响图像分类算法的性能，。如何设计分类算法Ｗ提高分类效率Ｗ及准确率更为准确的学习图像语义信息成为当前图像分类的一个重要挑战。同时，如何实现对图像语义的有效理解，缩短图像底层特征与高层语义之间的差距，帮助人类有效管理图像数据也是目前较为重要的研究课题。１．２国内外研究现状近年来，随着数据收集渠道的增加和数据传播能力的提升，Ｗ及机器学习的发展，越来越多的学者开始投身到关于基于机器学习的图像分类研究领域之中，ＵＷ并且相继提出了许多图像分类算法。例如，１９％年Ｖａｐｎｉｋ等人提出支持向量一‘＂机（ＳｕｐｐｏｒｔＶｅｃｔｏｒＭａｃｈｉｎｅ，ＳＶＭ），将所有需要分类的点映射到个高维空间一＂＂中，然后在其中找到个超平面。这个平面可Ｗ将这些点分开的，让不同类的点存在于平面的两边。ＳＶＭ的关键在于核函数，很多学者也在此基础上提出了改进和应用何灵敏等人提出基于径向基核函数的ＳＶＭ方法对遥感图像进ｔＷ行分类，该方法对于复杂的小样本多源数据的分类效果有显著提升。蒋芸等人一提出基于粗礎集理论的ＳＶＭ算法来消除数据的兀余信息，定程度上减少了算法的训练数据，同时増强了ＳＶＭ的分类能为此外ＳｃｈａｉｒＰＡＣＰｒｏｂ化ｌＡｒｏｘｉｍａｔｅｌｏｒｒｅｃｔ，ｐ在ｙｐｐｙＣ）学习模型的基础上（ｆＷ提出Ｂｏｏｓｔｉｎｇ算法，提高了其他弱分类算法的识别率。但是该算法在处理实际问题时，存在较大缺陷，不能很好的应用。Ｆｒｅｕｎｄ等在Ｂｏｏｓｔｉｎｇ算法思想的基础一ｔＷ一—ＡＢｔ上，提出了种优化后的算法ｄａｏｏｓｉｎｇ算法。该算法定程度上解决，使该算法在现实应用中取得了良好的推广使用了关于学习正确率的问题。在机器学习中，ａｃｋＰｒｏａｔｏｎ）神经网络也提出。许多学者关于ＢＰ（Ｂｐ巧ｉ了很多改进一它由Ｒｕｍｅｌｈａｒｔ等人在１９８６年提出，是种按误差逆传播算法训练的多层前馈网１９［１络。该算法通过训练过程自动学习网络的输入数据与输出之间的映射规则，具有高度自学习的能力。Ｃｉｇｉｚｏｇ山采用ＢＰ神经网络算法在底层特征的基础上运用Ｐ０１机器学习的理论来得到图像的抽象表示。Ｗ上这些模型基本都是浅层机器学习模型，它们容易陷入局部最小值，难Ｗ达到最优的学习效果，对复杂函数的表示能力也相当有限，不能有效针对。同时２ 式汉科技大学硕去学位论文￣￣多重的分类问题进行泛化。近年来，深度学习在图像特征提取、，针对这些问题分类领域得到了快速的发展，也引起了广泛关注。２００６年，Ｈｉｎｔｏｎ等人提出了深度学习，通过多个隐含层人工神经网络的学习将高维数据转换为低维编码，通过多层次结构化的处理过程，采用多层网络模型代替单层模型，用多层特征来获取图像更深层的隐藏信息深度学习模型的典型特点就是它的自学习能力非常强。同时，深度学习模型依托像素级的原始数据信息，，来提取数据高层的语义信息这样的方式也使得深度学习模型的特征表达能力相较于传统方式更加高效，它在图像全局特征的提取方法、准确可见上与上下文信息的获取方面有长足的优势空间。在此基础上，出ｎｔｏｎ等人提出了４Ｐｊ基于受限玻尔兹曼机（ＲｅｓｔｒｉｃｔｅｄＢｏｌｔｚｍａｎｎＭａｃｈｉｎｅ，ＲＢＭ）。Ｖｉｎｃｅｎｔ等人提出Ａ口５］了找式消噪自动编码器ＳｔａｃｋｅｄＤｅｎｏｉｓｉｎｕｔｏｅｎｃｏｄｅｒｓ，ＳＤＡ）。Ｓａｌａｋｈ山ｄｉｎｏｖ（ｇ等人提出了深度玻尔兹曼机（Ｄｅ巧ＢｏｌｔｚｍａｎｎＭａｃｈｉｎｅ，ＤＢＭ），在网络深度增加的ＰＷ同时保持最大似然不变。Ｋｒｉｚｈｅｖｓｋｙ采用卷积神经网络（ＣＮＮ，Ｃｏｎｖｏｌｕｔｉｏｎａｌ一Ｐ７１ＮｅｕｒａｌＮｅｔｗｏｒｋｓ）获取图像的特征，并构成幅特征映射图来对图像进行分类。但是这种方法需要收集一定规模的有标记的图像样本构成算法的训练集。考虑到ＰＳ１这个问题，Ｐｏｕ化ｅｙ等运用未标记样本集学习得到了图像的特征表达关系。随〇８＇后１＾６６６６１１６〇＾６１？０破，０８＞卷积神经网络相结合，等人将深度置信网络（巧〇和口９］提出了卷积深度置信网络（ＣｏｎｖｏｌｕｔｉｏｎａｌＤｅ巧ＢｅｌｉｅｆＮｅｔｗｏｒｋｓ，ＣＤＢＮ），将深度神经网络对图像特征的学习能力又上升到一个新的台阶。针对该方法需要大量ＰＷ有标记样本对网络进行训练的缺陷，Ｌｅ等采用基于稀疏自编码的神经网络从ｔＷ图像中建立其高层次的特征检测器。，Ｈｉｎｔｏｎ合作艮ＢＭ和ＤＢＮ在实际应用方面微软研究人员通过与，采用技术来训练语音识别声学模型，成功使得语音识别的错误率相对减低３０％。２０１２年由著名机器学习专家ＡｎｄｒｅｗＮｇ和Ｇｏｏｇｌｅ软件架构师ＪｅｆｆＤｅａｎ合作研巧的Ｇｏｏｅｒａｉｎｓ，在图像ｇｌＢ项目取得了巨大成功。通过对深度神经网络的无监督训练没有任何标注信息的条件下，计算机自动学会了从数百万张Ｙｏ山ｕｂｅ视频截图中识别猫脸同年，Ｋｒｉｚｈｅｖｓｋｙ等人利用ＣＮＮ技术在图像识别中取得重大进展，３３Ｎ［］成功在Ｉｍａｇｅｅｔ评测上将错误率从％％降低到１５％。２０１４年的１ＬＳＶＲＣ２０１４ＰＷ比赛中，ＧｏｏｇＬｅＮｅｔ构建了超过２０层的卷积神经网络层数将化ｐ５错误率降到一６．６５６％。层数越多的网络结构越难驱动底层参数的更新，在定程度上给预测误差的反向传播带了困难。ＧｏｏｇＬｅＮｅｔ直接将监督信号加入到多个中间层中，训练使中低层的特征表示也能对数据进行准确分类，深度学习己经成为学术。可见研究的热点方向一，如何高效地训练神经网络模型仍然是未来的个重要探索课题。３ 式汉科技大学硕去学位论文而且，在数据不断增长的情况下，利用深度学习算法来提高对数据分类的准确率具有非常重要的意义。１．３本文的主要工作本文主要采用了基于线性解码器的深度神经网络方法对图像特征进行学习。一同时，、纹理特，改变采用单的图像特征进行分类的方式同步提取图像的颜色征，优化深度神经网络中Ｓｏｆｔｍａｘ回归模型对图像的。根据得到的两类不同特征分类训练过程。通过两次分类过程，提高了对图像分类的查准率和查全率。该算法不但能适应各种图像数据特性，使两种特征提取方式相互互补发挥作用，同时对输入数据的分布无特定限制或规范。通过实验证明，该算法在准确性方面优于传统分类算法。本文包含的主要研究工作如下：１）在特征分析中，提出基于线性解码器的深度神经网络，并从原始的大图像中随机选择小块的图像区域作为神经网络的输入层数据，避免采用全联通方式使输入层神经元个数过多造成训练繁琐。巧采用卷积、池化操作完成从小图像的特征学习到原始国像的特征提取过程，根据神经网络学习得到的图像特征矩阵与传统的基于向量模型的特征相结合，进行Ｓｏｆｔｍａｘ回归分类和结果优化。３，根据提出的相应自动分类机制，在标准图像数据库的基础上与传统的特）征提取方法和分类方法进行试验对比，总结分析了本文算法在图像分类方面的优势和存在的缺陷，验证了算法有效性和准确性。１．４本文的结构安排，本文整体分为六章各章的详细内容如下：一章绪论，及其第。本章主要详细阐述了图像分类技术的研究背景和意义国内外在该领域内的研究现状。第二章图像分类研究综述。本章主要介绍了关于图像分类的流程Ｗ及深度学习的发展和应用。同时，对常用的多种相关性度量方法进行了详细阐述。第Ｈ章图像视觉特征分析与深度学习。本章详细介绍了基于线性解码器的神经网络提取图像底层视觉特征的基本原理和算法实现步骤，分析了卷积、纹理特征的提取方法。、池化操作的具体过程Ｗ及颜色第四章基于回归预测的图像分类算法。本章首先介绍了基于Ｓｏｆｔｍａｘ回归模型对图像的分类过程，进而介绍了分类器参数优化与图像视觉特４ 式汉科技大学硕壬学位论文征结合进行分类结果判定的方法。第五章系统构建和实验结果分析。本章对本文提出的算法在公共数据集上进行了实验验证，并与传统分类算法进行了对比实验，分析了不同参数对实验的影响化及多种分类算法的实验结果。第六章总结与展望。本章对基于深度学习的图像语义理解和分类算法研究工一一作进行了总结，并进步指出了论文的不足之处和下步改进的方向。５ 式汉科技大学硕去学位论文第２章图像分类研究综述２．１围像分类流程２１世纪是信息的时代、互联网的时代，在日常生活中，我们接触的图像数据。当图像数据越来越多、种类越来越繁杂的时候信息量越来越大，人们自身甚至难Ｗ对这些数据进行有效的分类、整理。图像分类技术己经成为目前乃至未来的重点研巧方向。它通过已知类别数量，将大量图像分口别类进行整理。图像分类的过程主要包括：图像预处理、图像的特征提取、分类算法设计、图像分类结果的分析，如图２．１所示。像数据库预处理特征提取ｉ分类算法设计分类结果分析）ｊ图２．１图像分类过程１）图像预处理：预处理主要是为了减少图像中的冗余信息，并对有效信息进一化行突出显示或恢复。通常采用数字化、归、几何变换、空间变换和形态学处理等方法。经过预处理的图像具有较高的图像质量，降低了噪声等因素对图像信息的影响，使后续步骤的结果更加可靠。２）图像特征提取：特征提取就是通过向量的方式对图像视觉特征进行描述。通常提取的檐征主要包括颜色、形状、纹理等，！＾＾及通过神经网络训练学习得到的特征一。根据不同的分类方法合理的选择适当的图像特征对分类结果有定的影响作用。高质量的图像特征不仅要能够表达图像的信息内容，也需要对环境的改一定的鲁棒性和稳定性变具有。３）分类：关于图像分类算法设计，它的核也部分就是对分类算法的设计Ｗ及实现。根据图像之间的相关性及各种相关性度量方法的判定结果，在图像特征与图像类别之间建立映射关系，图像随之被分口别类到预定义的类中。然而，图像分类存在的语义鸿沟问题使得计算机算法很难建立完全准确的映射关系。而且，各类算法之间的差异也会对分类结果造成比较大的差异。在图像分类研究中，如何设计适用的分类算法是十分值得研究的。４）分类结果分析：在得到分类结果后，需要根据制定的评价标准来客观分析分类算法的有效性，比如每个类中包含属于该类的图像的数量、每幅图像是否分６ 式汉科技大学硕去学位论文类到对应的类中。同时，总，与多个不同分类算法作对比结分析优缺点和改进方向。２．２传统神经网络Ｍ－ＰＭｃＣｕｌｌｏ化等人对神经元基础特征进行了分析研究，首次提出了神经元３５一［模型］经网络领域的研究发展起到了，对神定推动作用。人工神经网络研究领６＂Ｐ一一—。Ｒｏｔ域进入了个新的局面随后，ｓｅｎｂｌａ诚功提出了种多层神经网络感＂知机（Ｐｅｒｃｅｐｔｒｏｎ），将神经网络由算法理论阶段推向到实践中。２．２１．基本思想Ｐ７Ｗ＾神经网络的研巧起源于１９世纪末，ａｌｄｅｙｅｒ等人创建了神经元学说。其中，神经细胞的结构如图２．２所示。它由细胞体、树突和轴突构成。树大突啟图２．２神经细胞结构当来自其他神经细胞的信号传递过来时，信息首先通过细胞中的树突进入该神经细胞。由于神经细胞的树突朝着各个方向生长，并且它本身也有许多分支，这样的特性使得神经细胞可接收来自各个方向的信号，神经细胞通过对。然后＂兴奋＂＂＂信号的处理激发该细胞进入或者抑制状态。随后该状态变为电信号，并通过它的轴突传递给其他神经细胞。这是神经细胞的简单工作原理。在人类的神经系统中有上亿个Ｗ上的神经元，它们彼此通过轴突和树突连接形成了复杂的生物神经网络系统。通过这个系统，人类接收到外界的各种信息，并协调全身的技能活动Ｗ应对这些信息。可见，神经细胞的相互作用和信息传递使生物的神经系统具备难置信的能力。受此启发，人工神经网络在结构上与信。号传递方式上对神经细胞进行模拟。人工神经网络中的神经元模型如图２．３所示１．＜：．；：＿＾，右边的＾则为输出。图中左边的枯；．．（．．．为模型的输入，，，１２，，｝，，，７ 式汉科技大学硕壬学位论文／Ｘ。图２．３神经元结构对于信息；Ｃ，设它与该神经元的连接权重值为Ｗ。那么，该神经元的输入可，，？表示为成。图２．３中间的／表示该神经元的激活函数，显然可得到；的计（）；算公式Ｉ［下；－０２－产／（１）ｌ，ｆ＾］平Ｖ片１Ｊ其中，０为处理单元的内部阔值。在完成输入、输出参数计算后，就需要对网络进行训练，常见的训练方式包括感知器训练、ｄｅｌｔａ规则训练和反向传播算法＊ＡＶ—Ｕ导｜方＾或。２．２．２ＢＰ神经网络在传统神经网络中，比较典型的网络结构代表是ＢＰ神经网络。它在结构上表现为有向无环，主要包含Ｈ种层次类型，分别为输入层、隐含层和输出层，如图２．４所示。８ 式汉科技大学硕去学位论文ｉ：ｉｉ输入展王隐巧區左输山层王１２３图２．４ＳＰ神经网络ＢＰ神经网络是一种有监督学习方式，主要采用反向传播算法和梯度下降的学习规则，属于多层前馈型神经网络。外界的输入信息主要通过输入层与的各个神经元进入神经网络；为隐含层，它接收由输入层传递进来的信息，并对它进行处理输出层一，它处理来自隐含层的信息；与为，进行进步的信息处理。这是通一过输入层到输出层的方向计算实际的输出，般称为正向传播处理过程这个方式。然后，通过输出层到输入层的方向来不断调整网络的权值和阀值，这个方式也叫误差的反向传播，最终的目的是为了使网络的误差平方和到达最小。此算法的具体步骤可描述如下：假设训练集为乂＝切，兩而．．．而．．．，；〇，其中＂！表示训练集的大小，义表示训，练集中第／个训练样本。同时，设网络的输入层为第１层，输出层为第Ｌ层；在数据传递处理过程中，将当前层记为／层经元个数设为。，它包含的神＆？一那么／－，第１层表示当前层的前层，设巧为该层第ｙ个神经元与当前／层第；？？／个神经元之间的连接权重，却为当前第Ｚ个神经元的偏置量，则第／层中的第Ｚ个神经元的输出为：＂＝＆＇２－２，？／（／〇（）？通常采用ｓ其中，为神经元的激活函数ｉｍｏｄ函数／（），ｇ，即：９ 式汉科技大学硕去学位论文／Ｗ＝２－３：ｒ＾（）１＋ｅ—双曲正切函数同时，也常采用非线性激活函数，表达式如下：＝－４口）ｅ＋ｅＳｉｇｍｏｄ函数与双曲正切函数的图像如图２．５所示。从图中可见，ｓｉｇｍｏｄ函数－的取值范围为（Ｕ］，而双曲正切函数的取值范围为［Ｕ］。［巧■丘抓ＳＢ—，Ｊ——－—－－￣￣１＊■＊？＇＇１ｒ１：：ｒＴｎ－１一／０６■－ＳＳｒ／／，■－．／ｅｆ／０４－。０’－ａｔ／．２ｊ／化■．－０／＾－々．－／．２．々？．ｄ３＾／．４／ｅ－．．／．ｓ／々怎氏一．／．，／々．８．１－．．Ｖ＜０２，６ｆ２Ｓ＜５－．４．．．４５３２１Ｄ１３３５图２．５激活函数图像’＜－５在公式（２中，／个神经元的输入值／表示第／层第Ｚ，计算公式如下：），’＝＋６－＾２５Ｓ的皆／（）Ｍ通过上述公式完成数据信息的前向传播后，ＢＰ神经网络开始针对参数进行误７；＝；差反向传播过程。设向量．．．．．．｛义，７２，＞，是输入为训练集义时，图像集；，乂，，；。｝合各个样本所对应标记的期望输出值，．为对应输入为；Ｃ．时的期望输出。同时ｙ，，，一＝设２２，，２，，．．．，２，，．．．，么。｝为神经网络的输出向量。则对于训练集中的每个训练样｛本Ｘ．，它的训练误差如下；，０１ 式汉科技大学硕去学位论文２＝－Ｚ－巧乏（！乂）口巧每＝则在整个训练集义；Ｃ；Ｃ…；Ｃ．．．，可Ｗ！知，，３，，，，得到总体误差函数为２，而｝中２＝－怎＝２－７（１＞，１！乂））：１＞．去＾二１＝，Ｍｋ＼＜同时，根据误差梯度下降法，通过＾下公式对神经元之间的连接权重＾＾化及；神经元的偏置量６／进行参数更新：巧Ｐ哨＝听－ａ口哨兩－６＝６ａ２－９／／（）赛一。其中，ａ表示学习速率，它表示每次参数更新时权值的变化量则对于单个训练样本，输出层的权值偏导数レ义及偏置量的偏导数计算公式如下：＝Ｚ－口１０八）薦兩掉（刊－養＝端妒却口－…而对于隐含层，显然可Ｗ得到权值偏导数与偏置量的偏导数如下：＝Ｔ叫口－巧聲诗睹（叫１１ 式汉科技大学硕去学位论文旅５１＼２ｆｉｉ＾一１，、Ｚ－於（）（＊）雨雨４這Ｊ＇－＿＝ｚ－、－、－、－令沪（）／的对公式１０１１Ｉ２Ｉ３进行简化运算，ｉ。口）口）口）口）乂Ｉ，乂表示学习速率：设７，计算权值更新公式如下ｉ＝－ＷＷｒＳｘ２－１４ｙｙｊｉ（）更新权值后，交替进行前向传播过程与反向传播过程，直到误差小于阔值或者迭代次数达到预先设定的值时结束。ＢＰ神经网络一算法在理论研巧和实际应用上都取得了定的成功，但是该算法容易形成局部极小值而造成得不到全局最优值的现象。而且在研究中表明，训练ＰＳｉ。次数多使得学习效率低，收敛速度慢２．３深度学习简介传统的神经网络主要是采用了反向传播算法，该算法实质上是采取了迭代的方式进行计算，并通过神经网络的输出与输入值的期望输出间的差别来更新隐含层的参数。随着顶层不断向下，误差校正信号越来越小，尤其是从远离最优区域而且一后，很容易陷入到局部最小值，这种网络般采用有标记的数据来训练，；但是实际操作中大多数的数据是没有标记信息的一。因此，计算机需要进步模拟人脑的运行过程和结构，就需要高度复杂的神经网络来完成。深度学习的提出，为解决上述问题提供了全新的研究方向。２．３．１基本思想ＰＷＷ一深度学习的主要优势在于它可Ｗ自动学习特征。假设设计个图像数据？＝．．．，层特征提取的系统Ｓ；并将它表示为Ｓ其中表示Ｓ的第ｉ，，，，口＆＆｝＆如图２．６所示。并设输入为／，它经过系统５层层处理后，输出为０。通过不断地０与／保持一。调整系统各层中的参数，使样那么，该系统就能自动获得输入图■像／的特征一。Ｗ这种假设为基础代表着／经过５时，图像信息在每层都没。一＝有任何损失。这也意味着，Ｓ巧．．．．．．层所获得的持征都是对原１，＆，，＆，，＆｝中每始输入一／的另外种表示。１２ 式汉科技大学硕去学位论文Ｓｓｓ＆］，＿、？图２．６系统Ｓ模型一然而，这只是种理想状态。无论是哪种信息处理方式都会在处理过程中丢一失５一一部分信息，无法保证系统的输出与输入完全致，。因此定条件的放宽，让输入、输出的差别尽可能减小，尽量使丢失的信息为输入信这个限制，同时息的兀余信息即可。深度学习就是在这种假设条件的基础上，通过构造多个层次结构，使当前层的输入全部来自上层的输出，实现对系统输入图像的分层表示，即完成了自动学习特征的过程。２．３．２训练述１概述一一如果对系统５的每层同步进行训练，会定程度上造成时间复杂度上升。一一相反，每次只加入系统某层进行训练，那么每层产生的偏差就会向下层传递；一而由于深度学习中的神经元个数般较多，就会造成很大程度上的欠拟合，严重影响特征学习效果。鉴于上述问题，深度学习采用自底向上的非监督学习和自顶向下的监督学习两个步骤完成特征学习一自底向上的非监督学习步骤如下，：首先采用未标记数据作为系统５的第一层的输入，，，训练并学习参数；然后将该层的输出直接作为下层的输入并训练学习当前的参数；随后，不断的重复上述过程，直至训练并学习完第＆层的＝参数最后，得到系统５．５．．．．。．．；，，，，，通过完成自底向上的非巧＆；＆｝的各层参数监督学习过程，可得到比原始输入信息更加具备表示能力的图像特征。而自顶向下的监督学习部分，则是通过利用自底向上的非监督学习到的各层＝．参数对系统５＊５．．．．．。，，，，具体来说，深度学习把除巧；＆，＆｝的各层参数进行调整一了顶层１＾外的所有层之间都设置为双向权重；然后利用学习的特征和向上层传一递的权重，通过梯度下降法修改层间的向下层传递的权重；同时，通过底层的状态修改该层中向上的权重。１３ 式汉科技大学硕去学位论文￣￣在深度神经网络的参数初始化过程中，并不是采用与传统的随机初始化方式，而是通过对输入数据的学习而得到。这个初始值更接近全局最优值，送是深度学习训练过程相较于传统神经网络的优势和特点。２．４困像分类中的相关性度《一。在图像分类的研巧中，样本相互之间的相关性度量是非常重要的部分在分类算法里一，距离更加靠近的样本会划分到同个类。这也显示出相关性度量标准在一定程度上影响着最终图像分类结果。近年来，在图像分类领域中常用的度量算法有Ｗ下几种：（１）欧式距离，主要计算空间中两个点之间的真实距离。设图像：＼ｙ的特＝征向量分别为．．．和方．，而，也，，相其中ｄ表示特征向量维｛｝，数，那么不与义的距离公（《．义表示为；，）／＾—－￡＞Ｘ＇＝Ｘｘ１５，）口）化ｊ松ｉｎＪ（２）曼哈顿距离，它是用来表示两个点在空间坐标系中的绝对轴距总和，计算公式如下：＝－－公１６（《，不）Ｅｋ气口）。Ｉ＝ｎｌ一（３）闭式距离，由数学家巧可夫斯基首先提出，它代表着组距离的定义，计算公式如下；〇＝—－尤１７）巧，）口，拉Ｋ节＂ｒ当乂取值为１时，该计算公式则表示为曼哈顿距离；当；Ｉ取值为２时，则为欧式距离。（４）马氏距离，它的计算是基于总体样本的，主要用来表示数据间协方差距１４ 式汉科技大学硕去学位论文离：，计算公式如下＝－￡）．乂（《，）。１巧，如万）可石马其中，Ｓ为总体样本的协方差矩阵。（５）：余弦距离，它主要表示两个向量方向之间的差距２－。１９斯瑞（）２．５本章小结本章内容是对图像分类研巧的综述，首先简单介绍了图像分类技术的研究背一些图像分类算法及其简单应用然后详细阐述了关于，归纳总结了近年来的景；神经网络算法的来源Ｗ及有关的基本思想。同时，简单巧纳了神经网络在图像分一类上的发展进步，并且进步对传统神经网络中的代表性算法（ＢＰ神经网络算法）做了详细分析与介绍；之后，简单介绍了关于深度学习的思想起源、针对传统神经网络的改进与优化Ｗ及大致的算法概况；最后，对图像分类中的相关性度量方法做了简单说明，为之后的研巧提供理论基础。１５ 式汉科技大学硕去学位论文第３章困像视觉特征分析与深度学习义１围像传统特征提取在图像分类的研究工作中，传统方法主要采用来自于图像的底层视觉特征，依靠人工设计规则进行提取，例如颜色、纹理、形状等等。这些特征虽然是基于计算机对图像的计算而得到的，但是实质上这些底层视觉特征大多是人工设定的一定程度上属于人工提取的图像特征计算方法，。３．１．１顔色特征一颜色特征是种全局视觉特征。虽然它对图像颜色区域所在的方向Ｗ及该区域大小等属性的变化不能很好的表示，对图像中局部特征的提取能力有限。但是它的优点在于，当图像本身的尺寸发生缩放、方向被旋转或者观察视角改变的时。候并不会对颜色特征造成影响，具有较高的鲁棒性本小节从Ｗ下Ｈ个方面提取图像的颜色特征。１）颜色直方图数据集中的数字图像大多数都是用ＲＧＢ颜色空间来表达的，如图３．１中图ａ）所示。ＲＧＢ颜色空间中Ｒ、Ｇ、Ｂ分别代表ｒｅｄ、ｇｒｅｅｎ、ｂｌｕｅ。坐标原点化０斯表—红，且、绿、蓝。可见示黑色坐标轴上的Ｈ个顶点代表三个基色，每幅彩色图像都可Ｗ分解到Ｈ个独立的基色平面上。ｙ｜ａｂ））困３．１颜色空间一而颜色直方图般是采用ＨＳＶ空间，它更接近于人类在视觉上对颜色的主观认识，该空间如图ｂ）所示。在ＨＳＶ空间中，Ｈ个分量分别代表色调（Ｈｕｅ）、饱和度（Ｓａｔｕｒａｔｉｏｎ）和亮度（Ｖａ山６）。亮度与被观察物体的发光强度有关。色调则１６ 式汉科技大学硕去学位论文表明了颜色本身的种类和基本特性。对于亮度与色调相同的颜色，饱和度用来区分它们之间的深浅差异。因为上述原因，需要将ＲＧＢ颜色空间转换为ＨＳＶ空间的表这形式。首先，分别计算出Ｈ种基色值相应的Ｈ、Ｓ、Ｖ的值，计算公式如下；Ｖ＝ｍａｘ／？Ｇ５，，（）＝＿ｍＳＦｉｎ化Ｇ公／Ｆ（，）［］＇欠＝Ｆ－－／ｒｍｉｎＡＧ公，［叫［扣（＇－－Ｇ＝Ｆ／ｒｍｉｎ／２ＧＳ，，［巧［Ｗ（＇＝－－ｍＳＦＳ／ｒｉｎ度６度［］［，，知（＿＿＇口〇＝５＋公ｉｆ＝ｍａｘＧ公＆ＧｍｉｎＲＧ公矿（Ａ，）Ｃ，，）－＝及１伊！ｉ？ｍａｘＧ，巧Ｇ＊ｍｉｎＧ／（化（化，巧＇＝１＋巧Ｇ＝ｍｘｍｎａ度Ｇ＆公ｉ欠Ｇ（，，，巧沪，巧（－＇＇－＝３公ｚｍａｘ乂Ｇ公＆公＊ｍｉｎＧ／Ｇ（，，）（Ａ，巧＇３＋Ｇ＝ｍａｘ巧Ｇ公＆及＝ｍｉｎＧ公沪公（，，）（ｉ？，，）１５－民〇化ｅｎｖｉｓｅ再将该空间划分成若干个小的颜色区间，然后针对每个区间计算颜色落在其中的像素数量。２）颜色矩Ｓｔｒｉｅｋｅｒ的颜色矩理论表明，在图像中每种颜色的分布信息都能用它本身的矩一来表示。因为主要采用低阶矩，所Ｗ通过计算颜色的阶矩（ｍｅａｎ）、二阶矩（ｖａｒｉａｎｃｅ）和Ｈ阶矩（ｓｋｅｗｎｅｓｓ）来提取特征，计算公式如下：＝３－２八巧（）去１１２２＝－３－３巧ＳＭ（）去（与）３－Ｓ＝３－４ｉ诘记４（）１７ 式汉科技大学硕去学位论文一？表示二Ｈ阶矩表示为。ＡＴ其中，／／阶矩，阶矩，为灰度级数，，巧为Ａ巧表？示像素点在第。／：个颜色通道分量上的值＿３）颜色聚合向量ｒｎ一图像颜色聚合向量（ｃｏｌｏｃｏｈｅｒｅｃｅｖｅｃｔｏｒ）是在颜色直方图基础上的种进化，它用来表达色彩的空间位置。如果直方图中第颜色柄内的某些像素所占面积。湿大于设置的阔值，那么该像素记为聚合像素，反之则记为非聚合像素然，颜色聚合向量为；＂－＂＇＂．．．．．．５Ａ’Ａ，２，片２），’（’’，口）１々），（。Ａ）〈（）（〉其中，设《、，巧分别代表直方图第个颜色柄中聚合像素的个数与非聚合像素的个数。３丄２觸雛一种特性纹理代表了物体表面的，即图像在灰度空间的分布信息。它不是基于像素点得到的特征，而是综合了图像表面上的结构信息Ｗ及多个像素点的区域一特性进行统计计算而得到的特征。它不仅从整体上把握了图像的全局特性，还定程度地兼顾了图像的局部特性一。由于它是基于统计量的种特征，它的值不随图像的旋转而发生改变。本文算法提取常用的Ｔａｍｕｒａ纹理特征，主要包括粗糖度、对比度和方向度。１粗糖度）一种特征粗趟度是纹理中很重要的，它主要由其模式结构和基元尺寸而决定。当图像中纹理模式结构相同时，其基元尺寸越大，则该样本粗礎度越高；当图像的纹理模式结构不同时，基元尺寸的大小和基元尺寸的重复次数都对图像的粗趟一定的影响度有，并且呈正相关性。首先一口ｔｘ２ｔ，假设个活动窗大小为２，计算其中所有像素的平均强度值ｘ，显然：４ｔ＿ｙ（，）＊－＊－＇，王＋２－－ｌ１＋２ｙ２＊＝２－６４片＞０ＺＺｇ（Ｕ）／（３）１８ 式汉科技大学硕去学位论文’’。其中，ｇｚＺＪ的像素强度值（Ｊ）表示图像上坐标为（）一然后，针对于图像中出现的每个像素点，根据＾＾＾下公式计算它们在水平方向Ｗ及垂直方向上：，相互之间不发生重合的窗口之间的平均强度差－＊－１＊！－－＝Ｘ－ＸＸ＋２３２如７，ｙ），ｙ（（）毎＊（（）Ａ｜＊＿＊－１１＝－－Ｘ－Ｘ＋２２８，Ｖ，托ｙ）口）（＿）４（）｜。＆，向上的平均强度差同时，，，代表水平方向上的平均强度差＆，，代表垂直方－结合公式（３６）、（３－７）与公式３－８￡，计算得出使取得最大值时的Ａ值，并设置（）＊＝该活动窗口大小的最佳尺寸为ＪＣＦ２。，＿（）最后，通过计算在整个图像中得到的各个求其平均值巧即该样？本的粗糟度：丄．Ｓ－！Ｊ３９艺艺Ｕ）（）ｍｘｎ苗苗２）对比度对比度是指一幅图中亮度差异值，该值越大代表对比度越大，反之则代表对比度越小一。般通过计算各个像素邻域的均值、方差Ｗ及峰态来得到图像的对比度。首先计算图像灰度的峰态《：４＂＝３－。１０４与（）＜７其中，Ａ代表四阶矩均值，Ｃ表示图像灰度的标准方差。在计算得到峰态后，可Ｗ进一步得到对比度１９ 式汉科技大学硕去学位论文口－。看）３）方向度方向是图像的重要特征，它详细地描述了图像中的纹理是怎样沿着某些方向分布或者聚集。同时，它与纹理基元形状及分布的规律有关，因此，Ｔａｍｕｒａ纹理特征采用方向度的计算方法来度量图像是否存在明显的方向性信息。首先，计算图像中各个像素点所在具体位置的梯度向量的模ＡＧ和该像素点｜｜的局部边缘方向，计算公式如下：ＡＧ＝Ａ＾＋３－ｆＡＦ／２（１巧｜｜（｜｜｜｜）－，０＝Ｔ－ｔａｎＡＦ／Ｍ＋；ｒ／２（３巧（）其中，Ａ／／是图像中该像素点周围矩阵区域大小为３ｘ３的部分，与图３．２中图ａ）的算子做卷积运算得到的水平方向上的变化量；ＡＦ是图像中该像素点周围矩阵区域大小为３ｘ３的部分，与图３．２中图ｂ的算子做卷积运算得到的垂直方向上的）变化量。－－－１０１１１１－１０１０００－－－－１０１１１１ａｂ））图３．２算子然后Ｗ：，构造基于该点局部边缘方向值的直方图表达式。Ｈｋ＝ｋ－ＤＮＮ（３１４）［）ｅ［）＆ｅｉｊ）＝１０其中，设置阔值为ｆ，表示当梯度向量模ＡＧ含ｆ时的像素点的数量。｜｜２０ 式汉科技大学硕去学位论文再计算直方图巧中所出现的峰值尖锐程度，该公式如下所示；５２＝－好３－１５＆．口口口），艺Ｅ（，）。（）（Ｐ口ｅｗｐ３－公式（１５用来表示图像总体的方向性信息，７为／／中的峰值，其总数用Ｕ）／＆ｐ表示。对于直方图中的峰值／？，用Ｗ表示峰谷之间该峰值的量化值范围，而口则ｐｆ表示该范围内的最大量化数值。３．２基于深度学习的图像特征分析在实际中，人工提取的图像特征存在或多或少的缺点。例如作为全局性特征的图像颜色特征，它对于图像的颜色信息确实能够很好的识别，但是它对于图像区域的形状、大小不具备分辨能力。比如苹果和懐桃在颜色上的表现就十分类似，然而它们在实际中的大小比例存在巨大的差异。但是，这些差异只依靠通过颜色特征无法表现出来。同时，纹理特征也会因为图像当下不同的光照条件而对提取一结果产生定的噪声影响，；而不同的观察角度也会对图像的形状判断产生偏差。这些影响都会对图像特征表达、语义理解带来误差。因此，需要在基于人工提取的底层视觉特征上，加入更能精确表达图像语义的特征信息。基于深度学习的图像特征提取，近年来受到大量学者们的关注。同时，它在语音识别、图像分类等诸多领域取得了巨大成功。它提取的特征全部来自于对数，而不是传统的人工设计的特征，据的学习。而且基于深度学习的特征提取与图像分类器是结合在一起的，可Ｗ同时优化使分类性能得到最大程度的提高。本文针对基于稀疏自编码的神经网络对数据输入范围的限制问题，提出了基于线性解码器的深度神经网络方法对图像特征进行提取，并与图像底层视觉特征相结合进斤分类器的训练。３．２．１基于线性解码神经网络的特征分析一在深度学习中，稀疏自编码（ＳｐａｒｓｅＡｕｔｏｅｎｃｏｄｅｒ）是较为常用的种算法它通过隐含层的激活度来表示输入层的激活度，同时，在输出层将送些信息进行还原一。显然，该隐含层上包含的信息就是对输入层的数据信息的种压缩性的表一示。然而，稀疏自编码对输入数据信息的波动范围有定限制。因此，本文采用ｅａｒＤｅｃｏｄｅｒｓ）在此基础上改进而来的线性解码器（Ｌｉｎ。２１ 式汉科技大学硕去学位论文￣￣一线性解码器是种无监督学习算法，采用未标记的图像对网络进行训练。训练中主要采用反向传播算法，通过对参数的不断优化。，使样本输出值等于输入值基于线性解码器的神经网络结构与稀疏自编码类似，主要由Ｈ个部分构成，如图３ｉ入层（Ｌａ．３所不，分另ｊ为输ｙｅｒ左）、隐含层（ＬａｙｅｒＺ）矛日输出层（Ｌａｅｒ）。］ｙ１与義動／？…一ＬａｙｅｒＬａｅｒＬａｅｒＬｙ王，ｙｊ图３．３基于线性解码器的神经网络结构＝假设集合义义义．．．．．．，，．，表示未标记的图像训练集，其中为训练枝１，２，３，和而｝，集中所输入的第／幅图像样本，Ｗ为未标记的图像样本的数量。向量＝＾．．，．．．．．表示输入为数据集义时从，於，於，，７，，，於｝图像集合所对应各个训练样本？的标记期望输出值，其中，，义表示输入为第Ｚ幅图像时的期望输出值即对应第／幅图像的期望标记信息一。在线性解码神经网络中，主要是通过个复杂的假设模型对参数进行更新求解。其中，、６（Ｘ）代表输入为Ｊ时的假设输出，Ｗ为权值向量，６为偏置向量。整个网络就是通过参数Ｗ、６来拟合数据，同时使该网络学习输入层数据的近似表示，特征学习的目标就是求解参数Ｗ和６。首先，计算各层中神经元的输入值。设连接第／层中的第ｙ个神经元与第／＋１层中的第Ｚ个神经元的权值向量参数为ｗ，并将连接当前层／的偏置单元与／＋１层中ｆ？？＞的第Ｚ个神经元的偏置向量参数设置为皆。则可Ｗ计算得到第／＋１层中第Ｚ个神经元输入值的加权和，公式如下：＇＋。＝＋－４ｗＸ３１６艺炒（）ｊｐｊ＝＞１２２ 式汉科技大学硕去学位论文。，其中，代表在第／层中除去偏置单元Ｗ后的所有神经元的数目另外与ＢＰ神经网络类似，基于线性解码神经网络也是通过激活函数来计算神经元的激活度。在该神经网络算法中，／〇表示神经元的激活函数，则该网络的第／层中第／个神经元的激活度可通过下式计算得到：＇（））＝－。３１７，／皆（）（）其中，该网络采用的激活函数为ｓｉｇｍｏｉｄ函数：＝￣／ｚ３－Ｗ（）＾（７１＋ｅ当某个神经元的输出值接近于１时，则该神经元被激活；而当它的输出值接近于０时，该神经元被抑制。显然，假设在输入为Ｘ时，可将该隐含层神经元，＿／的激活度表示为ａｆｈ．）。那么，在输入的训练样本集上就可Ｗ求得该隐含层神经元／的平均激活度为：＿Ａ２＝丄－。．３１９＾却！心，）］（）Ｌ」Ｗ．＝，１＝然后，通过引入稀疏性参数ｐＷ及限制条件Ａ．ｐ，使隐含层中神经元ｙ的平均激活度接近于０。同时，这样做也能够将隐含层中除去偏置单元外的所有神一一经元的平均激活度维持在定范围内，。显然稀疏性参数Ｐ是个在数值大小上－与０相接近的值，３１９），。因此当公式（取得最小值时能够近似达到限制条件二。台Ｐｊ随后．．，可，对于每个输入样本ｘＷ及该样本对应的期望输出值义其巧义方，差代价函数如下：＝—－２０■／Ｗ６ＪＣ．巧，（３，，）（巧乂）如、Ａ（）乂２３ 式汉科技大学硕壬学位论文￣￣￣则对于训练集义和期望输出ｒ，可Ｗ计算其所有对应样本的代价函数的均方差作为该网络整体的代价函数，计算公式如下：丄／ｗ６＝／＇？？？ｗ如，，口心）（）芝（，乂）ｗ＝Ｌ＇１＿为了防止该代价函数＾＾过度拟合，在此基础上添加权重衰减项＾２兰来加Ｗ控制。其中＂表示网络中的层数，义为权重衰减参数，用Ｚ乏￡诚，（、）２＝／】片。来控制均方差项与权重衰减项这两项的相对重要性同时，为了防止当平均激活度＾和戶有显著不同，而影响神经元的平均激活度Ａ的范围，加入基于相对赌的一惩罚因子Ｗ此来进步实现对线性解码神经网络的稀疏性控制。＝ｉｊ那么，Ｗ为均值和Ｗ为均值的两个伯努利随机变量之间的相对摘可通过下式ＰＡ计算得到：＝－促０＇／？１〇３早＾１句雌片３心）心今（）Ｐ１－ｊＡ由上式可明盈得知，当ｐ等于Ａ时相对備紅取得为０，且该值为它的最小值；而当平均激活度Ａ和稀疏性参数／：）的差异相对增大时，相对赌则会随它们的差异增大而显示出单调递增的趋势。同时，相对媳ｉａｐＤ会在平均激活度的值无限接近于０或者１时，不断地接近于无穷大。（Ａ）Ａ综合上述各式，可Ｗ得到新的代价函数公式：）＝－？－八如日、＇川＋＋片｜片１〇８（３２３））々ｈ）ＺＺＺ４占巧垂（）＾素占含２４ 式汉科技大学硕去学位论文其中，加入控制稀疏性惩罚因子权重的参数片，来控制Ｈ项间的相对重要性。３－２０）显然可知入的训练集乂和通过公式（，代价函数的值越小，表示输期望输出Ｆ相对越接近；反之，表示输入的训练集Ｘ和期望输出７相对越偏离。因此，可Ｗ通过求代价函数ＪＯｉＡ的最小值来确定权值向量Ｗ和偏置向量占。）那么，则需要计算代价函数对权值向量Ｗ和偏置向量６的偏导数一－／ｗ６レｗ６。；ｃッ及Ｊ；ｃ为此，定义该网络第／层中的第／个神经元，，；＾（，；パ＾（，パｄｗｄ巧，ｙ－－。３１６３１７）对最终输出值的误差产生的影响为残差，记为ｏｆ根据公式（）、（和（３－２３），可得该残差为：＇）叫（＞＝＋公－孚＋ｚ－２４却：。）吃心的，＾ＫｌＶ（）而在输出层，不同于稀疏自编码的残差计算方式，在线性解码神经网络的输＝，出层采用线性激励函数，即／Ｘｚｚ。显然该网络输出层神经元的残差为：）；巧巧＝－乂－＊３－２引（）（－由公式３２３）、（３－２４）显然可得隐含层的残差计算公式如下（，：）’二－－旱＋－２６皆化？却片）ＷｆＩＶ例。一在根据计算公式计算得到每层网络所有神经元的残差后，则可求出针对权值向量Ｗ和偏置向量６的偏导数值，该计算公式如下：ｗ＝？／，，如＿ｙ品（）ｄｗ／‘３－２７／（）＝？／ｗ如，硕（２５ 式汉科技大学硕去学位论文然后，根据得到的代价函数Ｗ及其偏导数的基础上，采用梯度下降法来计算该网络的最优化权值向量Ｗ和偏置向量６：，可Ｗ得到其梯度下降方向分别为＇＇（）＂）＝￣．）▽ｖｖＶ＋义Ｗ（）、，Ｗ＜－２８（３）＋＇＇！（（））丄Ｖ６＝菱＞＇Ｗ＝１，．在其梯度下降公式－（３２８）的基础上，通过设定迭代次数来不断减小整体代价函数的值。待算法收敛或者迭代次数己经达到设定的值时，停止计算。在。得到权值向量Ｗ和偏置向量６后，即完成了该网络对图像特征的学习部分另外，－由公式（３、（－１６）３１７）可计算得出令隐藏神经元得到最大激励的输入值为：口心）Ｉ运用上式计算出所有隐藏神经元得到最大激励的输入值么后，可ｗ将它们组成一幅图像从而使图像特征可视化。３．２．２基于部分联通网络的卷巧特征在得到权值向量一步则需要计算得到训练集与测试集Ｗ和偏畳向量６后，下样本的特征矩阵。在基于线性解码神经网络的特征分析中，作为网络输入层所输入的训练集样本，是基于数据集中原始图像大小而抽取的局部图像区域。这是由于基于深度神经网络的方法，需要训练网络中各层所有神经元的权值向量Ｗ和偏置向量６。然而，权值向量Ｗ和偏置向量６的个数则与原始图像分辨率的大小有ｘａ关。假设图像样本的分辨率为ａ，如果将整幅图像的所有像素点全部作为输入层的输入信息一个像素点都必须对应一显然，那么图像的每个输入层的神经元，该层２需要的神经元个数为ａ；同时假设该网络隐含层神经元的个数为片，则该神２经网络需要学习的权值向量Ｗ和偏置向量６的数量为《含。可见，数据集样本的２６ 式汉科技大学硕去学位论文图像分辨率大小ａ，直接影响着该神经网络所需要学习的参数数量。同时，它也间接影响着所有参数训练的时间复杂度。旨为此，本节提出基于部分联通网络的卷积算法，Ｐ：在原有全联通网络基础上经元只连接输入层的一，使神部分神经元。具体来说，通过对初始的图像训练集样本进行切分一，将所有输入的图像切分成若干个小尺寸区域构成个区域子集。然后，将该区域子集作为网络输入层的输入。最后，将该算法得到的特征与原始图像数据集做卷积、池化运算，得到最终的数据集的特征矩阵，将该矩阵作为图像分类器的输入。＝假设集合ｎｚｒ，ｚ，。，．．．，＆，ｃ，．．．，ｚ，ｃ表示有标记的图像训练集样，，ｉ）（；）（，｛（）（＾本，其中／用来表示己标记的训练集中样本的个数己标记样本集Ｑ。同时，假设该中的图像分别属于Ａ个不同的类别，表示训练集Ｑ中的第幅己标记的样本图像，则表示该第川畐己标记的样本图像所对应的类别编号。另外，假设未标记的二图像测试集为５？５．．．５．．．５。其中，５．表示测试集中的第／幅未标记的样，，，，，，，，？［｝，本图像，，：表示测试集中样本图像的个数。同时，假设数据集Ｑ和５中图像的分ａｘａ一辨率为。然后，在数据集每个样本中随机选择多块分辨率为６ｘ６的个局部小块图像。将选取的所有局部小块图像组成数据集义＝林，；（：，：＼：，．．．，．．．］，并，。，＾车，，将该数据集作为基于线性解码器神经网络输入层的输入信息。，３．１然后根据节中基于线性解码神经网络的特征分析算法，通过计算得出基于该神经网络的所有权值向量ｗＷ及偏置向量６。然后利用从输入的图像训练集＝＾义．．．．，枝八２．．．，，数值并＾１作为卷积运算的步长对训练，义３，，，而，｝中学习到的参集ＱＬ：ｉ？及测试集５进行卷积运算。那么，将在图像训练集〇１＾及测试集５上完成卷积运算之后得到的特征矩阵分别表示为化，。。，和化。其维数大小、，，，，＿Ａｘ－－６ｌｘｌ。，均为ｆｌ＋ａ６＋其中＾表示隐含层的神经元的个数。（）（）Ｍ然可见，矩阵化和。的维数相对较窩，直接输入到分类器。，ｗ，ｗ中进行训练是不太适合的，，。因为维数过高训练时很容易出现过拟合的现象从而会影响训练之后的分类器对图像的分类效率，。因此本文采用池化操作来解决一这问题，即；通过计算图像各个区域上的特定特征的平均值方法对图像不同位置的特征进行聚合统计。除了可Ｗ计算平均值外，还可Ｗ计算图像各个区域上的特定特征最大值。另外，池化操作必须作用于图像中不重复的区域内，设置特征池化操作的区域的大小为，计算矩阵化。和。在区域大小为ＣＷＷＴＷ，．内的平側直，抑何Ｗ导到池化后的特征組卑和公。。／Ａ。，。，２７ 式汉科技大学硕去学位论文３．３本章小结一圍像特征的提取是对图像分类结果有重要影响的因素之，本章重点介绍了一本文图像特征提取算法。方面，对基于线性解码神经网络的特征学习做了详细介绍，包括该神经网络的构成形式，各层参数的传递更新过程，Ｗ及卷积、池化一的操作方式。另方面，本文算法采用传统图像特征提取与基于线性解码神经网。络学习的特征进行结合。最终，两类特征相结合生成数据集的特征描述向量２８ 式汉科技大学硕去学位论文第４章基于回归预測的图像分类舞：法一、回归预测属于有监督学习中的种方法，它的核也思想是研究分析本身具有相关关系的变量之间的变化规律一，并得到个数学模型；然后通过这个模型对数据进行预测或者分类。本文在Ｓｏｆｔｍａｘ回归预测的基础上，通过利用得到的两类特征对Ｓｏｆｔｍａｘ进行分析训练，采用多步分类的方式得到最终测试集中未来标记样本所属的语义类别。４．１基于Ｓｏｆｔｍａｘ的回归分析＝＇将通过神经网络学习得到的训练集０／．．．．．．２／的２，；片，１，，，，仁，４，，｛）仁）（分特征矩阵公作为Ｓｏｆｔｍａｘ回归模型的训练样本，且该样本属于＆个类别，一则假设样本属于每类的概率分别为如．．．。显２．．．，满足条件：捧，，為然概率＜＼，在，，故４－（Ｕ＝１／－同时，引入Ａ个ｙｔｌ维的向量表达式戸心，其中）来表示样本的标记信息＇－ｌｌ０〇「］「０１０７＝＝．．．＝－１０７Ｘ２０ｒｗ０４２（）），，（）０〇〇＿」［」［＿因为本文研究的图像分类问题中一，每个样本必定属于其中个类别且只能属一一于个类别，所向量了心中只能有个元素值为１，其余元素全部为０。那么，）２９ 式汉科技大学硕去学位论文’＝＝引入指示性函数１＾１，它的取值与ｙＺ的逻辑真假相关。当它的值为逻辑真｝＝＝＝＝ｚ。显然时，ｌｙｌ；反之，它的值为逻辑假时，ｌｚ０，可Ｗ将Ｗ上Ａ个ｊ｝｛＾’一－＝＝Ａ１维的向量表达式统表示为ｒｉ３；ｔ。为了方便算法的推导过程，定（（ｙ）），｛｝＝？ｌｏ：义巧ｇ，则对…求和可得与４，如，众众＝－＼４３私如（）＝１１根据公式（４－１）和公式（４－３）．，可求得４的表达式如下：巧６＝—４－４也ｋ（）电２＞＝然后，设置８〇化１１化的回归参数为００．．．，同时满足巧义。那么，可，，，１２巧皆推导得到回归模型的输出期望值．，将该期望值设为假设函数Ａ，其表达式ｇｋ）；如下：和＇＝ｌｚ．０ｅｆ）；（Ｃ，｜ｐｋ．＝２於‘）Ｍ々瓜＝＝闕）击？Ｓ沪：＝１ｐｒ．＝ｋｚｒｅ／，沪＿［）＼＿一其中＝．．ｏｆｔｍａｘ，表示对于输入的每个图像样本ｚ，该Ｓ回归，，非，ｎ）（）一种分类结果出现的预测概率值模型对其每。为了求解其所有的训练参数值，设３０ 式汉科技大学硕去学位论文置其对数似然函数为假设函数々．的代价函数，其定义如下；０＾）：王１ｔｋ巧‘ｐ＝－—０＝－ｌ？＾〇４６（）＊／ｇｎ＾（）：咕｝ｆ＝＝＇ｗｉ和，玄ｇ＝！．１＿．＝表示为指示性函数＝＝公式中１；，当它的值为逻辑真时，１１，；反之＾＿１＾；八它的值为逻辑假时．＝＝〇。为了，ｉｂｙ防止模型中参数的兀余，并对过大的参数｝：值进行惩罚，在代价函数中加入权重衰减项来对其进斤控制，得到新的代价函数＊－－４７斬０＝＝１。＋（）叫）４１：１％＊／｝垂１１砖菩＾（＝＝２＝＝０，１ｙ１巧／＾，ｙ色＝／１－＿然后，对该回巧模型的代价函数求其偏导数为：－＝－－▽０Ｚ＝＝０４８＋乂０）ｅ；（（），咕＊／。水（｝八））／［］＿／這通过运用梯度下降法迭代得到《／０的最小值，求出参数０．．．得到完成１，马，，巧（）训练之后的Ｓｏｆｔｍａｘ回归模型。４．２分类巧参数优化在得到该回归模型后＝＾，将未标记的图像测试集５４＆．．．４．．．，作为该模，，，，，｛；）一型的输入－５Ｓ个样本对应各个类别的。该回归模型通过公式（４）计算得出中每一概率值。在常用Ｓｏｆｔｍａｘ回归模型中，般选择对应概率值最大的类别作为图像分类预测结果并输出。然而，，在对回归模型的训练中存在着不可避免的参数误差一、定程度的参数冗余Ｗ及训练过拟合的现象。因此，完全依赖概率值最髙的一一预测类别作为判断结果可能存在定误差一。另方面，单地使用基于线性解码３１ 式汉科技大学硕去学位论文神经网络中学习到的特征对Ｓｏｆｔｍａｘ回归模型做训练，得到的分类结果会被上述。因素影响。为了解决上述问题，本文对分类器参数进行优化ｍａｘ对于所有图像测试集的样本，作为Ｓｏｆｔ回归模型的输入计算出的预测概率Ａ。将所有概率值由大到小排列得到每个样本的概率向量Ｃ，它表示对第ｇｈ！）ｉ／／。个样本预测类别，同时其预测类别概率值排在第ｙ位的类别编号一次分类然后，引入参数Ｗ来对图像样本的预测类别做第，得到图像新的预：测类别的向量，计算公式如下＝〇＜份４－９巧与／）（）显然一，，第次分类将样本预测概率值的排位在后的类别进行舍弃即针对每个样本Ｚ，它们的类别预测结果由Ａ个类别减少到《个类别，且该份个类别构一成个预测结果候选集记为Ｇ；＝－．．．．４１０ＧＧ，Ｇ，，Ｇｗ（）｛ｉ２｝然后，设从图像训练集和测试集中所提取的颜色特征与纹理特征构成的持征矩阵的维数均为／＾，在包含ｍ个有标记图像的训练集Ｑ上可得到视觉特征矩阵ｍｘｎｘ＊ｆＪ£□，同时在包含？个未标记图像的测试集Ｓ上得到视觉特征矩阵公ｅ□。计算特征矩阵＾中每个类别在每个维度上的持征平均值，构成参数表达式集合＝ａ其中表示类别编号为＆的平均特征向量值。设＆．，《表示矩阵公１一个样本的特征向量，中任意，并选择欧氏距离作为数据的距离度量方法根据第一一个向量之间次分类得到的预测结果候选集Ｃ，分别计算Ａ和特征集合ａ中每，的距离：—＇＝Ｕ＇＝＝－〇Ｃｌ２．．．０（４１１ｉ（ｊｊ，，、，，）／ｊ）（心）最后，取Ａ的最小值所对应的乍为该图像Ａ的最终预测结果；完成对测试集图像５的分类。３２ 式汉科技大学硕去学位论文综上所述，本文算法整体表述如表４．１所示。表４．１本文算法流程输入：未标记的图像训练集样本乂、有标记的训练集样本Ｑ和未标记测试集样本５；输出：测试集样本５的图像所属标签类别五．。，１．将从原始图像样本的未标记训练集乂中选取图像局部区域作为基于线性解码器神经网络－的输入，）Ｗ。同时，设置隐含层神经元的个数根据公式（３２８计算该网络中的权值向量和偏置向量６；２．利用计算得到的权值向量ＶＶ和偏置向量６，对训练集样本Ｑ和测试集样本Ｓ进行卷积，得到特征矩阵化。？，？ｗ和化胃；同时提取训练集样本ｎ和测试集样本Ｓ的颜色、纹。＂＂。？理特征，分别构成矩阵＾６［：和公£１：。３．设置池化操作的池化区域大小为，对训练集样本Ｑ和测试集样本Ｓ中图像不同位置的特征进行聚合统计，即：对特征矩阵化，。。和化胃进行池化操作得到特征矩方和公阵，４－－．４）计算出式（４５）将特征炬阵化ｗｗｊ．作为Ｓｏｆｔｍａｘ回归模型的训练样本。根据公式（８，。，一－０６？１中的参数．．０，８〇６１１＾，计算出式（４〇）．．得到训练好的回归模型中每个样本＆，，，，：；４所属的类别候选集Ｃ＝ｃ．．．，，，；，Ｋ，，ｑ，。｝，ｘ＂＂＂＂ｐ５．根据从训练集样本ａ和测试集样本Ｓ中提取图像的视觉特征＾ｅ：和Ｓｅ：，计算特＝．．．ａ征矩阵＾中每个类别在每个维度上的特征平均值，构成表达式集合ａａ，，，结合ｈ，ｊ＇４＝－步驟中得到的类别候选集＜：＜：．．．＜：，根据公式（４１１）计算集合样本间的欧氏，，，，。｝，把，，距离，并取距离最小值对应的类别作为最终预测分类结果并记为４。４．３本章小结神经网络中的分类往往只采用通过网络学习得到的特征来进行分类器的训，ＬＡ练忽略了来自图像本身人工可：提取的特征对分类结果的辅助影响。本章在Ｓｏｆｔｍａｘ回归模型的基础上，提出改进的分类方式，将从神经网络学习到的特征矩阵作为Ｓｏｆｔｍａｘ回归模型的输入对模型进行训练；同时，计算人工提取的图像视觉特征的平均特征矩阵；利用训练好的模型对测试集进行首次分类，将得到的首次分类结果与平均特征矩阵相结合，详细阐述了计算得出最终分类结果的过程。３３ 式汉科技大学硕去学位论文；第５章系统构建和实验结果分析为了测试、验证本文算法在图像分类中的有效性，通过多个对比实验进行了分析说明。本实验是在ＷＩＮＤＯＷＳ７系统下，配置Ｉｎｔｅｒ２．８ＧＨｚ的ＣＰＵｉｉ＞及４Ｇｔ内存，ＭＡＴＬＡＢＲ２０１０ｂ的环境下运行本文算法并对图像进行分类结果分析。５．１系统的整体框架和流程在对图像分类的研究背景Ｗ及研究现状进行分析后一，本文提出了个基于线性解码神经网络和Ｓｏｆｔｍａｘ回归预测的二次图像分类算法。ｗｍｍＰａｔｃｈｅｓｌｉｉ：＾Ｊ■圏０關眺ＡＪｉ別單＾ｉｌ画画函Ｂ壓国Ｂ拉ｋＫＶ關麗．，Ｍ函動拒ａ覇嘘；１難伽Ｉｉ窗ｉｉｌｆ慶，讓—亡￡文義擁芒Ｌｒ／＇ａｅｒ／．／？巧ｅ，Ｌｙ，Ｌａｙｅｒ‘…——…ｒ卷积ｉＩｎ视觉特征ｔ＊４＾暴Ｃｏｎｖｏｌｖｅｄｆｅａｔｕ巧；｜｜ｎ｜酷离度蓋］分｜＂‘－…。一－抵３＝：ｒＩ＼；ｒ：：：ｒｚｚｒ：：；：ｚｚｒｆ＿Ｊｒ＾袭＊１＾／＼．！堯池化ＣＩＺＺＩ－ｊ梁Ｉｊ＾＂／＿Ｊ：７：２公１—＇１，ｉＩｍａｘ？ｓｏｆ巧！Ｐｏｏｌｅｄｅｄｆｅａｔｕｒｅｔ巧揀渊：；，；皆二；；二三吉；三；品；；品；二———――———■ＪＩＬＪ图５．１系统流程图首先根据人工提取特征的局限性Ｗ及图像的底层特征无法充分地反映其原始图像的高层语义的问题，采用深度学习的方法来对图像特征进行学习，提出基于３４ 式汉科技大学硕去学位论文。线性解码神经网络然后，为了将图像的特征充分反映及描述，在神经网络学习到的特征的基础上，同步提取图像的颜色特征和纹理特征。随后，根据从数据集中提取的训练集对该神经网络进行训练，用得到的参数对有标记训练集和未标记、测试集进行卷积池化操作，得到该集合的特征矩阵。然后，采用有标记训练集的特征矩阵对Ｓｏｆｔｍａｘ回归模型进行训练。最后，根据人工提取的图像视觉特征，采用距离度量方法与回归模型预测分类候选集相结合，得到最终的图像分类结果。５１整个系统的流程图如图．所示。５．２图像数据集为了对本文算法的性能进巧验证，实验从Ｃｏｒｅｌ图像数据集中抽取了１０个语义类别的图像作为数据集：，包括公交车、轮船、小狗、大象等，其中每个类别，训练集为样本总数的７０％３０％。包含１００幅图像，未标记测试集为样本总数的图５．２显示了１０个语义的样本数据的示例。關細晒醒Ｐｉｆ關圍圓圓国圍扁瞧趁术帝Ｖ画圍關關画固細圓圆圍ｙ圓Ｉｗｉｌｌ圓Ｉ觀爛緊ｉｌ！圆顧賴图图５．２图像数据集示例３５ 式汉科技大学硕去学位论文５．３分类结果与对比分析５．３．１性能评价碌准为了对本文算法性能进行评估，采用查准率（Ｐｒｅｃｉｓｉｏｎ）Ｗ及查全率（Ｒｅｃａｌｌ）作为图像分类的评价指标，同时与其他图像分类方法结果进行对比分析。它们的计算方法如下：．Ａ＝ｐｒｅｃｉｓｏｎ＋公－１／（５）ｒｅｃａ二ｌｌＡ＋Ｃ其中，＾表示在分类结果中某个类别被正确分类的图像数量，公表示在分类结果中被错误分到该类别的图像数量，Ｃ表示在分类结果中应该属于该类别而并没有被分类到该类别的图像数目。这两种性能评价标准都是对图像分类结果的好坏进行评估。查准率越高表示分类的准确率越高，对图像的分类能力越强，；反之查准率越低，表示该算法对图像的分类能力较差，分类的精度小。５．３．２分类结果对比分析为了固定基于线性解码神经网络的输入神经元数量，将选取的数据集中图像一ｘ的尺寸进行归化，将大小设置为９６％。同时，因为采用部分联通网络的形式对数据集进行训练，因此从每幅图像中随机选择１００幅尺寸大小为８ｘ８的局部小图像。然后，从所有选取出来的小图像中再抽取１０００００个样本作为基于线性解码神经网络的输入，。而且，由于选择的数据集为彩色图像需要将Ｈ个通道的颜色１９２值全部作为网络的输入，那么可Ｗ计算得到该网络的输入层神经元个数为个，根据该神经网络结构特点，需要将该网络输出层的神经元个数也设置为１９２个，９２－４００－１９２且设置隐含层的神经元个数为４００个，则该神经网络的结构为１。通过－网络对输入数据的学习，２９，得到学习后的４００个特征根据公式（３）得到如图５。．３所示的特征可视化图像图中每个小块图像表示所对应的隐含层学习到的特征，可观察到，值的可视化表示，很多小块都是类似图像的边缘部分这有利于进行边缘检测来识别图像。３６ 式汉科技大学硕去学位论文ＫＫ麵騒戲巧喔ＩＩ壓９１賴巧巧巧留疆液窗慶圓逛１續画巧爲６暖函涵震》画团族慶巧陵叛醫Ｂｌｉ麵媛函闘Ｍｉｌ匯Ｈｇ塚應巧孩麵匪證導巧芭ＫＳｆ窗狂陵｛■函獲深阁ＩＩ画涵麽国巧麽慶ｇ核因壓思西巧麵盛Ｓ羅紹巧酱逗圾顏巧函函Ｍ画ＵＢ沒沒留湯餐强巧画顧ｍ媛函醒ｇ涅麽远匪獲岛顏＆図医ＩＩ巧苗ａ翻极ｎ且■摄函留Ｍｉ巧足ｇ證度稼溶这麵療且〇因巧？？＠？＠持Ｖ留Ｋ沒顔Ｓ巧２１猪应函曲强資Ｓ懲後艇ＵＫ族Ｈ函画證授懸》百巧壓汲Ｓ留巧麵画ａ沒沒齒筋的遂Ｋ函遂巧淺且慶反０较Ｂ扉■沒慶絕盈Ｈ磁ＳＢ齿麵巧＠巧＾？画淀Ｂ巧厳货Ｓ翔抵》魔麽田底巧巧》巧巧■！￡谢涅函留餐留猛焰狂没画绍遂坦Ｒ条函Ｂ齿限Ｗ謂ｇ沒麽芭路沿巧醒画圆函器Ｂ醒Ｓ８Ｐ没团０醒麵§１？姥緩￡＆画酱翻３巧；麵函接扭８１＾田Ｓ因盈Ｓ该辰Ｋ窗巧■？眶Ｓ鷹函画Ｂａｎ暖度涅强荡廣虐度陳麵謹纏図反度Ｋｔ巧宙段況顧沒忍後歲巧９遂麵ｎ阵醒爱典ａ巧＆巧ＫＢ跑》巧層燈ｉｉ资Ｉ！巧錫该没顯孩沒ＥＷｔｉｉｉ５图．３基于线性解码神经网络的特征可视化图上文中得到了对第？＜个样本预测类别，同时其预测类别概率值排在第ｙ位的类一别编号Ｑ二－。在使用次分类方法前，需要设置个参数《并根据公式（４９）来一对图像样本的预测类别做第次分类？，将它们的类别预测结果由Ａ个类别减少到一＝＾，且该Ｗ个类别构成．（：．（：（０个类别个预测结果候选集．．．：：。候选集马，，，。［；１；２，；［二一的构成对图像次分类有较大影响，定程度上决定了能否达到预期的分类结果。本文对参数Ｗ设置了不同的值在数据集上进行测试，并假设当图像的标记信息类别属于该图像的预测结果候选集时一，则对该图像的第次分类结果是正确的。基于这个定义，图５．４列出了各个参数所对应的预测结果候选集的覆盖率。＂１ＹＩＩＩＩ１。－？江－９挣。说－－Ｉ没／獲／。８／－．－日．巧〇．？２３４５６７邑９参数值图５．４不同Ｗ值的分类结果３７ 式汉科技大学硕去学位论文￣￣￣对比不同参数值可Ｗ发现，当参数越大，预测候选集中包含正确预测类别编号的可能性越大，而同时，包含的错误预测类别编号越多。当参数越小时，预测候选集中包含正确预测类别编号的可能性越小，包含的错误预测类别也越少。候选集越大，分类时需要计算的样本间的相关距离值越多，因此为了减少后续图像《＝。５分类的计算时间复杂度，本文将参数？设为５当参数大于时，每个图像样本的预测结果候选集中包含了大多数图像所属的类别编号，同时包含的错误预测类别也较少。在得到预测结果候选集后，需要结合候选集来计算样本间的距离，并最终确定图像的分类结果。在图像样本的距离度量中，存在很多度量方式，如欧氏距离（ＥｕｃＩｉｄｅａｎＤｉｓｔａｎｃｅ）度量、夹角余弦（Ｃｏｓｉｎｅ）度量。圍５．５列出了加入度量算法与不加入度量算法在图像各类中的分类查准率。’１ｊｉＩ！ｔ！ｉＩ１ＩＩ０－－．３巴二巧吉巧爱－画Ｉ。－，ｒＩＩ－－ｎ．目？；ｉｉＩｐ—－ｉｉ；Ｓｏ．ｓｎｉＭ：＇＊？＇《Ｉ■！ｉｒ！＜－巧一〇．＇；：；参ｉＩｇＩＩ－ｉ０，３ｉ６Ｐ：０－—．２ｊＩ｜１｜，｜｜Ｉ－—＂１Ｉｔ１１ｊ１Ｉ１ｌ■Ｈ■—Ｂｉ■＿＾—Ｗｉ——ＨＬＡＢ．ＪＳ函—■．隱＿■整祖—＇ｓｔｓａｒｔ如幻的ｈ航ｓｎｐｉｗｓｅｓｍｏｂｕｓｆｉｏｗｓｒｎｅｃｃｏｉｇ图５．５图像各类别查准率对图像各类别的查准率实验结果图分析可知，在得到基于线性解码神经网络学习到的特征与人工提取的颜色特征Ｗ及纹理特征的前提下，通过采用欧氏距离度量方法与预测候选集相结合得到的查准率大多数高于其他两种度量方式。虽然在类别ｃａｒ与类别ｂｕｓ的查准率要低于直接通过Ｓｏｆｔｍａｘ回归模型分类或者加入余弦距离的度量方式，但是在数值上的误差并不大。同时，在类别ｎｅｓｔｓ、ｅｌｅｐｈａｎｔ、纯ｉｐ和ｆｌｏｗｅｒ中，查准率有显著提高。可见，在本文算法的图像语义分类部分选择欧氏距离作为相关性度量方法在查准率方面优于不加入距离度量直接分类的方式和加入余弦距离度量的算法。同理，可Ｗ对图像各类别分类结果在Ｈ种不同度量方式下的查全率进行对比．６，图像各类别查全率结果如图５所示。３８ 或汉科技大学硕去学位论文＇１ＩＩ厂ＩＩｉＩＩＩ１１一ＩＩ－０—．９圓区二３辛巧巧＊巧？＾■的Ｓ巧否度ｇＩ＾ＩｎＩＩ；Ｉ，；：１關１０１１關關ＩＩ幻ｃｔｉ？ｌｈｌ化ｈｉｎｂｏｎ＊ｔｃａｒｏｅｒ？？ｎｏｒｗｄｏｕ＊Ｉｔｗｗｇｇｐ巧图５．６图像各类别査全率对图像各类别的查全率实验结果图分析可知，采用欧氏距离度量方法与预测一候选集相结合得到的查全率定程度都高于其他两种度量方式。虽然在类别ｄｏｇ、ｂｕｓ与类别ｈｏｒｓｅ的查准率要低于直接通过Ｓｏｆｔｍ化回归模型分类或者余弦距离的ｃａｒｔ度量方式，但是在类别、ｉｇｅｒ、ｄｉｎｏ和ｆｌｏｗｅｒ中，查全率有显著提高。可见，在本文算法的图像语义分类部分选择欧氏距离作为相关性度量方法在查全率方面优于这两种方式。一在通过对比实验确定本文算法的参数与度量方法后，为了进步分析本文算法的有效性，文中比较了使用隐藏神经元个数相同的传统ＢＰ神经网络、基于线ＮＮ－Ｋ，ｋＮｅａｒｅｓｔＮｅ性解码神经网络、最近邻（ｋｉｇｈｂｏｒ分类算法Ｗ及Ｗ直方图作为）图像特征并使用ＳＶＭ分类的算法的平均分类准确率如表５．１所示。■表５．１不同算法的图像分类平均准确率平均准确率ＢＰ神经网络５２．０％基于线性解码神经网络６３．０％－ＮＮ４３Ｋｅａｒｅｓｔｅ．最近缔（ｋＮＮ，ｋｉｇｈｂｏｒ８％）ＳＶＭ５２．５％本文算法７１．７％５１，ＢＰ从表．中分析可知当隐含层神经元个数相同时，传统神经网络算法得３９ 式汉科技大学硕壬学位论文到的图像分类平均准确率为５２．０％ｋ最近ＳＶＭ；在传统分类方法中，邻方法与算法对图像的分类准确率都不超过６０％；而基于线性解码神经网络的分类准确率为树．０％；本文算法在基于线性解码神经网络的基础上，加入图像的颜色特征与纹理特征，两类持征同时作用于Ｓｏｆｔｍａｘ回归模型而得到的图像分类准确率为７１．７％。可见文本算法性能高于传统算法，有效提高了该图像分类算法的准确率。５．４本章小结本章首先详细阐述了整个算法系统框架和具体流程；然后针对实验数据集做了相应介绍和展示。在实验分析部分，分析设置不同大小参数值对图像首次分类结果的影响。测试了基于线性解码神经网络学习的特征Ｗ及人工提取的颜色特征和纹理特征对图像分类的结果差异。，Ｗ及不同的样本相关性度量方法对分类的结果影响通过对比实验，验证了本文算法能够有效地提高图像分类的查准率和查全率，有效验证了基于线性解码神经网络和回归分析预测的图像分类算法的有效性。４０ 式汉科技大学硕壬学位论文第６章总结与展望６．１总结本文首先详细阐述了关于图像分类的研究意义Ｗ及该方向在国内外的研究现状。在研究现状方面，着重介绍了在图像分类方面，基于神经网络和深度学习的一研究进展。随后，通过对图像分类流程的介绍，总结了般图像分类的大致流程和每个步骤的主要工作。之后，通过对传统神经网络的简单介绍引出了基于深度学习的深度神经网络方法的介绍，，对比了两种神经网络的相似和不同点并详细阐述了它的网络训练过程。同时，总结性介绍了几种常用的相关性度量方法。然＂＂，后，针对图像分类中存在的语义鸿沟和人工提取特征的制约性问题提出了基于线性解码神经网络和Ｓｏｆｔｍａｘ回归模型分类的图像分类算法。通过实验测试了设置不同参数对实验分类结果的影响，Ｗ及不同度量方式对图像查准率和查全率的影响。最后，，在标准图像数据集的基础上通过实验与传，证明了本文工作的有效性统图像分类方法做了对比分析。本文的主要工作如下：１）针对图像分类中通常使用人工设定的计算方法得到的视觉特征存在的缺。陷，提出了基于线性解码神经网络提取图像特征的方法通过神经网络提取的图、像特征都是对数据的学习而得到了，避免了人工提取特征无法全面准确描述图像信息的缺陪。２）改进了Ｓｏｆｔｍａｘ回归模型，训练得到回归模型的各个参数后，通过计算得到的数据集各个图像的类别预测概率，利用参数计算得到图像样本的类别预测候选集，完成对图像的首次分类。３）为了使特征矩阵对图像信息的表达更完备，提取图像的颜色和纹理特征，利用人工提取的特征与神经网络学习得到的特征相结合，在预测候选集的范围内，计算样本间的相关性大小得到最终的分类结果，。通过对比试验证明本文算法对图像的分类效果有较大提高。６．２展望随着如今互联网的高速直线发展，图像数据呈现出爆炸式的増长，需要进行分类处理的图像日益剧增，。依靠人工来对它们进行分类显然是费时费力的但是依靠图像分类算法对图像进行分类需要克服图像数据的底层特征与其高层语义之＂＂ｌ间难ｉＡ越过的语义鸿沟问题。同时，如何提高图像分类查准率和查全率仍然具４１ 式汉科技大学硕去学位论文有挑战性。针对上述问题并Ｗ当前研巧结果为依据，本文需要从下面两个方面进行更深入的探索；１基于大数据图像的分类）通过本文对比实验可Ｗ看到，特征提取方法和相似性度量方法不同对其分类的查准率和查全率影响较大。针对目前出现的大数据问题，如何对海量数据有效而快速地进行神经网络的训练而得到特征，Ｗ及如何对数Ｗ亿计的图像进行相似一性度量是需要进步研究的问题。２基于复杂语义图像数据的分类）现有的数据集一一般都是对应着个语义类别，然而在目前图像数据中，具有多重语义的图像数据也占据了一定比例一。例如，幅在沙滩边观看落日的图像，＂＂＂＂＂＂一它的语义类别可Ｗ是沙滩，也可Ｗ是大海或者太阳。采用单的语义划分图像显然不能满足要求，在Ｗ后的研究中，如何针对图像日趋丰富的语义特点对图像进行多语义标注和分类是未来值得研巧的方向。４２ 式汉科技大学硕壬学位论文致谢时光飞逝，我在武汉科技大学学习生活的日子即将结束，Ｈ年的硕±生活让我受益良多。首先，我要感谢我的导师张鸿教授。在生活中，张老师对我关怀备至，在我遇到困难时给予我无私的帮助。在学习中，张老师渊博的知识和严谨的科研态度使我在科研工作中得到了很大的感染和进步。本论文从选题、开题报告、研究方案、研巧过程到论文的书写、修改和定稿都倾注着张老师的也血，在此对张老师表示诚擎的感谢和崇髙的敬意。其次，我要感谢实验室里所有的同学们对我在学术研究上给予的无私帮助和一支持，使我获得了更丰富、全面的知识；更要感谢同学们直［＾来对我的包容和关也。然后，我要感谢我的家人和朋友们，没有他们做我坚强的后盾，我不会有今天成绩、鼓励和关爱。，感谢他们多年来对我无条件的支持、！最后，祝愿武汉科技大学人才辈出永铸辉煌４３ 式汉科技大学硕去学位论文参考文献沈图．浙江大学２０．Ｕ］朱蓉．基于语义的Ｗ像分类研究［Ｄ］，１１口］ＨｕａｎｇＴ，ＲｕｉＹ，ＣｈａｎｇＳＥＩｍａｇｅｒｅｔｒｉｅｖａｌ：Ｐａｓｔ，ｐｒｅｓｅｎｔ，ａｎｄｆｉｉｔｕｒｅ［Ｃ］／／ＩｎｔｅｍａｔｉｏｎａｌＳｙｍｐｏｓｉｕｍｏｎＭｕｌｔｉｍｅｄｉ泣ＩｎｆｏｒｍａｔｉｏｎＦｒｏｃ的ｓｉｎｇ．１９９７，１０８．３ＮｉｂｌａｃｋＣＷＢａｒｂｅｒＲＥｕｉｔｚＷｅｔａｌ．ＢＩＣｒｏｅｃｔ：ｕｅｒｉｎｉｍａｅｓｂｃｏｎｔｅｎｔ［］，，ｑ，Ｑｐｊｑｙｇｇｙ，＇ｕｓｉｎｇｃｏｌｏｒｔｅｘｔｕｒｅａｎｄｓｈａｅＣ／／ＩＳ＆Ｔ／ＳＰＩＥｓＳｙｍｏｓｉｕｍｏ打Ｅｌｅｃｔｒｏｎｉｃ，，ｐ［］ｐＩｍａｉｎ：ＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏ．ＩｎｔｅｒｎａｔｉｏｎａｌＳｏｃｉｅｔｆｏｒＯｔｉｃｓａｎｄＰｈｏｔｏｎｉｃｓｇｇｇｙｙｐ，１９９３－：１７３１８７．ｍａｗ－４ＭｏｓｉｌｏｖｉｃＡＲｏｏｗｉｔｚＢ．Ｃａｔｕｒｉｎｉｅｓｅｍａｎｔｉｃｓｉ化ｌｏｗｌｅｖｅｌ［］ｊ，ｇｐｇｇｄｅｓｃｒｉｔｏｒｓＣ／／ＩｍａｅＰｒｏｃｅｓｓｉｎ２００１．Ｐｒｏｃｅｅｄｉｎｓ．２００１Ｉｎｔｅｒｎａｔｉｏｎａｌｐ［］ｇｇ，ｇｅｒｅｎｃｅ－Ｃｏｎｆｏｎ．圧ＥＥ２００１１：１８２１．，，Ｄ－５Ｍｅｗ．ＳｅｂｅＣ．ｅｒａｂａａｎｄＲ．Ｊａｉｎ．Ｃｏｎｔｅｎｔｂａｓｅｄｍｕｌｔｉｍｅｄｉａｉｎｆｏｒｍａｔｉｏｎ．ＬＮ［］，，ｊ＾ｒｅｔｒｉｅｖａｔｔ－－ｔ－ｔＭＴｉｔｌ：ｓａｅｏｆｈｅａｒａｎｄｃｈａｌｌｅｎｇｅｓ．ＡＣｒａｎｓａｃｔｏｎ，ｏｎＭｕｌｉｍｅｄｉａａｏｎｓ－ＣｏｍｕｔｉｎＣｏｍｍｕｎｉｃａｔｉｏｎａｎｄ：Ａｌｉｃｔｉ．ＶｏＬ２Ｎｏ．ｌ２００６１１９．，ｐｇ，ｐｐ，［６］ＪｉａｎｇＬ，ＹｕＳＩ，ＭｅｎｇＤ，ｅｔａｌ．Ｂｒｉｄｇｉｎｇｔｈｅｕｌｔｉｍａｔｅｓｅｍａｎｔｉｃｇａｐ：ＡｓｅｍａｎｔｉｃｓｅａｒｃｈｅｎｉｎｅｆｏｒｉｎｔｅｒｎｅｔｖｉｄｅｏｓＣ／／Ｐｒｏｃｅｅｄｉｎｓｏｆｔｈｅ５ｔｈＡＣＭｏｎＩｎｔｅｒｎａｔｉｏｎａｌｇ［］ｇＣｏｎｆｅｒｅｎｃｅ２０１５－ｏｎＭｕｌｔｉｍｅｄｉａＲｅｔｒｉｅｖａｌ．ＡＣＭ：２７３４．，７ＦｕＹＬｉｎＺ．Ｓａｃｅｔｒａｖｅｌｉｎａｃｒｏｓｓｖｍ；Ａｕｔｏｍａｔｉｃａｌｌｂｒｉｄｉ打ｔｈｅｓｅｍａｎｔｉｃａ［］，ｐｇｙｇｇｇｐｉｎｖｉｒｔｕａｌｍａｃｈｉｎｅｉｎｔｒｏｓｐｅｃｔｉｏｎｖｉａｏｎｌｉｎｅｋｅｒｎｅｌｄａｔａｒｅｄｉｒｅｃｔｉｏｎＣ／／Ｓｅｃｕｒｉｔａｎｄ［］ｙＰｒｉｖａｃｙＳＰ２０－１２距ＥＥＳｍｐｏｓｉｕｍｏｎ．ＩＥＥＥ２０１２：５８６６００．（），ｙ，［８］ＭｉｃｈｉｅＤ，ＳｐｉｅｇｅｌｈａｌｔｅｒＤＪ，ＴａｙｌｏｒＣＣ．Ｍａｃｈｉｎｅｌｅａｒｎｉｎｇ，打ｅｕｒａｌａｎｄｓｔａｔｉｓｔｉｃａｌ－ｃｌａｓｓｉｆｉｃａｔｉｏｎ口．１９９４：３８１５７．］－ｕａｅｏｒｍａｅａｎｄｖｅｏｕｍａｃｈｎｅ９ＮａｒｗａｒｉａＭＬｉｎＷ．ＳＶＤｂａｓｅｄｌｉｔｍｔｒｉｃｆｉｉｄｓｉｎｉ［］，ｑｙｇｇｌｅａｍｉｎｇ［Ｊ］．Ｓｙｓｔｅｍｓ，Ｍａｎ，ａｎｄＣｙｂｅｒｎｅｔｉｃｓ，ＰａｒｔＢ：Ｃｙｂｅｒｎｅｔｉｃｓ，ＩＥＥＥｒａｎｓａｃｔｏｎｓ－Ｔｉｏｎ２０１２４２２：３４７３６４．，，（）１ｅｕｏｒｔ－ｖｋｓａｃｈｉｎｅｌｅａｒｎｉｎ０ＣｏｒｔｓＣｎｉｋＶ：Ｖａ．Ｓｅｃｔｏｒ凸ｅｔｗｏｒ．Ｍ１９９５２０３阴，（）｜＾］，ｐｐｐｇ，－２９７２７３．ＭｏｒａｅｓＲＶａ－ｔｔ［ｌＵｌｉａｔｉＪＦＮｅｔｏＷＰＧ０？Ｄｏｃｕｍｅｎｔｌｅｖｅｌｓｅｎｔｉｍｅｎｃｌａｓｓｉｆｉｃａｉｏｎ：Ａｎ，，ｅｍｉｒｉｃａｌｃｏｍａｒｉｓｏｎｂｅｔｗｅｅｎＳＶＭａｎｄＡＮＮ？ＥｘｅｒｔＳｓｔｅｍｓｗｉ化Ａｌｉｃａｔｉｏｎｓ，ｐｐ口］ｐｙｐｐ２０３４０２－１：６２１６３３（）．，４４ 式汉科技大学硕去学位论文［１２］ＳｕｂａｓｉＡ．ＣｌａｓｓｉｆｉｃａｔｉｏｎｏｆＥＭＧｓｉｇｎａｌｓｕｓｉｎ呂ＰＳＯｏｐｔｉｍｉｚｅｄＳＶＭｆｏｒｄｉａｇｎｏｓｉｓｏｆｎｅｕｒｏｍｕｓｃｕｌａｒｄｉｓｏｒｄｅｒｓ口］．Ｃｏｍｐｕｔｅｒｓｉ打ｂｉｏｌｏｇｙａｎｄｍｅｄｉｃｉｎｅ，２０１３，４３口）：－５％５７６．Ｎｅｚａｍａｂａｄ－［１３］ＳａｒａｆｒａｚｉＳ，ｉｐｏｕｒＨ．ＦａｃｉｎｇｔｈｅｃｌａｓｓｉｆｉｃａｔｉｏｎｏｆｂｉｎａｒｒｏｂｌｅｍｓｗｉｔｈａｙｐＧＳＡ－ＳＶＭｈｂｒｌｉｄｓｙｓｔ：ｅｍＪ．ＭａｔｈｅｍａｔｉｃａｌａｎｄＣｏｍｐＷｅｒＭｏｄｅｌｉｎ，２０１３，５７１：ｙ［］ｇ（）２７０－２７８．１４沈掌泉胜．何灵敏．ＳＶＭ在Ｊ中［］，孔繁，等多源遥感图像分类中的应用研究［，］０７４－国图象图形学报，２０，１２（４）：６８６５４．１５蒋芸李战怀．基于改进的ＳＶＭ分类器的医学图像分类新方法倡计算机［］，［町应用研究２００８２５１．，，（）１６ＦｒｅｕｎｄＹＳｃｈａｉｒｅ民ＥＳｃｈａｉｒｅ艮：Ｅｘｅｒｉｍｅｎｔｓｗｉｔｈａ打ｅｗｂｏｏｓｔｉｎ［］，ｐ．ｐｐｇａｌｇｏｒｉｔｈｉｎＣ／／Ｉ打：ＴｈｉｒｔｅｅｎｔｈＩｎｌ：ｅｍａｔｉｏｎａｌＣｏ打ｆｅｒｅｎｃｅｏｎＭＬ．１９９６．［］［１７］ＨａｕｓｓｌｅｒＤ．Ｐｒｏｂａｂｌｙａｐｐｒｏｘｉｍａｔｅｌｙｃｏｒｒｅｃｔｌｅａｍｉｎｇ［Ｍ］．ＵｎｉｖｅｒｓｉｔｙｏｆＣａｌｉｆｏｒｎｉａ，ＳａｎｔａＣｒｕｚＣｏｍｕｔｅｒＲｅｓｅａｒｃｈＬａｂｏｒａｔｏｒ１９９０．，，ｐｙ１８ＦｒｅｕｎｄＹＳｃｈａｐｉｒｅＲＥ．Ｅｘｅｒｉｍｅ打ｔｓｗｉｔｈａｎｅｗｂｏｏｓｔｉｎａｌｏｒｉｔｈｍＣ／／ＩＣＭＬ．［］，ｐ呂ｇ［］－１９９６９６；１４８１５６．，［１９］Ｒｕｍｅ化ａｒｔＤＥ，ＨｉｎｔｏｎＧＥ，Ｗｉｌｌｉａｍｓ民Ｊ．Ｌｅａｒｎｉｎｇｉｎｌ：ｅｍａｌｒｅｐｒｅｓｅｎｔａｔｉｏｎｓｂｙｅｒｒｏｒｒｏａａｔｉｏｎ民．ＣＡＬＩＦＯ民ＮＩＡＵＮＩＶＳＡＮＤ祀ＧＯＬＡＪＯＬＬＡＩＮＳＴＦＯＲｐｐｇ［］ＣＯＧＮ打ＩＶＥＳＣＩＥＮＣＥ１９８５．，［２０］Ｃｉｇｉ之ｏｇｌｕＨ１Ｃ，Ｋｉ§ｉＯ．Ｆｌｏｗｐｒｅｄｉｃｔｉｏ打ｂｙｔｈｒｅｅｂａｃｋｐｒｏｐａｇａｔｉｏｎｔｅｃｈ打ｉｑｕｅｓｕｓｉｎｇｋ－ｆｂｉｄａｒｔｉｔｉｏｎｉｎｇｏｆｎｅｕｒａｌｎｅｔｗｏｒｋＩｒａｉｎｉｎｇｄａｔａＪ．Ｈｄｒｏｌｏ民ｅｓｅａｒｃｈ２００５ｐ［］ｙｇｙ，，４９－３６１．：６４（）ｌＨｉｎＵ）ｎＧＥＳａｌａｋｈｕｔｄｉｎｏｖ民民．民ｅｄｕｃｉｎ化ｅｄｉｍｅｎｓｉｏｎａｌｉｔｏｆｄａｔａｗｋｈｎｅｕｒａｌ口］，ｇｙ－ｎｅｔｗｏｒｋｓＪ．Ｓｃｉｅｎｃｅ２００６３．１３５７８６；５０４５０７，，）［］（２２ＤＬＹｕＤ．ＤｅｅｌｅａｒｎｉｎＭｅｈｏｄｉＪ．Ｆｉｅｎ：ｔｓａ打ｄａｌｉｃａｔｏｎｓｏｕｎｄａｔｏ打ｓａｎｄ下ｒｅｎｄｓ［］ｇ，ｐｇｐｐ［］－－ｉ２０１４４７３８ｉｎＳｎａｌＰｒｏｃｅｓｓｉｎ７：１９．ｇｇ，，口）７［２３］ＤｏｎＧ，ＬｏＧＧ，Ｈｅ１Ｃ，ｅｔａｌ．Ｌｅａｒｎｉｎａｄｅｅｃｏｎｖｏｌｕｔｉｏｎａｌ打ｅｔｗｏｒｋｆｏｒｉｍａｅｇｙｇｐｇ－Ｖｉ—ＩｎｓｕｅｒｒｅｓｏｌｕｔｉｏｎＭ／／ＣｏｍｕｔｅｒｓＥＣＣＶ２０１４．Ｓｉ１ｔｐｉｏｎｒｎｅｒ；ｅｍａｉｏｎａｌ［］ｐｐｇＰｕｂ－ｌｉｓｈｉｎｇ２０１４：１８４１９９．，［２４］Ｓａｌａｋｈｕｔｄｉｎｏｖ艮，Ｍｎ化Ａ，Ｈｉｎ１：ｏｎＧ．民ｅｓｔｒｉｄｅｄＢｏｌｔｚｍａｎｎｍａｃｈｉｎｅｓｆｏｒｃｏｌｌａｂｏｒａｔｉｖｅ巧ｌｔｅｒｉｎｇＣ／／Ｐｒｏｃｅｅｄｉｎｓｏｆｔｈｅ２４ｔｈｉｎ化ｍａｔｉｏｎａｌｃｏｎｆｅｒｅｎｃｅｏｎ［］ｇＭＡ１－７９８ａｃｈｉｎｅ．ｌｅａｒｎｉｎ．ＣＭ２００７：７９ｇ，２５Ｖｎｃｅｎａｒｏｃｈｅｅａｔａ．ｔａｕｃｏｄｅｒａｒｎｉｔＰＬｌｌＨＬｏｉｅＩｅｌＳａｃｋｅｄｄｅ打ｏｉｓｉ打ｔｏｅｎｓ：Ｌｅｉｎ［］，，，ｊｇｇ４５ 式汉科技大学硕去学位论文ｒｔｌｄｕｓｅｆｕｌｒｅｒｅｓｅｎｔａｔｉｏｎｓｉｎａｄｅｅｎｅｔｗｏｋｗｉｈａｌｏｃａｅｎｏｉｓｉｎｃｒｉｔｅｒｉｏｎＪ，Ｔｈｅｐｐｇ［］ｕｒｎａ－ＪｏｌｏｆＭａｃｈｉｎｅＬｅａｒｎｉｎＲｅｓｅａｒｃｈ２０１０１１：３３７１３４０８．ｇ，，［２６］Ｓａｌａｋｈｕｔｄｉｎｏｖ民，ＨｉｎｔｏｎＧＥ．Ｄｅｅｐｂｏｌｔｚｍａｎｎｍａｃｈｉｎｅｓ［Ｃ］＾Ｉｎｔｅｍａｔｉｏｎａｌｆｅｒ－ｃｏｎｅｎｃｅｏｎａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅ打ｃｅａｎｄ巧ａｔｉｓｔｉｃｓ．２００９：４４８４５５．［２７］ＫｒｉｚｈｅｖｓｋｙＡ，ＳｕｔｓｋｅｖｅｒＩ，ＨｉｎｔｏｎＧＥ．ＩｍａｇｅｎｅｔｃｌａｓｓｉｆｉｃａｔｉｏｎｗｉｔｈｄｅｅｐｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓＣ／／Ａｄｖａｎｃｅｓｉｎｎｅｕｒａｌｉｎｆｏｒｍａｔｉｏｎｒｏｃｅ巧ｉｎ［］ｐｇｓｓｍ－ｙｔｅｓ．２０１２：１０９７１１０５．２８＾［］ＰｏｕｌｔｎｅＣＣｈｏｉｒａＳＣｕｎＹＬ．Ｅｆｉｃｉｅ打ｔｌｅａｍｉ打ｏｆｓａｒｓｅｒｅｉｅｓｅ打ｔａｔｉｏｎｓｗｉ化ａｎｙ，ｐ，ｇｐｐｅｎｅｒ－ｂｓｅｄｇｙａｍｏｄｅｌ［Ｃ］／／Ａｄｖａｎｃｅｓｉｎｎｅｕｒａｌｉｎｆｏｒｍａｔｉｏｎｒｏｃｅｓｓｉｎｓｙｓｔｅｍｓ．２００６：ｐｇ１－１３７１１４４．２９ＬｅｅＨＧｒｏ巧ｅ民Ｒａｎａｎａｔｈ民ｅｔａｌ．Ｃｏ打ｖｏｌｕｔｉｏｎａｌｄｅｅｂｅｌｉｅｆ打ｅｔｗｏｒｋｓｆｏｒ［］，，ｇ，ｐｓｃａｌａｂｌｅｕｎｓｕｐｅｒｖｉ巧ｄｌｅａｒｎｉｎｏｆｈｉｅｒａｒｃｈｉｃａｌｒｅｐｒｅｓｅｎｔａｔｉｏｎｓＣ／／Ｐｒｏｃｅｅｄｉｎｓｏｆｇ［］ｇｔｈｅ２６ｔｈＡｎｎｕａｌＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＭａｃｈｉｎｅＬｅａｒｎｉｎｇ．ＡＣＭ２００９：，６０９－６１６．３０王勇赵检辉登义等？基于稀疏自编码深度神经网络的林火图像分类阴．计［］，，章－２０１４２４．算机工程与应用：１７３１７７，（）３－技ａｔｕｒｅｓｕｓｉｎｒｅｓｃａ１ＬｅＱＶ．Ｂｕｉｌｄｉｎｈｉｌｅｖｅｌｌａｌｅｕｎｓｕｅｒｖｉｓｅｄ［］ｇｇｈｇｇｐｌｅａｍｉｎｇ／／ＡｃｏｕｓｔｉｃｓＳｅｅ地ａｎｄＳｉｎａｌＰｒｏｃｅｓｓｉｎＩＣＡ％Ｐ２０１３圧ＥＥ［Ｃ］，ｐｇｇ（），ｅｒｎａｎ－ＩｎｔｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏ．ＩＥＥＥ２０１３：８５９５８５９８．，［３２］ＤｅａｎＣｏｒｒａｄｏＧＭｏｎｇａＲ，ｅｔａｌ．Ｌａｒｇｅｓｃａｌｅｄｉｓｔｒｉｂｕｔｅｄｄｅｅｐ打ｅｔｗｏｒｋｓ［Ｃ］／／ＡｄｖａｎｃｅｓｉｎＮｅｕｒａｌＩｎｆｏｒｍａｔｉｏｎＰｒｏｃ的ｓｉｎｇＳｙｓ化ｍｓ．２０１２：２２－１３１２３１．［３３］ＫｒｉｚｌｉｅｖｓｋｙＡ，ＳｕｔｓｋｅｖｅｒＩ，Ｈｉ打ｔｏ打ＧＥ．Ｉｍａｇｅｎｅｔｃｌａｓｓｉｆｉｃａｔｉｏｎｗｉｔｈｄｅｅｐｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｃ／／Ａｄｖａｎｃｅｓｉｎ打ｅｕｒａｌｉｎｆｏｒｍａｔｉｏｎｒｏｃｅｓｓｉｎ］ｐｇｓ－ｓｙｓｔｅｍ．２０１２：１０９７１１０５．口４ＳｚｅｅｄｙＣＬｉｕＷＪｉ汪Ｙｅｔａｌ．ＧｏｉｎｄｅｅｅｒｗｉｔｈｃｏｎｖｏｌｕｔｉｏｎｓＣ／／Ｐｒｏｃｅｅｄｉｎｓｏｆ］ｇ，，，ｇｐ［］ｇｔｅｒｅｎｃｅｍｔ－ｈｅＩＥＥＥＣｏｎｆｏｎＣｏｕｅｒＶｉｓｉｏｎａｎｄＰａｔｔｅｒｎＲｅｃｏｇｎｉｔｉｏｎ．２０１５：１９．ｐ［３引ＭｃＣｕｌｌｏｃｈＷ８，ＰｉｔｓＷ．Ａｌｏｇｉｃａｌｃａｌｃｕｌｕｓｏｆｔｉｈｉｅｉｄｅａｓｉｍｍａ打ｅｎｔｉｎｎｅｒｖｏｕｓｎ－ａｃｔｉｖｉｔＪ，Ｔｈｅｂｕｌｌｅｔｉｏｆｍａｔｈｅｍａｔｉｃａｌｂｉｏｈｙｓｉｃｓ１９４３５４：１１５１３３．ｙ［］ｐ，，（）３６ＲｏｓｅｎｂｌａｔｔＲＰｒｉｎｃｉｌｅｓｏｆｎｅｉｉｒｏｄｎａｍｉｃｓ．ｅｒｃｅｔｒｏｎｓａｎｄｔｈｅｔｈｅｏｒｏｆｂｒａｉｎ［］ｐｙｐｐｙｍｅｃｈａｎｉｓｍｓＲ．ＣＯＲＮＥＬＬＡＥＲＯＮＡＵＴＩＣＡＬＬＡＢＩＮＣＢＵＦＦＡＬＯＮＹ１９６１．［］，３７ＳｈｅｈｅｒｄＧＭ．ＦｏｘｍｄａｔｉｏｎｓｏｆｔｈｅｎｅｕｒｏｎｄｏｃｔｒｉｎｅＭ．ＮｅｗＹｏｒｋ：Ｏｘｆｏｒｄ［］ｐ［］Ｕｎｉｖｅｒｓｉｔｙｒｅｓｓ１９９１．Ｐ，４６ 或汉科技大学硕去学位论文［３８杨国军，崔平远，李靖琳．遗传算法在神经网络控制中的应用与实现系统仿］［叮２００－真学报１１３５：５６７５７０．，，（）［３９］ＤｏｎａｈｕｅＪ，ＪｉａＹ，Ｖｉｎｙａｌｓ０，ｅｔａｌ．Ｄｅｃａｆ：ＡｄｅｅｐＣＯ打ｖｏｌｕｔｉｏｎａｌａｃｔｉｖａｔｉｏｎｆｅａｔｕｒｅｆｏｒｅｎｅｒｉｃｖｉｓｕａｌｒｅｃｏ打ｉｔｉｏ打Ｊ３１０１．．ａｒＸｉｖｒｅｒｉ打ｔａｒ又ｉｖ：１．５３１２０１３ｇ，ｇ［］ｐｐ［４０］ＤｅｎｇＬ，ＹｕＤ．Ｄｅｅｐｌｅａｍｉ打ｇ：Ｍｅｔｈｏｄｓａ打过ａｐｐｌｉｃａｔｉｏ打ｓ［Ｊ］．Ｆｏｕｎｄａｔｉｏ打ｓａ打ｄＴｒｅ打ｄｓｎａＰｒｏｓｓ－４－ｉｎＳｉｌｃｅｉｎ２０１４７：１９７３８７．ｇ，ｇ，口）Ｍｅ－４１ＣｉｒｅｓａｎＤ，ｉｅｒＵＳｃｈｍｉｄｈｕｂｅｒＪ．Ｍｕｌｔｉｃｏｌｕｍｎｄｅｅｎｅｕｒａｌｎｅｔｗｏｒｋｓｆｏｒｉｍａｅ［］，ｐｇｃｌａｓｓｉｆｉｃａｔｉｏｎＣ／／ＣｏｍｕｔｅｒＶｉｓｉｏ打ａｎｄＰａｔｔｅｒｎ氏ｅｃｏｎｉｔｉｏ打ＣＶＰ民２０１２ＥＥＥＥ［］ｐｇ（），Ｃｏｎｆｅｒｅｎｃｅ２０－３６４９ｏｎ．圧ＥＥ１２：３６４２．，４２ＤＺｈＺＭＥ－ｅ打Ｊａ打ａｒｃｈｉｅｔａｌ．Ｓａｒｓｅａｕｔｏｅ打ｃｏｄｅｒｂａｓｅｄｆｅａｔｕｒｅｔｒａ打ｓｆｅｒｌｅａｒｎｉｎ［］，，，ｇｇｐｇｆｏｒｓｐｅｅｃｈｅｍｏｔｉｏｎｒｅｃｏｇｎｉｔｉｏ打［Ｃ］／／ＡｆｅｃｔｉｖｅＣｏｍｐｕｔｉｎｇａｎｄＩｎｔｅｌｌｉｇｅ打ｔＩｎｆｒａｃｔｉｏｎＡＣ－ＩＩ２０１３ｕｍａｎｅＡｓｓｏｃｉａｔｉｏ打ｏｎｆｅｒｅｎｃｅｏｎＥＥＥ２０１３：５１１１，ＨｉＣ．Ｉ５６．（），一４３杨涛张森林，．种基于ＨＳＶ颜色空间和Ｓ圧Ｔ特征的车牌提取算法Ｊ计［］，［］－２０１２８１０．算机应用研究：３９３９，１，）３９３７（４４王宇石，高文．用基于视觉单词上下文的核函数对图像分类［Ｊ，中国图象图形［］］２０１０１５４７－１学报：６０６６．，，（）４７ 式汉科技大学硕去学位论文附录１攻读硕±学位期间发表的论义１ＺｈａｎＨＷｕＰ，ＢｅｃｋＡ，ｅｔａｌ．Ａｄａｔｉｖｅｉｎｃｒｅｍｅｎｔａｌｌｅａｒｎｉｎｏｆｉｍａｅｓｅｍａｎｔｉｃｓ［］ｇ，ｐｇｇｕ－ｗｉｔｈａｌｉｃａｔｉｏｎ化ｓｏｃｉａｌｒｏｂｏｔ口］．Ｎｅｕｒｏｃｏｍｔｉｎ２０１６１７３：９３１０１？ｐｐｐｇ，，Ｐ］Ｚｈａｎｇ打，ＷｕＰ．ＩｍａｇｅＱａｓｓｉｆｉｃａｔｉｏ打ｗｉｔｈＬｏｃａｌＬｉ打ｅａｒＤｅｃｏｄｉｎｇａｎｄＧｌｏｂａｌ－ｆｅａｔｕｒｅ—ＭｕｌｔｉＦｕｓｉｏｎ［Ｍ］／／ＡｄｖａｎｃｅｓｉｎＭｕｌｔｉｍｅ出ａＩｎｆｏｒｍａｔｉｏｎＦｒｏｃｅｓｓｉｎｇＰＣＭｌｌｉｎ－２０１５；．ＳｐｒｉｎｇｅｒＩｎｔｅｒｎａｔｉｏｎａＰｕｂｓｈｉｇ２０１５４３７４４６．，４８ 式汉科技大学硕壬学位论文附录２攻读硕±学位期间参加的科研项目Ｕ］国家自然科学基金青年项目（Ｎｏ．６１００３１２７）．间国家自然科学基金面上项目（Ｎｏ．６１３７３１０９）．４９