深度学习进展及其在图像处理领域的应用

《深度学习进展及其在图像处理领域的应用》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、ZTETECHNOLOGYJOURNAL专题刘涵等深度学习进展及其在图像处理领域的应用DOI：10.3969/j.issn.1009-6868.2017.04.007网络出版地址：http://kns.cnki.net/kcms/detail/34.1228.TN.20170712.1627.002.html深度学习进展及其在图像处理领域的应用AdvancesinDeepLearningandItsApplicationsinImageProcessing中图分类号：TN929.5文献标志码：A文章编号：1009-6868(2017)04-00

2、36-0051刘涵/LIUHan贺霖/HELin2摘要：深度学习一般通过3种方式进行：有监督学习、无监督学习和混合深度学李军/LIJun1习。以“无监督或生成式特征学习”以及“有监督特征学习和分类”为例，讨论了深度学习及其在图像处理等领域的进展及未来可能的研究方向。认为深度学习打破（1.中山大学，广东广州510275；2.华南理工大学，广东广州510640）了传统机器学习和信号处理技术普遍基于浅层结构的局限。得益于相关非凸优化(1.SunYat-SenUniversity,Guangzhou等问题的逐步解决，深度学习已经在图像处理等领域取得了一

3、些突破性的进展。510275,China;2.SouthChinaUniversityofTechnology,关键词：深度学习；图像处理；分层结构Guangzhou510640,China)Abstract:Deeplearningmethodsareusuallydividedintothreedifferentcategories,includingsupervisedlearning,unsupervisedlearningandmixed-structuredlearning.Inthispaper,"unsupervisedorge

4、nerativefeaturelearning"and"supervisedfeaturelearningandclassification"aretakenforexamplestoillustratetheresearchadvancesindeeplearning,andseveralpromisingresearchlinesinimageprocessing.Deeplearningtechniquehasovercomesomelimitationsofshallowstructurescommonlyusedintradition

5、almachinelearningandsignalprocessing.Duetotheprogressin过去10年左右的时间里，深度在someaspects,suchasrelevantnonconvexoptimization,deeplearninghasachieved学习对信息技术的许多方面都remarkabledevelopment.产生了重要影响。诸多关于深度学Keywords:deeplearning;imageprocessing;hierarchicalstructure习的描述普遍存在两个重要的共同点：包含多层或多阶非

6、线性信息处理的模型；使用了连续的更高、更抽象层中的监督或无监督学习特征表示的方法。深度学习是以神经网络为基础，包含人工智能、图模型、最优化混合模型（GMM）、线性或非线性动表示。如果能实现有效和高效的深等技术在内的交叉领域。它之所以力系统、条件随机场（CRF）、最大熵度学习算法，那么对于各种自然信号如此受关注，主要源于3个方面：芯模型（MaxEnt）、支持向量机（SVM）、的处理技术而言，其性能会得到很大片硬件处理性能的巨大提升，为深度逻辑回归（LR）、核回归以及多层感提升。网络的复杂计算提供了基础；用于训知器（MLP）等。这些结构一般包含深度

7、学习的概念一般被认为来练的数据呈爆炸性增长，为复杂网络最多一到两层的非线性特征变换。源于对人工神经网络的研究。前馈的学习提供了可能；机器学习和信息已有研究表明：浅层结构在解决简单神经网络或具有多隐层的多层感知处理等方面研究取得了很大进展。的或者约束较多的问题上效果明显，器是深度神经网络（DNN）的典型模但是由于其建模和表示能力有限，在型。反向传播（BP）算法是解决其学1深度学习的发展对实际应用中一些较为复杂自然信习问题的广泛运用的典型算法。遗以前，绝大多数机器学习和信号号（比如人类语音、自然声音和语言、憾的是，仅仅使用BP算法在实际学处理技术都

8、是基于浅层结构，如高斯自然图像和视觉景色）进行处理时会习隐层数目较多的网络时往往效果遇到一些困难。人类的听觉和视觉不是很好[1]。在优化目标为非凸函数