大数据与深度学习综述

《大数据与深度学习综述》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、第１１卷第６期智能系统学报Ｖｏｌ．１１№．６２０１６年１２月ＣＡＡＩＴｒａｎｓａｃｔｉｏｎｓｏｎＩｎｔｅｌｌｉｇｅｎｔＳｙｓｔｅｍｓＤｅｃ．２０１６ＤＯＩ：１０．１１９９２／ｔｉｓ．２０１６１１０２１网络出版地址：ｈｔｔｐ：／／ｗｗｗ．ｃｎｋｉ．ｎｅｔ／ｋｃｍｓ／ｄｅｔａｉｌ／２３．１５３８．ＴＰ．２０１７０１１６．１５０３．００４．ｈｔｍｌ大数据与深度学习综述马世龙，乌尼日其其格，李小平（北京航空航天大学软件开发环境国家重点实验室，北京１００１９１）摘要：大数据时代改变了基于数理统计的传统数据科学，促进了数据分析方法的创新，从机器学习和多层神经网络演化而来的深度学习是当前大数据处理与

2、分析的研究前沿。从机器学习到深度学习，经历了早期的符号归纳机器学习、统计机器学习、神经网络和２０世纪末开始的数据挖掘等几十年的研究和实践，发现深度学习可以挖掘大数据的潜在价值。本文给出大数据和深度学习的综述，特别是，给出了各种深层结构及其学习算法之间关联的图谱，给出了深度学习在若干领域应用的知名案例。最后，展望了大数据上深度学习的发展与挑战。关键词：大数据；机器学习；深层结构；深度学习；神经网络；人工智能；学习算法；派生树中图分类号：ＴＰ３１１文献标志码：Ａ文章编号：１６７３－４７８５（２０１６）０６－０７２８－１５中文引用格式：马世龙，乌尼日其其格，李小平．大数据与深度学习综述［Ｊ］

3、．智能系统学报，２０１６，１１（６）：７２８－７４２．英文引用格式：ＭＡＳｈｉｌｏｎｇ，ＷＵＮＩＲＩＱｉｑｉｇｅ，ＬＩＸｉａｏｐｉｎｇ．Ｄｅｅｐｌｅａｒｎｉｎｇｗｉｔｈｂｉｇｄａｔａ：ｓｔａｔｅｏｆｔｈｅａｒｔａｎｄｄｅｖｅｌｏｐｍｅｎｔ［Ｊ］．ＣＡＡＩＴｒａｎｓａｃｔｉｏｎｓｏｎＩｎｔｅｌｌｉｇｅｎｔＳｙｓｔｅｍｓ，２０１６，１１（６）：７２８－７４２．Ｄｅｅｐｌｅａｒｎｉｎｇｗｉｔｈｂｉｇｄａｔａ：ｓｔａｔｅｏｆｔｈｅａｒｔａｎｄｄｅｖｅｌｏｐｍｅｎｔＭＡＳｈｉｌｏｎｇ，ＷＵＮＩＲＩＱｉｑｉｇｅ，ＬＩＸｉａｏｐｉｎｇ（ＳｔａｔｅＫｅｙＬａｂｏｒａｔｏｒｙｏｆＳｏｆｔｗａｒｅＤｅｖｅ

4、ｌｏｐｍｅｎｔＥｎｖｉｒｏｎｍｅｎｔ，ＢｅｉｈａｎｇＵｎｉｖｅｒｓｉｔｙ，Ｂｅｉｊｉｎｇ１００１９１，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ：Ａｓｔｈｅｅｒａｏｆｔｈｅｂｉｇｄａｔａａｒｒｉｖｅｓ，ｉｔｉｓａｃｃｏｍｐａｎｉｅｄｂｙｐｒｏｆｏｕｎｄｃｈａｎｇｅｓｔｏｔｒａｄｉｔｉｏｎａｌｄａｔａｓｃｉｅｎｃｅｂａｓｅｄｏｎｓｔａｔｉｓｔｉｃｓ．Ｂｉｇｄａｔａａｌｓｏｐｕｓｈｅｓｉｎｎｏｖａｔｉｏｎｓｉｎｔｈｅｍｅｔｈｏｄｓｏｆｄａｔａａｎａｌｙｓｉｓ．Ｄｅｅｐｌｅａｒｎｉｎｇｔｈａｔｅｖｏｌｖｅｓｆｒｏｍｍａ⁃ｃｈｉｎｅｌｅａｒｎｉｎｇａｎｄｍｕｌｔｉｌａｙｅｒｎｅｕｒａｌｎｅｔｗｏｒｋｓａｒｅ

5、ｃｕｒｒｅｎｔｌｙｅｘｔｒｅｍｅｌｙａｃｔｉｖｅｒｅｓｅａｒｃｈａｒｅａｓ．Ｆｒｏｍｔｈｅｓｙｍｂｏｌｉｃｍａ⁃ｃｈｉｎｅｌｅａｒｎｉｎｇａｎｄｓｔａｔｉｓｔｉｃａｌｍａｃｈｉｎｅｌｅａｒｎｉｎｇｔｏｔｈｅａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗｏｒｋ，ｆｏｌｌｏｗｅｄｂｙｄａｔａｍｉｎｉｎｇｉｎｔｈｅ９０ｓ，ｔｈｉｓｈａｓｂｕｉｌｔａｓｏｌｉｄｆｏｕｎｄａｔｉｏｎｆｏｒｄｅｅｐｌｅａｒｎｉｎｇ（ＤＬ）ｔｈａｔｍａｋｅｓｉｔａｎｏｔａｂｌｅｔｏｏｌｆｏｒｄｉｓｃｏｖｅｒｉｎｇｔｈｅｐｏｔｅｎｔｉａｌｖａｌ⁃ｕｅｂｅｈｉｎｄｂｉｇｄａｔａ．Ｔｈｉｓｓｕｒｖｅｙｃｏｍｐａｃｔｌｙｓｕｍｍａ

6、ｒｉｚｅｄｂｉｇｄａｔａａｎｄＤＬ，ｐｒｏｐｏｓｅｄａｇｅｎｅｒａｔｉｖｅｒｅｌａｔｉｏｎｓｈｉｐｔｒｅｅｏｆｔｈｅｍａｊｏｒｄｅｅｐｎｅｔｗｏｒｋｓａｎｄｔｈｅａｌｇｏｒｉｔｈｍｓ，ｉｌｌｕｓｔｒａｔｅｄａｂｒｏａｄａｒｅａｏｆａｐｐｌｉｃａｔｉｏｎｓｂａｓｅｄｏｎＤＬ，ａｎｄｈｉｇｈｌｉｇｈｔｅｄｔｈｅｃｈａｌｌｅｎｇｅｓｔｏＤＬｗｉｔｈｂｉｇｄａｔａ，ａｓｗｅｌｌａｓｉｄｅｎｔｉｆｉｅｄｆｕｔｕｒｅｔｒｅｎｄｓ．Ｋｅｙｗｏｒｄｓ：ｂｉｇｄａｔａ；ｍａｃｈｉｎｅｌｅａｒｎｉｎｇ；ｄｅｅｐｎｅｔｗｏｒｋ；ｄｅｅｐｌｅａｒｎｉｎｇ；ｎｅｕｒａｌｎｅｔｗｏｒｋ；ａｒｔｉｆｉｃｉａｌｉｎｔ

7、ｅｌｌｉｇｅｎｃｅ；ｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍ；ｄｅｒｉｖａｔｉｏｎｔｒｅｅ大数据不仅为企业带来丰厚的利润，也开启了理统计的传统数据科学，促进了新的数据分析方法［１］科学研究的第四范式，即数据密集型科学发现。的创新，从机器学习和多层神经网络演化而来的深学术界和产业界对大数据的认识正逐步清晰化并形度学习是当前大数据处理和分析方法的研究前沿。成共识。大数据时代同时也改变了基于概率论和数１大数据及其挑战收稿日期：２０１６－１１－１５．大数据（