机器学习的发展历程及启示-中国计算机学会

《机器学习的发展历程及启示-中国计算机学会》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、第 12 卷第11 期2016 年 11 月机器学习的发展历程及启示张志华关键词：机器学习发展历程北京大学近年来，人工智能的强势崛起，特别是刚刚过阶段是智能与认知，即实现智能的目标。数据挖掘去的AlphaGo和韩国九段棋手李世石的人机大战，和机器学习本质上是一样的，其区别是数据挖掘更让我们领略到了人工智能技术的巨大潜力。数据是接近于数据端，而机器学习则更接近于智能端。载体，智能是目标，而机器学习是从数据通往智能的技术途径。因此，机器学习是数据科学的核心，统计与计算是现代人工智能的本质。通俗地说，机器学习就是从数据中挖掘出有价今年刚被选为美国科学院院

2、士的卡内基梅隆大值的信息。数据本身是无意识的，它不能自动呈现学统计系教授沃塞曼(LarryWasserman)写了一本名出有用的信息。怎样才能找出有价值的东西呢？第字非常霸道的书：《统计学完全教程》(AllofStatis-一步要给数据一个抽象的表示；接着基于表示进行tics)。这本书的引言部分有一个关于统计学与机器学建模；然后估计模型的参数，也就是计算；为了应习非常有趣的描述。沃塞曼认为，原来统计是在统对大规模的数据所带来的问题，我们还需要设计一计系，计算机是在计算机系，这两者是不相来往的，些高效的实现手段，包括硬件层面和算法层面。统而且互相都不

3、认同对方的价值。计算机学家认为那计是建模的主要工具和途径，而模型求解大多被定些统计理论没有用，不解决问题，而统计学家则认义为一个优化问题，特别是，频率派方法其实就是为计算机学家只是在“重新发明轮子”，没有新意。一个优化问题。而贝叶斯模型的计算则往往牵涉蒙然而，他认为现在情况改变了，统计学家认识到计特卡罗(MonteCarlo)随机抽样方法。因此，机器学算机学家正在做出的贡献，而计算机学家也认识到习是计算机科学和统计学的交叉学科。统计的理论和方法论的普遍性意义。所以，沃塞曼借鉴计算机视觉理论创始人马尔(Marr)的关于写了这本书，可以说这是一本为统计

4、学者写的计算计算机视觉的三级论定义，我把机器学习也分为三机领域的书，为计算机学者写的统计领域的书。个层次：初级、中级和高级。初级阶段是数据获取现在大家达成了一个共识：如果你在用一个机以及特征的提取。中级阶段是数据处理与分析，它器学习方法，而不懂其基础原理，这是一件非常可又包含三个方面：首先是应用问题导向，简单地说，怕的事情。正是由于这个原因，目前学术界对深度它主要应用已有的模型和方法解决一些实际问题，学习还是心存疑虑的。尽管深度学习已经在实际应我们可以理解为数据挖掘；其次，根据应用问题的用中展示出其强大的能力，但其中的原理目前大家需要，提出和发展模

5、型、方法和算法以及研究支撑还不是太清楚。它们的数学原理或理论基础等，这是机器学习学科计算机学家通常具有强大的计算能力和解决的核心内容；第三，通过推理达到某种智能。高级问题的直觉，而统计学家擅长于理论分析和问题建55专栏第 12 卷第11 期2016 年 11 月模，因此，两者具有很好的互补性。Boosting、支功勋。持向量机(SVM)、集成学习和稀疏学习是机器学习斯坦福大学统计系的一个主要方向就是统计学界也是统计界在近十年或者是近二十年来最为活跃习，比如《统计学习基础》(Elementsofstatistical的方向，这些成果是统计界和计算机科

6、学界共同努learning)一书就是统计系几位著名教授撰写的。斯力成就的。例如，数学家瓦普尼克(Vapnik)等人早坦福大学计算机科学系的人工智能方向一直在世界在20世纪60年代就提出了支持向量机的理论，但占主导地位，特别是在不确定推理、概率图模型、直到计算机界于90年代末发明了非常有效的求解概率机器人等领域成就斐然。他们的网络公开课算法，并随着后续大量优秀实现代码的开源，支持“机器学习”、“概率图模型”以及“人工智能”等向量机现在成为了分类算法的一个基准模型。再让全世界学者受益。有意思的是，斯坦福大学和伯比如，核主成分分析(KernelPrinc

7、ipalComponent克利分校具有令人羡慕的合作竞争关系。一年一度Analysis,KPCA)是由计算机学家提出的一个非线性的联合统计学日是两校统计系的交流平台。伯克利降维方法，其实它等价于经典多维尺度分析(Multi-分校教授布莱曼和斯坦福大学教授弗莱德曼(JeromeDimensionalScaling,MDS)。而后者在统计界是很早Friedman)合作建立了许多重要统计学习模型。此外，就存在的，但如果没有计算机界重新发现，有些好两校教授罗素(StuartRussell)和诺维格(PeterNor-的东西可能就被埋没了。vig)合作的《人

8、工智能：一种现代的方法》(Artificial世界上公认最好的两个统计系来自加州大学伯Intelligence:AModer