欢迎来到天天文库
浏览记录
ID:27459665
大小:281.50 KB
页数:7页
时间:2018-12-04
《AI 的力量会被大公司独占还是会被平均分配?.doc》由会员上传分享,免费在线阅读,更多相关内容在应用文档-天天文库。
1、AI的力量会被大公司独占还是会被平均分配? 上周,Facebook宣布其打造了世界上最准确的目标识别系统,该系统使用了35亿张图像(全来自于Instagram)。在AI界有这么一句老话:越大越好。要训练最快的算法,必须使用最大的数据集和性能最强的处理器。这种传统观念帮助科技巨头吸引了不少人才和投资,但是斯坦福大学最近组织的一项AI竞赛表明这种观念并不一定正确。在人工智能领域,原来才智仍旧可以打败性能。 证据来自于DAWNBench挑战赛,去年11月斯坦福大学的研究员宣布正式启动这项比赛,上周他们宣布了比赛的获胜者。我们可
2、以将DAWNBench看作是AI工程师的田径运动会,不过比赛项目不是跨栏和跳远,而是诸如目标识别和阅读理解这样的任务。来自于大学、政府部门和业内的团队和个人相互角逐,比赛项目为谁设计的算法最优秀,斯坦福大学的研究员作为裁判。每个参赛的算法都必须满足基本的准确性标准(例如:在给定数据集中识别出93%的狗),评判标准包括训练算法的时间和训练成本。 斯坦福大学研究员MateiZaharia和CodyColeman解释称,这些评判标准可以反映AI领域的实际需求。Zaharia告诉科技媒体《TheVerge》,“如果你的团队较小,通过衡
3、量成本,你就可以知道是否需要用Google级别的基础设施来与别人竞争。通过测定训练速度,你就可以知道部署某一AI解决方案需要多长时间。也就是说,这些衡量标准可以帮助我们判断小团队是否能与科技巨头一较高下”。 比赛的结果并不能给出直接的答案,但是却告诉我们:要在AI领域取得成功,计算能力并不是唯一要义,巧妙的算法设计至少一样重要。虽然Google和Intel这样的大型科技公司在很多任务中成绩突出,但是小型团队(甚至个人)通过使用鲜为人知的独特方法也可以名列前茅。 拿DAWNBench的目标识别挑战赛来说,这项比赛要求参赛团队训
4、练出可以识别图片数据集CIFAR-10中的目标的算法。CIFAR-10是一个相对较旧的数据集,但是它反映了企业在现实中可能要处理的各种数据。CIFAR-10包含6万张尺寸为32×32的小图像,每张图像都归类在一个类别下,例如“狗”、“青蛙”、“船”或“卡车”,共有10个类别。 ▌“用基础的资源实现世界级的结果” 在DAWNBench的榜单中,排名前三的获胜者都是Fast.AI的研究员,他们的算法训练时间最短而且训练成本最低。Fast.AI并不是大型研究实验室,而是一个创造学习资源的非盈利组织,致力于让所有人都能学
5、习深度学习。Fast.AI.联合创始人、企业家兼数据科学家JeremyHoward表示,他的学生的成功靠的是创新思考,这表示任何人都能“用基础的资源实现世界级的结果”。 Howard解释称,为了设计出能解决CIFAR识别任务的算法,Fast.AI团队选择了一种相对不知名的训练方法——超收敛(superconvergence)。创建这种方法的不是资金雄厚的科技公司,而是美国海军研究实验室(NavalResearchLaboratory)研究员LeslieSmith。 超级收敛的基本原理是,缓慢增加用于训练算法的数据流。我们可以
6、这么理解这种方法:如果你要教某人识别树木,你不会一开始就给他们一片森林。开始的时候你会教他们每一种树及其树叶的模样,慢慢地将信息灌输给他们。这样解释有点过分简化,但是Fast.AI使用超级收敛法训练的算法在训练速度上比竞争对手的算法快很多。Fast.AI团队可以在三分钟内训练出一个能对CIFAR数据集进行分类的算法,而且准确度满足比赛要求。排名第二的团队没有使用超级收敛法,他们的训练时间超过半小时。 不过,Fast.AI没有一路赢得所有比赛。在另一项挑战赛中,参赛者需要利用目标识别算法对ImageNet数据集进行分类,结果Go
7、ogle大获全胜,包揽了训练时间最短的前三名和训练成本最低的第一名和第二名(Fsat.AI获得了成本最低的第三名和训练时间最短的第四名)。但是,Google的算法都在自家定制的AI硬件上运行,芯片也是针对任务特别设计的,即张量处理器(TPU)。事实上,Google在一些任务中使用的处理器是其自称的TPU“pod”——串联运行的64枚TPU芯片。相比之下,Fast.AI参赛团队使用的是普通电脑上用的英伟达GPU,所有人都可以买到。 Google的张量处理器(TPU)是Google特别定制的芯片 Howard表示,“Goog
8、le自家的基础设备可以轻松地训练算法,但可能价值不大。但是只花25美元用同一机器在三小时内完成相同的训练任务,价值就很大”。 ImageNet的结果特别明显,因为评判标准很模糊。Google的硬件帮助它大获全胜,但是考虑到它是世界上最富有的科技公司,这个结果并
此文档下载收益归作者所有