Arm如何应对不同AI需求层次与发展路径？.doc

《Arm如何应对不同AI需求层次与发展路径？.doc》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、Arm如何应对不同AI需求层次与发展路径？　　近年来，随着越来越多的人工智能（AI）与机器学习（ML）成功案例出现，它们已经从一个相对模糊的计算机科学概念迅速发展成为实现智能化的必备技术。国际权威基金评级机构Morningstar预测，2021年全球AI芯片市场规模有可能超过200亿美元。2017年5月GrandViewResearch的最新报告称，全球深度学习市场规模预计在2025年达到102亿美元。　　机器学习算法和深度学习芯片组在取得不断突破的同时，AI也持续向不同垂直行业领域、边缘终端纵横渗透，从软/硬两

2、方面实现降本增效及体验升级，而整个AI产业生态正在构建，新的秩序正在形成，市场玩家已远不止IT巨头与“独角兽们”，包括Arm在内的IP设计公司、通用或专用芯片公司、传统电子、通信巨头也纷纷开展自己的AI生态布局。　　近日在ArmTechDay上，Arm多部门的技术专家首次联手为业界阐述了ArmAI/ML发展观和最新战略布局。针对不同AI需求层次、发展路径、市场空白，Arm又会如何应对呢？　　　　Arm机器学习事业部技术总监IanBratt在ArmTechDay上发表演讲　　“慢工出细活”，Arm稳步推进AI平台搭

3、建　　在智能化的行业大背景下，机器学习可以被应用于公司中每个岗位，并可能影响到各行各业各家公司，众多玩家纷纷涌入该领域。不过随着高速5G网络时代的到来，Arm机器学习事业部技术总监IanBratt认为，AI应用场景所要求的低时延与快速响应、将实时数据传输至云端的成本与出于对数据安全性的保护，机器学习正在由数据中心走向边缘设备，而在边缘端部署机器学习的关键并不在于某一款处理器，围绕的其实是更为宏观的生态系统。　　Arm一直在扎实而积极地布局AI/ML领域，通过不断推出创新架构与高性能IP加强AI/ML的计算力。“2

4、017年3月，Arm推出全新DynamIQ技术，代表了多核处理设计行业的转折点，其灵活多样性将重新定义更多类别设备的多核体验，覆盖从端到云的安全、通用平台，利用针对AI/ML的全新处理器指令集以实现更先进的人工智能；　　2018年2月，Arm为了实现在边缘的AI/ML工作负载推出了ProjectTrillium项目，这是一套包括ArmML处理器与OD（ObjectDetection）处理器在内的高度可扩展处理器的IP组合，能够在大量提升计算需求的同时，也保持出色的能效表现。后文要提到的ML处理器则是专门针对机器学

5、习而重新设计的，它基于高度可扩展的Arm机器学习架构，并达到了机器学习应用场景要求的最高性能和效率；　　2018年6月，Arm发布全新计算和多媒体IP套件，包括基于DynamIQ技术的Cortex-A76CPU，Mali-G76GPU与Mali-V76VPU，对ArmProjectTrillium项目完美补充，也将高性能计算力由移动端覆盖到笔记本端。”Arm市场营销资深总监IanSmythe介绍了Arm针对不用层次、环节AI/ML需求的扎实创新节奏。　　　　Arm全新计算和多媒体IP套件优化了AI/ML在设备端的

6、使用　　此外，有研究分析显示：目前中国AI开发者正在接受从封闭的单机系统转向快捷灵活的开源框架的新一代AI技术演进。而据悉，ArmProjectTrillium绝不是要与现有的成熟神经网络开源框架（如Caffe、TensorFlow等）竞争。实质上，它依靠类似于ArmNN等神经网络机器学习软件桥接了现有神经网络框架与在嵌入式Linux平台上运行的底层处理硬件（例如CPU、GPU、Arm机器学习处理器或合作伙伴IP），让开发人员继续使用他们首选的框架和工具，无缝转换结果后可在底层平台上运行，真正达到无处不在的机器学

7、习应用。　　　　ArmProjectTrillium平台架构　　“从0开始”设计ML处理器架构，Arm补全AI市场空白　　虽然目前市场上几乎所有机器学习工作负载，利用针对机器学习应用优化的最新Cortex-A76处理器应对已完全没有问题，但Arm机器学习事业部技术总监IanBratt始终认为，机器学习作为一种全新的技术，如果想在该领域更进一步，比如获得更高的计算密度，Arm也必须要“从0开始”设计一个全新的处理器架构，从而实现未来最高效率、最高吞吐量且灵活的机器学习负载处理。　　由于Arm在CPU和GPU处理器领

8、域拥有世界领先的技术，因此Arm专用机器学习处理器在设计时很好结合了在CPU与GPU方面的领先技术，实现了高效的卷积、高效的数据移动与可编程性和灵活性，目标是能够在7nm制程工艺之下，实现3TOPs/W的性能。据IanBratt介绍，Arm第一代ML处理器设计的高峰吞吐量是每秒4.6TOPs，同时有针对激活和权重专门的硬件压缩，利用了Cortex-M的技术来支持Andro