神经网络加速器提供全面的硬件解决方案.doc

《神经网络加速器提供全面的硬件解决方案.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、神经网络加速器提供全面的硬件解决方案　　低功耗特性支持更多新的应用场景，比如智能监控。2NX足够强大能支持采用本地硬件平台进行分析处理，比如部署在城市中心、体育场内的摄像头或者智能家居安全系统等都有其相关应用。因为2NX支持不同的网络类型，可以做出更智能的决策，减低了错误发生的几率。由于其低功耗特性，这些摄像头都可以采用电池驱动，方便了部署和管理。　　灵活的位宽支持　　为了支持不同的应用案例，2NXNNA进行了全面的设计支持高效的神经网络推算过程，是什么让2NX硬件加速器区别与其他的神经网络解决方案（DSP/GPU）?　　首先2NX超低功耗利用了我们在移动平台设计方面的丰富经验

2、，第二个是灵活的位宽支持，更重要的是每个推理层都具备此特性。神经网络训练通常采用32位全精度，但是这样无疑会需要更高的带宽，更多的功耗，这对于移动设备的功耗要求明显是不允许的，尽管硬件设备有足够的性能支持神经网络的运行，但是这对电池的使用寿命会有很大的冲击。　　为了解决这个问题，2NX为权重和数据提供可变的位宽支持，这样就能够在保持较高推理精度的同时大大降低对带宽的要求，功耗要求也随之减少。我们的硬件是目前市场上唯一能支持从16位到4位带宽的解决方案。　　　　与其他解决方案不同，我们降低位宽要求并不是采用生硬的方法，在每个分层我们都可以灵活配置权重和数据的位宽，因此开发者可以全

3、面优化他们训练网络的性能。而且我们不光要保持精度还要保持精确性，结果就是在更低的带宽和功耗的情况下提供更高的性能。　　实际上2NX需要的带宽仅是其他竞争解决方案的25%左右，在某些应用场景从8位位宽降低到4位位宽精度，2NX消耗的功耗则降为69%，但是精确度的降低却不足1%。　　领先的性能　　从原始性能的角度来看，PowerVR2NX也是行业领先的。最近某个智能手机制造商宣布其硬件平台支持人脸检测并可用于解锁手机，相当于每秒6000亿次的推理操作。PowerVR2NX单核IP运行在保守频率800MHz，能提供2048MACs/cycle（行业标准性能指标）操作，意味着每秒3.2

4、万亿推理操作——相当于最有竞争力的对手的两倍。2NX是一个高度可扩展的解决方案，如果需要更高的性能，则可以使用更多的核心。　　2NX非常强大，尽管面积非常小但是能够提供行业最高的推算/mm2指标。实际上在SoC中，我们推出的PowerVRGPU结合NNA的解决方案，相比竞争对手纯GPU解决方案占用更少的硅片面积，当然2NX可以单独使用，不是必须要结合GPU，CPU也仅仅是用于驱动。　　我们推出的2NXIP同样具备存储管理单元（MMU），可以应用于安卓（Android）和其他复杂的操作系统（OS）中，而且不需要集成额外的芯片面积或者其他复杂的软件。　　广泛的支持：不同的网络类型、

5、模型、框架和API等　　神经网络涉及各种各样的形式和特性，选用哪种很大程度上依赖于我们要实现的系统功能。2NXNNA支持多种形式的神经网络，包括卷积神经网络（CNN）、多层感知器（MLP）、递归神经网络（RNN）和SSD物体检测框架。目前2NX支持主要的神经网路框架，比如Caffe和TensorFlow，对于其他框架的支持也在持续开发中。　　　　使用我们提供的优化转换和调优工具，结合ImaginaTIon推出的深度神经网络（DNN）API，开发者能够快速部署他们所选择的网络框架并且运行PowerVRNNA加速器。PowerVR长久以来一直在支持安卓系统，当谷歌公司发布安卓系统神

6、经网络API后，2NX也将紧跟其后全面支持安卓系统。　　当然开发者也可以采用现在的工作流程开发移动App原型，然后使用ImaginaTIonDNNAPI与2NX进行对接，实现明显的应用系统加速和功耗降低。　　总结　　随着我们的世界与计算机的关系越来越密切，机器也会更加的理解这个世界，PowerVR2NXNNA代表的是神经网络加速和性能的一个转折点。在行业内具有最高的“推理/milliwatt”和“推理/mm2”性能指标，它是唯一能够满足在移动硬件平台部署神经网络功耗和性能约束条件的IP解决方案。除此之外PowerVRNNA还支持主要的神经网络和框架，结合ImaginaTIon推

7、出的DNNAPI使得PowerVR2NX成为驱动未来神经网络应用最理想的解决方案。