人工智能的能耗问题将具备两大挑战 高通如何克服？.doc

《人工智能的能耗问题将具备两大挑战 高通如何克服？.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、人工智能的能耗问题将具备两大挑战高通如何克服？　　第二，人工智能能效问题也是一大挑战，是因为在边缘侧也就是移动环境中，还存在散热的限制。比如说，我们不能在手机里运行能耗过高的任务，否则手机就会变得非常热。但同时，我们需要处理大量的人工智能工作负载，包括完成非常密集的计算分析任务、处理复杂的并发性即在一段时间内同时完成多项任务，还需要保证实时和始终开启，移动环境又有多种多样的限制条件，比如说终端的尺寸很小，又需要保证长久续航以支持全天使用。此外，受尺寸影响，移动终端的内存和带宽也都有限制。　　“所以说，不管

2、是从经济效益还是热效率的角度看，我们都必须要降低人工智能运行的能耗。”人工智能的能耗问题将具备两大挑战高通如何克服？　　第二，人工智能能效问题也是一大挑战，是因为在边缘侧也就是移动环境中，还存在散热的限制。比如说，我们不能在手机里运行能耗过高的任务，否则手机就会变得非常热。但同时，我们需要处理大量的人工智能工作负载，包括完成非常密集的计算分析任务、处理复杂的并发性即在一段时间内同时完成多项任务，还需要保证实时和始终开启，移动环境又有多种多样的限制条件，比如说终端的尺寸很小，又需要保证长久续航以支持全天使用

3、。此外，受尺寸影响，移动终端的内存和带宽也都有限制。　　“所以说，不管是从经济效益还是热效率的角度看，我们都必须要降低人工智能运行的能耗。”韦灵思总结到：“我认为未来人工智能算法将不会由其所能提供的智能多少来衡量，而是要看这种算法每瓦时所提供的智能多少，这会成为未来人工智能算法的重要衡量指标。在此方面Qualcomm拥有很大的优势，低功耗计算正是我们一直以来所擅长的。”Qualcomm在终端侧让深度学习更加高效　　深度学习是人工智能发展历程中的一次重要变革，受神经网络的大幅发展所驱动，深度学习显著提高了预

4、测的准确性。此外，韦灵思表示我们不应该从声音、信号等大量原始数据中人工定义特性，而是应该让算法从原始数据中自行学习提取特性，这是一个巨大的突破。神经网络的优点还包括，它能够自动探测物体，非常高效地共享参数，使部分数据更加高效，并且可以在现代硬件上快速执行。　　当然，深度学习也有需要改进的方面，在韦灵思看来，最重要的一点是，卷积神经网络使用了太多的内存、计算能力和能源，这是现在急需改善的。此外，神经网络不具备旋转不变性、不能量化不确定性以及它很容易被输入侧轻微的改变所欺骗等。　　为应对这些挑战，Qualco

5、mm开展了大量的工作。在降低能耗方面，受人类大脑的启发，Qualcomm早在超过十年前就已经开始了脉冲神经网络的研究，这也是实现低功耗计算的一种方法。现在同样受人脑的启发，Qualcomm正考虑利用噪音来实现深度学习方面的低功耗计算。　　韦灵思解释称：“人脑其实是一个充满噪声的系统，它知道如何处理噪音。我相信，我们可以更进一步利用噪音来为神经网络带来益处。在专业领域，我们将这种方法称为贝叶斯深度学习，这也是我们实现这一切的重要基础性框架。通过贝叶斯深度学习，我们把神经网络压缩得更小，使其可以更高效地运行在

6、骁龙平台上。我们还通过使用这一框架，量化我们需要进行的计算处理的比特位。”　　谈及这些噪音如何帮助我们进行压缩和量化时，韦灵思讲到，我们将噪声引入到神经网络，继而影响到各个参数和连接，然后这些扰动的参数将噪声传播到激活节点，也就是各个神经元。如果这些神经元充满了噪音、不存储任何信息、或对预测不能发挥任何作用，我们就对其进行裁剪。通过裁剪神经元，神经网络会变得更小，从而在计算机和骁龙平台上也将会运行得更快。　　刚刚谈到了使用贝叶斯框架进行压缩与量化，事实上它还可以解决许多其他问题。如果神经网络只进行过面向某

7、一场景的训练，例如一台自动驾驶汽车只接受过某一城市的相关训练，现在这台汽车来到另一个新的城市，你可以使用贝叶斯深度学习进行泛化。Qualcomm的思路是，能够对数据做出解释的最小、最简单的模型即为最适合的模型，这就是奥卡姆剃刀。贝叶斯学习还可以帮助我们产生置信估计，即量化神经网络的不确定性。当我们加入噪声，噪声将传播至预测，从而产生预测的分布区间，由此完成对预测置信度的量化。最后，贝叶斯学习可以帮助我们不易遭受对抗攻击，即通过输入侧的轻微改变来得到不同的预测结果。它也有助于保护用户的个人隐私，因为数据信息

8、可以转换为模型参数甚至可以进行重构，使得数据具有隐私敏感度。所以说通过加入噪声，可以很好地帮助我们保护隐私。总体而言，贝叶斯深度学习可以很好地解决深度神经网络所面临的诸多挑战。　　“随着压缩比越来越大，贝叶斯深度学习相比于其他方法的性能优势就越明显，其在移动平台上的运行也更为高效，这就是为什么我们认为贝叶斯深度学习尤其适合移动场景。”韦灵思进一步讲到。　　此外，据介绍，目前Qualcomm异构计算系统中包括了三个组件，分别是C