欢迎来到天天文库
浏览记录
ID:32507337
大小:2.99 MB
页数:24页
时间:2019-02-09
《【8A文】AI芯片产业生态梳理.ppt》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库。
1、AI芯片作为产业核心,也是技术要求和附加值最高的环节,在AI产业链中的产业价值和战略地位远远大于应用层创新。腾讯发布的《中美两国人工智能产业发展全面解读》报告显示,基础层的处理器/芯片企业数量来看,中国有14家,美国33家。AI芯片产业生态梳理单击此处添加标题文字Page2目录AI芯片分类1AI芯片产业生态2中国AI芯片公司3……4Page3AI芯片分类——从功能上分Training训练通过大量的数据输入或采取增强学习等非监督学习方法,训练出一个复杂的深度神经网络模型,涉及海量的训练数据和复杂的深度神经网络结构,运算量巨大,需要庞大的计算规模,对于处理器的计算能力、精度
2、、可扩展性等性能要求很高,主要使用NVIDIA的GPU集群来完成,Google自主研发的ASIC芯片TPU2.0也支持训练环节的深度网络加速,Inference推理利用训练好的模型,使用新的数据去“推理”出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。可以分为Training(训练)和Inference(推理)两个环节Page4AI芯片分类——从应用场景分Cloud/DataCenter云端在深度
3、学习的Training阶段,由于对数据量及运算量需求巨大,单一处理器几乎不可能独立完成一个模型的训练过程,Training环节目前只能在云端实现,在设备端做Training目前还不是实际。在Inference阶段,由于目前训练出来的深度神经网络模型大多仍非常复杂,其推理过程仍然是计算密集型和存储密集型的,若部署到资源有限的终端用户设备上难度很大,因此,云端推理目前在人工智能应用中需求更为明显。GPU、FPGA、ASIC(GoogleTPU1.0/2.0)等都已应用于云端Inference环境。Device/Embedded设备端在设备端Inference领域,智能终端数量庞
4、大且需求差异较大,如高级辅助驾驶ADAS、虚拟现实VR等设备对实时性要求很高,推理过程不能交由云端完成,要求终端设备本身需要具备足够的推理计算能力,一些低功耗、低延迟、低成本的专用芯片也会有很大的市场需求。可以分成“Cloud/DataCenter(云端)”和“Device/Embedded(设备端)”两大类Page5AI芯片分类——从技术架构分通用芯片GPUFPGA基于FPGA的半定制化芯片深鉴科技DPU、百度XPU(256核、基于FPGA的云计算加速芯片(与赛灵思Xilinx合作)全定制化ASIC芯片TPU寒武纪Cambricon-1A等类脑计算芯片IBMTrueNo
5、rth、Westwell西井科技、高通Zeroth等Page6AI芯片分类象限图TrainingInferenceGPUTPU2.0VSCloud/DataCenterDevice/Embedded?GPU/FPGA/ASICFPGA/ASICPage7AI芯片产业生态InferenceOnDevice设备端推理MobileADASCVNLPVRInferenceOnCloud云端推理GPUFPGAASICTrainingOnCloud云端训练GPUASICTPU1.0/2.0TPU2.0TrainingOnDevice设备端训练?Page8Training训练CPU
6、VSGPU架构ControlALUALUALUALUCacheDRAMDRAMCPUGPUPage9CPU和GPU对比说明CPU架构2007年以前,人工智能研究受限于当时算法、数据等因素,对于芯片并没有特别强烈的需求,通用的CPU芯片即可提供足够的计算能力。GoogleBrain项目,使用包含16000个CPU核的并行计算平台,训练超过10亿个神经元的深度神经网络。CPU的串行结构并不适用于深度学习所需的海量数据运算需求,用CPU做深度学习训练效率很低,在早期使用深度学习算法进行语音识别的模型中,拥有429个神经元的输入层,整个网络拥有156M个参数,训练时间超过75天。
7、在内部结构上,CPU中70%晶体管都是用来构建Cache(高速缓冲存储器)和一部分控制单元,负责逻辑运算的部分(ALU模块)并不多,指令执行是一条接一条的串行过程。GPU架构GPU整个就是一个庞大的计算矩阵,GPU具有数以千计的计算核心、可实现10-100倍应用吞吐量,还支持对深度学习至关重要的并行计算能力,可以比传统处理器更加快速,大大加快了训练过程。GPU由并行计算单元和控制单元以及存储单元构成,拥有大量的核(多达几千个)和大量的高速内存,擅长做类似图像处理的并行计算,以矩阵的分布式形式来实现计算。同CPU不同
此文档下载收益归作者所有