计算机行业算力知识普惠系列一：AI芯片的基础关键参数-天风证券

算力是衡量计算机处理信息能力的重要指标，其中AI算力专注于AI应用，常见单位为TOPS和TFLOPS，通过GPU、ASIC、FPGA等专用芯片提供算法模型训练和推理。算力精度作为衡量算力水平的一种方式，其中FP16、FP32应用于模型训练，FP16、INT8应用于模型推理。

AI芯片通常采用GPU和ASIC架构。GPU因其在运算和并行任务处理上的优势成为AI计算中的关键组件，它的算力和显存、带宽决定了GPU的运算能力。

GPU的核心可分为CudaCore、Tensor Core等；Tensor Core是增强AI计算的核心，相较于并行计算表现卓越的Cuda Core，它更专注于深度学习领域，通过优化矩阵运算来加速AI深度学习的训练和推理任务，其中Nvidia Volta Tensor Core架构较Pascal架构（Cuda Core) 的AI吞吐量增加了12倍。此外，TPU作为ASIC的一种专为机器学习设计的AI芯片，相比于CPU、GPU，其在机器学习任务中的高能效脱颖而出，其中TPU v1在神经网络性能上最大可达同时期CPU的71倍、GPU的2.7倍。

展开全文

免责声明：我们尊重知识产权、数据隐私，只做内容的收集、整理及分享，报告内容来源于网络,报告版权归原撰写发布机构所有，通过公开合法渠道获得，如涉及侵权，请及时联系我们删除，如对报告内容存疑，请与撰写、发布机构联系