什么是数据中心GPU行业?
数据中心GPU行业,是指研发、销售和部署面向云数据中心、AI训练集群、推理服务和高性能计算的通用并行加速处理器及其系统平台的产业。产品通常包括GPU加速卡、OAM或SXM模块、机柜级GPU系统、GPU服务器参考平台、驱动、编译器、通信库、算子库、模型优化工具和集群管理软件。主要采购与使用者包括超大规模云服务商、互联网平台、AI模型公司、HPC中心、企业AI平台和服务器系统厂商。典型场景包括大模型预训练、后训练、推理服务、科学计算、仿真、渲染和数据分析。其边界在于:AI ASIC与NPU是更专用的矩阵/张量处理器;边缘AI芯片侧重低功耗端侧推理;DPU负责网络、存储和安全卸载,不直接承担主AI算力。
