1.1 GPUMAIN
GPU · 通用并行计算
是什么通用并行计算 + 高带宽显存,AI 训练的默认选择。生态与 CUDA 深度绑定。
典型型号NVIDIA H100 / B200 / GB200 · AMD MI300X / MI325X
面向客户超大规模云厂商 · 大模型公司 · AI 初创
看什么指标FP16/FP8 FLOPS · HBM 容量与带宽 · TDP · CUDA 兼容性 · ASP
1.2 AI ASIC / TPUVERTICAL
AI ASIC · TPU · 云厂自研
是什么为特定负载定制的加速器。推理性价比优于 GPU,但通用性差。云厂"降本 + 自主"主抓手。
典型型号Google TPU v5p / v6 · AWS Trainium2 / Inferentia2 · MSFT Maia 100 · Meta MTIA
代表公司Google · AWS · Microsoft · Meta · Broadcom(设计代工)· Marvell
面向客户云厂商自用 · 特定推理场景
看什么指标每 Token 成本 · 推理吞吐 · 集群规模 · 自用比例
1.3 NPU · 端侧 AIEDGE
NPU / 端侧 AI 芯片 · 低功耗推理
是什么集成在手机/PC/车/机器人里的低功耗神经网络加速器。跑本地小模型 + 语音/图像识别。
典型型号Apple Neural Engine · 高通 Hexagon NPU · 联发科 APU · 地平线 征程系列
代表公司高通 · 苹果 · 联发科 · 英特尔 · AMD · 地平线
面向客户手机厂商 · PC 厂商 · 车企 · 机器人厂商
看什么指标TOPS/W · 端侧模型能力 · 终端渗透率 · 车企定点
1.4 DPU / SmartNICIO
DPU · SmartNIC · 数据搬运卸载
是什么把网络、存储、加密等 IO 密集型任务从 CPU 卸载。让 GPU 集群效率更高。
典型型号NVIDIA BlueField-3 · AMD Pensando · Intel IPU
面向客户超大规模数据中心 · 云厂商 · 大模型集群
看什么指标IO 卸载率 · 集群 GPU 利用率提升 · 单机搭载率
1.5 CPU · 主机HOST
CPU · 主机处理器 · 系统协调
是什么AI 服务器的主机处理器——不做训练主力,但负责数据预处理、任务调度、系统协调。
典型型号Intel Xeon · AMD EPYC · NVIDIA Grace(ARM 架构)· 华为 鲲鹏
代表公司Intel · AMD · ARM · 英伟达 · 华为
面向客户服务器 OEM · 云厂商 · 企业数据中心
看什么指标核数 · 内存通道 · PCIe/CXL 版本 · x86 vs ARM 份额
1.6 交换 / 车载 SoCSPECIALIZED
交换芯片 · 车载 AI SoC · 场景专用
是什么数据中心交换(Tomahawk 系列)和智能驾驶 SoC 是两类高弹性专用芯片,需求锚点不同但同样受益 AI 浪潮。
典型型号Broadcom Tomahawk 5/6 · NVIDIA Orin / Thor · 地平线 征程 6 · Tesla FSD
代表公司Broadcom · Marvell · 英伟达 · 地平线 · 黑芝麻 · Tesla
面向客户超大规模数据中心 · 电动车厂 · 机器人公司
看什么指标端口速率(交换)· 车企定点(车载)· NRE 与量产周期