№ 04 · SECTION FOUR · PRODUCT TAXONOMY

产品谱系

AI 芯片行业到底卖哪些产品?从 GPU 到 CUDA、从 HBM 到光模块—— 产品谱系页把行业货架上的4 大类 · 14 种主要产品一次列清,每种产品是什么 · 典型型号 · 代表公司 · 面向客户 · 看什么指标都告诉你。 这是从"知道行业"到"研究公司"之间的翻译层

产品层级树 Root → 4 categories → 14 products

TAXONOMY · TOP-DOWN
AI 芯片产品 4 CATS · 14 PRODUCTS 01 COMPUTE 计算芯片 02 MEMORY 存储产品 03 INTERCONNECT 互联/基础设施 04 PLATFORM 平台产品 GPUH100/B200/MI300 AI ASIC / TPUTPU/Trainium/Maia NPU · 端侧 AI高通/苹果/联发科 DPU / SmartNICBlueField/Pensando CPU · 主机Intel/AMD/ARM 交换/车载 SoCTomahawk/Orin HBMHBM3e / HBM4 DRAMDDR5 / GDDR7 NAND · SSD企业级 NVMe CXL 内存池化扩展 NVLink 域内NVLink/NVSwitch IB / 以太交换IB/Tomahawk 光模块 / CPO800G/1.6T/硅光 CUDA / ROCmGPU 生态 AI 框架PyTorch/vLLM 算力云 / 调度Azure/AWS/GCP ◆ 每个叶子对应下方一张产品卡 · 4 大类 · 14 张卡 · 从 GPU 到 CUDA
HOW TO
READ THIS PAGE

行业地图回答"谁在链条上",制造流程回答"怎么造出来",算力系统回答"怎么协同"。这一页回答的是:行业货架上到底摆着哪些产品,各自解决什么问题、卖给谁

每张卡固定五行信息——是什么 · 典型型号 · 代表公司 · 面向客户 · 看什么指标。看完这一页你可以做一件事:把研报里出现的产品名对号入座——GPU 属于什么、CoWoS 是干啥的、CUDA 为什么值钱、CXL 到底是内存还是网络。

01

计算芯片 Compute

GPU · ASIC · TPU · NPU · DPU · CPU · 交换/车载
决定 算力供给
产业主战场
直接产出算力的芯片。GPU 是训练默认选择;ASIC/TPU 是云厂自研;NPU 走端侧;DPU 卸载数据;CPU 做主机。产业链的价值锚点都从这里出发。
主战场GPU + ASIC
1.1 GPUMAIN

GPU · 通用并行计算

是什么通用并行计算 + 高带宽显存,AI 训练的默认选择。生态与 CUDA 深度绑定。
典型型号NVIDIA H100 / B200 / GB200 · AMD MI300X / MI325X
代表公司NVIDIA · AMD · 英特尔(Gaudi)
面向客户超大规模云厂商 · 大模型公司 · AI 初创
看什么指标FP16/FP8 FLOPS · HBM 容量与带宽 · TDP · CUDA 兼容性 · ASP
1.2 AI ASIC / TPUVERTICAL

AI ASIC · TPU · 云厂自研

是什么为特定负载定制的加速器。推理性价比优于 GPU,但通用性差。云厂"降本 + 自主"主抓手。
典型型号Google TPU v5p / v6 · AWS Trainium2 / Inferentia2 · MSFT Maia 100 · Meta MTIA
代表公司Google · AWS · Microsoft · Meta · Broadcom(设计代工)· Marvell
面向客户云厂商自用 · 特定推理场景
看什么指标每 Token 成本 · 推理吞吐 · 集群规模 · 自用比例
1.3 NPU · 端侧 AIEDGE

NPU / 端侧 AI 芯片 · 低功耗推理

是什么集成在手机/PC/车/机器人里的低功耗神经网络加速器。跑本地小模型 + 语音/图像识别。
典型型号Apple Neural Engine · 高通 Hexagon NPU · 联发科 APU · 地平线 征程系列
代表公司高通 · 苹果 · 联发科 · 英特尔 · AMD · 地平线
面向客户手机厂商 · PC 厂商 · 车企 · 机器人厂商
看什么指标TOPS/W · 端侧模型能力 · 终端渗透率 · 车企定点
1.4 DPU / SmartNICIO

DPU · SmartNIC · 数据搬运卸载

是什么把网络、存储、加密等 IO 密集型任务从 CPU 卸载。让 GPU 集群效率更高。
典型型号NVIDIA BlueField-3 · AMD Pensando · Intel IPU
代表公司NVIDIA · AMD · Intel · Marvell
面向客户超大规模数据中心 · 云厂商 · 大模型集群
看什么指标IO 卸载率 · 集群 GPU 利用率提升 · 单机搭载率
1.5 CPU · 主机HOST

CPU · 主机处理器 · 系统协调

是什么AI 服务器的主机处理器——不做训练主力,但负责数据预处理、任务调度、系统协调。
典型型号Intel Xeon · AMD EPYC · NVIDIA Grace(ARM 架构)· 华为 鲲鹏
代表公司Intel · AMD · ARM · 英伟达 · 华为
面向客户服务器 OEM · 云厂商 · 企业数据中心
看什么指标核数 · 内存通道 · PCIe/CXL 版本 · x86 vs ARM 份额
1.6 交换 / 车载 SoCSPECIALIZED

交换芯片 · 车载 AI SoC · 场景专用

是什么数据中心交换(Tomahawk 系列)和智能驾驶 SoC 是两类高弹性专用芯片,需求锚点不同但同样受益 AI 浪潮。
典型型号Broadcom Tomahawk 5/6 · NVIDIA Orin / Thor · 地平线 征程 6 · Tesla FSD
代表公司Broadcom · Marvell · 英伟达 · 地平线 · 黑芝麻 · Tesla
面向客户超大规模数据中心 · 电动车厂 · 机器人公司
看什么指标端口速率(交换)· 车企定点(车载)· NRE 与量产周期
02

存储产品 Memory

HBM · DRAM · NAND · CXL
决定 能喂多快
AI 时代的命门
GPU 算得再快,也得靠高带宽存储把数据喂进来。HBM 决定训练不缺数据,DRAM/SSD 撑起服务器整机,CXL 是未来"内存池化"新战场。
当前瓶颈HBM 供给
2.1 HBMCRITICAL

HBM · 高带宽存储

是什么紧贴 GPU 的高带宽存储——3D 堆叠 8~12 层 DRAM + TSV。HBM4 单颗带宽 > 1 TB/s,是训练不缺数据的关键。
典型型号HBM3 → HBM3e → HBM4(2024–2026 代际切换)
面向客户GPU 厂商(英伟达/AMD/云厂 ASIC)· 先进封装厂
看什么指标合约价 · 带宽 · 良率 · 客户认证 · 代际切换进度
2.2 DRAMGENERAL

DRAM · 服务器 / PC 通用内存

是什么服务器和 PC 的主机内存——DDR5 是服务器主流,GDDR7 用于消费级 GPU。存储周期最重要品类。
典型型号DDR5(服务器 / PC)· LPDDR5X(手机 / AI PC)· GDDR7(消费 GPU)
代表公司Samsung · SK 海力士 · Micron · 南亚科 · 华邦 · 长鑫存储
面向客户服务器 OEM · PC 厂 · 手机厂 · 车厂
看什么指标位元出货 · 合约价 · 库存周期 · DDR5 渗透率
2.3 NAND · 企业级 SSDCOMMODITY

NAND · 企业级 SSD · 固态存储

是什么数据中心里存训练数据、模型 checkpoint、日志的高速固态存储。企业级 NVMe SSD 是主流形态。
典型型号NVMe SSD · 232 层 / 300 层堆叠 QLC / TLC
面向客户超大规模数据中心 · 企业存储 OEM · PC 厂
看什么指标位元出货 · 层数 · 单 GB 成本 · 企业级份额
2.4 CXL 内存EMERGING

CXL 内存 · 池化扩展

是什么让多台服务器共享 DRAM 池,解决 GPU 显存不够的痛点。当前在早期,但被视为 HBM 之后的下一战场。
典型型号CXL 2.0 / 3.0(内存扩展器 · 内存池化控制器)
代表公司Astera Labs · Rambus · 澜起科技 · 三星 · SK 海力士 · 美光
面向客户超大规模数据中心 · 企业 AI · 服务器 OEM
看什么指标CXL 3.0 采用率 · 客户导入 · 单机 CXL 容量
03

互联 / 基础设施 Interconnect

NVLink · IB / 以太 · 光模块 / CPO
决定 能连多广
集群时代的血脉
万卡集群不是单卡竞争、是网络竞争。NVLink 织"域内"、IB/以太织"域间"、光模块负责"电转光"跨机柜。光模块和 CPO 是最纯的 AI Beta 之一。
高弹性光模块 / 交换
3.1 NVLink · NVSwitchSCALE-UP

NVLink · NVSwitch · GPU 域内直连

是什么机柜内数十颗 GPU 直连成一个"超大 GPU 域"——NVIDIA 自研、生态封闭,是 GB200 等旗舰产品差异化的核心维度。
典型型号NVLink 5 · NVSwitch 4(GB200 内置)
代表公司NVIDIA(唯一)
面向客户购买 NVIDIA 整柜的所有客户
看什么指标域内带宽(TB/s)· 域大小(GPU 数)· 代际升级
3.2 InfiniBand / 以太交换SCALE-OUT

InfiniBand · 以太交换 · 机柜之间

是什么机柜之间的集群互联——IB 是训练场景主流,RoCE 以太是推理与超大规模场景的替代路径。
典型型号NVIDIA Quantum-2 IB (400G/800G) · Broadcom Tomahawk 5 · Arista
代表公司NVIDIA · Broadcom · Arista · Cisco
面向客户超大规模数据中心 · 云厂商 · 大模型公司
看什么指标端口速率 · 交换芯片出货 · IB vs 以太份额
3.3 光模块 · 硅光 · CPOHIGH BETA

光模块 · 硅光 · CPO · 电转光

是什么机柜之间的光纤连接器件——把电信号变成光信号。集群规模膨胀 = 光模块用量倍增。CPO(共封装光学)是下一代趋势。
典型型号800G / 1.6T 可插拔光模块 · 硅光 · CPO(与交换芯片共封装)
代表公司中际旭创 · 新易盛 · 光迅科技 · 天孚通信 · 源杰科技 · Coherent · Lumentum
面向客户超大规模数据中心 · 交换设备商 · 云厂商
看什么指标800G / 1.6T 出货 · 硅光渗透 · CPO 商用节奏
04

平台产品 Platform

CUDA · ROCm · AI 框架 · 算力云 / 调度
决定 能用多顺
硬件价值的乘数
所有硬件要经过软件才能兑现。CUDA 是 NVIDIA 最深的护城河,AI 框架是开发者入口,算力云把 GPU 变成"可计费商品"。软件是硬件价值的乘数
最强壁垒CUDA 生态
4.1 CUDA / ROCmMOAT

CUDA · ROCm · GPU 生态

是什么GPU 上的并行计算生态——由编译器、算子库、驱动、开发工具组成。CUDA 是 NVIDIA 20 年积累的护城河。
典型型号CUDA 12 · cuDNN · TensorRT · ROCm 6(AMD)
代表公司NVIDIA CUDA · AMD ROCm · Intel oneAPI
面向客户所有 AI 开发者 · 大模型公司 · 算力云厂
看什么指标开发者数 · 模型兼容性 · 迁移成本 · 客户锁定率
4.2 AI 框架 / 推理引擎FRAMEWORK

PyTorch · vLLM · TensorRT · 开发入口

是什么开发者写和跑模型的入口层——PyTorch 是事实标准,推理侧 vLLM / TensorRT / SGLang 竞速。
典型型号训练:PyTorch · TensorFlow · JAX · 推理:vLLM · TensorRT-LLM · SGLang
代表公司Meta(PyTorch)· Google(JAX/TF)· NVIDIA(TensorRT)· 开源社区
面向客户大模型公司 · 云厂推理服务 · AI 应用开发者
看什么指标生态占有率 · GPU 利用率 · 每 Token 成本优化
4.3 算力云 / 调度MONETIZE

算力云 · 集群调度 · 硬件 → 商品

是什么把物理集群变成可租赁 / 可计费的算力商品——云厂利润来源之一,也是 GPU 二次分配的入口。
典型型号云 GPU 实例(H100/H200 按小时)· 集群调度器(K8s / Slurm / Ray)· 推理平台
代表公司Microsoft Azure · AWS · Google Cloud · CoreWeave · Lambda · Oracle · 阿里云 · 火山引擎
面向客户大模型公司 · AI 初创 · 企业客户
看什么指标云 GPU 价格 · 利用率 · 续约率 · 推理调用量

产品是行业货架,公司是货架背后的手——
研究一家公司,先看它站在哪几层货架上。

— TAXONOMY · MAIN THREAD

回到首页 · 八模块全景

Silicon & Compute · Vol.001

回到首页