NVIDIA H100

NVIDIA H100(代号 Hopper)是面向 AI 训练与推理的旗舰数据中心 GPU,凭借高带宽 HBM3 与 Transformer 引擎成为大模型训练的主力。

概述

它被广泛部署于云厂商与 AI 公司,是 GPT 级大模型训练的核心算力,因供不应求而成为『算力硬通货』。

特点

算力与显存带宽极高、价格昂贵,直接定义了当前生成式 AI 的供给瓶颈。

• 数据中心 GPU
• 显存：HBM3
• 用于：大模型训练