NVIDIA Hopper 云 GPU

租用 NVIDIA H100 GPU,用于训练和推理。

直接回答

NVIDIA H100 在 GPURento 目录中有两种配置:H100 SXM(80 GB HBM3,每 GPU 小时 $2.69)和 H100 NVL(94 GB HBM3,每 GPU 小时 $2.59)。在从巴黎或法兰克福的已注资仪表板部署之前,请比较内存、外形、互连和工作负载行为。

由 GPURento 基础设施团队审核 · 2026 年 9 月 1 日

成本场景

哪一个 H100 SXM 按所列费率计算的成本。

打开完整模拟器

一小时

$2.69

1 GPU × 1小时 · 仅计算

一天

$64.56

1 GPU × 24小时 · 仅计算

七天

$451.92

1 GPU × 168小时 · 仅计算

平均月 · 730小时

$1963.70

1 GPU × 730小时 · 仅计算

关键事实 租用 NVIDIA H100 GPU,用于训练和推理。
内存80 GB SXM · 94 GB NVLGPURento 目录中列出的两个 Hopper 配置。
架构Hopper专为Transformer和加速计算工作负载设计。
按需费率$2.59 NVL · $2.69 SXM每 GPU 小时;存储和可选网络单独计费。
可用区域巴黎 · 法兰克福两个区域都在自助服务仪表板中公开。
最适合
  • 完整或分布式模型训练
  • 吞吐量重要的FP8推理
  • 需要80-94 GB VRAM的大型微调作业
  • 为Hopper调优的CUDA工作负载
不适合当
  • 适合低成本 RTX GPU 的小型图像作业
  • 不受益于Hopper吞吐量的作业
  • 需要超过94 GB且无分片的模型

决策方法

部署容量前需验证的事项。

以下内容区分了已发布的规格、GPURento 目录参考和仍需工作负载基准测试的决策。

01

当时间到结果重要时选择H100

仅小时价格不能决定作业成本。更快的加速器在缩短墙钟时间足够多时,每次完成的训练运行成本可能更低。在决定之前,比较相同的模型、精度、批大小、框架和检查点计划。

  • 估算峰值VRAM,而不仅仅是模型权重
  • 在您自己的堆栈上测量每秒样本或token
  • 包括数据加载、检查点和停止存储时间
02

知道您正在比较哪个H100配置

H100 SXM在面向HGX的SXM外形中提供80 GB HBM3,而H100 NVL在PCIe双插槽外形中提供94 GB HBM3。NVIDIA指定了不同的内存带宽、功耗和NVLink特性。请根据完整的服务器拓扑和软件路径选择,而不仅仅是内存。

03

容量和成本明确

直接在控制面板中配置资源。预付费使用从钱包余额中扣除;包月租赁使用独立的结账流程。

问题

清晰的答案,包括限制。

在GPURento上租用H100的成本是多少?+

当前目录列出 H100 NVL 每 GPU 小时 $2.59 和 H100 SXM 每 GPU 小时 $2.69。存储、保留 IP 和可选网络可能增加成本。

H100 SXM和H100 NVL有什么区别?+

列出的 H100 SXM 具有 80 GB HBM3,采用 SXM 外形规格,而 H100 NVL 具有 94 GB HBM3,采用 PCIe 双插槽外形规格。互连、带宽、功率和系统拓扑不同,因此更好的选择取决于训练或推理行为。

H100是否在所有工作负载上都优于A100?+

否。H100更适合最近的Transformer和FP8工作负载,但当作业在Ampere上已经运行良好并在要求的截止时间内完成时,A100可能更经济。

我可以不联系销售就部署H100吗?+

直接在控制面板中配置资源。预付费使用从钱包余额中扣除;包月租赁使用独立的结账流程。

部署计划

在正确的约束下部署H100。

创建工作区,为钱包充值,并选择您实际需要的区域、镜像和存储配置。