H100 vs H200 vs B200: kies op basis van bottleneck en beschikbaarheid.

H100: bewezen Hopper-prestaties

Kies H100 wanneer 80 GB voldoende is en de softwarestack profiteert van Hopper-transformer-versnelling. Het heeft de breedste GPURento-aanvraaggeografie van de drie en het lagere openbare referentietarief dan H200.

H200: los een geheugengebonden workload op

Kies H200 wanneer 141 GB en hogere geheugenbandbreedte sharding verminderen, context vergroten of concurrency verhogen genoeg om het hogere uurtarief te compenseren. Als de workload compute-gebonden blijft en in 80 GB past, valideer dan de winst.

• Meet GPU's die nodig zijn voor hetzelfde model
• Houd context en gelijktijdigheid vast
• Vergelijk kosten per geaccepteerde token of checkpoint

B200: gebruik Blackwell waar het betaalt

B200 biedt het grootste geheugen van de drie en een nieuwere architectuur voor $5,98 per GPU-uur. Gebruik het wanneer Blackwell-doorvoer, 180 GB geheugen of FP4-ondersteuning het hogere uurtarief compenseert.

Benchmark dezelfde systeemgrens

Pin de model- en datasetrevisie, container-digest, precisie, context of batch, kwaliteitsdoel en checkpointbeleid. Registreer warm-up apart en vergelijk vervolgens p50- en p95-end-to-end-runtime, piekgeheugen en totale computekosten. Fabrikantpieken zijn specificaties, geen resultaten op GPURento-infrastructuur.

• Gebruik de exacte GPU-formfactor die in het verzoek wordt getoond
• Inclusief dataloading, preprocessing en checkpoint-I/O
• Rapporteer kosten per geaccepteerd token, checkpoint of voltooide taak