Uma sessão de trabalho
$9.52
1 GPU × 8h · apenas computação
Infraestrutura de treino de IA
Alugue GPUs para pré-treino e treino continuado de LLM.
Resposta direta
Planeie o treino de LLM a partir do número de parâmetros, precisão, estado do otimizador, ativações, comprimento de sequência, estratégia de paralelismo, throughput de checkpoint e tempo medido até checkpoint. Compare A100, H100, H200 e B200 pelo custo total de execução, não por especificações teóricas de pico.
Revisto pela equipa de infraestrutura GPURento · 1 de setembro de 2026
Janelas de planeamento transparentes
Exemplo de custo de aluguer num A100 80GB.
Estas são janelas de aluguer de computação, não previsões de duração ou desempenho do trabalho. Substitua as horas por um piloto medido e adicione armazenamento na calculadora.
Janela de quarenta horas
$47.60
1 GPU × 40h · apenas computação
Cento e vinte horas
$142.80
1 GPU × 120h · apenas computação
| Comece com | VRAM de pico | Os pesos sozinhos subestimam a memória de treino. |
|---|---|---|
| Medir | Tempo até ao checkpoint | Use um modelo, conjunto de dados e alvo de qualidade fixos. |
| Incluir | Armazenamento + tempo de reinício | Afetam o custo total da execução e a fiabilidade. |
| Caminho disponível | A100 · H100 · H200 · B200 | Cada modelo tem um preço horário público. |
Melhor para
- Pré-treino e pré-treino continuado
- Treino de transformadores em grande escala com memória medida
- Treino multi-GPU com topologia explícita
- Equipas que podem avaliar um passo representativo
Não é a melhor opção quando
- Experiências sem âmbito e sem teto de orçamento
- Trabalhos que cabem num caminho de ajuste fino ou inferência mais barato
- Execuções sem planeamento de checkpoint e recuperação de falhas
Método de decisão
O que verificar antes de implementar capacidade.
O conteúdo abaixo separa especificações publicadas, referências de catálogo GPURento e decisões que ainda requerem um benchmark de carga de trabalho.
01
Estime a memória de treino em camadas
Considere pesos, gradientes, estados do otimizador, ativações, buffers de comunicação e sobrecarga do framework. Precisão mista, checkpointing de ativações e sharding mudam o resultado, por isso cada estimativa precisa de margem de segurança e uma execução de validação curta.
- Defina a contagem de parâmetros e a precisão
- Escolha FSDP, ZeRO ou outra estratégia de sharding de estado
- Teste a memória de pico antes de reservar a execução completa
02
Desenhe em torno do checkpoint
A unidade útil é frequentemente o custo por checkpoint aceite. Registe amostras por segundo, duração do checkpoint, débito de armazenamento, tempo de reinício e política de falhas. GPUs mais rápidas não podem corrigir um pipeline bloqueado por dados de entrada ou armazenamento de checkpoint lento.
03
Combine a topologia com a estratégia de paralelismo
FSDP ou ZeRO, paralelismo de dados, tensor, pipeline e especialista stressam diferentes ligações. Registe tokens por segundo, quota de comunicação e eficiência de escalamento e, em seguida, compare o custo por checkpoint no número de GPUs pretendido.
Lista curta do catálogo
Opções de GPU relevantes.
AmpereDisponível
NVIDIA A100 80GB
80 GB HBM2e · $1.19/h
Treino, fine-tuning e HPC
UE Oeste · ParisUE Central · Frankfurt
HopperDisponível
NVIDIA H100 SXM
80 GB HBM3 · $2.69/h
Treino intensivo e inferência FP8
UE Oeste · ParisUE Central · Frankfurt
HopperDisponível
NVIDIA H200 SXM
141 GB HBM3e · $3.59/h
Inferência de modelos grandes e HPC
UE Oeste · ParisUE Central · Frankfurt
BlackwellDisponível
NVIDIA B200
180 GB HBM3e · $5.98/h
Treino e inferência de fronteira
UE Oeste · ParisUE Central · Frankfurt
Perguntas
Respostas claras, incluindo os limites.
Qual GPU na nuvem é melhor para treino de LLM?+
Não há um vencedor universal. A100 pode minimizar o custo horário, H100 pode encurtar execuções de transformers, H200 ajuda trabalhos limitados por memória, e B200 é uma escolha de planeamento de capacidade. Faça benchmark do mesmo passo de treino.
Como estimo o custo de treino de LLM?+
Multiplique as horas medidas de ponta a ponta pela contagem de GPUs e taxa e, em seguida, adicione armazenamento persistente, sobrecarga de checkpoint e repetições esperadas. Use uma execução piloto em vez de FLOPS teóricos.
Posso treinar antes de adicionar fundos?+
Os depósitos na carteira começam em $50. Escolha o montante a adicionar. Trata-se de crédito pré-pago, não de uma taxa de acesso. Os alugueres mensais de GPU são pagos separadamente no respetivo processo de pagamento.
Fontes e âmbito
- Página de produto NVIDIA A100Arquitetura A100 e configuração de 80 GB do fabricante.
- Página de produto NVIDIA H100Especificações de arquitetura e memória do fabricante.
- Página de produto NVIDIA H200Capacidade e largura de banda de memória do H200, de acordo com o fabricante.
Última revisão em 1 de setembro de 2026. As taxas da GPURento são referências atuais do catálogo; o estado de provisionamento permanece visível no espaço de trabalho, e as especificações do fabricante não substituem benchmarks de carga de trabalho.
Continuar a pesquisa
Plano de implementação
Transforme o plano de treino num pedido de capacidade.
Crie um espaço de trabalho, adicione o crédito de carteira necessário e guarde o número de GPUs, imagem, região e configuração de armazenamento.