Servidores dedicados com GPU · NVIDIA Blackwell · por mês

Servidor dedicado RTX 509032 GB de GDDR7 em bare metal, alugado por mês.

Um servidor dedicado RTX 5090 é uma máquina bare metal alugada por mês, e a GPU completa é entregue ao seu sistema operacional por passthrough PCIe. As máquinas maiores aceitam até 4 RTX 5090, e um servidor completo começa em $472.47 por mês.

  • Passthrough PCIe
  • Porta sem medição
  • 4 cidades
  • Sem contrato

A RTX 5080 é a opção de 16 GB na mesma arquitetura, a partir de $312.67 por mês. Ambos os preços cobrem processador, memória, discos, a porta e um endereço IPv4, com a GPU faturada como uma linha mensal própria. Escolha a GPU pela memória e depois altere o restante no configurador.

As duas GPUs

Servidores RTX 5090 e RTX 5080, cada um com preço completo

Ambas são GPUs GeForce Blackwell com GDDR7, núcleos Tensor de 5ª geração que executam FP4, núcleos RT de 4ª geração e codificação de hardware AV1. A RTX 5090 tem o dobro dos núcleos CUDA da 5080, o dobro da memória e um barramento de 512 bits com 1.792 GB/s. Se o seu modelo ou cena couber em 16 GB, a 5080 o executa por menos ao mês, apenas mais devagar.

32 GB GDDR7 · PCIe 5.0 x16 GPU

GeForce RTX 5090

$472.47/mo, complete server

GPU $399/mo, plus the machine:

Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

CUDA cores
21,760
Memory bus, bandwidth
512-bit, 1,792 GB/s
Boost clock
2.41 GHz
Board power
575 W
Video engines
3 NVENC, 2 NVDEC
Most per server
4
Machine lines
5
Configure an RTX 5090 server

16 GB GDDR7 · PCIe 5.0 x16 GPU

GeForce RTX 5080

$312.67/mo, complete server

GPU $229/mo, plus the machine:

Intel Xeon Silver 4110, 8 cores, 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

CUDA cores
10,752
Memory bus, bandwidth
256-bit, 960 GB/s
Boost clock
2.62 GHz
Board power
360 W
Video engines
2 NVENC, 2 NVDEC
Most per server
4
Machine lines
1
Configure an RTX 5080 server

Cada preço é a máquina mais barata que aceita essa GPU, conforme o configurador a abre. O botão abre essa máquina com a GPU já selecionada; processadores mais rápidos, mais memória, discos maiores e uma porta mais rápida são precificados lá. As configurações de Bucareste são faturadas em euros, e o configurador mostra esse preço quando você escolhe a cidade.

Link do host

O link PCIe que cada servidor RTX 5090 oferece à GPU

As RTX 5090 e RTX 5080 são construídas para PCIe 5.0 x16. As linhas de máquinas com preços abaixo executam o slot da GPU em PCIe 3.0 ou PCIe 4.0, e a mais rápida delas é PCIe 4.0. Para alguns trabalhos isso decide qual máquina comprar, então aqui está o que cada uma oferece à GPU.

PCIe 5.0 x16what the GPU is built for63 GB/s
PCIe 3.0 x16Intel Xeon E5-2600 v3/v4 and Intel Xeon Silver / Gold15.8 GB/s
PCIe 4.0 x16AMD EPYC31.5 GB/s

Quando o link quase não importa

Inferência com os pesos já na memória da GPU, codificação de vídeo e renderização depois que a cena é carregada. Os dados cruzam o barramento no momento do carregamento e depois permanecem na GPU, então um link PCIe 3.0 custa segundos na inicialização e nada depois.

Quando importa

Laços de treinamento que copiam um lote da memória do sistema a cada passo, renderizações que transmitem texturas maiores que a memória da GPU e várias GPUs dividindo um modelo. As GPUs GeForce RTX 50 não têm NVLink, então o tráfego entre várias GPUs também passa pelo PCIe. Para esses casos, escolha a máquina com o link mais rápido na tabela abaixo.

MachinePCIe link to the GPURTX 5080RTX 5090
Intel Xeon E5-2600 v3/v4from $73.47/mo without a GPUPCIe 3.0not offeredup to 4
Intel Xeon Silver / Goldfrom $83.67/mo without a GPUPCIe 3.0up to 4up to 4
AMD EPYCfrom $217.59/mo without a GPUPCIe 4.0not offeredup to 1
Intel Xeon Gold 3rd gen, DDR4built to order in New York, priced in the configuratorask us in chatnot offeredup to 2
Intel Xeon Gold 4th gen, DDR5built to order in New York, priced in the configuratorask us in chatnot offeredup to 2

Os preços das máquinas são a configuração mais barata de cada linha sem GPU. As linhas mais novas feitas sob encomenda são precificadas no configurador; pergunte-nos no chat qual geração PCIe o slot da GPU delas executa antes de pedir. Servidores RTX 50 podem ser encomendados em New York, Miami, San Francisco and Bucharest; máquinas de Amsterdã não são oferecidas com essas GPUs. Data centers descreve cada edifício.

Dimensionamento para IA

Qual modelo uma RTX 5090 de servidor de IA comporta

Para inferência, a memória decide primeiro. Os pesos ocupam parâmetros vezes bytes por parâmetro, e a GPU precisa de um quarto a metade a mais para o cache KV e o runtime. A tabela aplica essa regra a uma RTX 5080, uma RTX 5090 e uma máquina com várias 5090s.

Model size (weights)RTX 508016 GBRTX 509032 GB2 x RTX 509064 GB4 x RTX 5090128 GB
7-8 billion parameters4-bit: Fits8-bit: Fits4-bit: Fits8-bit: Fits4-bit: Fits8-bit: Fits4-bit: Fits8-bit: Fits
13-14 billion parameters4-bit: Fits8-bit: No4-bit: Fits8-bit: Fits4-bit: Fits8-bit: Fits4-bit: Fits8-bit: Fits
30-34 billion parameters4-bit: No8-bit: No4-bit: Fits8-bit: No4-bit: Fits8-bit: Fits4-bit: Fits8-bit: Fits
70 billion parameters4-bit: No8-bit: No4-bit: No8-bit: No4-bit: Fits8-bit: No4-bit: Fits8-bit: Fits

Uma RTX 5090: 32 GB

Um modelo de 30B em 4 bits ou um de 13B em 8 bits carrega com contexto de sobra, atrás da sua própria API no Ollama, llama.cpp ou vLLM. Os núcleos Blackwell Tensor também executam FP4 nativamente, que runtimes feitos para isso, como o TensorRT-LLM, usam para servir modelos de 4 bits mais rápido.

Várias RTX 5090s em uma máquina

Nossas máquinas maiores aceitam até 4 delas, 128 GB de memória de GPU no total, que o vLLM ou o llama.cpp dividem entre um modelo. Duas comportam um modelo de 70B em 4 bits com folga. Para uma GPU com mais memória, veja todas as GPUs que instalamos; para planos modelo a modelo, servidores LLM.

Cargas de trabalho

O que um servidor da série RTX 50 executa, e seus limites

Inferência LLM privada

Um modelo na sua própria máquina, atrás do seu próprio endpoint. Prompts e saídas ficam em hardware alugado para uma conta, e a fatura é a mesma quer a GPU fique ocupada o mês todo ou ociosa.

Renderização

O Blender Cycles renderiza em CUDA ou OptiX, e os núcleos RT aceleram o ray tracing nele e em outros renderizadores de GPU. Instale o sistema operacional que seu renderizador precisa e enfileire frames durante a noite.

Codificação de vídeo

A RTX 5090 tem três codificadores NVENC e a RTX 5080 dois, cada um lidando com H.264, HEVC e AV1 em hardware. Dois decodificadores NVDEC em cada uma tiram o lado da entrada do processador.

Servidores de jogos e desktops remotos

O driver GeForce executa DirectX, Vulkan e OpenGL como um desktop faz. Hospede um servidor de jogos, uma caixa de cloud gaming ou uma estação de trabalho remota com uma GPU dedicada por trás.

  • Sem modo ECC. Estas são GPUs GeForce. Para execuções de semanas sem checkpoints, ou software certificado apenas em GPUs profissionais, escolha uma GPU de workstation ou data center em servidores GPU.
  • Sem NVLink. Várias GPUs em uma máquina conversam por PCIe. Servir um modelo dividido entre elas funciona bem; treinamento que troca gradientes a cada passo escala menos com cada GPU adicionada.
  • Fine-tuning completo de modelos grandes não cabe. QLoRA em um modelo de 7B a 13B cabe em 32 GB. Um fine-tune completo do mesmo modelo precisa de várias vezes essa memória.

Entrega e condições

Quando fica online, e o que o preço mensal inclui

  1. Cerca de 30 minutos

    Uma máquina com a GPU já está montada

    É instalada e entregue sem nada para encaixar. Servidores instantâneos lista o que está montado agora, e esses também podem ser alugados por hora.

  2. 4 a 24 horas

    Instalamos uma GPU do nosso estoque

    Um técnico instala a GPU na máquina que você configurou, monta o array de discos e instala o sistema operacional. Memória ou discos extras entram na mesma visita.

  3. 5 a 10 dias úteis

    A GPU precisa ser comprada

    Encomendamos a peça e depois montamos como acima. Você é informado de qual das três se aplica antes de pagar.

Incluído
Processador, memória, discos, um endereço IPv4 e uma porta sem limite. O tráfego não é contado em nenhuma direção.
Acesso
Root ou administrador no seu próprio sistema operacional, mais o console iLO ou iDRAC do servidor em uma rede de gerenciamento separada.
Instalação
$29 uma vez para uma GPU instalada sob encomenda. Uma máquina montada pedida como está não tem taxa de instalação personalizada.
Prazo
Mensal por padrão, sem contrato. Ciclos de 3, 6 e 12 meses economizam até 15%.
Suporte
O chat é respondido em segundos por um assistente de IA que consulta sua conta e servidor para você. Peça uma pessoa e ela assume.

Cada cronograma começa quando o pagamento e a revisão antifraude são aprovados. A maioria dos pedidos é aprovada em algumas horas; um primeiro pedido em uma conta nova pode demorar mais.

Especificações

Especificações da RTX 5090 e da RTX 5080

GPUMemoryBusBandwidthCUDA coresBoostPowerVideo
RTX 509032 GB GDDR7512-bit1,792 GB/s21,7602.41 GHz575 W3 NVENC, 2 NVDEC
RTX 508016 GB GDDR7256-bit960 GB/s10,7522.62 GHz360 W2 NVENC, 2 NVDEC

Valores de GPU conforme a NVIDIA publica para a série GeForce RTX 50. Preços, máquinas, cidades e contagens por máquina são lidos do nosso catálogo de pedidos, o mesmo que o checkout fatura.

Respostas

Perguntas sobre servidores RTX 5090

Quanto custa um servidor dedicado RTX 5090?

Um servidor RTX 5090 completo começa em $472.47 por mês: a GPU por $399 mais a máquina mais barata que a aceita, Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. Uma GPU instalada sob encomenda acrescenta uma configuração única de $29, e não há contrato.

Posso alugar um servidor RTX 5090 por hora?

Apenas uma máquina que já tenha a GPU instalada e seja usada como está: essas são cobradas por hora, a partir de um mínimo de uma hora, e a página de servidores instantâneos lista quais estão disponíveis agora. Uma máquina que você configura aqui é montada para você e cobrada por mês, sem contrato.

Existe uma edição para servidor da RTX 5090?

Não. A NVIDIA vende a RTX 5090 apenas como GPU GeForce. Se você quer uma GPU Blackwell que a NVIDIA também fabrica como edição para servidor, veja a RTX PRO 6000 Blackwell, com 96 GB de GDDR7 e ECC. Instalamos essa GPU de 96 GB também, com preços na página de servidores RTX PRO 6000, e a RTX 5090 em servidores rack com a GPU completa em pass-through.

Posso colocar mais de uma RTX 5090 em um servidor?

Sim. Nossas máquinas maiores aceitam até 4 RTX 5090s, 128 GB de memória de GPU no total, e o configurador mostra o máximo que cada máquina aceita. Cada GPU é uma linha mensal própria, e as GPUs se comunicam entre si via PCIe.

Um servidor RTX 5090 é bom para IA?

Para inferência e ajuste fino QLoRA, sim. Seus 32 GB comportam um modelo de 30B em 4 bits ou um de 13B em 8 bits com contexto de sobra, e duas delas comportam um modelo de 70B em 4 bits. Não tem modo ECC, então para treinamentos longos sem checkpoints uma GPU de data center é a escolha mais segura.

RTX 5090 ou RTX 5080: qual servidor devo escolher?

Escolha pela memória. A RTX 5080 tem 16 GB e 960 GB/s, e um servidor completo começa em $312.67 por mês; ela comporta um modelo de 8B em 8 bits ou um de 13B em 4 bits. A RTX 5090 tem 32 GB e 1.792 GB/s, para modelos maiores, cenas mais pesadas e mais codificação simultânea.

A RTX 5090 recebe um link PCIe 5.0 completo?

Não nas máquinas cujo link publicamos. A GPU é PCIe 5.0 x16, e as linhas com preço nesta página operam o slot em PCIe 3.0 ou PCIe 4.0, sendo a mais rápida PCIe 4.0. Para as linhas mais novas montadas sob encomenda, pergunte no chat em qual geração o slot opera. Inferência, codificação e a maioria das renderizações quase não notam; treinamento que transmite dados da memória do sistema a cada passo nota.

A GPU é compartilhada ou virtualizada?

Não. A máquina é alugada para uma conta e a GPU é passada diretamente para o seu sistema operacional. Não há hipervisor, perfil vGPU nem divisão de tempo, e você instala o driver NVIDIA e a versão CUDA que escolher.

Quão rápido um servidor RTX 5090 fica online?

Cerca de 30 minutos após o pedido ser aprovado quando uma máquina com a GPU já está disponível. Quando instalamos uma GPU do nosso estoque, considere de 4 a 24 horas; quando precisa ser comprada, de 5 a 10 dias úteis.

Onde ficam seus servidores RTX 5090?

Em New York, Miami, San Francisco and Bucharest, na rede própria da Server Room. As máquinas que aceitam GPUs RTX 50 não são oferecidas com elas em Amsterdã.

Configure seu servidor RTX 5090

Escolha a GPU e a quantidade, depois o processador, a memória, os discos e a cidade. O configurador precifica cada alteração conforme você a faz.

Todas as GPUs que instalamos · Servidores RTX 4090 · Servidores LLM · Disponíveis agora