Server dedicati GPU · NVIDIA Blackwell · a canone mensile
Un server dedicato RTX 5090 è una macchina bare metal noleggiata a canone mensile, e la GPU completa viene assegnata al tuo sistema operativo tramite passthrough PCIe. Le macchine più grandi ospitano fino a 4 RTX 5090, e un server completo parte da $472.47 al mese.
La RTX 5080 è l'opzione da 16 GB sulla stessa architettura, a partire da $312.67 al mese. Entrambi i prezzi includono processore, memoria, dischi, la porta e un indirizzo IPv4, con la GPU fatturata come voce mensile separata. Scegli la GPU in base alla memoria, poi modifica il resto nel configuratore.
Le due GPU
Entrambe sono GPU GeForce Blackwell con GDDR7, core Tensor di quinta generazione che eseguono FP4, core RT di quarta generazione e codifica hardware AV1. La RTX 5090 ha il doppio dei core CUDA della 5080, il doppio della memoria e un bus a 512 bit con 1.792 GB/s. Se il tuo modello o la tua scena rientra nei 16 GB, la 5080 lo esegue spendendo meno al mese, solo più lentamente.
32 GB GDDR7 · PCIe 5.0 x16 GPU
$472.47/mo, complete server
GPU $399/mo, plus the machine:
Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
16 GB GDDR7 · PCIe 5.0 x16 GPU
$312.67/mo, complete server
GPU $229/mo, plus the machine:
Intel Xeon Silver 4110, 8 cores, 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
Ogni prezzo corrisponde alla macchina più economica che supporta quella GPU, come la apre il configuratore. Il pulsante apre quella macchina con la GPU già selezionata; processori più veloci, più memoria, dischi più grandi e una porta più rapida vengono quotati lì. Le configurazioni di Bucarest sono fatturate in euro, e il configuratore mostra quel prezzo quando scegli la città.
Collegamento host
Le RTX 5090 e RTX 5080 sono progettate per PCIe 5.0 x16. Le linee di macchine quotate sotto fanno funzionare lo slot GPU a PCIe 3.0 o PCIe 4.0, e la più veloce tra queste è PCIe 4.0. Per alcuni carichi di lavoro questo determina quale macchina acquistare, quindi ecco cosa offre ciascuna alla GPU.
Inferenza con i pesi già nella memoria GPU, codifica video e rendering una volta caricata la scena. I dati attraversano il bus al momento del caricamento e poi restano sulla GPU, quindi un collegamento PCIe 3.0 costa qualche secondo all'avvio e nulla dopo.
Cicli di addestramento che copiano un batch dalla memoria di sistema a ogni passo, render che trasferiscono texture più grandi della memoria GPU e più GPU che suddividono un unico modello. Le GPU GeForce RTX 50 non hanno NVLink, quindi anche il traffico multi-GPU passa dal PCIe. Per questi casi, scegli la macchina con il collegamento più veloce nella tabella sotto.
| Machine | PCIe link to the GPU | RTX 5080 | RTX 5090 |
|---|---|---|---|
| Intel Xeon E5-2600 v3/v4from $73.47/mo without a GPU | PCIe 3.0 | not offered | up to 4 |
| Intel Xeon Silver / Goldfrom $83.67/mo without a GPU | PCIe 3.0 | up to 4 | up to 4 |
| AMD EPYCfrom $217.59/mo without a GPU | PCIe 4.0 | not offered | up to 1 |
| Intel Xeon Gold 3rd gen, DDR4built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
| Intel Xeon Gold 4th gen, DDR5built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
I prezzi delle macchine sono la configurazione più economica di ciascuna linea senza GPU. Le linee più recenti costruite su ordinazione sono quotate nel configuratore; chiedici in chat a quale generazione PCIe gira il loro slot GPU prima di ordinare. I server RTX 50 possono essere ordinati in New York, Miami, San Francisco and Bucharest; le macchine di Amsterdam non sono offerte con queste GPU. Data center descrive ogni struttura.
Dimensionamento per l'IA
Per l'inferenza, la memoria decide per prima. I pesi occupano parametri per byte per parametro, e la GPU richiede da un quarto alla metà in più per la cache KV e il runtime. La tabella applica questa regola a una RTX 5080, una RTX 5090 e una macchina con più 5090.
| Model size (weights) | RTX 508016 GB | RTX 509032 GB | 2 x RTX 509064 GB | 4 x RTX 5090128 GB |
|---|---|---|---|---|
| 7-8 billion parameters | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 13-14 billion parameters | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 30-34 billion parameters | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 70 billion parameters | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits |
Un modello da 30B a 4 bit o uno da 13B a 8 bit si carica con contesto di riserva, dietro la tua API su Ollama, llama.cpp o vLLM. I core Tensor Blackwell eseguono anche FP4 in modo nativo, che i runtime progettati per questo, come TensorRT-LLM, usano per servire modelli a 4 bit più velocemente.
Le nostre macchine più grandi ne ospitano fino a 4, 128 GB di memoria GPU in totale, che vLLM o llama.cpp suddividono tra i modelli. Due gestiscono un modello da 70B a 4 bit con margine. Per una GPU con più memoria, vedi tutte le GPU che installiamo; per piani modello per modello, server LLM.
Carichi di lavoro
Un modello sulla tua macchina, dietro il tuo endpoint. Prompt e output restano su hardware noleggiato a un solo account, e il costo è lo stesso sia che la GPU sia occupata tutto il mese sia che resti inattiva.
Blender Cycles renderizza su CUDA o OptiX, e i core RT accelerano il ray tracing in esso e in altri renderer GPU. Installa il sistema operativo richiesto dal tuo renderer e metti in coda i frame durante la notte.
La RTX 5090 ha tre encoder NVENC e la RTX 5080 due, ciascuno in grado di gestire H.264, HEVC e AV1 via hardware. Due decoder NVDEC su ciascuna alleggeriscono il processore dal lato input.
Il driver GeForce esegue DirectX, Vulkan e OpenGL come farebbe un desktop. Ospita un server di gioco, una postazione di cloud gaming o una workstation remota con una GPU dedicata alle spalle.
Consegna e condizioni
È installata e consegnata senza nulla da aggiungere. Server istantanei elenca ciò che è già montato ora, e quelli possono anche essere noleggiati a ore.
Un tecnico installa la GPU nella macchina che hai configurato, crea l'array di dischi e installa il sistema operativo. Memoria o dischi extra vengono aggiunti nella stessa visita.
Ordiniamo il componente, poi procediamo come sopra. Ti viene comunicato quale dei tre casi si applica prima del pagamento.
Ogni tempistica parte una volta che pagamento e revisione antifrode sono completati. La maggior parte degli ordini si conclude entro un paio d'ore; un primo ordine su un nuovo account può richiedere più tempo.
I proprietari inseriscono anche macchine RTX 50 sul nostro marketplace, ciascuna a un prezzo mensile stabilito dal proprietario. Gli annunci che passano attraverso la nostra società consociata, Primcast, vengono noleggiati su primcast.com.
Specifiche
| GPU | Memory | Bus | Bandwidth | CUDA cores | Boost | Power | Video |
|---|---|---|---|---|---|---|---|
| RTX 5090 | 32 GB GDDR7 | 512-bit | 1,792 GB/s | 21,760 | 2.41 GHz | 575 W | 3 NVENC, 2 NVDEC |
| RTX 5080 | 16 GB GDDR7 | 256-bit | 960 GB/s | 10,752 | 2.62 GHz | 360 W | 2 NVENC, 2 NVDEC |
Dati GPU come pubblicati da NVIDIA per la serie GeForce RTX 50. Prezzi, macchine, città e conteggi per macchina sono letti dal nostro catalogo ordini, quello da cui il checkout fattura.
Risposte
Un server RTX 5090 completo parte da $472.47 al mese: la GPU a $399 più la macchina più economica che la ospita, Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. Una GPU installata su richiesta aggiunge un costo di setup una tantum di $29, e non c'è alcun vincolo contrattuale.
Solo una macchina che ha già la GPU installata e viene presa così com'è: quelle vengono fatturate a ore, con un minimo di un'ora, e la pagina server istantanei elenca quali sono già montati in rack. Una macchina che configuri qui viene costruita per te e fatturata mensilmente, senza vincoli contrattuali.
No. NVIDIA vende la RTX 5090 solo come GPU GeForce. Se cerchi una GPU Blackwell che NVIDIA produce anche in versione server, guarda la RTX PRO 6000 Blackwell, con 96 GB di GDDR7 ed ECC. Installiamo anche quella GPU da 96 GB, con prezzi sulla nostra pagina server RTX PRO 6000, e la RTX 5090 in server rack con la GPU completa passata direttamente al sistema.
Sì. Le nostre macchine più grandi ospitano fino a 4 RTX 5090, 128 GB di memoria GPU in totale, e il configuratore mostra il massimo supportato da ciascuna macchina. Ogni GPU è una voce mensile separata, e le GPU comunicano tra loro tramite PCIe.
Per l'inferenza e il fine-tuning QLoRA, sì. I suoi 32 GB ospitano un modello da 30B a 4 bit o uno da 13B a 8 bit con contesto in abbondanza, e due di esse contengono un modello da 70B a 4 bit. Non ha modalità ECC, quindi per lunghi addestramenti senza checkpoint una GPU da data center è la scelta più sicura.
Scegli in base alla memoria. La RTX 5080 ha 16 GB e 960 GB/s, e un server completo parte da $312.67 al mese; ospita un modello da 8B a 8 bit o uno da 13B a 4 bit. La RTX 5090 ha 32 GB e 1.792 GB/s, per modelli più grandi, scene più pesanti e più encoding simultaneo.
Non sulle macchine di cui pubblichiamo il collegamento. La GPU è PCIe 5.0 x16, e le linee quotate in questa pagina fanno funzionare lo slot a PCIe 3.0 o PCIe 4.0, la più veloce è PCIe 4.0. Per le linee più recenti costruite su ordinazione, chiedici in chat a quale generazione funziona lo slot. Inferenza, encoding e la maggior parte del rendering quasi non se ne accorgono; l'addestramento che trasferisce dati dalla memoria di sistema a ogni passo sì.
No. La macchina è noleggiata a un solo account e la GPU viene passata direttamente al tuo sistema operativo. Non c'è hypervisor, nessun profilo vGPU e nessun time-slicing, e installi il driver NVIDIA e la versione CUDA che preferisci.
Circa 30 minuti dopo l'approvazione dell'ordine quando una macchina con la GPU è già montata in rack. Quando installiamo una GPU dal nostro magazzino, considera da 4 a 24 ore; quando deve essere acquistata, da 5 a 10 giorni lavorativi.
A New York, Miami, San Francisco and Bucharest, sulla rete proprietaria di Server Room. Le macchine che ospitano le GPU RTX 50 non sono offerte con esse ad Amsterdam.
Scegli la GPU e quante, poi processore, memoria, dischi e città. Il configuratore aggiorna il prezzo a ogni modifica.
Tutte le GPU che installiamo · Server RTX 4090 · Server LLM · Montati in rack adesso