Server dedicati con GPU · NVIDIA Ampere · a canone mensile
I nostri server GPU RTX 3090, 3080, 3070 sono macchine bare-metal noleggiate a canone mensile, con la GPU completa passata direttamente al tuo sistema operativo. Scegli una delle cinque GPU RTX 30 con memoria da 8 a 24 GB, su una macchina Intel Xeon o AMD EPYC, a partire da $209.93 al mese tutto incluso.
Il prezzo di ogni GPU qui sotto è quello del server completo: processore, memoria, dischi, porta e un indirizzo IPv4, più la quota mensile della GPU stessa. Scegli la GPU in base alla memoria richiesta dal tuo lavoro, poi modifica tutto il resto nel configuratore.
Le cinque GPU
Tutte e cinque condividono l'architettura Ampere, il driver e il set di funzionalità: core Tensor di terza generazione, core RT di seconda generazione, PCIe 4.0. A distinguerle sono la dimensione e la larghezza di banda della memoria. Parti dalla memoria che ti serve e fermati alla prima GPU che la contiene.
8 GB GDDR6
$209.93/mo, complete
GPU $139/mo, plus the machine:
Intel Xeon E5-2630L, 6 cores, 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
8 GB GDDR6X
$222.47/mo, complete
GPU $149/mo, plus the machine:
Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
10 GB GDDR6X
$229.93/mo, complete
GPU $159/mo, plus the machine:
Intel Xeon E5-2630L, 6 cores, 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
12 GB GDDR6X
$272.47/mo, complete
GPU $199/mo, plus the machine:
Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
24 GB GDDR6X
$309.93/mo, complete
GPU $239/mo, plus the machine:
Intel Xeon E5-2630L, 6 cores, 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
Ogni prezzo è la macchina più economica che supporta quella GPU, come la apre il configuratore. Il pulsante apre quella macchina con la GPU già selezionata; altri processori, più memoria, dischi più grandi e una porta più veloce sono quotati lì. Le configurazioni di Bucarest sono fatturate in euro e il configuratore mostra quel prezzo quando scegli la città.
Dimensionamento
Per l'inferenza la prima domanda riguarda la memoria, non la velocità. I pesi di un modello occupano parametri per byte per parametro, e la GPU necessita da un quarto a metà in più per la cache KV e il runtime. La tabella applica questa regola a ogni dimensione di memoria presente in questa pagina.
| Model size (weights) | RTX 3070, RTX 3070 Ti8 GB | RTX 308010 GB | RTX 3080 Ti12 GB | RTX 309024 GB |
|---|---|---|---|---|
| 7-8 billion parameters | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Tight | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 13-14 billion parameters | 4-bit: No8-bit: No | 4-bit: Tight8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits |
| 30-34 billion parameters | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: Tight8-bit: No |
| 70 billion parameters | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: No8-bit: No |
È la RTX 3080 originale con 8.704 core CUDA. NVIDIA ha poi venduto una versione da 12 GB con 8.960 core sotto lo stesso nome, e molte inserzioni riportano la sua memoria. Dimensionamento rispetto ai 10 GB: un modello 8B a 8 bit si carica con poco spazio residuo per il contesto, mentre un modello 13B a 8 bit non si carica affatto.
La RTX 3090 è l'unica GPU RTX 30 con 24 GB. Le nostre macchine Xeon più grandi ne accettano fino a 3, per un totale di 72 GB, che llama.cpp o vLLM possono suddividere tra più GPU. Due contengono un modello 70B a 4 bit, con margine ridotto. Per una singola GPU con più memoria, vedi tutte le GPU che installiamo; per piani modello per modello, server LLM.
Piattaforme
Ogni GPU RTX 30 dispone di un'interfaccia PCIe 4.0. Sulle macchine Intel Xeon funziona a PCIe 3.0; la macchina AMD EPYC offre alla RTX 3080 un collegamento PCIe 4.0 completo. Una volta che un modello o una scena è caricato nella memoria della GPU, il collegamento conta appena. Conta per i cicli di addestramento che trasferiscono batch dalla memoria di sistema a ogni passo.
| Machine | PCIe link | RTX 3070 | RTX 3070 Ti | RTX 3080 | RTX 3080 Ti | RTX 3090 |
|---|---|---|---|---|---|---|
| Intel Xeon E5-2600 v1/v2from $70.93/mo without a GPU | PCIe 3.0 | up to 1 | not offered | up to 2 | not offered | up to 2 |
| Intel Xeon E5-2600 v3/v4from $73.47/mo without a GPU | PCIe 3.0 | up to 2 | up to 2 | up to 2 | up to 2 | up to 3 |
| Intel Xeon Silver / Goldfrom $83.67/mo without a GPU | PCIe 3.0 | up to 2 | up to 2 | up to 2 | up to 2 | up to 3 |
| AMD EPYCfrom $217.59/mo without a GPU | PCIe 4.0 | not offered | not offered | up to 1 | not offered | not offered |
I prezzi delle macchine sono la configurazione più economica di ogni linea senza GPU. I server RTX 30 possono essere ordinati in New York, Miami, San Francisco and Bucharest. Le macchine di Amsterdam non sono offerte con queste GPU. La posizione determina la latenza verso i tuoi utenti e la legge sulla protezione dei dati applicabile; data center descrive ogni edificio.
Carichi di lavoro
Una RTX 3090 serve un modello 13B a 8 bit con spazio per il contesto, o un modello 30B a 4 bit con contesto breve, dietro la tua API con Ollama, llama.cpp o vLLM. Nulla di ciò che invii lascia la tua macchina.
Blender Cycles renderizza su CUDA o OptiX, e i core RT accelerano il ray tracing. Installa il sistema operativo richiesto dal tuo renderer e renderizza durante la notte a un prezzo mensile fisso.
Il driver GeForce esegue DirectX, Vulkan e OpenGL come un desktop. Esegui un server di gioco, un host di cloud gaming o una workstation remota con una GPU dedicata alle spalle.
Ogni GPU dispone di un codificatore NVENC per H.264 e HEVC e di un decodificatore NVDEC. NVIDIA consente fino a 8 sessioni di codifica simultanee per sistema sulle GPU GeForce, con driver 550.54.14 o successivi.
Consegna e condizioni
Niente da installare: il server è pronto e consegnato. Server istantanei elenca ciò che è montato su rack in questo momento.
Un tecnico installa la GPU, costruisce l'array di dischi e installa il sistema operativo. Memoria aggiuntiva o altre unità vengono inserite durante la stessa visita.
Ogni tempistica inizia una volta che il pagamento e la verifica antifrode sono completati. La maggior parte degli ordini viene evasa entro un paio d'ore; un primo ordine su un nuovo account può richiedere più tempo.
I proprietari elencano anche macchine RTX 30 sul nostro marketplace, ciascuna a un prezzo mensile stabilito dal proprietario. Le inserzioni contrassegnate come provenienti dalla nostra società consociata, Primcast, vengono noleggiate su primcast.com.
Specifiche
| GPU | Memory | Bus | Bandwidth | CUDA cores | Boost | Power |
|---|---|---|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | 256-bit | 448 GB/s | 5,888 | 1.73 GHz | 220 W |
| RTX 3070 Ti | 8 GB GDDR6X | 256-bit | 608 GB/s | 6,144 | 1.77 GHz | 290 W |
| RTX 3080 | 10 GB GDDR6X | 320-bit | 760 GB/s | 8,704 | 1.71 GHz | 320 W |
| RTX 3080 Ti | 12 GB GDDR6X | 384-bit | 912 GB/s | 10,240 | 1.67 GHz | 350 W |
| RTX 3090 | 24 GB GDDR6X | 384-bit | 936 GB/s | 10,496 | 1.70 GHz | 350 W |
Dati dal confronto della serie GeForce RTX 30 di NVIDIA e dalla sua matrice di supporto per codifica e decodifica video. Prezzi, macchine, città e conteggi per macchina sono letti dal nostro catalogo ordini, quello da cui il checkout fattura.
Risposte
Un server RTX 3090 completo parte da $309.93 al mese. Ovvero la GPU a $239 più la macchina più economica che la ospita: Intel Xeon E5-2630L, 6 cores, 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps. La configurazione RTX 30 più economica è la RTX 3070 a $209.93. Una GPU installata su richiesta prevede un costo di attivazione una tantum di $29.
La versione da 10 GB, con 8.704 core CUDA e 760 GB/s di larghezza di banda della memoria. Un server RTX 3080 completo parte da $229.93 al mese. Se il tuo modello richiede 12 GB, scegli la RTX 3080 Ti, che dispone di 12 GB su bus a 384 bit.
Sì. Le nostre macchine Xeon più grandi supportano fino a 3 RTX 3090, per un totale di 72 GB di memoria GPU, e il configuratore mostra il massimo supportato da ciascuna macchina. Ogni GPU è una voce mensile separata, quindi il prezzo aumenta in base al costo della GPU per ogni unità aggiunta.
Per l'inferenza e il fine-tuning QLoRA, sì. I suoi 24 GB ospitano un modello da 13B a 8 bit con spazio per il contesto, oppure un modello da 30B a 4 bit con un contesto ridotto. Non dispone di memoria ECC, quindi per lunghi addestramenti senza checkpoint una GPU da calcolo è la scelta più sicura.
Circa 30 minuti dopo l'approvazione dell'ordine quando una macchina con quella GPU è già montata in rack; queste sono elencate nella pagina dei server immediati. Quando installiamo la GPU sulla macchina che hai configurato, considera da 4 a 24 ore.
No. La macchina è noleggiata a un singolo account e la GPU è passata direttamente al tuo sistema operativo. Non ci sono hypervisor, profili vGPU o time-slicing, e installi il driver NVIDIA e la versione CUDA che preferisci.
No. Le GPU RTX 30 decodificano AV1 ma codificano solo H.264 e HEVC, con un encoder NVENC per GPU. La codifica hardware AV1 inizia con la serie RTX 40.
A New York, Miami, San Francisco and Bucharest, sulla rete proprietaria di Server Room. Le macchine che supportano queste GPU non sono offerte con esse ad Amsterdam.
Scegli la GPU in base alla memoria, poi processore, memoria, dischi e città. Il configuratore aggiorna il prezzo a ogni modifica.
Tutte le GPU che installiamo · Il desktop RTX 3050 · Server RTX 40 · Già in rack adesso