Servere dedicate GPU · NVIDIA Blackwell · lunar
Un server dedicat RTX 5090 este o mașină bare-metal închiriată lunar, iar GPU-ul complet este predat sistemului tău de operare prin passthrough PCIe. Mașinile mai mari acceptă până la 4 RTX 5090, iar un server complet pornește de la $472.47 pe lună.
RTX 5080 este opțiunea de 16 GB pe aceeași arhitectură, de la $312.67 pe lună. Ambele prețuri acoperă procesorul, memoria, discurile, portul și o adresă IPv4, GPU-ul fiind facturat ca linie lunară separată. Alege GPU-ul după memorie, apoi modifică restul în configurator.
Cele două GPU-uri
Ambele sunt GPU-uri GeForce Blackwell cu GDDR7, nuclee Tensor de generația a 5-a care rulează FP4, nuclee RT de generația a 4-a și codare hardware AV1. RTX 5090 are de două ori mai multe nuclee CUDA decât 5080, dublul memoriei și un bus de 512 biți cu 1.792 GB/s. Dacă modelul sau scena ta încape în 16 GB, 5080 îl rulează mai ieftin pe lună, doar că mai lent.
32 GB GDDR7 · PCIe 5.0 x16 GPU
$472.47/mo, complete server
GPU $399/mo, plus the machine:
Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
16 GB GDDR7 · PCIe 5.0 x16 GPU
$312.67/mo, complete server
GPU $229/mo, plus the machine:
Intel Xeon Silver 4110, 8 cores, 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
Fiecare preț este cea mai ieftină mașină care acceptă acel GPU, așa cum o deschide configuratorul. Butonul deschide acea mașină cu GPU-ul deja selectat; procesoare mai rapide, mai multă memorie, discuri mai mari și un port mai rapid sunt tarifate acolo. Configurările din București sunt facturate în euro, iar configuratorul afișează acel preț când alegi orașul.
Legătura gazdă
RTX 5090 și RTX 5080 sunt construite pentru PCIe 5.0 x16. Liniile de mașini tarifate mai jos rulează slotul GPU la PCIe 3.0 sau PCIe 4.0, iar cea mai rapidă dintre ele este PCIe 4.0. Pentru unele sarcini asta decide ce mașină să cumperi, așa că iată ce oferă fiecare GPU-ului.
Inferența cu ponderile deja în memoria GPU, codarea video și randarea odată ce scena este încărcată. Datele traversează busul la încărcare și apoi rămân pe GPU, așa că o legătură PCIe 3.0 costă secunde la pornire și nimic după.
Bucle de antrenament care copiază un lot din memoria de sistem la fiecare pas, randări care transmit texturi mai mari decât memoria GPU și mai multe GPU-uri care împart un model. GPU-urile GeForce RTX 50 nu au NVLink, așa că traficul multi-GPU trece tot prin PCIe. Pentru acestea, alege mașina cu legătura mai rapidă din tabelul de mai jos.
| Machine | PCIe link to the GPU | RTX 5080 | RTX 5090 |
|---|---|---|---|
| Intel Xeon E5-2600 v3/v4from $73.47/mo without a GPU | PCIe 3.0 | not offered | up to 4 |
| Intel Xeon Silver / Goldfrom $83.67/mo without a GPU | PCIe 3.0 | up to 4 | up to 4 |
| AMD EPYCfrom $217.59/mo without a GPU | PCIe 4.0 | not offered | up to 1 |
| Intel Xeon Gold 3rd gen, DDR4built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
| Intel Xeon Gold 4th gen, DDR5built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
Prețurile mașinilor sunt cea mai ieftină configurație a fiecărei linii fără GPU. Liniile mai noi construite la comandă sunt tarifate în configurator; întreabă-ne în chat ce generație PCIe rulează slotul lor GPU înainte să comanzi. Serverele RTX 50 pot fi comandate în New York, Miami, San Francisco and Bucharest; mașinile din Amsterdam nu sunt oferite cu aceste GPU-uri. Centrele de date descriu fiecare clădire.
Dimensionare pentru AI
Pentru inferență, memoria decide mai întâi. Greutățile ocupă parametri ori octeți pe parametru, iar GPU-ul are nevoie de un sfert până la jumătate în plus pentru cache-ul KV și pentru runtime. Tabelul aplică această regulă la un RTX 5080, un RTX 5090 și o mașină cu mai multe 5090-uri.
| Model size (weights) | RTX 508016 GB | RTX 509032 GB | 2 x RTX 509064 GB | 4 x RTX 5090128 GB |
|---|---|---|---|---|
| 7-8 billion parameters | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 13-14 billion parameters | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 30-34 billion parameters | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 70 billion parameters | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits |
Un model de 30B pe 4 biți sau unul de 13B pe 8 biți se încarcă cu context de rezervă, în spatele propriului API pe Ollama, llama.cpp sau vLLM. Nucleele Blackwell Tensor rulează și FP4 nativ, pe care runtime-urile construite pentru el, precum TensorRT-LLM, îl folosesc pentru a servi modelele pe 4 biți mai rapid.
Mașinile noastre mai mari acceptă până la 4 dintre ele, 128 GB de memorie GPU în total, pe care vLLM sau llama.cpp împart un model. Două susțin un model de 70B pe 4 biți cu spațiu de rezervă. Pentru un GPU cu mai multă memorie, vezi toate GPU-urile pe care le montăm; pentru planuri model cu model, servere LLM.
Sarcini de lucru
Un model pe propria mașină, în spatele propriului endpoint. Prompturile și rezultatele rămân pe hardware închiriat unui singur cont, iar factura este aceeași indiferent dacă GPU-ul este ocupat toată luna sau stă inactiv.
Blender Cycles randează pe CUDA sau OptiX, iar nucleele RT accelerează ray tracing-ul în el și în alte randere GPU. Instalează sistemul de operare de care are nevoie rendererul tău și pune cadrele la coadă peste noapte.
RTX 5090 are trei codificatoare NVENC, iar RTX 5080 două, fiecare gestionând H.264, HEVC și AV1 în hardware. Două decodificatoare NVDEC pe fiecare preiau partea de intrare de pe procesor.
Driverul GeForce rulează DirectX, Vulkan și OpenGL la fel ca un desktop. Găzduiește un server de joc, o cutie de cloud gaming sau o stație de lucru la distanță cu un GPU dedicat în spate.
Livrare și termeni
Este instalată și predată fără nimic de montat. Servere instant listează ce este montat acum, iar acelea pot fi închiriate și cu ora.
Un tehnician instalează GPU-ul în mașina pe care ai configurat-o, construiește matricea de discuri și instalează sistemul de operare. Memorie sau discuri suplimentare se adaugă în aceeași vizită.
Comandăm piesa, apoi construim ca mai sus. Ți se spune care dintre cele trei se aplică înainte să plătești.
Fiecare termen începe după ce plata și verificarea antifraudă sunt aprobate. Majoritatea comenzilor sunt aprobate în câteva ore; o primă comandă pe un cont nou poate dura mai mult.
Proprietarii listează și mașini RTX 50 pe piața noastră, fiecare la un preț lunar stabilit de proprietar. Listările care vin prin compania noastră soră, Primcast, sunt închiriate pe primcast.com.
Specificații
| GPU | Memory | Bus | Bandwidth | CUDA cores | Boost | Power | Video |
|---|---|---|---|---|---|---|---|
| RTX 5090 | 32 GB GDDR7 | 512-bit | 1,792 GB/s | 21,760 | 2.41 GHz | 575 W | 3 NVENC, 2 NVDEC |
| RTX 5080 | 16 GB GDDR7 | 256-bit | 960 GB/s | 10,752 | 2.62 GHz | 360 W | 2 NVENC, 2 NVDEC |
Cifrele GPU sunt cele publicate de NVIDIA pentru seria GeForce RTX 50. Prețurile, mașinile, orașele și numărul per mașină sunt citite din catalogul nostru de comenzi, cel din care facturează checkout-ul.
Răspunsuri
Un server RTX 5090 complet pornește de la $472.47 pe lună: GPU-ul la $399 plus cea mai ieftină mașină care îl acceptă, Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. Un GPU montat la comandă adaugă o taxă unică de instalare de $29, fără contract.
Doar o mașină care are deja GPU-ul montat și este preluată ca atare: acestea se facturează cu ora, de la minimum o oră, iar serverele instant arată care sunt disponibile acum în rack. O mașină pe care o configurezi aici este construită pentru tine și facturată lunar, fără contract.
Nu. NVIDIA vinde RTX 5090 doar ca GPU GeForce. Dacă vrei un GPU Blackwell pe care NVIDIA îl produce și ca ediție de server, uită-te la RTX PRO 6000 Blackwell, cu 96 GB GDDR7 și ECC. Montăm și acel GPU de 96 GB, cu prețuri pe pagina servere RTX PRO 6000, precum și RTX 5090 în servere rack cu GPU-ul complet pasat către sistem.
Da. Mașinile noastre mai mari acceptă până la 4 RTX 5090, 128 GB memorie GPU în total, iar configuratorul arată numărul maxim pentru fiecare mașină. Fiecare GPU este o linie lunară separată, iar GPU-urile comunică între ele prin PCIe.
Pentru inferență și fine-tuning QLoRA, da. Cei 32 GB ai săi susțin un model de 30B la 4 biți sau unul de 13B la 8 biți cu context suplimentar, iar două dintre ele susțin un model de 70B la 4 biți. Nu are mod ECC, așa că pentru antrenamente lungi fără puncte de control un GPU de centru de date este alegerea mai sigură.
Alege după memorie. RTX 5080 are 16 GB și 960 GB/s, iar un server complet pornește de la $312.67 pe lună; susține un model de 8B la 8 biți sau unul de 13B la 4 biți. RTX 5090 are 32 GB și 1.792 GB/s, pentru modele mai mari, scene mai complexe și mai multă codare simultană.
Nu pe mașinile ale căror legături le publicăm. GPU-ul este PCIe 5.0 x16, iar liniile cu prețuri pe această pagină rulează slotul la PCIe 3.0 sau PCIe 4.0, cea mai rapidă fiind PCIe 4.0. Pentru liniile mai noi construite la comandă, întreabă-ne în chat ce generație rulează slotul. Inferența, codarea și majoritatea randărilor abia observă diferența; antrenamentul care transferă date din memoria de sistem la fiecare pas o observă.
Nu. Mașina este închiriată unui singur cont, iar GPU-ul este pasat direct către sistemul tău de operare. Nu există hypervisor, profil vGPU sau partajare în timp, iar tu instalezi driverul NVIDIA și versiunea CUDA pe care o alegi.
Aproximativ 30 minute după aprobarea comenzii, când o mașină cu GPU-ul este deja în rack. Când montăm un GPU din stocul nostru, alocă 4 până la 24 de ore; când trebuie achiziționat, 5 până la 10 zile lucrătoare.
În New York, Miami, San Francisco and Bucharest, pe rețeaua proprie a Server Room. Mașinile care acceptă GPU-uri RTX 50 nu sunt oferite cu acestea în Amsterdam.
Alege GPU-ul și numărul lor, apoi procesorul, memoria, discurile și orașul. Configuratorul afișează prețul fiecărei modificări pe măsură ce o faci.
Fiecare GPU pe care îl montăm · Servere RTX 4090 · Servere LLM · În rack chiar acum