GPU-Dedicated-Server · NVIDIA Blackwell · monatlich mietbar
Ein RTX 5090 Dedicated-Server ist eine monatlich gemietete Bare-Metal-Maschine, und die volle GPU wird per PCIe-Passthrough an Ihr Betriebssystem durchgereicht. Die größeren Maschinen nehmen bis zu 4 RTX 5090 auf, und ein kompletter Server startet bei $472.47 im Monat.
Die RTX 5080 ist die 16-GB-Option auf derselben Architektur, ab $312.67 im Monat. Beide Preise decken Prozessor, Arbeitsspeicher, Festplatten, den Port und eine IPv4-Adresse ab, wobei die GPU als eigene monatliche Position abgerechnet wird. Wählen Sie die GPU nach Speichergröße und passen Sie den Rest im Konfigurator an.
Die beiden GPUs
Beide sind GeForce-Blackwell-GPUs mit GDDR7, Tensor-Cores der 5. Generation, die FP4 ausführen, RT-Cores der 4. Generation und AV1-Hardware-Encoding. Die RTX 5090 hat doppelt so viele CUDA-Cores wie die 5080, doppelt so viel Speicher und einen 512-Bit-Bus mit 1.792 GB/s. Wenn Ihr Modell oder Ihre Szene in 16 GB passt, führt die 5080 sie für weniger im Monat aus, nur langsamer.
32 GB GDDR7 · PCIe 5.0 x16 GPU
$472.47/mo, complete server
GPU $399/mo, plus the machine:
Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
16 GB GDDR7 · PCIe 5.0 x16 GPU
$312.67/mo, complete server
GPU $229/mo, plus the machine:
Intel Xeon Silver 4110, 8 cores, 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
Jeder Preis ist die günstigste Maschine, die diese GPU aufnimmt, so wie der Konfigurator sie öffnet. Der Button öffnet diese Maschine mit bereits ausgewählter GPU; schnellere Prozessoren, mehr Arbeitsspeicher, größere Festplatten und ein schnellerer Port werden dort bepreist. Bukarest-Builds werden in Euro abgerechnet, und der Konfigurator zeigt diesen Preis an, wenn Sie die Stadt wählen.
Host-Anbindung
Die RTX 5090 und RTX 5080 sind für PCIe 5.0 x16 gebaut. Die unten bepreisten Maschinenlinien betreiben den GPU-Slot mit PCIe 3.0 oder PCIe 4.0, und die schnellste davon ist PCIe 4.0. Für manche Aufgaben entscheidet das, welche Maschine Sie kaufen sollten – hier also, was jede der GPU bietet.
Inferenz mit bereits im GPU-Speicher liegenden Gewichten, Video-Encoding und Rendering, sobald die Szene geladen ist. Daten überqueren den Bus beim Laden und bleiben dann auf der GPU, sodass eine PCIe-3.0-Anbindung beim Start Sekunden kostet und danach nichts.
Trainingsschleifen, die bei jedem Schritt einen Batch aus dem Systemspeicher kopieren, Renderings, die Texturen streamen, die größer als der GPU-Speicher sind, und mehrere GPUs, die sich ein Modell teilen. GeForce-RTX-50-GPUs haben kein NVLink, daher läuft auch Multi-GPU-Verkehr über PCIe. Wählen Sie für diese Fälle die Maschine mit der schnelleren Anbindung in der Tabelle unten.
| Machine | PCIe link to the GPU | RTX 5080 | RTX 5090 |
|---|---|---|---|
| Intel Xeon E5-2600 v3/v4from $73.47/mo without a GPU | PCIe 3.0 | not offered | up to 4 |
| Intel Xeon Silver / Goldfrom $83.67/mo without a GPU | PCIe 3.0 | up to 4 | up to 4 |
| AMD EPYCfrom $217.59/mo without a GPU | PCIe 4.0 | not offered | up to 1 |
| Intel Xeon Gold 3rd gen, DDR4built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
| Intel Xeon Gold 4th gen, DDR5built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
Die Maschinenpreise sind der günstigste Build jeder Linie ohne GPU. Die neueren, auf Bestellung gefertigten Linien werden im Konfigurator bepreist; fragen Sie uns im Chat, mit welcher PCIe-Generation ihr GPU-Slot läuft, bevor Sie bestellen. RTX-50-Server können in New York, Miami, San Francisco and Bucharest bestellt werden; Amsterdam-Maschinen werden mit diesen GPUs nicht angeboten. Rechenzentren beschreibt jedes Gebäude.
Dimensionierung für KI
Bei Inferenz entscheidet zuerst der Speicher. Gewichte belegen Parameter mal Bytes pro Parameter, und die GPU braucht obendrauf noch ein Viertel bis die Hälfte mehr für den KV-Cache und die Laufzeit. Die Tabelle wendet diese Regel auf eine RTX 5080, eine RTX 5090 und eine Maschine mit mehreren 5090 an.
| Model size (weights) | RTX 508016 GB | RTX 509032 GB | 2 x RTX 509064 GB | 4 x RTX 5090128 GB |
|---|---|---|---|---|
| 7-8 billion parameters | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 13-14 billion parameters | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 30-34 billion parameters | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 70 billion parameters | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits |
Ein 30B-Modell mit 4 Bit oder ein 13B-Modell mit 8 Bit lädt mit Kontextreserve, hinter Ihrer eigenen API auf Ollama, llama.cpp oder vLLM. Die Blackwell-Tensor-Kerne führen außerdem FP4 nativ aus, was darauf ausgelegte Laufzeiten wie TensorRT-LLM nutzen, um 4-Bit-Modelle schneller zu bedienen.
Unsere größeren Maschinen nehmen bis zu 4 davon auf, 128 GB GPU-Speicher insgesamt, auf die vLLM oder llama.cpp ein Modell verteilen. Zwei fassen ein 70B-Modell mit 4 Bit und haben noch Luft. Für eine GPU mit mehr Speicher siehe alle GPUs, die wir einbauen; für modellweise Pläne LLM-Server.
Workloads
Ein Modell auf Ihrer eigenen Maschine, hinter Ihrem eigenen Endpunkt. Prompts und Ausgaben bleiben auf Hardware, die an ein einziges Konto vermietet ist, und die Rechnung ist gleich, ob die GPU den ganzen Monat ausgelastet ist oder leer steht.
Blender Cycles rendert auf CUDA oder OptiX, und die RT-Kerne beschleunigen dort und in anderen GPU-Renderern das Raytracing. Installieren Sie das Betriebssystem, das Ihr Renderer braucht, und stellen Sie Frames über Nacht in die Warteschlange.
Die RTX 5090 hat drei NVENC-Encoder und die RTX 5080 zwei, die jeweils H.264, HEVC und AV1 in Hardware verarbeiten. Zwei NVDEC-Decoder auf jeder Karte nehmen dem Prozessor die Eingabeseite ab.
Der GeForce-Treiber führt DirectX, Vulkan und OpenGL so aus wie ein Desktop. Betreiben Sie einen Spieleserver, eine Cloud-Gaming-Box oder einen Remote-Arbeitsplatz mit einer dedizierten GPU dahinter.
Lieferung und Konditionen
Sie ist installiert und wird ohne weitere Montage übergeben. Sofort-Server zeigt, was gerade eingebaut ist, und diese können auch stundenweise gemietet werden.
Ein Techniker installiert die GPU in der von Ihnen konfigurierten Maschine, richtet das Festplatten-Array ein und installiert das Betriebssystem. Zusätzlicher Speicher oder Laufwerke kommen beim selben Besuch hinein.
Wir bestellen das Teil und bauen dann wie oben. Sie erfahren vor der Zahlung, welcher der drei Fälle zutrifft.
Jede Frist beginnt, sobald Zahlung und Betrugsprüfung abgeschlossen sind. Die meisten Bestellungen sind innerhalb weniger Stunden durch; eine erste Bestellung auf einem neuen Konto kann länger dauern.
Besitzer listen RTX-50-Maschinen auch auf unserem Marktplatz, jeweils zu einem vom Besitzer festgelegten Monatspreis. Angebote, die über unser Schwesterunternehmen Primcast laufen, werden auf primcast.com vermietet.
Technische Daten
| GPU | Memory | Bus | Bandwidth | CUDA cores | Boost | Power | Video |
|---|---|---|---|---|---|---|---|
| RTX 5090 | 32 GB GDDR7 | 512-bit | 1,792 GB/s | 21,760 | 2.41 GHz | 575 W | 3 NVENC, 2 NVDEC |
| RTX 5080 | 16 GB GDDR7 | 256-bit | 960 GB/s | 10,752 | 2.62 GHz | 360 W | 2 NVENC, 2 NVDEC |
GPU-Angaben wie von NVIDIA für die GeForce-RTX-50-Serie veröffentlicht. Preise, Maschinen, Standorte und Stückzahlen pro Maschine stammen aus unserem Bestellkatalog, dem, aus dem der Checkout abrechnet.
Antworten
Ein kompletter RTX-5090-Server beginnt bei $472.47 im Monat: die GPU für $399 plus die günstigste Maschine, die sie aufnimmt, Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. Eine auf Bestellung eingebaute GPU kostet einmalig $29 Einrichtung, und es gibt keine Vertragsbindung.
Nur eine Maschine, in der die GPU bereits eingebaut ist und die so übernommen wird, wie sie ist: Diese werden stundenweise abgerechnet, ab einer Stunde Mindestlaufzeit, und unter Sofort-Server sehen Sie, welche gerade im Rack stehen. Eine Maschine, die Sie hier konfigurieren, wird für Sie gebaut und monatlich abgerechnet, ohne Vertragsbindung.
Nein. NVIDIA verkauft die RTX 5090 nur als GeForce-GPU. Wenn Sie eine Blackwell-GPU suchen, die NVIDIA auch als Server-Edition baut, sehen Sie sich die RTX PRO 6000 Blackwell mit 96 GB GDDR7 und ECC an. Wir verbauen auch diese 96-GB-GPU – die Preise finden Sie auf unserer Seite RTX-PRO-6000-Server – und die RTX 5090 in Rack-Servern mit vollständig durchgereichter GPU.
Ja. Unsere größeren Maschinen nehmen bis zu 4 RTX 5090 auf, insgesamt 128 GB GPU-Speicher, und der Konfigurator zeigt das Maximum pro Maschine an. Jede GPU ist eine eigene monatliche Position, und die GPUs kommunizieren untereinander über PCIe.
Für Inferenz und QLoRA-Feintuning: ja. Ihre 32 GB fassen ein 30B-Modell mit 4 Bit oder ein 13B-Modell mit 8 Bit und noch Kontextreserve, und zwei davon halten ein 70B-Modell mit 4 Bit. Sie hat keinen ECC-Modus, daher ist für lange Trainingsläufe ohne Checkpoints eine Rechenzentrums-GPU die sicherere Wahl.
Entscheiden Sie nach Speicher. Die RTX 5080 hat 16 GB und 960 GB/s, ein kompletter Server beginnt bei $312.67 im Monat; sie fasst ein 8B-Modell mit 8 Bit oder ein 13B-Modell mit 4 Bit. Die RTX 5090 hat 32 GB und 1.792 GB/s – für größere Modelle, aufwendigere Szenen und mehr gleichzeitiges Encoding.
Nicht bei den Maschinen, deren Anbindung wir veröffentlichen. Die GPU ist PCIe 5.0 x16, und die auf dieser Seite bepreisten Linien betreiben den Slot mit PCIe 3.0 oder PCIe 4.0, die schnellste ist PCIe 4.0. Bei den neueren, auf Bestellung gebauten Linien fragen Sie uns im Chat, mit welcher Generation der Slot läuft. Inferenz, Encoding und die meisten Renderings merken davon kaum etwas; Training, das bei jedem Schritt Daten aus dem Systemspeicher streamt, schon.
Nein. Die Maschine wird an ein einziges Konto vermietet, und die GPU wird direkt an Ihr Betriebssystem durchgereicht. Es gibt keinen Hypervisor, kein vGPU-Profil und kein Time-Slicing, und Sie installieren den NVIDIA-Treiber und die CUDA-Version Ihrer Wahl.
Etwa 30 Minuten nach Bestellfreigabe, wenn eine Maschine mit der GPU bereits im Rack steht. Wenn wir eine GPU aus unserem Lager einbauen, rechnen Sie mit 4 bis 24 Stunden; wenn sie erst beschafft werden muss, mit 5 bis 10 Werktagen.
In New York, Miami, San Francisco and Bucharest, im eigenen Netz von Server Room. Die Maschinen, die RTX-50-GPUs aufnehmen, werden dort mit diesen GPUs in Amsterdam nicht angeboten.
Wählen Sie die GPU und deren Anzahl, dann Prozessor, Arbeitsspeicher, Festplatten und Standort. Der Konfigurator bepreist jede Änderung, sobald Sie sie vornehmen.
Alle GPUs, die wir verbauen · RTX-4090-Server · LLM-Server · Jetzt im Rack