Serwery dedykowane GPU · NVIDIA Blackwell · z miesięczną płatnością
Serwer dedykowany RTX 5090 to maszyna na gołym metalu wynajmowana co miesiąc, a cały procesor graficzny jest przekazywany do Twojego systemu operacyjnego przez PCIe passthrough. Większe maszyny mieszczą do 4 kart RTX 5090, a kompletny serwer zaczyna się od $472.47 miesięcznie.
RTX 5080 to opcja z 16 GB na tej samej architekturze, od $312.67 miesięcznie. Obie ceny obejmują procesor, pamięć, dyski, port i jeden adres IPv4, a GPU jest rozliczane jako osobna pozycja miesięczna. Wybierz GPU według pamięci, a resztę zmień w konfiguratorze.
Dwa procesory graficzne
Oba to GPU GeForce Blackwell z pamięcią GDDR7, rdzeniami Tensor piątej generacji obsługującymi FP4, rdzeniami RT czwartej generacji i sprzętowym kodowaniem AV1. RTX 5090 ma dwa razy więcej rdzeni CUDA niż 5080, dwa razy więcej pamięci i magistralę 512-bitową o przepustowości 1792 GB/s. Jeśli Twój model lub scena mieści się w 16 GB, 5080 uruchomi ją taniej miesięcznie, tylko wolniej.
32 GB GDDR7 · PCIe 5.0 x16 GPU
$472.47/mo, complete server
GPU $399/mo, plus the machine:
Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
16 GB GDDR7 · PCIe 5.0 x16 GPU
$312.67/mo, complete server
GPU $229/mo, plus the machine:
Intel Xeon Silver 4110, 8 cores, 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
Każda cena to najtańsza maszyna obsługująca dane GPU, tak jak otwiera ją konfigurator. Przycisk otwiera tę maszynę z już wybranym GPU; szybsze procesory, więcej pamięci, większe dyski i szybszy port są tam wyceniane. Konfiguracje w Bukareszcie są rozliczane w euro, a konfigurator pokazuje tę cenę po wybraniu miasta.
Łącze hosta
RTX 5090 i RTX 5080 są zbudowane pod PCIe 5.0 x16. Wymienione poniżej linie maszyn obsługują gniazdo GPU w standardzie PCIe 3.0 lub PCIe 4.0, a najszybsze z nich to PCIe 4.0. W przypadku niektórych zadań to decyduje o wyborze maszyny, więc oto, co każda z nich zapewnia GPU.
Inferencja z wagami już w pamięci GPU, kodowanie wideo i renderowanie po załadowaniu sceny. Dane przechodzą przez magistralę w momencie ładowania, a potem pozostają na GPU, więc łącze PCIe 3.0 kosztuje kilka sekund przy starcie i nic później.
Pętle treningowe kopiujące partię z pamięci systemowej w każdym kroku, rendery przesyłające tekstury większe niż pamięć GPU oraz kilka procesorów graficznych dzielących jeden model. GPU GeForce RTX 50 nie mają NVLink, więc ruch między wieloma GPU również przechodzi przez PCIe. W takich przypadkach wybierz maszynę z szybszym łączem z poniższej tabeli.
| Machine | PCIe link to the GPU | RTX 5080 | RTX 5090 |
|---|---|---|---|
| Intel Xeon E5-2600 v3/v4from $73.47/mo without a GPU | PCIe 3.0 | not offered | up to 4 |
| Intel Xeon Silver / Goldfrom $83.67/mo without a GPU | PCIe 3.0 | up to 4 | up to 4 |
| AMD EPYCfrom $217.59/mo without a GPU | PCIe 4.0 | not offered | up to 1 |
| Intel Xeon Gold 3rd gen, DDR4built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
| Intel Xeon Gold 4th gen, DDR5built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
Ceny maszyn to najtańsza konfiguracja każdej linii bez GPU. Nowsze linie budowane na zamówienie są wyceniane w konfiguratorze; zapytaj nas na czacie, w jakiej generacji PCIe działa ich gniazdo GPU, zanim złożysz zamówienie. Serwery RTX 50 można zamawiać w New York, Miami, San Francisco and Bucharest; maszyny w Amsterdamie nie są oferowane z tymi GPU. Centra danych opisują każdy budynek.
Dobór pod AI
Przy inferencji najpierw decyduje pamięć. Wagi zajmują liczbę parametrów razy bajty na parametr, a GPU potrzebuje dodatkowo od ćwierci do połowy tego na pamięć podręczną KV i środowisko uruchomieniowe. Tabela stosuje tę zasadę do jednego RTX 5080, jednego RTX 5090 oraz maszyny z kilkoma 5090.
| Model size (weights) | RTX 508016 GB | RTX 509032 GB | 2 x RTX 509064 GB | 4 x RTX 5090128 GB |
|---|---|---|---|---|
| 7-8 billion parameters | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 13-14 billion parameters | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 30-34 billion parameters | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 70 billion parameters | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits |
Model 30B w 4 bitach lub 13B w 8 bitach ładuje się z zapasem kontekstu, za własnym API na Ollamie, llama.cpp lub vLLM. Rdzenie tensorowe Blackwell obsługują też natywnie FP4, co środowiska pod to zbudowane, takie jak TensorRT-LLM, wykorzystują do szybszego serwowania modeli 4-bitowych.
Nasze większe maszyny mieszczą do 4 takich kart, łącznie 128 GB pamięci GPU, którą vLLM lub llama.cpp dzielą między model. Dwie karty pomieszczą model 70B w 4 bitach z zapasem. Jeśli potrzebujesz jednego GPU z większą pamięcią, zobacz wszystkie GPU, które montujemy; plany dla konkretnych modeli znajdziesz na serwerach LLM.
Obciążenia
Model na własnej maszynie, za własnym endpointem. Zapytania i odpowiedzi pozostają na sprzęcie wynajmowanym na jedno konto, a rachunek jest taki sam, niezależnie od tego, czy GPU pracuje cały miesiąc, czy stoi bezczynnie.
Blender Cycles renderuje na CUDA lub OptiX, a rdzenie RT przyspieszają ray tracing w nim i w innych rendererach GPU. Zainstaluj system operacyjny, którego wymaga Twój renderer, i ustaw kolejkowanie klatek na noc.
RTX 5090 ma trzy enkodery NVENC, a RTX 5080 dwa, każdy obsługuje sprzętowo H.264, HEVC i AV1. Dwa dekodery NVDEC na każdej karcie odciążają procesor po stronie wejścia.
Sterownik GeForce obsługuje DirectX, Vulkan i OpenGL tak jak komputer stacjonarny. Uruchom serwer gry, maszynę do gamingu w chmurze lub zdalną stację roboczą z dedykowanym GPU w tle.
Dostawa i warunki
Jest zainstalowana i przekazywana bez żadnego montażu. Serwery natychmiastowe pokazują, co jest teraz w szafie, a te można też wynajmować za godzinę.
Technik instaluje GPU w skonfigurowanej przez Ciebie maszynie, buduje macierz dyskową i instaluje system operacyjny. Dodatkowa pamięć lub dyski trafiają do środka podczas tej samej wizyty.
Zamawiamy część, a potem budujemy jak wyżej. Przed płatnością dowiesz się, który z trzech wariantów dotyczy Twojego zamówienia.
Każdy termin biegnie od zaksięgowania płatności i zakończenia weryfikacji antyfraudowej. Większość zamówień przechodzi w ciągu kilku godzin; pierwsze zamówienie na nowym koncie może potrwać dłużej.
Właściciele wystawiają też maszyny RTX 50 na naszym rynku, każdą w miesięcznej cenie ustalonej przez właściciela. Oferty przechodzące przez naszą siostrzaną firmę Primcast są wynajmowane na primcast.com.
Specyfikacje
| GPU | Memory | Bus | Bandwidth | CUDA cores | Boost | Power | Video |
|---|---|---|---|---|---|---|---|
| RTX 5090 | 32 GB GDDR7 | 512-bit | 1,792 GB/s | 21,760 | 2.41 GHz | 575 W | 3 NVENC, 2 NVDEC |
| RTX 5080 | 16 GB GDDR7 | 256-bit | 960 GB/s | 10,752 | 2.62 GHz | 360 W | 2 NVENC, 2 NVDEC |
Dane GPU według publikacji NVIDIA dla serii GeForce RTX 50. Ceny, maszyny, lokalizacje i liczba kart na maszynę pochodzą z naszego katalogu zamówień, tego, z którego rozlicza koszyk.
Odpowiedzi
Kompletny serwer z RTX 5090 kosztuje od $472.47 miesięcznie: GPU za $399 plus najtańsza maszyna, która je przyjmie, Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. GPU montowane na zamówienie wiąże się z jednorazową opłatą instalacyjną w wysokości $29, bez umowy na czas określony.
Tylko maszynę, która ma już GPU w środku i jest wynajmowana w obecnej konfiguracji: te są rozliczane godzinowo, od minimum jednej godziny, a serwery natychmiastowe pokazują, które są teraz dostępne w szafach. Maszyna, którą skonfigurujesz tutaj, jest budowana dla Ciebie i rozliczana miesięcznie, bez umowy na czas określony.
Nie. NVIDIA sprzedaje RTX 5090 wyłącznie jako GPU GeForce. Jeśli szukasz GPU Blackwell, które NVIDIA produkuje również w wersji serwerowej, sprawdź RTX PRO 6000 Blackwell z 96 GB GDDR7 i ECC. Montujemy również to 96 GB GPU, wycenione na naszej stronie serwerów RTX PRO 6000, a RTX 5090 w serwerach rack z pełnym GPU przekazanym bezpośrednio.
Tak. Nasze większe maszyny przyjmują do 4 kart RTX 5090, łącznie 128 GB pamięci GPU, a konfigurator pokazuje maksymalną liczbę dla każdej maszyny. Każde GPU to osobna pozycja miesięczna, a karty komunikują się ze sobą przez PCIe.
Do inferencji i dostrajania QLoRA — tak. Jego 32 GB pomieści model 30B w 4-bitach lub 13B w 8-bitach z zapasem kontekstu, a dwie karty utrzymają model 70B w 4-bitach. Nie ma trybu ECC, więc do długich treningów bez punktów kontrolnych bezpieczniejszym wyborem jest GPU do centrów danych.
Wybierz według pamięci. RTX 5080 ma 16 GB i 960 GB/s, a kompletny serwer kosztuje od $312.67 miesięcznie; pomieści model 8B w 8-bitach lub 13B w 4-bitach. RTX 5090 ma 32 GB i 1792 GB/s, do większych modeli, cięższych scen i większej liczby jednoczesnych zadań kodowania.
Nie na maszynach, których łącza publikujemy. GPU to PCIe 5.0 x16, a linie wycenione na tej stronie obsługują slot w standardzie PCIe 3.0 lub PCIe 4.0, przy czym najszybsze to PCIe 4.0. W przypadku nowszych linii budowanych na zamówienie zapytaj nas na czacie, w jakiej generacji działa slot. Inferencja, kodowanie i większość renderowania prawie tego nie odczuwa; trening, który przesyła dane z pamięci systemowej w każdym kroku, już tak.
Nie. Maszyna jest wynajmowana jednemu kontu, a GPU jest przekazywane bezpośrednio do Twojego systemu operacyjnego. Nie ma hipernadzorcy, profilu vGPU ani podziału czasu, a Ty instalujesz wybrany sterownik NVIDIA i wersję CUDA.
Około 30 minut po zatwierdzeniu zamówienia, gdy maszyna z GPU jest już w szafie. Gdy montujemy GPU z naszego magazynu, przewidziano od 4 do 24 godzin; gdy trzeba je dokupić, od 5 do 10 dni roboczych.
W New York, Miami, San Francisco and Bucharest, w sieci własnej Server Room. Maszyny obsługujące GPU RTX 50 nie są z nimi oferowane w Amsterdamie.
Wybierz GPU i ich liczbę, a następnie procesor, pamięć, dyski i miasto. Konfigurator wycenia każdą zmianę na bieżąco.
Każde GPU, które montujemy · Serwery RTX 4090 · Serwery LLM · Dostępne od ręki