Serwery dedykowane GPU · bare metal · miesięcznie

Serwery dedykowane GPU. Pełne GPU. Nikt inny na nim nie pracuje.

Serwer dedykowany GPU to fizyczna maszyna wynajmowana jednemu kontu na miesiąc, z GPU przekazanym bezpośrednio do Twojego systemu operacyjnego. Bez hypervisora, bez wycinka vGPU, bez sąsiada na krzemie.

  • PCIe passthrough
  • Port bez limitu transferu
  • 5 miast
  • Bez umowy

Wybierz GPU według zadania i potrzebnej pamięci. Każdy wiersz na liście to kompletny serwer z zainstalowanym GPU, wyceniony z tego samego katalogu, z którego nalicza opłaty koszyk, a udział samego GPU jest wydrukowany pod sumą.

Katalog

Serwery GPU NVIDIA i AMD, każdy wyceniony jako kompletna maszyna

Określ, do czego ma służyć GPU i jakiej minimalnej pamięci potrzebuje. Lista zawęża się w miarę wyboru, od najtańszych. Każdy wiersz otwiera maszynę, która przyjmuje to GPU w konfiguratorze.

1. Do czego ma służyć GPU?

2. Ile pamięci GPU, co najmniej?

dowolna GB lub więcej

Wagi modeli w 4-bitach, dla skali

  • 5 GB7-8B @ 4-bit
  • 8 GB13-14B @ 4-bit
  • 19 GB30-34B @ 4-bit
  • 38 GB70B @ 4-bit

  1. Quadro 3000M2 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 240 CUDA cores$91.72/moGPU $20.79
  2. Quadro K3100M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 768 CUDA cores$102.52/moGPU $31.59
  3. Quadro M3000M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,280 CUDA cores$109.12/moGPU $38.19
  4. TESLA M68 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,536 CUDA cores$113.42/moGPU $42.49
  5. TESLA M608 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$119.42/moGPU $48.49
  6. GTX 1070M8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$124.32/moGPU $53.39
  7. GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99/moGPU $55.06
  8. GTX 10708 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,920 CUDA cores$135.22/moGPU $64.29
  9. GTX 1070 Ti8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,432 CUDA cores$146.22/moGPU $75.29
  10. GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93/moGPU $79
  11. TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93/moGPU $79
  12. TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93/moGPU $79
  13. RTX 20708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,304 CUDA cores$159.93/moGPU $89
  14. TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93/moGPU $99
  15. Instinct MI50 16GB16 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$169.93/moGPU $99
  16. RTX 2070 Super8 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$172.47/moGPU $99
  17. Quadro RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47/moGPU $99
  18. Instinct MI5016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$172.47/moGPU $99
  19. TESLA M602 x 8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,096 CUDA cores$178.82/moGPU $107.89
  20. RTX 20808 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,994 CUDA cores$189.93/moGPU $119
  21. Quadro RTX 500016 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$189.93/moGPU $119
  22. RTX 2080 Super8 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$199.93/moGPU $129
  23. TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92/moGPU $129.99
  24. RTX A20006 or 12 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,328 CUDA cores$202.47/moGPU $129
  25. RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93/moGPU $139
  26. TESLA P10016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,584 CUDA cores$212.47/moGPU $139
  27. Quadro P500016 GB GDDR5XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$214.06/moGPU $140.59
  28. RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93/moGPU $149
  29. RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47/moGPU $149
  30. RTX A400016 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47/moGPU $149
  31. RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93/moGPU $159
  32. TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93/moGPU $189
  33. CMP 170HX 64GB HBM2e8 GB HBM2e, 64 GB unlockedIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$259.93/moGPU $189
  34. RTX 407012 GB GDDR6XIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 5,888 CUDA cores$262.67/moGPU $179
  35. RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47/moGPU $199
  36. Tenstorrent Blackhole p100a28 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$272.47/moGPU $199
  37. L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67/moGPU $209
  38. RTX A500024 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 8,192 CUDA cores$302.47/moGPU $229
  39. Tesla V100 32GB32 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 5,120 CUDA cores$302.47/moGPU $229
  40. RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93/moGPU $239
  41. RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67/moGPU $229
  42. Quadro P600024 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$320.52/moGPU $249.59
  43. RTX 4500 Ada Generation24 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 7,680 CUDA cores$332.67/moGPU $249
  44. RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47/moGPU $299
  45. Quadro RTX 600024 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$372.47/moGPU $299
  46. RTX PRO 4000–Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$372.47/moGPU $299
  47. Quadro RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47/moGPU $399
  48. RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47/moGPU $399
  49. L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67/moGPU $449
  50. A4048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$572.47/moGPU $499
  51. Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67/moGPU $499
  52. RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47/moGPU $549
  53. RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47/moGPU $625
  54. A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47/moGPU $699
  55. A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47/moGPU $899
  56. RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67/moGPU $1,299
  57. H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67/moGPU $1,599

Ceny to wartości z koszyka. GPU, którego producent nie podaje wielkości pamięci, pokazuje myślnik i znika z listy, gdy suwak pamięci przesunie się z pozycji „dowolna”. Niektóre GPU pasują do więcej niż jednej obudowy: wiersz pokazuje najtańszą, konfigurator pokazuje pozostałe.

Dzierżawa

Hosting dedykowanych serwerów GPU: pełne GPU należy do Ciebie

GPU znajduje się w fizycznym slocie PCIe w maszynie wynajmowanej jednemu kontu. Instalujesz system operacyjny, ładujesz moduł jądra i przypinasz wersję sterownika, CUDA lub ROCm, na której testowano Twój kod. Nic nie aktualizuje się bez Twojej wiedzy.

Maszyna podlega tej samej zasadzie: każdy rdzeń, cała pamięć, oba dyski, root oraz konsola iLO lub iDRAC samego serwera w osobnej sieci zarządzania. Jeśli eksperyment ze sterownikiem odetnie sieć, nadal masz ekran, nośniki wirtualne i kontrolę zasilania.

  • Bez wycinkaBez partycji MIG, bez profilu vGPU, bez udziału ułamkowego. Jedno GPU, jeden system operacyjny.
  • Bez kolejkiNad Tobą nie ma żadnego harmonogramu. Gdy Twój proces jest bezczynny, GPU jest bezczynne i nadal Twoje.
  • Bez hypervisoraBare metal. Opóźnienie zmierzone pierwszego dnia to opóźnienie, które masz o 4 nad ranem.
  • Bez licznikaZbiory danych wchodzą, checkpointy i rendery wychodzą. Nic na porcie nie zlicza bajtów.

Jak działa wycena

Dwie pozycje, które się sumują: maszyna i GPU

Większość dostawców sprzedaje GPU jako poziom, z procesorem, pamięcią, dyskami i siecią wycenionymi wokół niego. Tutaj maszyna to jedna pozycja miesięczna, a GPU to druga. Wymień później GPU, a rachunek zmieni się dokładnie o różnicę między tymi dwoma GPU.

Szukasz taniego serwera dedykowanego GPU?

Zacznij od góry listy. Zachowaliśmy starsze GPU, które nadal wykonują realną pracę, takie jak części Tesla i Quadro do transkodowania wideo lub obsługi zdalnych pulpitów, i siedzą one w tej samej całej maszynie z tym samym portem bez limitu co najnowsze GPU. Dlaczego trzymamy starszy sprzęt wyjaśnia ten kompromis.

Porównujesz z godzinowymi chmurami GPU? Najdroższa konfiguracja na liście, H100 80GB, kosztuje $1,682.67 miesięcznie za całą maszynę, około $2.31 za godzinę przy 730-godzinnym miesiącu, a żadna pozycja za ruch wychodzący nie pojawi się później.

  1. MachineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
  2. GPUQuadro 3000M$20.79 – $1,599 across the list$20.79
  3. PortUnmetered, both directionsNo allowance, no egress lineincluded
  4. SetupOne-time, custom buildMonthly term, no contract$29

Complete, per month, from$91.72

Cykle trzy-, sześcio- i dwunastomiesięczne oszczędzają do 15%. Konfigurator zaokrągla ceny za dysk i może różnić się o centa. Cennik zawiera wszystkie kwoty na stronie.

Pamięć GPU

Ile pamięci GPU potrzebuje Twój model

Pamięć GPU decyduje o tym, czy model w ogóle się uruchomi; rdzenie i taktowanie decydują tylko o szybkości. GPU, któremu brakuje dwóch gigabajtów, nie działa wolniej — w ogóle się nie ładuje. Ustal tę liczbę najpierw.

Wagi zajmują liczbę parametrów razy bajty na parametr: dwa bajty przy 16 bitach, jeden przy 8 bitach, pół bajta przy 4 bitach. Kwantyzacja do 4 bitów pozwala zmieścić model na mniejszym GPU, kosztem zauważalnego spadku jakości.

Zostaw zapas. Tabela uwzględnia wyłącznie wagi. Środowisko uruchomieniowe, aktywacje i pamięć podręczna klucz-wartość dzielą tę samą pamięć, a pamięć podręczna rośnie z każdym tokenem kontekstu, więc 38 GB wag nie będzie wygodnie działać na GPU 40 GB. Dodaj od ćwierci do połowy na wierzch.

, a dobierzemy GPU do tego, co faktycznie uruchamiasz.

Model16-bit8-bit4-bit
7-8 billion parameters16 GB8 GB5 GB
13-14 billion parameters28 GB14 GB8 GB
30-34 billion parameters68 GB34 GB19 GB
70 billion parameters140 GB70 GB38 GB

Same wagi, zaokrąglone w górę do pełnego gigabajta.

Platformy

Serwery, które przyjmują GPU, i magistrala PCIe, jaką każdy z nich oferuje

Każda platforma daje gniazdu inną generację PCIe i inny budżet linii. Podajemy to, bo to zmienia wyniki: klient przeniósł się kiedyś na nowsze konsumenckie GPU na platformie PCIe 3.0 i renderował wolniej, a przyczynę odkrył przed nami.

PCIe 3.0

Intel Xeon E5-2600 v1/v2

$70.93/mo before the GPU

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

GPUs
28
Lanes
40 lanes per socket
Sockets
2
Max RAM
256 GB
Intel Xeon E5-2600 v1/v2 →

PCIe 3.0

Intel Xeon E5-2600 v3/v4

$73.47/mo before the GPU

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

GPUs
44
Lanes
40 lanes per socket
Sockets
2
Max RAM
1 TB
Intel Xeon E5-2600 v3/v4 →

PCIe 3.0

Intel Xeon Silver / Gold

$83.67/mo before the GPU

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

GPUs
48
Lanes
48 lanes per socket
Sockets
2
Max RAM
1 TB
Intel Xeon Silver / Gold →

PCIe 4.0

AMD EPYC

$217.59/mo before the GPU

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

GPUs
10
Lanes
128 lanes per socket
Sockets
2
Max RAM
1 TB
AMD EPYC →

Kiedy generacja magistrali ma znaczenie

  • Kosztuje Cię, gdy dane stale przechodzą przez magistralę: pętla treningowa strumieniująca paczki z dysku lub pamięci systemowej, renderer podający dane sceny w każdej klatce, zestaw roboczy, który nie mieści się w pamięci GPU.
  • Nie kosztuje Cię nic, gdy wagi są już załadowane i tam zostają: inferencja na modelu, który się mieści, transkodowanie wideo, większość symulacji. Łącze przenosi wtedy tylko małe żądania i wyniki.
  • Nie jesteś pewien? Podaj obciążenie, a powiemy, czy platforma je ogranicza, w tym kiedy tańsze GPU na szybszej magistrali będzie lepszym zakupem.

W cenie

Co obejmuje hosting serwerów GPU, zanim cokolwiek dodasz

  • Root i własny stos sterowników

    Czysty system operacyjny i klucze. Ty wybierasz sterownik, wersję CUDA lub ROCm i build frameworka, a one pozostają przypięte. Chcesz, żeby sterownik był zainstalowany przed przekazaniem? Podaj dokładną wersję w zamówieniu.

  • Konsola we własnej sieci

    iLO na maszynach HPE, iDRAC na Dell: klawiatura i ekran, nośniki wirtualne, kontrola zasilania, czujniki i dzienniki sprzętowe. Moduł, który zawiesza ekran lub kartę sieciową, to restart, który wykonujesz sam, obserwując POST.

  • Port, którego nic nie liczy

    Bez limitu w obu kierunkach przy prędkości zawartej w cenie i każdej wyższej. Bez limitu transferu i bez opłaty za ruch wychodzący. Nielimitowana przepustowość zawiera listę szybszych portów.

  • Reinstalacje bez zgłoszenia

    Obrazy systemu operacyjnego jednym kliknięciem, tak często, jak chcesz, bez opłat. Reverse DNS możesz edytować sam, IPv6 jest w cenie, a dodatkowe IPv4 to jedna linia w konfiguratorze.

  • Odpowiedzi w sekundy, człowiek na życzenie

    Na czacie odpowiada w sekundy asystent AI, który może sprawdzić Twoje konto i serwer, a człowiek przejmuje rozmowę w chwili, gdy o to poprosisz. Uszkodzona część jest wymieniana w oknie Twojego planu wsparcia: 24 godziny w podstawowym planie Basic, 4 w Bronze, 3 w Silver, 2 w Gold i Platinum.

  • Pięć miast, nasza własna sieć

    Nowy Jork, Miami, San Francisco, Amsterdam i Bukareszt, wszystkie w sieci własnej Server Room, AS19624. Lokalizacja określa Twoje opóźnienia do użytkowników i prawo o ochronie danych, któremu podlegasz. Centra danych opisują każdy budynek.

Dostawa

Jak szybko możesz wynająć serwer dedykowany z GPU

To zależy od tego, gdzie GPU znajduje się dzisiaj, a my mówimy Ci, w którym przypadku jesteś, zanim zapłacisz.

  1. Około 30 minut

    GPU jest już w maszynie w szafie

    Nic do montażu. Maszyna jest zainstalowana i przekazana. Serwery natychmiastowe pokazują, co jest gotowe od ręki.

  2. 4 do 24 godzin

    Instalujemy GPU z naszego magazynu

    Typowy przypadek. Technik instaluje GPU, buduje macierz dyskową i instaluje system operacyjny. Dodatkowa pamięć lub inny dysk są wykonywane podczas tej samej wizyty.

  3. 5 do 10 dni roboczych

    GPU trzeba dokupić

    Zamawiamy część, a potem budujemy jak wyżej. Budowa na zamówienie obejmuje maszynę według Twojej pełnej specyfikacji.

  4. 10 do 15 dni roboczych

    GPU jest na przydziale

    Obecne akceleratory są wysyłane w terminie dystrybutora i podajemy go, zanim się zobowiążesz. Sprzęt kupowany dla jednego klienta jest wyceniany z trzymiesięczną płatnością z góry.

Każdy harmonogram startuje po zaksięgowaniu płatności i przejściu weryfikacji antyfraudowej. Większość zamówień przechodzi w ciągu kilku godzin; pierwsze zamówienie na nowym koncie może potrwać dłużej.

Dziedzina partnera

Media tworzone przez AI: praca, do której pasuje pełny GPU

Viral Mind Technologies, partner Server Room, buduje i prowadzi własne projekty cyfrowe: wirtualne osobowości, internetowe marki medialne i oprogramowanie dla twórców. Firma zaczynała w 2019 roku jako agencja marketingu cyfrowego, a od końca 2022 roku pracuje nad własnymi projektami AI.

Generowanie obrazów i wideo utrzymuje model w pamięci GPU i zajmuje kartę graficzną na wiele godzin. To właśnie przypadek dedykowanego GPU na gołym metalu, a nie jego wycinka — a pełny GPU otrzymuje każdy serwer wynajmowany na tej stronie.

Ich portfolio i studia przypadków: viralmindtech.com

  • Wirtualne osobowościNaomi Marie, uruchomiona w sierpniu 2023 roku, jest pierwszą cyfrową osobowością, którą firma posiada w całości.
  • MediaCybeauty Magazine, uruchomiony w marcu 2024 roku, działa jako publikacja internetowa.
  • Narzędzia dla twórcówProof of Ownership wystawia datowany zapis dla pliku twórczego, odciskany w przeglądarce, dzięki czemu plik nigdy nie opuszcza urządzenia.

Odpowiedzi

Pytania o serwery dedykowane z GPU — z odpowiedziami

Czym jest dedykowany serwer GPU?

Fizyczny serwer wynajmowany jednemu klientowi, z zainstalowaną kartą graficzną przekazaną do systemu operacyjnego tego klienta. Nic nie jest wirtualizowane ani współdzielone: otrzymujesz wszystkie rdzenie, całą pamięć, dyski i pełne GPU, z dostępem root i zdalną konsolą.

Ile kosztuje dedykowany serwer GPU?

Kompletna maszyna z zainstalowanym GPU kosztuje od $91.72 do $1,682.67 miesięcznie. Cena to suma dwóch pozycji: maszyny oraz GPU w cenie od $20.79 do $1,599 miesięcznie. Procesor, pamięć, dwa dyski, nielimitowany port i jeden adres IPv4 są wliczone. Opłata instalacyjna to jednorazowe $29 przy konfiguracji z GPU montowanym na zamówienie; gotowa maszyna zamawiana w obecnej postaci nie ma tej opłaty.

Czy współdzielę GPU z kimkolwiek?

Nie. Jedna fizyczna maszyna, jedno konto i GPU przekazane do systemu operacyjnego, który zainstalowałeś. Nie ma hipernadzorcy, partycji MIG, profilu vGPU ani podziału czasu. Wyniki benchmarków z pierwszego dnia to wyniki, które zachowujesz.

Czy mogę wynająć dedykowany serwer z GPU na miesiąc, bez umowy?

Tak. Jeden miesiąc to domyślny okres i nie ma nic do podpisania. Cykle trzy-, sześcio- i dwunastomiesięczne dają oszczędność do 15%, a cena nie rośnie przy odnowieniu. Płać kartą kredytową lub przez PayPal; przy większym zamówieniu można zorganizować przelew bankowy, który zwykle przechodzi weryfikację antyfraudową szybciej niż płatność kartą.

Czy jest tani dedykowany serwer GPU?

Tak. Lista na tej stronie jest posortowana od najtańszych, a najtańsza kompletna konfiguracja to Quadro 3000M w Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps za $91.72 miesięcznie. Starsze GPU Tesla i Quadro nadal dobrze transkodują wideo i obsługują zdalne pulpity, a są montowane w tej samej pełnej maszynie z tym samym nielimitowanym portem.

Które GPU NVIDIA i AMD mogę otrzymać?

57 GPU znajdują się na liście, od obecnych akceleratorów obliczeniowych NVIDIA i AMD Instinct po starsze modele Tesla, Quadro i GeForce. Każdy jest wymieniony z nazwy, z pamięcią i pełną ceną miesięczną. Jeśli brakuje GPU, którego potrzebujesz, zapytaj: często możemy go dokupić.

Który sterownik i wersja CUDA są zainstalowane?

Te, które sam zainstalujesz. Serwer dociera z czystym systemem operacyjnym i dostępem root, a Ty przypinasz sterownik, wersję CUDA lub ROCm oraz build frameworka, na którym testowano Twój kod. Jeśli chcesz mieć sterownik na miejscu przy odbiorze, podaj dokładną wersję w zamówieniu. Jeśli GPU musi obsługiwać konkretną wersję CUDA, zapytaj przed płatnością, a my to sprawdzimy.

Czy dwa GPU zmieszczą się w jednym serwerze?

Często tak, i wyceniamy to ręcznie: prześwit obudowy, szerokość GPU, linie PCIe i zasilacz decydują o liczbie. Podaj nazwę GPU, a my odpowiemy z obudową, liczbą i czasem realizacji. Zwykle chodzi o pamięć, nie szybkość, ponieważ dwa GPU 48 GB pomieszczą model, którego jedno GPU 80 GB nie pomieści. Serwery multi-GPU i wielowęzłowe opisują kolejny krok.

Czy mogę później zmienić GPU?

Tak, w serwerze, który już masz: bez migracji, bez ponownej instalacji, bez nowych adresów IP. To zaplanowana wizyta z krótką przerwą w działaniu, a rachunek zmienia się dokładnie o różnicę między dwoma GPU. RAM, dyski i szybszy port są dodawane według tej samej zasady.

Co się stanie, jeśli GPU ulegnie awarii?

Wymieniamy je w oknie czasowym Twojego planu wsparcia, licząc od zgłoszenia: 24 godziny w planie Basic, 4 w Bronze, 3 w Silver, 2 w Gold i Platinum. Po przekroczeniu okna naliczany jest kredyt usługowy zgodnie z harmonogramem opublikowanym na stronie wsparcia.

Czy mogę przynieść własną kartę graficzną?

Tak, GPU, które posiadasz, lub dowolna inna część może trafić do serwera, który tu wynajmujesz. To nie jest darmowe, ponieważ GPU pobiera prąd, a opłata zależy od sprzętu. Nie ponosimy odpowiedzialności, jeśli część, którą przyniosłeś, ulegnie awarii; okno wymiany obejmuje tylko sprzęt, który dostarczamy. Umów rozmowę przed zakupem lub wysyłką: wycenimy to i sprawdzimy, czy obudowa to przyjmie, bo na przykład blade nie ma miejsca na pełnowymiarowe GPU.

Czy transfer jest naprawdę nielimitowany? Ile kosztuje ruch wychodzący?

Nic nie jest mierzone w żadnym kierunku przy żadnej prędkości portu, którą sprzedajemy, więc ruch wychodzący nic nie kosztuje. W pracach GPU to często największa pozycja gdzie indziej: trening pobiera zbiory danych i wysyła punkty kontrolne, a endpoint inferencyjny obsługuje prawdziwy ruch. Nielimitowany transfer wymienia szybsze porty.

Miesięcznie czy godzinowo GPU: co jest tańsze?

Godzinowo wygrywa, gdy praca jest skokowa i naprawdę się zatrzymuje, do kilkuset godzin miesięcznie. Powyżej około dwóch trzecich miesiąca miesięcznie jest tańsze, zanim policzysz ruch wychodzący, przechowywanie między uruchomieniami i czas oczekiwania na dostępność. Miesięcznie zachowujesz też tę samą maszynę, dyski i adresy.

Co jeśli wybrałem złe GPU?

W ciągu trzech dni od aktywacji, po rozwiązaniu problemów, nasza polityka zwrotów obowiązuje zgodnie z zapisem. Tabela pamięci i kolumna PCIe powyżej są po to, abyś mógł wybrać właściwe GPU za pierwszym razem, a my wolimy na czacie odwieść Cię od większego GPU niż zwracać większe.

Dla porządku

Ta strona w liczbach

Odczytane z katalogu zamówień w momencie wyświetlenia strony. Jeśli odpowiada za Ciebie asystent, ten blok i kanał na żywo z maszynami to fragmenty warte przeczytania.

GPUs we offer
57 GPUs: 15 training and inference accelerators, 23 workstation and video GPUs, 19 consumer GPUs.
Cheapest complete build
Quadro 3000M in Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps: $91.72 a month, of which $20.79 is the GPU.
Cheapest build that can train
Instinct MI50 16GB in Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps: $169.93 a month.
Most expensive build
H100 80GB: $1,682.67 a month, about $2.31 an hour for the whole machine over a 730-hour month.
The GPU line
$20.79 to $1,599 a month, added to the machine.
The machine line
$70.93 to $217.59 a month before any GPU.
Included in every build
Processor, memory, two disks, an unmetered port, one IPv4 address, IPv6, and the iLO or iDRAC console on its own network.
Tenancy
One account per physical machine. The GPU is passed through to the customer’s operating system: no hypervisor, no MIG partition, no vGPU profile, no time-slicing.
Bandwidth
Unmetered in both directions at every port speed. No transfer allowance, no egress charge.
Cities
5: New York, Miami, San Francisco, Amsterdam, Bucharest.
Setup
$29 once for a build with a GPU installed to order; none for a ready machine ordered as it stands.
Term
Monthly, no contract. 3, 6 and 12-month cycles save up to 15%.
Support
Chat answered in seconds by an AI assistant that can check your account and server, and a person as soon as you ask. Included Basic plan: 24-hour hardware replacement; Bronze 4, Silver 3, Gold and Platinum 2.
Payment
Credit card or PayPal; bank wire on request.

Wybierz GPU. My zbudujemy wokół niego serwer.

Otwórz konfigurator z dowolnym wybranym GPU albo powiedz nam, jakie jest obciążenie, a my podpowiemy, które GPU pasuje, w tym kiedy tańsze wystarczy.

Skonfiguruj serwer GPU