GPU özel sunucular · bare metal · aylık

GPU özel sunucular. GPU'nun tamamı. Üzerinde başka kimse yok.

GPU özel sunucu, tek bir hesaba aylık olarak kiralanan fiziksel bir makinedir; GPU doğrudan kendi işletim sisteminize geçirilir. Hipervizör yok, vGPU dilimi yok, silikon üzerinde komşu yok.

  • PCIe passthrough
  • Sınırsız port
  • 5 şehir
  • Sözleşme yok

GPU'yu işe ve ihtiyaç duyduğu belleğe göre seçin. Listedeki her satır, o GPU takılı eksiksiz bir sunucudur; ödeme ekranının faturalandırdığı aynı katalogdan fiyatlandırılır ve GPU'nun kendi payı toplamın altında yazılıdır.

Katalog

NVIDIA ve AMD GPU sunucuları, her biri komple makine olarak fiyatlandırılır

GPU'nun ne için olduğunu ve ihtiyaç duyduğu en az belleği söyleyin. Liste ilerledikçe daralır, en ucuz önce gelir. Her satır, o GPU'yu alan makineyi yapılandırıcıda açar.

1. GPU ne için?

2. En az ne kadar GPU belleği?

herhangi GB veya daha fazla

Ölçek için 4-bit model ağırlıkları

  • 5 GB7-8B @ 4-bit
  • 8 GB13-14B @ 4-bit
  • 19 GB30-34B @ 4-bit
  • 38 GB70B @ 4-bit

  1. Quadro 3000M2 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 240 CUDA cores$91.72/moGPU $20.79
  2. Quadro K3100M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 768 CUDA cores$102.52/moGPU $31.59
  3. Quadro M3000M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,280 CUDA cores$109.12/moGPU $38.19
  4. TESLA M68 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,536 CUDA cores$113.42/moGPU $42.49
  5. TESLA M608 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$119.42/moGPU $48.49
  6. GTX 1070M8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$124.32/moGPU $53.39
  7. GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99/moGPU $55.06
  8. GTX 10708 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,920 CUDA cores$135.22/moGPU $64.29
  9. GTX 1070 Ti8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,432 CUDA cores$146.22/moGPU $75.29
  10. GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93/moGPU $79
  11. TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93/moGPU $79
  12. TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93/moGPU $79
  13. RTX 20708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,304 CUDA cores$159.93/moGPU $89
  14. TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93/moGPU $99
  15. Instinct MI50 16GB16 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$169.93/moGPU $99
  16. RTX 2070 Super8 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$172.47/moGPU $99
  17. Quadro RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47/moGPU $99
  18. Instinct MI5016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$172.47/moGPU $99
  19. TESLA M602 x 8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,096 CUDA cores$178.82/moGPU $107.89
  20. RTX 20808 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,994 CUDA cores$189.93/moGPU $119
  21. Quadro RTX 500016 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$189.93/moGPU $119
  22. RTX 2080 Super8 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$199.93/moGPU $129
  23. TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92/moGPU $129.99
  24. RTX A20006 or 12 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,328 CUDA cores$202.47/moGPU $129
  25. RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93/moGPU $139
  26. TESLA P10016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,584 CUDA cores$212.47/moGPU $139
  27. Quadro P500016 GB GDDR5XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$214.06/moGPU $140.59
  28. RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93/moGPU $149
  29. RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47/moGPU $149
  30. RTX A400016 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47/moGPU $149
  31. RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93/moGPU $159
  32. TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93/moGPU $189
  33. CMP 170HX 64GB HBM2e8 GB HBM2e, 64 GB unlockedIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$259.93/moGPU $189
  34. RTX 407012 GB GDDR6XIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 5,888 CUDA cores$262.67/moGPU $179
  35. RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47/moGPU $199
  36. Tenstorrent Blackhole p100a28 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$272.47/moGPU $199
  37. L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67/moGPU $209
  38. RTX A500024 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 8,192 CUDA cores$302.47/moGPU $229
  39. Tesla V100 32GB32 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 5,120 CUDA cores$302.47/moGPU $229
  40. RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93/moGPU $239
  41. RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67/moGPU $229
  42. Quadro P600024 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$320.52/moGPU $249.59
  43. RTX 4500 Ada Generation24 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 7,680 CUDA cores$332.67/moGPU $249
  44. RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47/moGPU $299
  45. Quadro RTX 600024 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$372.47/moGPU $299
  46. RTX PRO 4000–Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$372.47/moGPU $299
  47. Quadro RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47/moGPU $399
  48. RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47/moGPU $399
  49. L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67/moGPU $449
  50. A4048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$572.47/moGPU $499
  51. Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67/moGPU $499
  52. RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47/moGPU $549
  53. RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47/moGPU $625
  54. A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47/moGPU $699
  55. A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47/moGPU $899
  56. RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67/moGPU $1,299
  57. H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67/moGPU $1,599

Fiyatlar ödeme ekranının kendi rakamlarıdır. Üreticisi bellek rakamı yayınlamayan bir GPU kısa çizgi gösterir ve bellek kontrolü “herhangi” konumundan ayrıldığında listeden düşer. Bazı GPU'lar birden fazla kasaya sığar: satır en ucuzunu gösterir, yapılandırıcı geri kalanını gösterir.

Kullanım hakkı

Özel GPU sunucu barındırma: GPU'nun tamamı sizindir

GPU, tek bir hesaba kiralanan makinedeki fiziksel bir PCIe yuvasında durur. İşletim sistemini siz kurarsınız, çekirdek modülünü yükler ve kodunuzun test edildiği sürücü, CUDA veya ROCm sürümünü sabitlersiniz. Hiçbir şey sizin altınızda onu yükseltmez.

Makine de aynı kurala uyar: her çekirdek, tüm bellek, her iki disk, root ve sunucunun kendi iLO veya iDRAC konsolu ayrı bir yönetim ağında. Bir sürücü denemesi ağı düşürürse bile ekran, sanal ortam ve güç kontrolü sizde kalır.

  • Dilim yokMIG bölümü yok, vGPU profili yok, kesirli pay yok. Tek GPU, tek işletim sistemi.
  • Kuyruk yokÜzerinizde zamanlayıcı yok. Süreciniz boştayken GPU boştadır ve yine de sizindir.
  • Hipervizör yokBare metal. İlk gün ölçtüğünüz gecikme, sabah 4'te aldığınız gecikmedir.
  • Sayaç yokVeri kümeleri girer, kontrol noktaları ve renderlar çıkar. Portta hiçbir şey bayt saymaz.

Fiyatlandırma nasıl işler

Toplanan iki satır: makine ve GPU

Çoğu sağlayıcı GPU'yu bir kademe olarak satar; işlemci, bellek, diskler ve ağ onun etrafında fiyatlandırılır. Burada makine bir aylık satır, GPU başka bir aylık satırdır. GPU'yu sonradan değiştirirseniz fatura tam olarak iki GPU arasındaki fark kadar değişir.

Ucuz bir GPU özel sunucu mu arıyorsunuz?

Listenin en üstünden başlayın. Video dönüştüren veya uzak masaüstü süren Tesla ve Quadro parçalar gibi hâlâ gerçek iş yapan eski GPU'ları tuttuk; bunlar en yeni GPU ile aynı komple makinede ve aynı sınırsız portta durur. Eski donanımı neden tutuyoruz bu takası açıklar.

Saatlik GPU bulutlarıyla mı karşılaştırıyorsunuz? Listedeki en pahalı yapı, H100 80GB, tüm makine için ayda $1,682.67, 730 saatlik bir ayda saatte yaklaşık $2.31 ve sonradan hiçbir çıkış trafiği satırı gelmez.

  1. MachineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
  2. GPUQuadro 3000M$20.79 – $1,599 across the list$20.79
  3. PortUnmetered, both directionsNo allowance, no egress lineincluded
  4. SetupOne-time, custom buildMonthly term, no contract$29

Complete, per month, from$91.72

Üç, altı ve on iki aylık döngüler 15%'e kadar tasarruf sağlar. Yapılandırıcı disk başına fiyatları yuvarlar ve bir sent sapabilir. Fiyatlandırma sitedeki her rakamı listeler.

GPU belleği

Modelinizin ne kadar GPU belleğine ihtiyacı var

GPU belleği, bir modelin çalışıp çalışmayacağını belirler; çekirdekler ve saat hızları yalnızca ne kadar hızlı çalışacağını belirler. İki gigabayt eksik belleğe sahip bir GPU yavaş çalışmaz, yüklenemez. Önce bu sayıyı netleştirin.

Ağırlıklar, parametre sayısı çarpı parametre başına bayt kadar yer kaplar: 16 bitte iki bayt, 8 bitte bir bayt, 4 bitte yarım bayt. 4 bite nicemleme, modelin daha küçük bir GPU'ya sığmasını sağlar; bunun kalite üzerinde ölçülebilir bir bedeli vardır.

Boşluk bırakın. Tablo yalnızca ağırlıkları sayar. Çalışma zamanı, aktivasyonlar ve anahtar-değer önbelleği aynı belleği paylaşır ve önbellek her bağlam belirteciyle büyür; bu yüzden 38 GB ağırlık, 40 GB'lık bir GPU'da rahatça hizmet veremez. Üzerine dörtte bir ila yarım ekleyin.

; GPU'yu gerçekte çalıştırdığınız işe göre boyutlandıralım.

Model16-bit8-bit4-bit
7-8 billion parameters16 GB8 GB5 GB
13-14 billion parameters28 GB14 GB8 GB
30-34 billion parameters68 GB34 GB19 GB
70 billion parameters140 GB70 GB38 GB

Yalnızca ağırlıklar, bir sonraki gigabayta yuvarlanmıştır.

Platformlar

GPU takabilen sunucular ve her birinin sağladığı PCIe veri yolu

Her platform, yuvaya farklı bir PCIe nesli ve hat bütçesi sunar. Bunu yazıyoruz çünkü sonuçları değiştirir: bir müşterimiz bir keresinde PCIe 3.0 platformunda daha yeni bir tüketici GPU'suna geçmiş ve daha yavaş render almıştı; nedenini bizden önce kendisi çözmüştü.

PCIe 3.0

Intel Xeon E5-2600 v1/v2

$70.93/mo before the GPU

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

GPUs
28
Lanes
40 lanes per socket
Sockets
2
Max RAM
256 GB
Intel Xeon E5-2600 v1/v2 →

PCIe 3.0

Intel Xeon E5-2600 v3/v4

$73.47/mo before the GPU

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

GPUs
44
Lanes
40 lanes per socket
Sockets
2
Max RAM
1 TB
Intel Xeon E5-2600 v3/v4 →

PCIe 3.0

Intel Xeon Silver / Gold

$83.67/mo before the GPU

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

GPUs
48
Lanes
48 lanes per socket
Sockets
2
Max RAM
1 TB
Intel Xeon Silver / Gold →

PCIe 4.0

AMD EPYC

$217.59/mo before the GPU

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

GPUs
10
Lanes
128 lanes per socket
Sockets
2
Max RAM
1 TB
AMD EPYC →

En ucuz giriş yolu: GPU'su önceden takılmış bir masaüstü

Sunucu platformlarının altında, içinde NVIDIA GPU bulunan ve bütün olarak satılan bir masaüstü sınıfı makine vardır. Bu sayfadaki GPU'lu adanmış bir makine için en düşük aylık fiyattır ve CUDA geliştirme, küçük model çıkarımı, NVENC kod dönüştürme veya uzak bir iş istasyonu için iyi bir seçimdir. Fiyat karşılığında nelerden vazgeçtiğinizi bilin: tek disk, yani RAID yok; uzak konsol yok, bu yüzden yeniden kurulumları ve gücü sizin için biz yönetiriz; ve sunucu kasası yerine masaüstü parçaları.

Desktop

RTX 3050 6GB desktop

€82.29/mo with the GPU

Intel Core i5-9500 @ 3.0GHz (6 cores) · 32 GB · NVMe-SSD 256 GB · 1 Gbps Unmetered · Bucharest

GPUs
1
Disks
1
Sockets
1
Order this desktop →

Veri yolu neslinin önemli olduğu durumlar

  • Size maliyeti olur; veriler sürekli veri yolundan geçtiğinde: diskten veya sistem belleğinden yığınları akıtan bir eğitim döngüsü, her karede sahne verisi besleyen bir render motoru, GPU belleğinden taşan bir çalışma kümesi.
  • Size hiçbir maliyeti olmaz; ağırlıklar bir kez yüklendikten ve orada kaldıktan sonra: sığan bir modelde çıkarım, video kod dönüştürme, çoğu simülasyon. Bağlantı o zaman yalnızca küçük istekleri ve sonuçları taşır.
  • Emin değil misiniz? İş yükünü söyleyin; platformun onu yavaşlatıp yavaşlatmadığını, daha hızlı bir veri yolundaki daha ucuz bir GPU'nun ne zaman daha iyi bir satın alma olduğu dahil, size söyleyelim.

Dahil olanlar

Burada GPU sunucu barındırma, siz bir şey eklemeden önce neleri içerir

  • Root ve kendi sürücü yığınınız

    Temiz bir işletim sistemi ve anahtarlar. Sürücüyü, CUDA veya ROCm sürümünü ve çerçeve derlemesini siz seçersiniz; bunlar sabit kalır. Sürücünün teslimden önce kurulmasını mı istiyorsunuz? Siparişe tam sürümü yazın.

  • Kendi ağında bir konsol

    HPE makinelerde iLO, Dell'de iDRAC: klavye ve ekran, sanal ortam, güç kontrolü, sensörler ve donanım günlükleri. Ekranı veya ağ kartını kilitleyen bir modül, POST'u izleyerek kendiniz yapacağınız bir yeniden başlatmadır.

  • Hiçbir şeyin sayılmadığı bir port

    Dahil edilen hızda ve üzerindeki her hızda her iki yönde limitsiz. Aktarım kotası ve çıkış hattı yok. Limitsiz bant genişliği daha hızlı portları listeler.

  • Bilet açmadan yeniden kurulumlar

    İşletim sistemi görüntüleri tek tıkla, istediğiniz sıklıkta, ücretsiz. Ters DNS sizin düzenlemenize açıktır, IPv6 dahildir ve ek IPv4 yapılandırıcıda bir satırdır.

  • Saniyeler içinde yanıtlar, istediğinizde bir insan

    Sohbet, hesabınızı ve sunucunuzu kontrol edebilen bir yapay zeka asistanı tarafından saniyeler içinde yanıtlanır ve siz istediğiniz anda bir insan devralır. Arızalı bir parça, destek planınızın penceresi içinde değiştirilir: dahil edilen Basic planda 24 saat, Bronze'da 4, Silver'da 3, Gold ve Platinum'da 2 saat.

  • Beş şehir, kendi ağımız

    New York, Miami, San Francisco, Amsterdam ve Bükreş; hepsi Server Room’ın kendi ağında, AS19624. Konum, kullanıcılarınıza olan gecikmenizi ve tabi olduğunuz veri koruma yasasını belirler. Veri merkezleri her binayı açıklar.

Teslimat

GPU'lu adanmış bir sunucuyu ne kadar hızlı kiralayabilirsiniz

GPU'nun bugün nerede olduğuna bağlıdır ve ödeme yapmadan önce hangi durumda olduğunuzu size söyleriz.

  1. Yaklaşık 30 dakika

    GPU zaten rafa monte bir makinede

    Takılacak bir şey yok. Makine kuruludur ve teslim edilir. Anında sunucular şu anda hazır olanları listeler.

  2. 4 ila 24 saat

    Stoğumuzdan bir GPU takarız

    Olağan durum. Bir teknisyen GPU'yu takar, disk dizisini kurar ve işletim sistemini yükler. Ek bellek veya farklı bir sürücü aynı ziyarette yapılır.

  3. 5 ila 10 iş günü

    GPU'nun satın alınması gerekir

    Parçayı sipariş ederiz, ardından yukarıdaki gibi kurarız. Siparişe göre üretim, tüm spesifikasyonunuza göre bir makineyi kapsar.

  4. 10 ila 15 iş günü

    GPU tahsisli

    Güncel hızlandırıcılar distribütörün tarihinde sevk edilir ve siz taahhüt vermeden önce bunu belirtiriz. Tek bir müşteri için satın alınan donanım, üç ay peşin ödemeli olarak fiyatlandırılır.

Her zaman çizelgesi, ödeme ve dolandırıcılık incelemesi temizlendikten sonra başlar. Çoğu sipariş birkaç saat içinde temizlenir; yeni bir hesaptaki ilk sipariş daha uzun sürebilir.

Bir ortağın alanı

Yapay zekâ ile üretilen medya: tam bir GPU'ya uygun iş türü

Viral Mind Technologies, bir Server Room ortağı, kendi dijital mülklerini kurar ve işletir: sanal kişilikler, çevrimiçi medya markaları ve içerik üreticileri için yazılımlar. 2019'da dijital pazarlama ajansı olarak başladı ve 2022 sonundan bu yana kendi yapay zekâ projeleri üzerinde çalışıyor.

Görüntü ve video üretmek, bir modeli GPU belleğinde tutar ve GPU'yu saatlerce meşgul eder. Bu, bir dilim yerine çıplak donanım üzerinde adanmış bir GPU için geçerli bir durumdur ve bu sayfadaki her sunucunun kiraladığı şey tam bir GPU'dur.

Portföyleri ve vaka çalışmaları: viralmindtech.com

  • Sanal kişiliklerNaomi Marie, Ağustos 2023'te yayına alındı ve tamamen sahip oldukları ilk dijital kişiliktir.
  • MedyaCybeauty Magazine, Mart 2024'te yayına başladı ve web öncelikli bir yayın olarak faaliyet gösteriyor.
  • İçerik üreticisi araçlarıProof of Ownership, yaratıcı bir dosya için tarayıcıda parmak izi alınmış, dosyanın cihazdan hiç ayrılmadığı tarihli bir kayıt düzenler.

Yanıtlar

GPU özel sunucu soruları, yanıtlandı

Özel GPU sunucusu nedir?

Tek bir müşteriye kiralanan, üzerinde grafik kartı takılı olan ve bu kartın müşterinin kendi işletim sistemine doğrudan geçirildiği fiziksel bir sunucu. Hiçbir şey sanallaştırılmaz veya paylaşılmaz: tüm çekirdekler, tüm bellek, diskler ve GPU'nun tamamı size aittir; kök erişimi ve uzak konsol da dahildir.

GPU özel sunucunun maliyeti ne kadar?

GPU takılı komple bir makine aylık $91.72 ile $1,682.67 arasında bir fiyata gelir. Fiyat, toplanan iki kalemden oluşur: makine ve aylık $20.79 ile $1,599 arasındaki GPU. İşlemci, bellek, iki disk, limitsiz port ve bir IPv4 adresi fiyata dahildir. Kurulum, sipariş üzerine GPU takılan bir yapılandırmada tek seferlik $29 tutarındadır; hazır bir makine olduğu gibi sipariş edilirse kurulum ücreti alınmaz.

GPU'yu başka biriyle paylaşıyor muyum?

Hayır. Tek fiziksel makine, tek hesap ve kurduğunuz işletim sistemine doğrudan geçirilen GPU. Hipervizör, MIG bölümü, vGPU profili veya zaman dilimleme yoktur. İlk gün ölçtüğünüz değerler, elinizde kalan değerlerdir.

GPU'lu özel sunucuyu sözleşmesiz, aylık olarak kiralayabilir miyim?

Evet. Varsayılan süre bir aydır ve imzalanacak hiçbir şey yoktur. Üç, altı ve on iki aylık döngülerde 15%'a varan tasarruf edersiniz ve yenilemede fiyat artmaz. Kredi kartı veya PayPal ile ödeyin; daha büyük bir sipariş için banka havalesi ayarlanabilir ve genellikle dolandırıcılık incelemesinden kart ödemesinden daha hızlı geçer.

Ucuz bir GPU özel sunucu var mı?

Evet. Bu sayfadaki liste en ucuzdan başlayarak sıralanmıştır ve en ucuz komple yapılandırma Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps içinde Quadro 3000M olup aylık $91.72 tutarındadır. Eski Tesla ve Quadro GPU'lar video dönüştürme ve uzak masaüstü işlerini hâlâ iyi yürütür; aynı komple makinede, aynı limitsiz portla gelirler.

Hangi NVIDIA ve AMD GPU'ları alabilirim?

Listede 57 GPU bulunur; güncel NVIDIA hesaplama hızlandırıcıları ve AMD Instinct'ten eski Tesla, Quadro ve GeForce modellerine kadar. Her biri adı, belleği ve komple aylık fiyatıyla listelenir. İstediğiniz GPU listede yoksa sorun: çoğu zaman satın alıp getirtebiliriz.

Hangi sürücü ve CUDA sürümü kurulu gelir?

Sizin kurduklarınız. Sunucu temiz bir işletim sistemi ve kök erişimiyle gelir; sürücüyü, CUDA veya ROCm sürümünü ve kodunuzun test edildiği framework derlemesini siz sabitlersiniz. Teslimde sürücünün kurulu olmasını istiyorsanız siparişe tam sürümü yazın. Bir GPU'nun belirli bir CUDA sürümünü desteklemesi gerekiyorsa ödeme yapmadan önce sorun, kontrol edelim.

Bir sunucuya iki GPU sığar mı?

Çoğu zaman evet ve bunu elle fiyatlandırırız: kasa boşluğu, GPU'nun genişliği, PCIe hatları ve güç kaynağı sayıyı belirler. GPU'yu söyleyin; kasa, sayı ve teslim süresiyle yanıt verelim. Genel neden hızdan çok bellektir; iki adet 48 GB GPU, tek bir 80 GB GPU'nun sığdıramadığı modeli tutar. Çok GPU'lu ve çok düğümlü sunucular bir sonraki adımı kapsar.

GPU'yu sonradan değiştirebilir miyim?

Evet, mevcut sunucunuzda: taşıma yok, yeniden kurulum yok, yeni IP adresi yok. Kısa bir kesintiyle planlı bir ziyarettir ve fatura tam olarak iki GPU arasındaki fark kadar değişir. RAM, diskler ve daha hızlı port da aynı kurala göre eklenir.

GPU arızalanırsa ne olur?

Destek planınızın penceresi içinde, bildirdiğiniz andan itibaren değiştiririz: dahil olan Basic planda 24 saat, Bronze'da 4, Silver'da 3, Gold ve Platinum'da 2 saat. Pencere aşılırsa hizmet kredisi destek sayfasında yayımlanan takvime göre uygulanır.

Kendi grafik kartımı getirebilir miyim?

Evet, size ait bir GPU veya başka herhangi bir parça, burada kiraladığınız sunucuya takılabilir. Ücretsiz değildir çünkü GPU güç çeker ve ücret donanıma bağlıdır. Getirdiğiniz bir parça arızalanırsa sorumlu değiliz; değişim penceresi yalnızca bizim sağladığımız donanımı kapsar. Satın almadan veya göndermeden önce bir görüşme planlayın: fiyatlandırırız ve kasaya sığıp sığmadığını kontrol ederiz; örneğin bir blade'de tam boyutlu bir GPU için yer yoktur.

Bant genişliği gerçekten limitsiz mi? Egress maliyeti ne kadar?

Sattığımız hiçbir port hızında, hiçbir yönde ölçüm yapılmaz; dolayısıyla egress ücretsizdir. GPU işlerinde bu genellikle başka yerlerdeki en büyük kalemdir: eğitim veri kümelerini içeri çeker ve kontrol noktalarını dışarı iter; bir çıkarım uç noktası da gerçek trafiğe yanıt verir. Limitsiz bant genişliği daha hızlı portları listeler.

Aylık mı saatlik mi GPU: hangisi daha ucuz?

İş ani yükselişliyken ve gerçekten duruyorsa, ayda birkaç yüz saate kadar saatlik kazanır. Ayın yaklaşık üçte ikisini aştıktan sonra, egress, çalıştırmalar arasında tutulan depolama ve kapasite beklerken geçen süre sayılmadan önce bile aylık daha ucuzdur. Aylık ayrıca aynı makineyi, diskleri ve adresleri korur.

Ya yanlış GPU'yu seçtiysem?

Etkinleştirmeden sonraki üç gün içinde, sorun giderme sonrasında iade politikamız yazıldığı gibi uygulanır. Yukarıdaki bellek tablosu ve PCIe sütunu, doğru GPU'yu ilk seferde seçebilmeniz için buradadır; sohbette sizi daha büyük bir GPU'yu iade etmektense daha küçük bir GPU'ya yönlendirmeyi tercih ederiz.

Kayıt için

Bu sayfa rakamlarla

Sayfa sunulduğunda sipariş kataloğundan okunur. Sizin yerinize bir asistan yanıtlıyorsa, bu blok ve canlı makine akışı okunmaya değer kısımlardır.

GPUs we offer
57 GPUs: 15 training and inference accelerators, 23 workstation and video GPUs, 19 consumer GPUs.
Cheapest complete build
Quadro 3000M in Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps: $91.72 a month, of which $20.79 is the GPU.
Cheapest build that can train
Instinct MI50 16GB in Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps: $169.93 a month.
Most expensive build
H100 80GB: $1,682.67 a month, about $2.31 an hour for the whole machine over a 730-hour month.
The GPU line
$20.79 to $1,599 a month, added to the machine.
The machine line
$70.93 to $217.59 a month before any GPU.
Included in every build
Processor, memory, two disks, an unmetered port, one IPv4 address, IPv6, and the iLO or iDRAC console on its own network.
Tenancy
One account per physical machine. The GPU is passed through to the customer’s operating system: no hypervisor, no MIG partition, no vGPU profile, no time-slicing.
Bandwidth
Unmetered in both directions at every port speed. No transfer allowance, no egress charge.
Cities
5: New York, Miami, San Francisco, Amsterdam, Bucharest.
Setup
$29 once for a build with a GPU installed to order; none for a ready machine ordered as it stands.
Term
Monthly, no contract. 3, 6 and 12-month cycles save up to 15%.
Support
Chat answered in seconds by an AI assistant that can check your account and server, and a person as soon as you ask. Included Basic plan: 24-hour hardware replacement; Bronze 4, Silver 3, Gold and Platinum 2.
Payment
Credit card or PayPal; bank wire on request.

GPU'yu seçin. Sunucuyu onun etrafında biz kurarız.

Herhangi bir GPU seçiliyken yapılandırıcıyı açın veya iş yükünü söyleyin; daha ucuz olanın yeterli olduğu durumlar dahil hangi GPU'nun uyduğunu söyleyelim.