GPU özel sunucuları · NVIDIA Blackwell · aylık
RTX 5090 özel sunucu, aylık kiralanan çıplak metal bir makinedir ve GPU'nun tamamı PCIe passthrough ile işletim sisteminize verilir. Daha büyük makineler 4 adede kadar RTX 5090 alır ve eksiksiz bir sunucu aylık $472.47 tutarından başlar.
RTX 5080, aynı mimarideki 16 GB seçeneğidir ve aylık $312.67 tutarından başlar. Her iki fiyat da işlemciyi, belleği, diskleri, portu ve bir IPv4 adresini kapsar; GPU kendi aylık kalemi olarak faturalanır. GPU'yu belleğe göre seçin, gerisini yapılandırıcıda değiştirin.
İki GPU
Her ikisi de GDDR7'li GeForce Blackwell GPU'lardır; FP4 çalıştıran 5. nesil Tensor çekirdekleri, 4. nesil RT çekirdekleri ve AV1 donanım kodlaması içerir. RTX 5090, 5080'in iki katı CUDA çekirdeğine, iki katı belleğe ve 1.792 GB/s hızında 512 bit veri yoluna sahiptir. Modeliniz veya sahneniz 16 GB'a sığıyorsa 5080 onu ayda daha düşük maliyetle, yalnızca daha yavaş çalıştırır.
32 GB GDDR7 · PCIe 5.0 x16 GPU
$472.47/mo, complete server
GPU $399/mo, plus the machine:
Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
16 GB GDDR7 · PCIe 5.0 x16 GPU
$312.67/mo, complete server
GPU $229/mo, plus the machine:
Intel Xeon Silver 4110, 8 cores, 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
Her fiyat, yapılandırıcı açıldığında o GPU'yu alan en ucuz makinedir. Düğme, GPU zaten seçiliyken o makineyi açar; daha hızlı işlemciler, daha fazla bellek, daha büyük diskler ve daha hızlı bir port orada fiyatlandırılır. Bükreş yapılandırmaları avro üzerinden faturalanır ve şehri seçtiğinizde yapılandırıcı o fiyatı gösterir.
Ana bağlantı
RTX 5090 ve RTX 5080, PCIe 5.0 x16 için üretilmiştir. Aşağıda fiyatlandırılan makine serileri GPU yuvasını PCIe 3.0 veya PCIe 4.0 hızında çalıştırır ve bunların en hızlısı PCIe 4.0 değerindedir. Bazı işler için hangi makinenin alınacağını bu belirler; bu yüzden her birinin GPU'ya ne verdiği aşağıdadır.
Ağırlıklar zaten GPU belleğindeyken çıkarım, video kodlama ve sahne yüklendikten sonra render. Veriler yükleme sırasında veri yolundan geçer ve sonra GPU'da kalır; bu yüzden PCIe 3.0 bağlantısı başlangıçta saniyeler kaybettirir, sonrasında hiçbir şey.
Her adımda sistem belleğinden bir parti kopyalayan eğitim döngüleri, GPU belleğinden büyük dokuları akışla işleyen render'lar ve bir modeli bölen birden çok GPU. GeForce RTX 50 GPU'larda NVLink yoktur; bu yüzden çoklu GPU trafiği de PCIe üzerinden geçer. Bunlar için aşağıdaki tabloda daha hızlı bağlantıya sahip makineyi seçin.
| Machine | PCIe link to the GPU | RTX 5080 | RTX 5090 |
|---|---|---|---|
| Intel Xeon E5-2600 v3/v4from $73.47/mo without a GPU | PCIe 3.0 | not offered | up to 4 |
| Intel Xeon Silver / Goldfrom $83.67/mo without a GPU | PCIe 3.0 | up to 4 | up to 4 |
| AMD EPYCfrom $217.59/mo without a GPU | PCIe 4.0 | not offered | up to 1 |
| Intel Xeon Gold 3rd gen, DDR4built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
| Intel Xeon Gold 4th gen, DDR5built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
Makine fiyatları, her serinin GPU'suz en ucuz yapılandırmasıdır. Siparişe göre üretilen daha yeni seriler yapılandırıcıda fiyatlandırılır; sipariş vermeden önce GPU yuvalarının hangi PCIe neslinde çalıştığını sohbetten bize sorun. RTX 50 sunucuları New York, Miami, San Francisco and Bucharest şehrinde sipariş edilebilir; Amsterdam makineleri bu GPU'larla sunulmaz. Veri merkezleri her binayı açıklar.
Yapay zeka için boyutlandırma
Çıkarım için önce bellek belirleyicidir. Ağırlıklar, parametre sayısı çarpı parametre başına bayt kadar yer tutar ve GPU'nun üzerine KV önbelleği ile çalışma zamanı için dörtte bir ila yarım kat daha fazlasına ihtiyacı vardır. Tablo bu kuralı bir RTX 5080, bir RTX 5090 ve birden fazla 5090 içeren bir makineye uygular.
| Model size (weights) | RTX 508016 GB | RTX 509032 GB | 2 x RTX 509064 GB | 4 x RTX 5090128 GB |
|---|---|---|---|---|
| 7-8 billion parameters | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 13-14 billion parameters | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 30-34 billion parameters | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 70 billion parameters | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits |
4-bit'te 30B'lik bir model veya 8-bit'te 13B'lik bir model, Ollama, llama.cpp veya vLLM üzerinde kendi API'nizin arkasında, bağlam için yer kalacak şekilde yüklenir. Blackwell Tensor çekirdekleri ayrıca FP4'ü yerel olarak çalıştırır; TensorRT-LLM gibi bunun için geliştirilmiş çalışma zamanları, 4-bit modelleri daha hızlı sunmak için bundan yararlanır.
Daha büyük makinelerimiz bunlardan 4 adede kadar alır; toplamda 128 GB GPU belleği sunar ve vLLM veya llama.cpp bir modeli bunların üzerine böler. İki tanesi 4-bit'te 70B'lik bir modeli rahatlıkla barındırır. Daha fazla belleğe sahip tek bir GPU için takabildiğimiz tüm GPU'lara; model bazında planlar için LLM sunucularına bakın.
İş yükleri
Kendi makinenizde, kendi uç noktanızın arkasında bir model. İstemler ve çıktılar tek bir hesaba kiralanan donanımda kalır ve fatura, GPU ister tüm ay meşgul ister boşta olsun aynıdır.
Blender Cycles, CUDA veya OptiX üzerinde render alır ve RT çekirdekleri, bu yazılımda ve diğer GPU render motorlarında ışın izlemeyi hızlandırır. Render motorunuzun gerektirdiği işletim sistemini kurun ve kareleri gece boyunca kuyruğa alın.
RTX 5090 üç NVENC kodlayıcıya, RTX 5080 ise iki kodlayıcıya sahiptir; her biri H.264, HEVC ve AV1'i donanımda işler. Her birindeki iki NVDEC kod çözücü, giriş tarafını işlemcinin üzerinden alır.
GeForce sürücüsü DirectX, Vulkan ve OpenGL'i bir masaüstü bilgisayar gibi çalıştırır. Arkasında özel bir GPU bulunan bir oyun sunucusu, bulut oyun kutusu veya uzak iş istasyonu barındırın.
Teslimat ve koşullar
Kurulmuş ve takılacak hiçbir şey olmadan teslim edilir. Anında sunucular şu anda rafta olanları listeler ve bunlar saatlik olarak da kiralanabilir.
Bir teknisyen, yapılandırdığınız makineye GPU'yu takar, disk dizisini oluşturur ve işletim sistemini kurar. Ek bellek veya sürücüler aynı ziyarette takılır.
Parçayı sipariş eder, ardından yukarıdaki gibi kurarız. Ödeme yapmadan önce bu üçünden hangisinin geçerli olduğu size bildirilir.
Her zaman çizelgesi, ödeme ve dolandırıcılık incelemesi tamamlanınca başlar. Çoğu sipariş birkaç saat içinde tamamlanır; yeni bir hesaptaki ilk sipariş daha uzun sürebilir.
Sahipler ayrıca pazar yerimizde RTX 50 makinelerini listeler; her biri sahibinin belirlediği aylık fiyatla. Kardeş şirketimiz Primcast üzerinden gelen ilanlar primcast.com'da kiralanır.
Teknik özellikler
| GPU | Memory | Bus | Bandwidth | CUDA cores | Boost | Power | Video |
|---|---|---|---|---|---|---|---|
| RTX 5090 | 32 GB GDDR7 | 512-bit | 1,792 GB/s | 21,760 | 2.41 GHz | 575 W | 3 NVENC, 2 NVDEC |
| RTX 5080 | 16 GB GDDR7 | 256-bit | 960 GB/s | 10,752 | 2.62 GHz | 360 W | 2 NVENC, 2 NVDEC |
GPU değerleri, NVIDIA'nın GeForce RTX 50 serisi için yayımladığı şekildedir. Fiyatlar, makineler, şehirler ve makine başına sayılar, ödemenin faturalandığı sipariş kataloğumuzdan okunur.
Yanıtlar
Eksiksiz bir RTX 5090 sunucusu aylık $472.47 tutarından başlar: GPU $399 artı onu kabul eden en ucuz makine Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. Siparişe göre takılan bir GPU için bir defaya mahsus $29 kurulum ücreti eklenir ve sözleşme yoktur.
Yalnızca içinde GPU bulunan ve olduğu gibi alınan bir makine: bunlar saatlik faturalandırılır, en az bir saatten başlar ve anında sunucular sayfası şu anda rafta olanları listeler. Burada yapılandırdığınız bir makine sizin için kurulur ve sözleşmesiz olarak aylık faturalandırılır.
Hayır. NVIDIA, RTX 5090'ı yalnızca GeForce GPU olarak satar. NVIDIA'nın sunucu sürümü olarak da ürettiği bir Blackwell GPU istiyorsanız, 96 GB GDDR7 ve ECC'ye sahip RTX PRO 6000 Blackwell'e bakın. Bu 96 GB GPU'yu da takıyoruz; fiyatı RTX PRO 6000 sunucuları sayfamızda ve RTX 5090'ı tam GPU geçişiyle raf sunucularında sunuyoruz.
Evet. Daha büyük makinelerimiz 4 adede kadar RTX 5090 alır, toplamda 128 GB GPU belleği sunar ve yapılandırıcı her makinenin alabileceği en yüksek sayıyı gösterir. Her GPU kendi aylık kalemidir ve GPU'lar birbirleriyle PCIe üzerinden iletişim kurar.
Çıkarım ve QLoRA ince ayarı için evet. 32 GB belleği, 4 bit'te 30B modeli veya 8 bit'te 13B modeli bağlam payıyla alır ve iki tanesi 4 bit'te 70B modeli tutar. ECC modu yoktur; bu nedenle denetim noktası olmadan uzun eğitim çalıştırmaları için veri merkezi GPU'su daha güvenli bir seçimdir.
Belleğe göre seçin. RTX 5080, 16 GB ve 960 GB/s sunar ve eksiksiz bir sunucu aylık $312.67 tutarından başlar; 8 bit'te 8B modeli veya 4 bit'te 13B modeli tutar. RTX 5090 ise 32 GB ve 1.792 GB/s sunar; daha büyük modeller, daha yoğun sahneler ve aynı anda daha fazla kodlama içindir.
Bağlantısını yayınladığımız makinelerde hayır. GPU, PCIe 5.0 x16'dır ve bu sayfada fiyatlandırılan hatlar yuvayı PCIe 3.0 veya PCIe 4.0'da çalıştırır; en hızlısı PCIe 4.0 olur. Siparişe göre kurulan daha yeni hatlar için yuvanın hangi nesilde çalıştığını sohbette bize sorun. Çıkarım, kodlama ve çoğu render bunu neredeyse fark etmez; her adımda sistem belleğinden veri akışı yapan eğitim fark eder.
Hayır. Makine tek bir hesaba kiralanır ve GPU doğrudan işletim sisteminize geçirilir. Hipervizör, vGPU profili veya zaman dilimleme yoktur; NVIDIA sürücüsünü ve seçtiğiniz CUDA sürümünü siz kurarsınız.
GPU'lu bir makine zaten raftaysa, sipariş onaylandıktan yaklaşık 30 dakika sonra. Stokumuzdan bir GPU taktığımızda 4 ila 24 saat bekleyin; satın alınması gerektiğinde 5 ila 10 iş günü.
New York, Miami, San Francisco and Bucharest konumunda, Server Room'in kendi ağında. RTX 50 GPU'ları kabul eden makineler Amsterdam'da bunlarla birlikte sunulmaz.
GPU'yu ve kaç adet olacağını seçin, ardından işlemci, bellek, diskler ve şehri belirleyin. Yapılandırıcı, yaptığınız her değişikliği anında fiyatlandırır.
Taktığımız her GPU · RTX 4090 sunucuları · LLM sunucuları · Şu anda rafta