Do I share the GPU with anyone?

No. One physical machine, one account, and the card passed through to the operating system you installed -- no hypervisor, no MIG partition, no vGPU profile, no time-slicing scheduler, no neighbour's batch job on your silicon. The numbers you benchmark on day one are the numbers you keep.

Will two cards fit in one machine?

Often, and it is quoted rather than ticked: chassis clearance, the card's physical width, the lane budget and the power supply set the count, so an honest answer needs the specific part. Ask, and the reply names the chassis, the count and the lead time. The usual motive is memory rather than speed -- two 48 GB cards hold a model one 80 GB card cannot.

Which driver and CUDA release ships on a Server Room GPU server?

The ones you install. The machine arrives with a clean operating system and root; you pin the driver, the CUDA or ROCm release and the framework build to what your code was validated against, and nothing moves them afterward. If you want the driver in place before handover, put the exact version on the order.

What if the card I want is not on a shelf today?

Then it is fitted from stock or bought in, and you are told which before you pay: stocked parts seat within four to twenty-four hours, bought-in parts run five to ten working days, and allocation-bound accelerators ten to fifteen. When the requirement is a machine today, https://serverroom.net/instant lists what is racked and powered right now.

Can the card change after deployment?

Yes, in the machine you already hold: no migration, no reinstall, no new addresses. It is a scheduled rack visit with a short outage, and the invoice moves by exactly the difference between the two cards. Memory, disks and port speed upgrade under the same rule.

What happens when a graphics card dies?

It is swapped, on a clock the agreement puts in writing: four hours from the moment it is reported by telephone or live chat. Miss the window and service credit follows a published schedule rather than a goodwill request.

Is the bandwidth really unmetered? What does egress cost?

Really: nothing is metered in either direction, at any port speed we sell, and egress costs zero because no meter exists to charge it from. On GPU work this is routinely the biggest line elsewhere -- a training run pulls datasets in and pushes checkpoints out, an inference endpoint answers real traffic, and per-gigabyte egress bills every one of those bytes.

Monthly here versus a GPU by the hour -- where is the crossover?

Arithmetic settles it. Hourly wins while the work is bursty and genuinely stops -- up to a few hundred hours a month. Past roughly two thirds of the month it stops being close, before counting egress, persistent storage between runs, and queue time waiting on capacity. Monthly also means the same machine, disks and addresses next month.

How is it paid, and what does the contract look like?

Card, PayPal, ACH or bank wire -- and there is no contract to sign: one month is the default term, three, six and twelve-month cycles take a discount, and renewal does not step the price up. On a larger first order a wire usually clears fraud review faster than a card.

What if the card turns out to be the wrong one?

Within three calendar days of first activation, after troubleshooting is exhausted, the refund policy applies as written: https://serverroom.net/refund-policy-us. The sizing and bus-generation sections of the page exist precisely to make that clause unnecessary -- it is cheaper for both sides when the right card is bought first.

Do you carry the newest graphics card?

Sometimes -- and it is usually the wrong specification. The newest part is scarce, on allocation, priced as if every transistor were needed, and seated on platforms that cannot feed it the bus generation it was designed for. Most GPU work is serving a model that already fits, encoding video, rendering frames or driving desktops, and for those the right card is often two generations old at a quarter of the money. Name the job; if the answer genuinely is the newest part, we say so, with the cost and the date it can exist.

Çıplak metal üzerinde eklenti grafik kartları · Server Room · 2004'ten beri

Kart, faturada bir satırdır. Makine ise diğer satır.

Bu sektördeki her katalog, kartı ve sunucuyu başkasının oluşturduğu tek bir rakam olarak fiyatlandırır. Bu katalog onları ayrı tutar: makine kendi aylık rakamını taşır, kart kendi rakamını taşır ve toplam bunların toplamıdır. Aşağıdaki iki kontrolü ayarlayın — üzerinde ne çalışacağı ve işin ne kadar kart belleğine ihtiyaç duyduğu — ve hâlâ ayakta kalan her şey, ödemenin faturalandığı katalogla aynı katalogdan fiyatlandırılmış eksiksiz bir sunucudur.

Rafları daraltın Kart kimin?

Fiziksel makine başına bir hesap. Kart, PCIe geçişiyle işletim sisteminize teslim edilir — sizin çekirdek modülünüz, sizin sürücü sürümünüz, yolda hipervizör yok.

Tezgâh

İki kontrol. Gerisi aritmetik.

Burada hiçbir şey stok ayırmaz veya hesap açmaz. Her satırdaki rakam, o kartın takılı olduğu tüm sunucudur — işlemci, bellek, yansıtılmış diskler, limitsiz port, bir IPv4 — ve kartın kendi payı altında yazılıdır, böylece paranın her iki yarısı da görünür kalır.

What runs on it?

How much card memory?

anygigabytes or more

5 GB7-8 billion parameters, 4-bit
8 GB13-14 billion parameters, 4-bit
19 GB30-34 billion parameters, 4-bit
38 GB70 billion parameters, 4-bit

Sipariş kataloğundan tahminlerdir, tarife kartı değil ve ödemenin kendi rakamlarıdır. Üreticisi bellek rakamı yayımlamayan bir kart burada hiçbir rakam göstermez — ve bellek kontrolü “herhangi”den çıkar çıkmaz listeden düşer, çünkü doğrulayamadığımız bir çıtayı aşan bir parçayı göstermeyiz; sorun, rakamı kartın kendisinden okuruz. Birkaç parça birden fazla kasaya birden fazla fiyatla oturur: satır en ucuz koltuğu gösterir, yapılandırıcı gerisini listeler.

Sayfa sunulduğu anda sayıldı

57Cards on the shelves
$20.79Cheapest card line, per month
$91.72Cheapest complete build with a card
5Cities
0Bytes metered

İşleme anında sipariş kataloğundan okunur, asla elle yazılmaz. Yarın mağazadan bir kart çekin, bu şerit yarın daha kısa olur. Bu sabah rafta ve güçte olan, kendi sayfası olan ayrı bir sorudur: anında sunucular.

Kiracılık, her şeyden önce

Tek kiracı. Kartın tamamı. Üstünüzde planlanmış hiçbir şey yok.

Geçirilir, bölünmez.

Kart, tek bir hesaba kiralanan bir makinede fiziksel bir PCIe yuvasında durur ve ona sahip olan işletim sistemi sizin kurduğunuzdur. Çekirdek modülünü siz yüklersiniz, sürücüyü siz sabitlersiniz ve CUDA veya ROCm, kodunuzun test edildiği sürümde kalır. Hipervizör katmanı yok, MIG bölümü yok, vGPU profili yok ve zaman dilimleme zamanlayıcısı yok — ilk öğleden sonra ölçtüğünüz gecikme, öğleden sonra dörtte de sabah dörtte de koruduğunuz gecikmedir.

Kasa aynı kuralı izler: her çekirdek, her DIMM, her iki disk, root ve makinenin kendi iLO veya iDRAC'i konsol, sanal ortam ve güç için ayrı bir yönetim ağında. Ağı çökerten bir sürücü deneyi yine de size ekranı bırakır.

Dilim yokMIG bölümü yok, vGPU profili yok, kesirli tahsis yok. Tek kart, tek işletim sistemi.
Kuyruk yokHiçbir zamanlayıcı silikonu paylaşmaz. Süreciniz boştayken kart boştadır — ve yine de sizindir.
Katman yokÇıplak metal. Sizin çekirdeğiniz, sizin modülleriniz, sizin sürücü sürümünüz, siz taşıyana kadar sabit.
Sayaç yokVeri kümeleri girer, kontrol noktaları ve işlemeler çıkar. Portta hiçbir şey bayt saymaz.

Fiyatlandırma modeli

Toplanan iki satır. Kademe değil.

Bir GPU “örneği”, bir kart alıcısının kartın çevresindeki işlemci, bellek, diskler ve ağ için ne ödemesi gerektiğine dair başkasının kararıdır. Burada bunlar bir satırdır, kart başka bir satırdır ve toplanırlar — bu yüzden yukarıdaki rafın her iki ucu da aynı kasaya oturur ve kartı değiştirmek faturayı tam olarak iki kart arasındaki fark kadar değiştirir.

The machineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
The cardAny part on the shelves above$20.79 to $1,599, cheapest shelf to dearest$20.79
The portUnmetered, both directionsNo allowance, no egress line, at any speedincluded
SetupNothingNo contract; the default term is one month—

Complete machine, card fitted, per month, from$91.72

The same arithmetic at the other end of the list: H100 80GB in a complete machine is $1,682.67 a month — $2.31 an hour if the comparison is against hourly billing, and the traffic adds nothing.

Yapılandırıcı disk başına fiyatlandırmayı yuvarlar ve bu rakamlardan bir veya iki sent sapabilir. Daha uzun faturalandırma döngüleri daha fazla indirim yapar — fiyatlandırma her rakamı tek yerde toplar ve eski donanım, düşük fiyat rafın altının neden var olduğuna dair kalıcı argümandır.

Kart belleği

Uyum ikili bir meseledir. Geri kalan her şey yalnızca hızdır.

Çekirdekler ve saat hızları bir modelin ne kadar hızlı çalışacağını belirler. Kart belleği ise çalışıp çalışmayacağını belirler: ağırlıklar ya bellekte yerleşiktir ya da değildir ve iki gigabayt eksik olan bir kart yavaş çalışmaz — çıkış yapar. Bu sayıyı her şeyden önce netleştirin, çünkü neredeyse hiç kimsenin fiyatın yanına yazmadığı tek teknik özellik budur.

Hesap şudur: parametre sayısı çarpı parametre başına bayt sayısı: 16 bitte parametre başına iki bayt, 8 bitte bir bayt, 4 bitte yarım bayt. 4 bite nicemleme, bir modeli daha küçük bir rafa oturtan koldur ve bu koltuk karşılığında ölçülebilir miktarda kaliteden ödün verir.

Bütçede pay bırakın. Tablo yalnızca ağırlıkları gösterir, başka hiçbir şeyi değil. Çalışma zamanı, aktivasyonlar ve anahtar-değer önbelleği aynı bellekte yaşar ve önbellek her bağlam belirteciyle birlikte büyür — 38 GB ağırlık, 40 GB'lık bir karttan rahatça servis edilmez. Dörtte bir ila yarı yarıya pay bırakın ya da gerçekte çalıştırdığınız modeli ve bağlam uzunluğunu bize söyleyin, ona göre boyutlandıralım.

Weights alone. Leave head-room for the runtime and the context window before settling on a card.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB	8 GB	5 GB
13-14 billion parameters	28 GB	14 GB	8 GB
30-34 billion parameters	68 GB	34 GB	19 GB
70 billion parameters	140 GB	70 GB	38 GB

Altındaki şasi

Dört platform kart alır ve onları ayıran şey veri yoludur.

Her biri yuvaya farklı bir bağlantı nesli ve hat bütçesi sunar ve bu sütun, sonuçları değiştirdiği ve başka hiç kimse yayımlamadığı için basılmıştır: bir müşteri bir zamanlar Gen 3 bir platformda bir tüketici neslini bir sonrakiyle değiştirip daha yavaş hale gelmişti ve nedenini bizden önce kendisi çözmüştü. Bu sayı bu sayfada yer almalı.

Intel Xeon E5-2600 v1/v2

$70.93per month, before the card

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

Cards accepted: 28
Bus to the card: PCIe 3.0
Lanes: 40 lanes per socket
Sockets: 2
Memory ceiling: 256 GB

Open it in the configurator →

Intel Xeon E5-2600 v3/v4

$73.47per month, before the card

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

Cards accepted: 44
Bus to the card: PCIe 3.0
Lanes: 40 lanes per socket
Sockets: 2
Memory ceiling: 1 TB

Open it in the configurator →

Intel Xeon Silver / Gold

$83.67per month, before the card

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

Cards accepted: 48
Bus to the card: PCIe 3.0
Lanes: 48 lanes per socket
Sockets: 2
Memory ceiling: 1 TB

Open it in the configurator →

AMD EPYC

$217.59per month, before the card

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

Cards accepted: 10
Bus to the card: PCIe 4.0
Lanes: 128 lanes per socket
Sockets: 2
Memory ceiling: 1 TB

Open it in the configurator →

Bağlantı nesli ne zaman önemlidir, iş yüküne göre ölçülür

Daha yeni bir veri yolu için üretilmiş bir kart, daha eski bir veri yolunda doğru çalışır; yalnızca veriyi bağlantı üzerinden tasarım hızında taşıyamaz. Bunun size bir maliyeti olup olmayacağı tamamen verinin nerede durduğuna bağlıdır.

Size maliyeti olur; trafik sürekli olarak veri yolundan geçtiğinde — diskten veya sistem belleğinden yığınları akıtan bir eğitim döngüsü, her karede sahne verisi besleyen bir işleyici, kart belleğinden taşan herhangi bir çalışma kümesi.
Size hiçbir maliyeti olmaz; ağırlıklar bir kez yerleştiğinde ve yerleşik kaldığında — sığan bir modelde çıkarım, video dönüştürme, çoğu simülasyon. Bağlantı o durumda istekleri ve sonuçları taşır ve bunlar küçüktür.
Emin değilseniz iş yükünü adlandırın. Platformun onu darboğaza sokup sokmadığını açıkça söyleriz — dürüst teknik özellik, daha yavaş bir bağlantıda daha pahalı bir kart yerine daha hızlı bir bağlantıda daha ucuz bir kart olduğunda bile.

Zaten fiyata dahil

Siz bir şey eklemeden önce her makinenin birlikte geldiği her şey.

Root ve size ait bir sürücü yığını

Temiz bir işletim sistemi ve anahtarlar. Sürücü sürümünü, CUDA veya ROCm sürümünü ve çerçeve derlemesini siz seçersiniz ve onları sabitlersiniz — bir teslim tarihinin altında hiçbir şey kendiliğinden yükseltilmez. Sürücünün teslimattan önce yerinde olmasını mı istiyorsunuz? Siparişte sürümü belirtin, yerinde olur.
Kendi ağında bant dışı konsol

HPE şasisinde iLO, Dell'de iDRAC: klavye-ve-ekran konsolu, sanal ortam, güç kontrolü, sensör ve donanım günlükleri. Ekranı veya NIC'i kilitleyen bir modül, POST'u izleyerek kendiniz yaptığınız bir yeniden başlatmadır — bir destek kaydı değil.
Kimsenin saymadığı bir port

Dahil edilen hızda ve onun üzerindeki her hızda her iki yönde de limitsiz. Aktarım kotası yok, hiçbir faturada çıkış satırı yok — veri kümeleri içeri, kontrol noktaları dışarı, gerçek trafiğe servis edilen bir model, hepsi portun fiyatına. Limitsiz bant genişliği yukarı giden merdivendir ve bu sayfanın bir hiper ölçekleyici faturasından sildiği en büyük kalemdir.
Destek kaydı olmadan yeniden kurulumlar

İşletim sistemi görüntüleri tek tıkla, istediğiniz sıklıkta, ücretsiz — ters giden bir sürücü deneyi yirmi dakikaya mal olur. Ters DNS sizin düzenlemenize açıktır, IPv6 dahildir ve ek IPv4 bir müzakere değil, katalog satırıdır.
Vardiyada mühendisler, günün her saati

Her makinede telefon, canlı sohbet ve destek kayıtları ve arızalı bir bileşen, telefon veya sohbet yoluyla yapılan bildirimden sonraki dört saat içinde değiştirilir. Destek, yanıt sürelerini ve kredi planını yazılı olarak yayımlar.
İki kıtada beş oda

New York, Miami, San Francisco, Amsterdam ve Bükreş. Makinenin durduğu yer, onu çağıran her şeye olan gecikmenizi ve tabi olduğu veri koruma rejimini belirler; veri merkezleri her binayı anlatır.

Teslim süresi

Yarım saatten üç haftaya kadar, kartın bugün nerede durduğuna göre belirlenir.

Tek bir sayı, bir yönde ya da diğerinde yalan olurdu, çünkü hiçbir zaman tek bir sayı olmadı: zaten rafa monte bir makinede oturan bir kart bir teslimattır, satın alınması gereken bir kart bir satın alma siparişidir. Taahhüt ettiğimiz şey, ödemeden önce hangi basamakta olduğunuzu size söylemektir.

~30 dakika
Kart zaten rafa monte bir makinede oturuyor
Hiçbir şey takılmaz ve hiçbir şey taşınmaz. Makine görüntülenir ve teslim edilir. Anında sunucular şu anda orada neyin durduğunu listeler.
4–24 saat
Kendi stoğumuzdan bir kart takılır
Bu sayfa için olağan durum. Parça depodadır; bir teknisyen onu yerleştirir, diziyi kurar ve işletim sistemini yükler. Yakın ama tam olmayan rafa monte bir makine — bellek eklenmiş, bir sürücü değiştirilmiş, dizi sizin yerleşiminize göre yeniden kurulmuş — aynı ziyarettir, yerinde yapılır.
5–10 iş günü
Kart satın alınır
Tutmadığımız bir parça sipariş edilir, ardından kurulum yukarıdaki gibi ilerler. Siparişe göre üretim, tüm teknik özelliklerin size ait olduğu sayfadır.
10–15 iş günü
Kart tahsislidir
Güncel nesil hızlandırıcılar bizim tarihimize değil, dağıtıcının tarihine göre sevk edilir ve biz bu uzun direği siz taahhüt vermeden önce adlandırırız, sonra değil. Tek bir müşteri için satın alınan donanım, üç ay peşin olarak fiyatlandırılır, çünkü hesap ikinci haftada kapanırsa yeniden kiraya veremeyeceğimiz bir makinedir.

Her basamak, ödeme ve dolandırıcılık incelemesi temizlendiğinde başlar — üzerine söz koymayacağımız tek adım budur: çoğu sipariş birkaç saat içinde temizlenir, yeni bir hesaptan gelen ilk sipariş daha uzun sürebilir. Kart, PayPal, ACH ve havale kabul edilir ve daha büyük bir ilk siparişte havale genellikle incelemeden karttan daha hızlı geçer.

Daha önce soruldu, burada yanıtlandı

Sayfanın var olma nedeni olan on bir soru.

Sohbet ve destek kayıtlarından derlendi, alıcıların sorduğu sıraya yakın bir düzende. İlki gerçek siparişlere mal oldu, bu yüzden listeyi o açıyor.

GPU'yu başkasıyla paylaşıyor muyum?: Hayır. Tek fiziksel makine, tek hesap ve kart, kurduğunuz işletim sistemine doğrudan aktarılır — hipervizör yok, MIG bölümü yok, vGPU profili yok, zaman dilimleme zamanlayıcısı yok, silikonunuzda komşunun toplu işi yok. İlk gün ölçtüğünüz rakamlar, elinizde kalan rakamlardır.
Bir makineye iki kart sığar mı?: Çoğu zaman evet ve bu bir onay kutusuyla değil, teklifle belirlenir: kasa boşluğu, kartın fiziksel genişliği, hat bütçesi ve güç kaynağı sayıyı belirler; bu yüzden dürüst bir yanıt için belirli parçayı bilmek gerekir. Kartı söyleyin, yanıt kasa, sayı ve teslim süresiyle gelsin. Genellikle amaç hızdan çok bellektir — iki adet 48 GB kart, tek bir 80 GB kartın alamayacağı bir modeli tutar — ve ikinci kart ikinci bir makine gibi görünmeye başladığında çoklu GPU ve çoklu düğüm sayfası hemen yanı başınızdadır.
Üzerinde hangi sürücü ve CUDA sürümü gelir?: Sizin kurduklarınız. Makine temiz bir işletim sistemi ve root yetkisiyle gelir; sürücüyü, CUDA veya ROCm sürümünü ve framework derlemesini kodunuzun doğrulandığı sürümlere sabitlersiniz ve sonrasında hiçbir şey onları değiştirmez. Sürücünün teslimden önce kurulu olmasını istiyorsanız, siparişe tam sürümü yazın. Belirli bir kartın belirli bir CUDA sürümünü desteklemesi gerekiyorsa, ödemeden önce sorun; tahmin etmek yerine kontrol ederiz.
İstediğim kart bugün rafta yok — o zaman ne olacak?: O zaman stoktan takılır ya da satın alınır ve ödemeden önce hangisi olduğu size söylenir: stoktaki parçalar dört ila yirmi dört saat içinde yerine oturur, satın alınan parçalar beş ila on iş günü sürer, tahsise bağlı hızlandırıcılar ise on ila on beş gün. Bu sayfa bilinçli olarak stok sayısı yazmaz — kart, gelip giden bir ürün değil, taktığımız bir parçadır — ama gereksinim bugün bir makine olduğunda, anında sunucular şu anda rafta ve çalışır durumda olanları listeler.
Kart dağıtımdan sonra değişebilir mi?: Evet, elinizdeki makinede: taşıma yok, yeniden kurulum yok, yeni adres yok. Kısa bir kesintiyle planlı bir raf ziyareti yapılır ve fatura tam olarak iki kart arasındaki fark kadar değişir. Bellek, diskler ve port hızı da aynı kurala göre yükseltilir.
Bir kart arızalandığında ne olur?: Değiştirilir ve sözleşmenin yazılı olarak belirlediği bir süre içinde: telefon veya canlı sohbetle bildirildiği andan itibaren dört saat. Süre aşılırsa hizmet kredisi, iyi niyet talebiyle değil, yayımlanmış bir çizelgeye göre uygulanır. Destek sayfasında çizelge ve telefon numarası bulunur.
Bant genişliği gerçekten limitsiz mi? Çıkış trafiğinin maliyeti ne?: Gerçekten: sattığımız hiçbir port hızında, hiçbir yönde ölçüm yapılmaz ve çıkış trafiği sıfır maliyetlidir çünkü ücretlendirileceği bir sayaç yoktur. GPU işlerinde bu başka yerlerde rutin olarak en büyük kalemdir — bir eğitim çalışması veri kümelerini içeri çeker ve kontrol noktalarını dışarı iter, bir çıkarım uç noktası gerçek trafiğe yanıt verir ve gigabayt başına çıkış ücreti o baytların her birini faturalandırır. Limitsiz bant genişliği, dahil edilen hızın üzerindeki basamaktır.
Burada aylık mı, saatlik GPU mu — başabaş noktası nerede?: Aritmetik bunu çözer. İş patlamalıysa ve gerçekten duruyorsa saatlik kazanır — ayda birkaç yüz saate kadar. Ayın yaklaşık üçte ikisini geçtikten sonra, çıkış trafiğini, çalışmalar arası kalıcı depolamayı ve kapasite beklerken geçen kuyruk süresini saymadan bile, fark kapanır. Aylık ayrıca gelecek ay aynı makine, diskler ve adresler demektir; üretim iş yükleri bunu kıyaslamalardan daha çok önemser.
Ödeme nasıl yapılır ve sözleşme neye benzer?: Kart, PayPal, ACH veya banka havalesi — ve imzalanacak bir sözleşme yoktur: varsayılan süre bir aydır, üç, altı ve on iki aylık döngüler indirim alır ve yenileme fiyatı artırmaz. Daha büyük bir ilk siparişte havale genellikle dolandırıcılık incelemesinden karttan daha hızlı geçer; bir yapının bunu beklemesinden önce bunu bilmekte fayda var.
Kartın yanlış olduğu ortaya çıkarsa ne olur?: İlk etkinleştirmeden itibaren üç takvim günü içinde, sorun giderme tükendikten sonra, iade politikası yazıldığı gibi uygulanır. Yukarıdaki boyutlandırma tablosu ve veri yolu nesli sütunu tam olarak bu maddeyi gereksiz kılmak için var — büyük bir kartın iadesini işlemektense sizi daha küçük bir karta ikna etmeyi tercih ederiz.
En yeni kartı bulunduruyor musunuz?: Bazen — ve genellikle yanlış teknik özelliktir. En yeni parça kıttır, tahsise bağlıdır, her transistörüne ihtiyaç varmış gibi fiyatlandırılır ve tasarlandığı veri yolu neslini besleyemeyen platformlara oturtulur. Buradaki GPU işlerinin çoğu uçta eğitim değildir: zaten sığan bir modeli sunmak, video kodlamak, kare render etmek, masaüstlerini çalıştırmak — doğru kartın iki nesil eski ve çeyrek fiyat olduğu işler. İşi söyleyin; yanıt gerçekten en yeni parçaysa, maliyeti ve var olabileceği tarihle birlikte söyleriz.

Bitişik sayfalar

Bu sayfadan bir adım ötedeki her şey.

Bu sayfa tek bir sorunun sahibidir — hangi kartları taktığımız ve her birinin maliyeti. İki yanındaki soruların her birinin kendi sayfası vardır ve bu, tam kümedir.

Hâlâ iki raf arasında mı kaldınız? — yanıt veren kişi bunlardan birini daha önce boyutlandırmıştır ve daha ucuz kartın doğru teknik özellik olduğunu söyleyecektir.

For the record

The whole page, reduced to figures.

Read from the order catalog at the moment this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth its time.

Cards we fit: 57 add-in cards on 3 shelves: 15 training and inference accelerators, 23 workstation and video parts, 19 consumer parts.
The card, as a line: $20.79 to $1,599 a month, added to the machine it seats in. The machine’s own figure never moves with the card.
A complete machine with a card in it: $91.72 to $1,682.67 a month — processor, memory, mirrored disks, unmetered port, one IPv4 and the out-of-band console all in the figure. Nothing left to add.
The machine alone: $70.93 to $217.59 a month before any card is fitted.
Cheapest build that can train: Instinct MI50 16GB, $169.93 a month complete.
Dearest: H100 80GB, $1,682.67 a month complete — $2.31 an hour for the whole machine if you are comparing against hourly billing, with no egress charge arriving later.
Tenancy: One account per physical machine, and the card is passed through to that account’s own operating system. No hypervisor in the path, no MIG partition, no vGPU profile, no time-slicing.
Bandwidth: Unmetered in both directions at every port speed we sell. No transfer allowance and no egress line on any invoice — datasets, checkpoints and rendered output move for the price of the port.
Where: 5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.
Term: Monthly, no contract. Three, six and twelve-month cycles discount up to 15%.
Multiple cards: Possible, quoted rather than ticked: chassis width, lane budget and power decide the count, so the answer names the specific card. Ask and the reply names the chassis and the lead time.
Payment: Card, PayPal, ACH and wire.

İki kontrol. Gerisi aritmetik.

Tek kiracı. Kartın tamamı. Üstünüzde planlanmış hiçbir şey yok.

Toplanan iki satır. Kademe değil.

Uyum ikili bir meseledir. Geri kalan her şey yalnızca hızdır.

Dört platform kart alır ve onları ayıran şey veri yoludur.

Intel Xeon E5-2600 v1/v2

Intel Xeon E5-2600 v3/v4

Intel Xeon Silver / Gold

AMD EPYC

Bağlantı nesli ne zaman önemlidir, iş yüküne göre ölçülür

Siz bir şey eklemeden önce her makinenin birlikte geldiği her şey.

Root ve size ait bir sürücü yığını

Kendi ağında bant dışı konsol

Kimsenin saymadığı bir port

Destek kaydı olmadan yeniden kurulumlar

Vardiyada mühendisler, günün her saati

İki kıtada beş oda

Yarım saatten üç haftaya kadar, kartın bugün nerede durduğuna göre belirlenir.

Kart zaten rafa monte bir makinede oturuyor

Kendi stoğumuzdan bir kart takılır

Kart satın alınır

Kart tahsislidir

Sayfanın var olma nedeni olan on bir soru.

Bu sayfadan bir adım ötedeki her şey.

The whole page, reduced to figures.