GPU sunucuları · NVIDIA CMP 170HX · GA100
CMP 170HX sunucusu. 64 GB'ın tamamı siz giriş yapmadan önce etkinleştirilir.
Bizden alacağınız bir CMP 170HX sunucusu kilidi açılmış olarak gelir: NVIDIA'nın görünür bıraktığı 8 GB yerine 64 GB HBM2e, tam hızda FP32 ve PCIe Gen 2 bağlantısı. Makineyi kurarken yamalı NVIDIA açık sürücüsünü Linux'a derliyor, her GPU'nun belleğini test ediyor ve root erişimini size teslim ediyoruz.
GPU, A100'deki çip olan bir GA100'dür. Fabrikadan, kendisinin büyük bölümü ürün yazılımında kapatılmış olarak çıktı. cmpunlocker projesi, NVIDIA'nın açık çekirdek sürücüsünü yamalayarak sürücü GPU'yu her başlattığında bu kapatmaların kalkmasını sağlar. Hiçbir şey flaşlanmaz. Makine tek kiracılıdır: üzerinde başka kimse çalışmaz.
- GPU başına 64 GB HBM2e
- Ubuntu, Debian, AlmaLinux, Rocky
- Root erişimi
- Aylık dönem
Kilidi Açılmış CMP 170HX · öncesi ve sonrası
Yamalı sürücü aynı GPU üzerinde neleri değiştirir?
LTT Labs, Eylül 2026'da bir CMP 170HX'in kilidini açtı ve aynı test düzeneğinde kilitli ve kilitsiz olarak test etti. Aşağıdaki rakamlar onlara aittir ve her satır kaynağını belirtir. Token hızları modele, nicemlemeye, llama.cpp derlemesine ve bayraklara göre değişir; bu yüzden bunları bir vaat olarak değil, bir oran olarak okuyun.
Her kare, bir gigabayt HBM2e'yi temsil eder.
- NVIDIA'nın gönderdiği haliyle görünen 8 GB
- Yamalı sürücü GPU'yu başlattığında 56 GB daha
Önemli olan değişiklik bellektir
8 GB ile GPU küçük bir modeli ve pek az şeyi daha tutar. 64 GB ile 27 milyar parametreli bir modeli 8 bit olarak, bağlam için de yer kalacak şekilde tutar. İşte bu, üzerinde test yaptığınız bir GPU ile ondan hizmet sunduğunuz bir GPU arasındaki çizgidir.
Üretim bant genişliğini, istem okuma ise hesaplamayı izler
Token yazmak, ağırlıkların bellekten ne kadar hızlı aktığıyla sınırlıdır ve HBM2e bu konuda her zaman hızlıydı. Uzun bir istemi okumak ise çarpma-toplama birimleriyle sınırlıdır. Kısıtlama en çok orada can yakıyordu, bu yüzden kilidin açılması en büyük kazancı orada gösteriyor.
Bağlantı yalnızca yükleme sırasında önemlidir
Gen 2 x4, ana bilgisayardan GPU'ya aktarım hızını ikiye katlar; böylece model yüklemenin veri yolu kısmı yarı sürede biter. Ağırlıklar GPU'ya geldikten sonra veri yolu boşta kalır.
| Measure | As NVIDIA shipped it | Unlocked | Source |
|---|---|---|---|
| GPU memory | 8 GB HBM2e | 64 GB HBM2e | cmpunlocker; 65,536 MiB measured by LTT Labs |
| FP32 fused multiply-add | about 0.39 TFLOPS | unthrottled | 170th Street (stock); cmpunlocker (full SM throughput) |
| PCIe link | Gen 1 x4 | Gen 2 x4 | cmpunlocker |
| Host to GPU, measured | 0.84 GB/s | 1.68 GB/s | LTT Labs, nvbandwidth |
| 8B model at 4-bit, generating | 30 tokens/s | 113 tokens/s | LTT Labs, llama.cpp, Granite 4.1 8B Q4_K_M |
| 8B model at 4-bit, reading a prompt | 351 tokens/s | 2,994 tokens/s | LTT Labs, llama.cpp, pp512 |
| 27B model at 4-bit (~16 GB) | does not fit | 38 tokens/s | LTT Labs, llama.cpp, Qwen 3.6 27B Q4_K_M |
| 27B model at 8-bit (~29 GB) | does not fit | 33 tokens/s | LTT Labs, llama.cpp, Qwen 3.8 27B Q8_0 |
Kaynaklar: Ölçülen her satır için LTT Labs, “Actually Download More RAM” (12 Eylül 2026); stok FP32 değeri için 170th Street; yamaların geri getirdikleri için cmpunlocker.
Kurulum, adım adım
Kilit açma CMP 170HX sunucunuza nasıl yüklenir
cmpunlocker README dosyasını herkes okuyabilir. Asıl iş, teslimattan önce yapılan ve teslimattan sonra da çalışmaya devam eden her şeydir. Siz hiçbir şey çalıştırmazsınız.
NVIDIA'nın açık sürücüsü, tek bir sürüme sabitlenmiş
Yükleyici NVIDIA'nın CUDA deposunu ekler ve
610.57.04için açık sürücü kullanıcı alanını, başsız olarak, DKMS olmadan kurar ve onu bu sürümde tutar: Ubuntu ve Debian'danvidia-driver-pinning-610.57.04paketi, AlmaLinux ve Rocky'de bir dnf sürüm kilidi. Kilit açma tam olarak tek bir sürücü için derlenmiştir. Sabitleme, rutin bir yükseltmenin kütüphaneleri altından çekip almasını engeller.cmpunlocker, çekirdeğiniz için derlenmiş
Sabit bir commit'te cmpunlocker'ı alır ve yamalı
nvidia.komodülünü yeni sistemin içinde, açılış yapacağı çekirdeğe karşı derleriz. Yamalar, sürücünün GPU'yu başlatma biçimini değiştirir. GPU'ya hiçbir şey yazılmaz, bu yüzden sürücüyü kaldırmak onu tam olarak olduğu hâline döndürür.Soğuk bir ilk açılış
Kilit açma yalnızca GPU kapatıldıktan sonraki ilk sürücü yüklemesinde etkili olur. Bu yüzden her kurulum, sunucunun kapatılıp BMC üzerinden yeniden açılmasıyla sona erer ve GPU'ya dokunan ilk sürücü yamalı olanıdır.
İlk oturum açmada kontrol edilir ve bellek testi yapılır
Yeni sistem ilk kez yanıt verdiğinde kurulum, her GPU'ya ne olarak geldiğini sorar: bellek, PCIe nesli ve bağlantı genişliği. Ardından sürücünün verdiği her bellek baytını sabit, adres ve sözde rastgele desenlerle yazar ve geri okur. Her iki sonuç da sunucunun kurulum günlüğüne gider ve destek ekibi orada görebilir.
cmp-unlock statusvecmp-unlock memtestsize kabuktan aynı yanıtları verir.Çekirdek güncellemeleri onu yeniden kilitlemez
Bir çekirdek kancası (
/etc/kernel/postinst.dveya AlmaLinux ve Rocky'de/etc/kernel/install.d), makinede tutulan NVIDIA kaynak kopyasından her yeni çekirdek için yamalı modülleri yeniden derler. Katılımsız bir yükseltme GPU'yu 8 GB'a geri göndermez. Paket yöneticisi ayrıca yanına ikinci, stok bir sürücü kuracak paketleri de reddeder. CUDA'yıapt install cuda-toolkitveyadnf install cuda-toolkitile kurun, çakışma hiç ortaya çıkmaz.
CMP 170HX 64GB · boyutlandırma
64 GB'a ne sığar, 8 GB'a ne sığmıştı
Yalnızca ağırlıklar, yukarı yuvarlanmıştır. Bir model, GPU onu KV önbelleği ve çalışma zamanı için çeyrek ila yarım kat daha fazla pay bırakarak tutabildiğinde sığıyor sayılır. Bunun altında yüklenir, ardından bağlam büyüdükçe bellek tükenir. LLM sayfamız her GPU'yu aynı kurala göre boyutlandırır.
| Model size | Precision | Weights | 8 GB, as shipped | 64 GB, unlocked |
|---|---|---|---|---|
| 7-8 billion parameters | 16-bit | 16 GB | does not fit | fits |
| 7-8 billion parameters | 8-bit | 8 GB | does not fit | fits |
| 7-8 billion parameters | 4-bit | 5 GB | fits | fits |
| 13-14 billion parameters | 16-bit | 28 GB | does not fit | fits |
| 13-14 billion parameters | 8-bit | 14 GB | does not fit | fits |
| 13-14 billion parameters | 4-bit | 8 GB | does not fit | fits |
| 30-34 billion parameters | 16-bit | 68 GB | does not fit | does not fit |
| 30-34 billion parameters | 8-bit | 34 GB | does not fit | fits |
| 30-34 billion parameters | 4-bit | 19 GB | does not fit | fits |
| 70 billion parameters | 16-bit | 140 GB | does not fit | does not fit |
| 70 billion parameters | 8-bit | 70 GB | does not fit | does not fit |
| 70 billion parameters | 4-bit | 38 GB | does not fit | fits |
Tek makinedeki iki GPU, birinin taşıyamadığını taşır: 8 bit'te 70 milyar parametreli bir model yaklaşık 70 GB gerektirir ve bu bir çifte sığar. Bir modeli birden çok GPU'ya veya makineye bölmek çoklu GPU sayfasında ele alınmıştır. Makineye en büyük model dosyası kadar sistem belleği verin, yoksa yükleme yavaşlar. Giriş yapılandırmasının belleği aşağıdaki fiyat tablosunda listelenmiştir ve yapılandırıcı daha fazlasını ekler.
Sipariş vermeden önce bunu okuyun
Yapay zeka çıkarımı için ucuz bir GPU ve sınırları
Kilidi açılmış bir CMP 170HX, aylık fiyatına göre çok fazla çıkarım belleği sunar. Bir A100 değildir ve farkın ortaya çıktığı yerler şunlardır.
- ECC yok
- HBM2e üzerindeki hata düzeltme kapalı kalır; henüz kimse kilidini açmadı. Çıkarımda ters dönen bir bit, bir yeniden deneme maliyeti doğurur. Bir hafta süren bir eğitim çalışması ya da bit bazında kesinlik gerektiren işler için L40S gibi korumalı belleğe sahip bir GPU seçin.
- PCIe Gen 2 x4
- Ana bilgisayardan GPU'ya ölçülen hız yaklaşık 1,7 GB/s olduğundan veri yolu, 38 GB'lık bir modeli taşımak için 20 saniyeden fazla zamana ihtiyaç duyar. Model bu yoldan bir kez geçer ve ardından GPU belleğinde kalır; bu yüzden sunum bunu neredeyse hiç hissetmez. Sistem belleğinden parti akışı yapan bir eğitim döngüsü ise bunu her adımda hisseder.
- Ampere sayı biçimleri
- Tensör çekirdeklerinde FP16, BF16, TF32 ve INT8. FP8 ve FP4 yok; ikisi de sonraki nesillerle geldi. GGUF, AWQ veya GPTQ ile nicemlenmiş modeller sorunsuz çalışır çünkü GPU'nun sahip olduğu biçimlere açılırlar.
- Yalnızca Linux
- Kilit açma işlemi bir Linux çekirdek sürücüsüdür. Makineyi Ubuntu, Debian, AlmaLinux veya Rocky Linux ile sipariş edin; sürücü hazır gelir. Windows veya Proxmox VE üzerinde GPU, NVIDIA'nın gönderdiği haliyle 8 GB ile çalışır.
- Secure Boot kapalı
- Yamalı modüller imzasızdır. Secure Boot'u zorunlu kılan bir çekirdek bunları reddeder ve GPU'yu tamamen sürücüsüz bırakır; bu yüzden kapalı tutun.
- NVIDIA'nın değil, topluluğun kodu
- cmpunlocker, Amogh Munikote tarafından geliştirilen açık kaynaklı bir projedir (GPL-2.0) ve NVIDIA bunu desteklemez. Biz, derleyip kontrol ettiğimiz bir commit'i kurarız ve bu sabitlemeyi asla otomatik olarak değil, her zaman elle ilerletiriz.
- 10 GB sürüm 40 GB'ta durur
- 8 GB CMP 170HX'in kilidi 64 GB'a açılır. 10 GB sürüm, paketinde yük altında kararlı kalandan daha fazla bellek taşır; bu yüzden kilit açma işlemi onu 40 GB'ta tutar. Kurulum, makinede hangi sürümün olduğunu okur ve her GPU'ya doğru bellek düzenini uygular.
Düğmenin arkasındaki makine
Onu kabul eden en ucuz makinede kilidi açılmış bir CMP 170HX
GPU faturada bir satır, makine ise başka bir satırdır; ikisi toplanır. Aşağıdaki rakamlar bu yapılandırmanın en düşük maliyetidir: GPU, onu kabul eden en ucuz komple makinede, satış vergisi hariç. Yapılandırıcıda işlemciyi, belleği, diskleri ve GPU sayısını değiştirebilirsiniz; her değişiklik yaptıkça fiyatlandırılır.
| GPU | NVIDIA CMP 170HX: 64 GB HBM2e unlocked (8 GB HBM2e without the patched driver) |
|---|---|
| GPU, per month | $189 |
| Machine | Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps |
| Machine, per month | $83.67 |
| Together | $272.67 a month |
| Setup | $29 once |
| GPUs per machine | 1 to 4 |
| Cities | New York, Bucharest, San Francisco and Miami |
| Term | Monthly; 15% off on a twelve-month cycle |
| Driver | NVIDIA open 610.57.04, patched by cmpunlocker, on Ubuntu 22.04–26.04, Debian 12/13, AlmaLinux 9/10 or Rocky Linux 9/10 |
| Memory test | Every byte the driver hands out, written and read back on each GPU before handover |
Kurulum ücreti, GPU'nun siparişe göre takılması nedeniyle vardır; bu da makineyi özel bir yapılandırma haline getirir. Bir kez alınır ve aylık tutar yenilemede aynı kalır. Takıtığımız diğer her GPU, GPU sunucuları sayfasında aynı şekilde fiyatlandırılır.
Yanıtlar
CMP 170HX sunucu soruları
Kilidi açılmış CMP 170HX nedir?
cmpunlocker projesinden NVIDIA'nın açık çekirdek sürücüsünün yamalı bir derlemesini çalıştıran bir NVIDIA CMP 170HX. GPU, A100'deki kalıp olan GA100'dür; NVIDIA bunu 8 GB HBM2e'si görünür, FP32 çarpma-toplama kısılmış ve bağlantı PCIe Gen 1'de tutulmuş olarak sevk etti. Yamalı sürücü 64 GB'ı etkinleştirir, kısıtlamayı kaldırır ve GPU'yu her başlattığında bağlantıyı Gen 2'de eğitir. GPU'nun kendisinde hiçbir şey değiştirilmez.
Kilidi açıldığında bir CMP 170HX'in ne kadar VRAM'i olur?
8 GB sürümünde 64 GB HBM2e; yamalı sürücü çalıştığında nvidia-smi bunu rapor eder. 10 GB sürümü, üzerinde kararlı kalan boyut olan 40 GB'da tutulur. Yamalı sürücü olmadan her ikisi de NVIDIA'nın sevk ettiğini gösterir: 8 veya 10 GB.
CMP 170HX yapay zeka çıkarımı için iyi mi?
Evet, 64 GB'a sığan modeller ve ECC gerektirmeyen işler için. LTT Labs'ın testlerinde 4-bit'te bir 8B modeli kilitliyken 30'a karşılık kilit açıkken saniyede 113 token üretti ve 8-bit'te bir 27B modeli saniyede 33 token hızında çalıştı. Sınırlar, model yüklemeyi yavaşlatan PCIe Gen 2 x4 bağlantısı, FP8 veya FP4 olmaması ve bellekte ECC bulunmamasıdır.
Bir CMP 170HX 70B modelini çalıştırabilir mi?
4-bit'te evet: ağırlıklar yaklaşık 38 GB tutar, bu da 64 GB'lık bir GPU'da boyutlandırma kuralımızın istediği boşluğu bırakır. 8-bit'te yaklaşık 70 GB tutar, bu da iki GPU gerektirir; bir makine en fazla dört tane alır.
Kilit açma yeniden başlatmalarda ve çekirdek güncellemelerinde kalıcı mı?
Evet. Yamalı modüller diğer tüm çekirdek modülleri gibi kurulur ve her açılışta yüklenir. Yeni bir çekirdek geldiğinde, makinede tutulan NVIDIA kaynağından onun için modülleri yeniden derleyen bir kanca, siz o çekirdeğe geçmeden önce çalışır. Bir GPU hâlâ 8 GB ile gelirse, çekirdek sürümünüzle cmp-unlock build komutunu çalıştırın ve sunucuyu kontrol panelinden güç döngüsüne alın.
Hangi işletim sistemleri kilidi açılmış sürücüyü alır?
Ubuntu 22.04, 24.04 ve 26.04, Debian 12 ve 13, AlmaLinux 9 ve 10 ve Rocky Linux 9 ve 10; GPU bulunan her makineye tarafımızca kurulur. Bu, kurulumun bir parçasıdır, işaretlenecek bir seçenek değildir. Windows ve Proxmox VE, GPU'yu NVIDIA'nın sevk ettiği haliyle alır: kilit açma bir Linux çekirdek sürücüsüdür ve Proxmox'ta GPU'lar genellikle sanal makinelere gider, bir ana makine sürücüsü bunlara ulaşamaz.
Üzerinde CUDA, PyTorch, vLLM ve llama.cpp kullanabilir miyim?
Evet. Sürücü, yamalar uygulanmış NVIDIA'nın kendi 610.57.04 sürümüdür, bu nedenle güncel bir sürücüye sahip bir Ampere GPU için derlenen yazılımlar çalışır. CUDA araç setini kendi başına, apt install cuda-toolkit veya dnf install cuda-toolkit ile kurun. cuda ve cuda-drivers meta paketleri yanlarında ikinci bir stok sürücü getirir, bu yüzden paket yöneticisi bunları reddedecek şekilde ayarlanmıştır.
Bir sunucu kaç adet CMP 170HX GPU alabilir?
Bu sayfanın bağlantı verdiği makinede en fazla dört tane. Sayıyı yapılandırıcıda seçin. Dörtten fazlası veya makineler arasında bölünmüş bir model için çoklu GPU sayfasına bakın.
Kilidi açılmış bellek güvenilir mi?
64 GB'daki 8 GB sürümü, kamuya açık testlerde dayanıklılığını kanıtlamış kombinasyondur ve 10 GB sürümü aynı nedenle 40 GB'da durur. Bu yine de NVIDIA'nın ayırdığı bellektir ve bir GPU zayıf bir bölge taşıyabilir: LTT Labs, test ettikleri arasında bir tane buldu. Bu yüzden her kurulum bunu test eder. İlk soğuk açılıştan sonra, sürücünün vereceği her bayt her GPU'da yazılır ve geri okunur; sabit, adres ve sözde rastgele desenlerle, her biri yerinde ters çevrilerek ve sonuç kurulum günlüğüne gider. Bu, teslimatta bir kontroldür, yıllar için bir garanti değildir. Bir GPU sonradan sorun çıkarırsa cmp-unlock memtest komutunu çalıştırın ve çıktıyı bize gönderin. Arızalanan bir GPU, diğer tüm parçalar gibi değiştirilir.
Bu yapılandırmada neden kurulum ücreti var?
Çünkü GPU siparişe göre takılır. GPU eklenmiş bir makine özel bir yapılandırmadır ve özel bir yapılandırma, fiyat tablosunda gösterilen tek seferlik kurulum ücretini taşır. Bir kez alınır ve aylık tutar yenilemede değişmez.
CMP 170HX sunucuları nerede bulunuyor?
Fiyat tablosunda listelenen şehirlerde. Makine serisi Amsterdam'da da satılır, ancak yapılandırıcı orada bir GPU takamaz, bu yüzden kilidi açılmış bir CMP 170HX o şehirde mevcut değildir.
Sunucuyla ilgili nasıl yardım alırım?
Bu sitedeki sohbeti açın. Bir yapay zeka asistanı saniyeler içinde yanıt verir ve hesabınızı ve sunucunuzu kontrol edebilir. Bir kişi isteyin, biri devralır.
GPU pazar yeri
Sahiplerinin listelediği CMP 170HX makineleri
Aylık kiralanabilir: sahiplerinin pazar yerimizde listelediği CMP 170HX makineleri, her biri sahibinin belirlediği fiyatla. Bazıları kardeş şirketimiz Primcast üzerinden listelenir ve bunlar primcast.com üzerinden kiralanır.
Başka yerlerde
CMP 170HX doğru seçim değilse
- GPU sunucularıTaktığımız her GPU, onu barındıran makinenin yanında kendi aylık kalemi olarak fiyatlandırılır.
- LLM sunucularıHangi model için hangi makine, yalnızca CPU'lu kutulardan veri merkezi GPU'larına kadar.
- Çok GPU'lu sunucularBir modeli GPU'lar ve makineler arasında bölme ve veri yolunun ve bağlantı noktasının size maliyeti.
- L40S sunucularıHata düzeltmeli 48 GB, ters dönmüş bir biti tolere edemeyen işler için.
CMP 170HX sunucunuzu yapılandırın
İşlemciyi, belleği, diskleri ve en fazla dört GPU'yu seçin. Kilidi açılmış sürücü Linux ile birlikte gelir ve giriş bilgilerini almadan önce her GPU'nun belleği test edilir. Önce sorularınız mı var? Sohbet saniyeler içinde yanıtlar ve siz istediğinizde bir kişi devralır.