Servere GPU · NVIDIA CMP 170HX · GA100
Server CMP 170HX. Toți cei 64 GB activați înainte să te autentifici.
Un server CMP 170HX de la noi ajunge deblocat: 64 GB de HBM2e în loc de cei 8 GB lăsați vizibili de NVIDIA, FP32 la viteză maximă și legătura la PCIe Gen 2. Construim driverul NVIDIA open-source corectat în Linux în timp ce instalăm mașina, testăm memoria fiecărui GPU și îți predăm acces root.
GPU-ul este un GA100, nucleul din A100. A plecat din fabrică cu mare parte din el blocată în firmware. Proiectul cmpunlocker corectează driverul open-source de kernel NVIDIA, astfel încât aceste blocaje cad de fiecare dată când driverul pornește GPU-ul. Nimic nu este flash-uit. Mașina este cu un singur chiriaș: nimeni altcineva nu rulează pe ea.
- 64 GB HBM2e per GPU
- Ubuntu, Debian, AlmaLinux, Rocky
- Acces root
- Contract lunar
CMP 170HX deblocat · înainte și după
Ce schimbă driverul modificat pe același GPU
LTT Labs a deblocat un CMP 170HX în septembrie 2026 și l-a testat blocat și deblocat pe același banc de testare. Cifrele de mai jos le aparțin, iar fiecare rând își indică sursa. Ratele de tokeni variază în funcție de model, cuantizare, versiunea llama.cpp și flaguri, așa că tratează-le ca pe un raport, nu ca pe o promisiune.
Un pătrat pentru fiecare gigabyte de HBM2e.
- 8 GB vizibili așa cum i-a livrat NVIDIA
- 56 GB în plus odată ce driverul modificat pornește GPU-ul
Memoria este schimbarea care contează
La 8 GB, GPU-ul încape un model mic și cam atât. La 64 GB, încape un model de 27 de miliarde de parametri pe 8 biți, cu loc rămas pentru context. Aceasta este linia dintre un GPU pe care îl testezi și unul de pe care servești.
Generarea urmează lățimea de bandă, citirea promptului urmează calculul
Scrierea tokenilor este limitată de cât de repede curg ponderile din memorie, iar HBM2e a fost mereu rapid la asta. Citirea unui prompt lung este limitată de unitățile de înmulțire-adunare. Limitarea a durut cel mai mult acolo, așa că acolo arată deblocarea cel mai mare câștig.
Legătura contează doar la încărcare
Gen 2 x4 dublează rata host-la-GPU, așa că partea de magistrală a încărcării unui model durează jumătate. Odată ce ponderile sunt pe GPU, magistrala stă inactivă.
| Measure | As NVIDIA shipped it | Unlocked | Source |
|---|---|---|---|
| GPU memory | 8 GB HBM2e | 64 GB HBM2e | cmpunlocker; 65,536 MiB measured by LTT Labs |
| FP32 fused multiply-add | about 0.39 TFLOPS | unthrottled | 170th Street (stock); cmpunlocker (full SM throughput) |
| PCIe link | Gen 1 x4 | Gen 2 x4 | cmpunlocker |
| Host to GPU, measured | 0.84 GB/s | 1.68 GB/s | LTT Labs, nvbandwidth |
| 8B model at 4-bit, generating | 30 tokens/s | 113 tokens/s | LTT Labs, llama.cpp, Granite 4.1 8B Q4_K_M |
| 8B model at 4-bit, reading a prompt | 351 tokens/s | 2,994 tokens/s | LTT Labs, llama.cpp, pp512 |
| 27B model at 4-bit (~16 GB) | does not fit | 38 tokens/s | LTT Labs, llama.cpp, Qwen 3.6 27B Q4_K_M |
| 27B model at 8-bit (~29 GB) | does not fit | 33 tokens/s | LTT Labs, llama.cpp, Qwen 3.8 27B Q8_0 |
Surse: LTT Labs, “Actually Download More RAM” (12 septembrie 2026) pentru fiecare rând măsurat; 170th Street pentru cifra FP32 de stoc; cmpunlocker pentru ce restaurează patch-urile.
Instalarea, pas cu pas
Cum ajunge deblocarea pe serverul tău CMP 170HX
Oricine poate citi README-ul cmpunlocker. Munca reală este tot ce îl înconjoară, făcută înainte de predare și menținută funcțională după aceea. Tu nu rulezi nimic.
Driverul open NVIDIA, fixat pe o singură versiune
Programul de instalare adaugă repository-ul CUDA al NVIDIA și instalează userspace-ul driverului open pentru
610.57.04, headless, fără DKMS, și îl menține la acea versiune: pachetulnvidia-driver-pinning-610.57.04pe Ubuntu și Debian, o blocare de versiune dnf pe AlmaLinux și Rocky. Deblocarea este construită pentru un singur driver exact. Fixarea împiedică o actualizare de rutină să scoată bibliotecile de sub el.cmpunlocker, compilat pentru kernelul tău
Preluăm cmpunlocker la un commit fix și construim
nvidia.komodificat în interiorul noului sistem, împotriva kernelului pe care urmează să îl pornească. Patch-urile schimbă modul în care driverul pornește GPU-ul. Nimic nu este scris pe GPU, așa că eliminarea driverului îl readuce exact la starea inițială.O primă pornire la rece
Deblocarea se aplică doar la prima încărcare a driverului după ce GPU-ul a fost oprit complet. Așadar, fiecare instalare se încheie cu serverul oprit și repornit prin BMC-ul său, iar primul driver care atinge GPU-ul este cel modificat.
Verificat și testat de memorie la prima autentificare
Când noul sistem răspunde prima dată, instalarea întreabă fiecare GPU cum s-a inițializat: memorie, generație PCIe și lățimea linkului. Apoi scrie și citește înapoi fiecare octet de memorie pe care driverul îl alocă, cu modele fixe, pe adrese și pseudo-aleatoare. Ambele rezultate ajung în jurnalul de configurare al serverului, unde suportul le poate vedea.
cmp-unlock statusșicmp-unlock memtestîți oferă aceleași răspunsuri dintr-un shell.Actualizările de kernel nu îl reblochează
Un hook de kernel (
/etc/kernel/postinst.d, sau/etc/kernel/install.dpe AlmaLinux și Rocky) reconstruiește modulele modificate pentru fiecare kernel nou dintr-o copie a sursei NVIDIA păstrată pe mașină. O actualizare nesupravegheată nu va trimite GPU-ul înapoi la 8 GB. Managerul de pachete refuză, de asemenea, pachetele care ar instala un al doilea driver standard alături de el. Instalează CUDA cuapt install cuda-toolkitsaudnf install cuda-toolkitși conflictul nu apare niciodată.
CMP 170HX 64GB · dimensionare
Ce încape în 64 GB și ce încăpea în 8
Doar greutăți, rotunjite în sus. Un model se consideră că încape atunci când GPU-ul îl reține cu un sfert până la jumătate în plus ca rezervă pentru cache-ul KV și runtime. Sub acest nivel se încarcă, apoi rămâne fără memorie pe măsură ce contextul crește. Pagina noastră LLM dimensionează fiecare GPU după aceeași regulă.
| Model size | Precision | Weights | 8 GB, as shipped | 64 GB, unlocked |
|---|---|---|---|---|
| 7-8 billion parameters | 16-bit | 16 GB | does not fit | fits |
| 7-8 billion parameters | 8-bit | 8 GB | does not fit | fits |
| 7-8 billion parameters | 4-bit | 5 GB | fits | fits |
| 13-14 billion parameters | 16-bit | 28 GB | does not fit | fits |
| 13-14 billion parameters | 8-bit | 14 GB | does not fit | fits |
| 13-14 billion parameters | 4-bit | 8 GB | does not fit | fits |
| 30-34 billion parameters | 16-bit | 68 GB | does not fit | does not fit |
| 30-34 billion parameters | 8-bit | 34 GB | does not fit | fits |
| 30-34 billion parameters | 4-bit | 19 GB | does not fit | fits |
| 70 billion parameters | 16-bit | 140 GB | does not fit | does not fit |
| 70 billion parameters | 8-bit | 70 GB | does not fit | does not fit |
| 70 billion parameters | 4-bit | 38 GB | does not fit | fits |
Două GPU-uri într-o singură mașină susțin ceea ce unul singur nu poate: un model de 70 de miliarde de parametri la 8 biți are nevoie de aproximativ 70 GB, ceea ce încape pe o pereche. Împărțirea unui model pe mai multe GPU-uri sau mașini este tratată pe pagina multi-GPU. Oferiți mașinii cel puțin la fel de multă memorie de sistem ca cel mai mare fișier de model, altfel încărcarea încetinește. Memoria configurației de bază este listată în tabelul de prețuri de mai jos, iar configuratorul adaugă mai mult.
Citește asta înainte să comanzi
Un GPU ieftin pentru inferență AI și unde se oprește
Un CMP 170HX deblocat oferă multă memorie de inferență pentru prețul lunar. Nu este un A100, iar acestea sunt punctele unde se vede.
- Fără ECC
- Corecția de erori pe HBM2e rămâne oprită; nimeni nu a deblocat-o încă. Pentru inferență, un bit inversat costă o reîncercare. Pentru un antrenament de o săptămână sau lucrări care trebuie să fie exacte la nivel de bit, alege un GPU cu memorie protejată, cum ar fi L40S.
- PCIe Gen 2 x4
- Aproximativ 1,7 GB/s de la host la GPU, măsurat, deci magistrala are nevoie de peste 20 de secunde pentru a muta un model de 38 GB. Un model o traversează o singură dată și apoi rămâne în memoria GPU-ului, așa că servirea abia observă. O buclă de antrenament care transmite loturi din memoria de sistem observă fiecare pas.
- Formate numerice Ampere
- FP16, BF16, TF32 și INT8 pe nucleele tensor. Fără FP8 și fără FP4; ambele au apărut la generațiile ulterioare. Modelele cuantizate în GGUF, AWQ sau GPTQ rulează fără probleme, deoarece se despachetează în formate pe care GPU-ul le are.
- Doar Linux
- Deblocarea este un driver de kernel Linux. Comandă mașina cu Ubuntu, Debian, AlmaLinux sau Rocky Linux și este inclus. Pe Windows sau Proxmox VE, GPU-ul rulează așa cum l-a livrat NVIDIA, cu 8 GB.
- Secure Boot oprit
- Modulele patch-uite sunt nesemnate. Un kernel cu Secure Boot activ le refuză și lasă GPU-ul fără niciun driver, așa că ține-l oprit.
- Cod comunitar, nu de la NVIDIA
- cmpunlocker este un proiect open-source (GPL-2.0) de Amogh Munikote, iar NVIDIA nu îl acceptă. Instalăm un commit pe care l-am compilat și verificat și mutăm acel pin manual, niciodată automat.
- Versiunea de 10 GB se oprește la 40 GB
- CMP 170HX de 8 GB se deblochează la 64 GB. Versiunea de 10 GB are mai multă memorie pe pachet decât rămâne stabilă sub sarcină, așa că deblocarea o menține la 40 GB. Instalarea citește ce versiune este în mașină și aplică aspectul de memorie corect fiecărui GPU.
Mașina din spatele butonului
Un CMP 170HX deblocat în cea mai ieftină mașină care îl acceptă
GPU-ul este o linie pe factură, iar mașina este alta; cele două se adună. Cifrele de mai jos reprezintă costul minim al acestei configurații: GPU-ul în cea mai ieftină mașină completă care îl acceptă, înainte de orice taxă de vânzare. În configurator poți schimba procesorul, memoria, discurile și numărul de GPU-uri, iar fiecare modificare este tarifată pe măsură ce o faci.
| GPU | NVIDIA CMP 170HX: 64 GB HBM2e unlocked (8 GB HBM2e without the patched driver) |
|---|---|
| GPU, per month | $189 |
| Machine | Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps |
| Machine, per month | $83.67 |
| Together | $272.67 a month |
| Setup | $29 once |
| GPUs per machine | 1 to 4 |
| Cities | New York, Bucharest, San Francisco and Miami |
| Term | Monthly; 15% off on a twelve-month cycle |
| Driver | NVIDIA open 610.57.04, patched by cmpunlocker, on Ubuntu 22.04–26.04, Debian 12/13, AlmaLinux 9/10 or Rocky Linux 9/10 |
| Memory test | Every byte the driver hands out, written and read back on each GPU before handover |
Taxa de configurare există pentru că GPU-ul este montat la comandă, ceea ce face din mașină o configurație personalizată. Se percepe o singură dată, iar suma lunară rămâne aceeași la reînnoire. Fiecare alt GPU pe care îl montăm este tarifat la fel pe pagina serverelor GPU.
Răspunsuri
Întrebări despre serverul CMP 170HX
Ce este un CMP 170HX deblocat?
Un NVIDIA CMP 170HX care rulează o versiune modificată a driverului de kernel open-source NVIDIA din proiectul cmpunlocker. GPU-ul este un GA100, același cip din A100, pe care NVIDIA l-a livrat cu 8 GB de HBM2e vizibili, multiplicare-adunare FP32 limitată și legătura menținută la PCIe Gen 1. Driverul modificat activează 64 GB, elimină limitarea și antrenează legătura la Gen 2 de fiecare dată când pornește GPU-ul. Nimic de pe GPU în sine nu este modificat.
Cât VRAM are un CMP 170HX când este deblocat?
64 GB de HBM2e pe versiunea de 8 GB, ceea ce raportează nvidia-smi odată ce rulează driverul modificat. Versiunea de 10 GB este menținută la 40 GB, dimensiunea care rămâne stabilă pe ea. Fără driverul modificat, oricare dintre ele arată ce a livrat NVIDIA: 8 sau 10 GB.
Este CMP 170HX potrivit pentru inferență AI?
Da, pentru modele care încap în 64 GB și pentru lucrări care nu necesită ECC. În testele LTT Labs, un model 8B pe 4 biți a generat 113 tokeni pe secundă deblocat, față de 30 blocat, iar un model 27B pe 8 biți a rulat cu 33 de tokeni pe secundă. Limitele sunt legătura PCIe Gen 2 x4 care încetinește încărcarea modelului, lipsa FP8 sau FP4 și absența ECC pe memorie.
Poate un CMP 170HX să ruleze un model 70B?
Pe 4 biți, da: ponderile ajung la aproximativ 38 GB, ceea ce lasă marja cerută de regula noastră de dimensionare pe un GPU de 64 GB. Pe 8 biți ajung la aproximativ 70 GB, ceea ce necesită două GPU-uri; o singură mașină acceptă până la patru.
Deblocarea rezistă la reporniri și actualizări de kernel?
Da. Modulele modificate sunt instalate ca orice alt modul de kernel și se încarcă la fiecare pornire. Când apare un kernel nou, un hook le reconstruiește pentru el din sursa NVIDIA păstrată pe mașină, înainte să porniți în el. Dacă un GPU pornește tot la 8 GB, rulați cmp-unlock build cu versiunea kernelului dvs. și reporniți serverul din panoul de control.
Ce sisteme de operare primesc driverul deblocat?
Ubuntu 22.04, 24.04 și 26.04, Debian 12 și 13, AlmaLinux 9 și 10, și Rocky Linux 9 și 10, instalate de noi pe orice mașină cu GPU-ul în ea. Face parte din instalare, nu este o opțiune de bifat. Windows și Proxmox VE primesc GPU-ul așa cum l-a livrat NVIDIA: deblocarea este un driver de kernel Linux, iar pe Proxmox GPU-urile merg de obicei către mașini virtuale, pe care un driver de gazdă nu le atinge.
Pot folosi CUDA, PyTorch, vLLM și llama.cpp pe el?
Da. Driverul este propriul 610.57.04 de la NVIDIA cu patch-urile aplicate, așa că software-ul construit pentru un GPU Ampere cu un driver actual rulează. Instalați toolkit-ul CUDA separat, cu apt install cuda-toolkit sau dnf install cuda-toolkit. Metapachetele cuda și cuda-drivers ar aduce cu ele un al doilea driver standard, așa că managerul de pachete este setat să le refuze.
Câte GPU-uri CMP 170HX poate accepta un singur server?
Până la patru în mașina către care trimite această pagină. Alegeți numărul în configurator. Pentru mai mult de patru, sau un model împărțit între mașini, consultați pagina multi-GPU.
Este fiabilă memoria deblocată?
Versiunea de 8 GB la 64 GB este combinația care a rezistat în testele publice, iar versiunea de 10 GB se oprește la 40 GB din același motiv. Este tot memorie sortată de NVIDIA, iar un GPU poate avea o zonă slabă: LTT Labs a găsit una printre cele testate. Așa că fiecare instalare o testează. După prima pornire la rece, fiecare octet pe care driverul îl va aloca este scris și citit înapoi pe fiecare GPU, cu modele fixe, de adresă și pseudo-aleatoare, fiecare inversat pe loc, iar rezultatul ajunge în jurnalul de configurare. Aceasta este o verificare la predare, nu o garanție pentru ani. Dacă un GPU se comportă greșit mai târziu, rulați cmp-unlock memtest și trimiteți-ne rezultatul. Un GPU care eșuează este înlocuit ca orice altă componentă.
De ce există o taxă de configurare pentru această versiune?
Pentru că GPU-ul este montat la comandă. O mașină cu un GPU adăugat este o configurație personalizată, iar o configurație personalizată implică taxa unică de configurare afișată în tabelul de prețuri. Se percepe o singură dată, iar suma lunară nu se schimbă la reînnoire.
Unde sunt localizate serverele CMP 170HX?
În orașele enumerate în tabelul de prețuri. Linia de mașini este vândută și în Amsterdam, dar configuratorul nu poate monta un GPU acolo, așa că un CMP 170HX deblocat nu este disponibil în acel oraș.
Cum pot obține ajutor cu serverul?
Deschideți chatul de pe acest site. Un asistent AI răspunde în câteva secunde și vă poate verifica contul și serverul. Cereți o persoană și un operator preia conversația.
Piața de GPU-uri
Mașini CMP 170HX listate de proprietarii lor
Se pot închiria și lunar: mașini CMP 170HX pe care proprietarii le listează în piața noastră, fiecare la un preț stabilit de proprietar. Unele sunt listate prin compania noastră soră, Primcast, iar acelea se închiriază pe primcast.com.
În altă parte
Dacă CMP 170HX nu este potrivit
- Servere GPUFiecare GPU pe care îl montăm, fiecare cu prețul lui lunar, lângă mașina care îl găzduiește.
- Servere LLMCe mașină pentru ce model, de la cutii doar cu CPU până la GPU-uri de centru de date.
- Servere multi-GPUÎmpărțirea unui model pe GPU-uri și mașini, și cât te costă magistrala și portul.
- Servere L40S48 GB cu corecție de erori, pentru sarcini care nu tolerează un bit inversat.
Configurează-ți serverul CMP 170HX
Alege procesorul, memoria, discurile și până la patru GPU-uri. Driverul deblocat se instalează cu Linux, iar memoria fiecărui GPU este testată înainte să primești datele de autentificare. Întrebări mai întâi? Chatul răspunde în câteva secunde, iar o persoană preia conversația când ceri.