Server GPU · NVIDIA CMP 170HX · GA100
Server CMP 170HX. Tutti i 64 GB attivi prima del tuo accesso.
Un server CMP 170HX fornito da noi arriva sbloccato: 64 GB di HBM2e invece degli 8 GB che NVIDIA ha lasciato visibili, FP32 a piena velocità e collegamento PCIe Gen 2. Integriamo il driver open NVIDIA patchato in Linux durante l'installazione della macchina, testiamo la memoria di ogni GPU e ti consegniamo i privilegi di root.
La GPU è una GA100, il die presente nella A100. Ha lasciato la fabbrica con gran parte delle sue capacità disattivate nel firmware. Il progetto cmpunlocker applica patch al driver kernel open di NVIDIA affinché queste limitazioni vengano rimosse ogni volta che il driver avvia la GPU. Non viene eseguito alcun flashing. La macchina è a tenant singolo: nessun altro la utilizza.
- 64 GB HBM2e per GPU
- Ubuntu, Debian, AlmaLinux, Rocky
- Accesso root
- Durata mensile
CMP 170HX sbloccata · prima e dopo
Cosa cambia il driver patchato sulla stessa GPU
LTT Labs ha sbloccato una CMP 170HX a settembre 2026 e l'ha testata bloccata e sbloccata sullo stesso banco. I dati qui sotto sono i loro, e ogni riga indica la fonte. Le velocità dei token variano con il modello, la quantizzazione, la build di llama.cpp e i flag, quindi vanno lette come un rapporto, non come una promessa.
Un quadrato per gigabyte di HBM2e.
- 8 GB visibili come li ha spediti NVIDIA
- 56 GB in più una volta che il driver patchato avvia la GPU
La memoria è il cambiamento che conta
A 8 GB la GPU contiene un modello piccolo e poco altro. A 64 GB contiene un modello da 27 miliardi di parametri a 8 bit con spazio ancora disponibile per il contesto. È la linea che separa una GPU su cui fai test da una con cui offri un servizio.
La generazione segue la larghezza di banda, la lettura dei prompt segue il calcolo
La scrittura dei token è limitata dalla velocità con cui i pesi fluiscono dalla memoria, e l'HBM2e è sempre stata veloce in questo. La lettura di un prompt lungo è limitata dalle unità di moltiplicazione-addizione. Il limite colpiva soprattutto lì, quindi è lì che lo sblocco mostra il guadagno maggiore.
Il collegamento conta solo in fase di caricamento
Il Gen 2 x4 raddoppia la velocità host-GPU, quindi la parte di bus del caricamento di un modello richiede la metà del tempo. Una volta che i pesi sono sulla GPU, il bus resta inattivo.
| Measure | As NVIDIA shipped it | Unlocked | Source |
|---|---|---|---|
| GPU memory | 8 GB HBM2e | 64 GB HBM2e | cmpunlocker; 65,536 MiB measured by LTT Labs |
| FP32 fused multiply-add | about 0.39 TFLOPS | unthrottled | 170th Street (stock); cmpunlocker (full SM throughput) |
| PCIe link | Gen 1 x4 | Gen 2 x4 | cmpunlocker |
| Host to GPU, measured | 0.84 GB/s | 1.68 GB/s | LTT Labs, nvbandwidth |
| 8B model at 4-bit, generating | 30 tokens/s | 113 tokens/s | LTT Labs, llama.cpp, Granite 4.1 8B Q4_K_M |
| 8B model at 4-bit, reading a prompt | 351 tokens/s | 2,994 tokens/s | LTT Labs, llama.cpp, pp512 |
| 27B model at 4-bit (~16 GB) | does not fit | 38 tokens/s | LTT Labs, llama.cpp, Qwen 3.6 27B Q4_K_M |
| 27B model at 8-bit (~29 GB) | does not fit | 33 tokens/s | LTT Labs, llama.cpp, Qwen 3.8 27B Q8_0 |
Fonti: LTT Labs, “Actually Download More RAM” (12 settembre 2026) per ogni riga misurata; 170th Street per il dato FP32 di serie; cmpunlocker per ciò che le patch ripristinano.
L'installazione, passo dopo passo
Come lo sblocco arriva sul tuo server CMP 170HX
Chiunque può leggere il README di cmpunlocker. Il lavoro è tutto ciò che lo circonda, svolto prima della consegna e mantenuto funzionante dopo. Tu non esegui nulla.
Il driver open di NVIDIA, bloccato a una release
Il programma di installazione aggiunge il repository CUDA di NVIDIA e installa lo userspace del driver open per
610.57.04, headless, senza DKMS, e lo mantiene a quella release: il pacchettonvidia-driver-pinning-610.57.04su Ubuntu e Debian, un blocco di versione dnf su AlmaLinux e Rocky. Lo sblocco è costruito per un driver esatto. Il blocco impedisce che un aggiornamento di routine rimuova le librerie da sotto i suoi piedi.cmpunlocker, compilato per il tuo kernel
Recuperiamo cmpunlocker a un commit fisso e compiliamo il suo
nvidia.kopatchato all'interno del nuovo sistema, contro il kernel che sta per avviare. Le patch cambiano il modo in cui il driver accende la GPU. Nulla viene scritto sulla GPU, quindi rimuovere il driver la riporta esattamente a com'era.Un primo avvio a freddo
Lo sblocco ha effetto solo al primo caricamento del driver dopo che la GPU è stata spenta. Quindi ogni installazione termina con il server spento e riacceso tramite il suo BMC, e il primo driver a toccare la GPU è quello patchato.
Verificato e testato in memoria al primo accesso
Quando il nuovo sistema risponde per la prima volta, l'installazione chiede a ogni GPU come si è presentata: memoria, generazione PCIe e ampiezza del collegamento. Poi scrive e rilegge ogni byte di memoria che il driver assegna, con pattern fissi, per indirizzo e pseudo-casuali. Entrambi i risultati finiscono nel registro di configurazione del server, dove l'assistenza può vederli.
cmp-unlock statusecmp-unlock memtestti danno le stesse risposte da una shell.Gli aggiornamenti del kernel non lo ribloccano
Un hook del kernel (
/etc/kernel/postinst.d, o/etc/kernel/install.dsu AlmaLinux e Rocky) ricompila i moduli patchati per ogni nuovo kernel da una copia del sorgente NVIDIA conservata sulla macchina. Un aggiornamento automatico non riporterà la GPU a 8 GB. Il gestore di pacchetti rifiuta inoltre i pacchetti che installerebbero un secondo driver stock accanto a esso. Installa CUDA conapt install cuda-toolkitodnf install cuda-toolkite il conflitto non si presenterà mai.
CMP 170HX 64GB · dimensionamento
Cosa entra in 64 GB e cosa entrava in 8
Solo pesi, arrotondati per eccesso. Un modello si considera compatibile quando la GPU lo contiene con un margine da un quarto a metà in più per la cache KV e il runtime. Al di sotto di tale soglia si carica, poi esaurisce la memoria man mano che il contesto cresce. La nostra pagina LLM dimensiona ogni GPU con la stessa regola.
| Model size | Precision | Weights | 8 GB, as shipped | 64 GB, unlocked |
|---|---|---|---|---|
| 7-8 billion parameters | 16-bit | 16 GB | does not fit | fits |
| 7-8 billion parameters | 8-bit | 8 GB | does not fit | fits |
| 7-8 billion parameters | 4-bit | 5 GB | fits | fits |
| 13-14 billion parameters | 16-bit | 28 GB | does not fit | fits |
| 13-14 billion parameters | 8-bit | 14 GB | does not fit | fits |
| 13-14 billion parameters | 4-bit | 8 GB | does not fit | fits |
| 30-34 billion parameters | 16-bit | 68 GB | does not fit | does not fit |
| 30-34 billion parameters | 8-bit | 34 GB | does not fit | fits |
| 30-34 billion parameters | 4-bit | 19 GB | does not fit | fits |
| 70 billion parameters | 16-bit | 140 GB | does not fit | does not fit |
| 70 billion parameters | 8-bit | 70 GB | does not fit | does not fit |
| 70 billion parameters | 4-bit | 38 GB | does not fit | fits |
Due GPU in una stessa macchina contengono ciò che una sola non può: un modello da 70 miliardi di parametri a 8 bit richiede circa 70 GB, che trovano posto in una coppia. La suddivisione di un modello su più GPU o macchine è trattata nella pagina multi-GPU. Dotare la macchina di almeno tanta memoria di sistema quanto il file del modello più grande, altrimenti il caricamento rallenta. La memoria della configurazione base è indicata nella tabella dei prezzi qui sotto e il configuratore ne aggiunge altra.
Leggi questo prima di ordinare
Una GPU economica per l'inferenza AI, e dove si ferma
Una CMP 170HX sbloccata offre molta memoria per l'inferenza in rapporto al prezzo mensile. Non è una A100, ed ecco dove si vede.
- Niente ECC
- La correzione degli errori sulla HBM2e resta disattivata; nessuno l'ha ancora sbloccata. Per l'inferenza un bit alterato costa un nuovo tentativo. Per un addestramento lungo una settimana, o per lavori che devono essere esatti al bit, scegli una GPU con memoria protetta, come la L40S.
- PCIe Gen 2 x4
- Circa 1,7 GB/s dall'host alla GPU, misurati, quindi il bus impiega oltre 20 secondi per spostare un modello da 38 GB. Un modello lo attraversa una sola volta e poi vive nella memoria della GPU, quindi in serving non si nota quasi. Un ciclo di addestramento che trasferisce batch dalla memoria di sistema lo nota a ogni passo.
- Formati numerici Ampere
- FP16, BF16, TF32 e INT8 sui tensor core. Niente FP8 e niente FP4; entrambi sono arrivati con le generazioni successive. I modelli quantizzati in GGUF, AWQ o GPTQ funzionano bene, perché vengono decompressi nei formati che la GPU possiede.
- Solo Linux
- Lo sblocco è un driver del kernel Linux. Ordina la macchina con Ubuntu, Debian, AlmaLinux o Rocky Linux ed è già integrato. Su Windows o Proxmox VE la GPU funziona come l'ha distribuita NVIDIA, con 8 GB.
- Secure Boot disattivato
- I moduli patchati non sono firmati. Un kernel con Secure Boot attivo li rifiuta e lascia la GPU completamente senza driver, quindi tienilo disattivato.
- Codice della community, non di NVIDIA
- cmpunlocker è un progetto open source (GPL-2.0) di Amogh Munikote, e NVIDIA non lo supporta. Installiamo un commit che abbiamo compilato e verificato, e spostiamo quel pin a mano, mai automaticamente.
- La versione da 10 GB si ferma a 40 GB
- La CMP 170HX da 8 GB si sblocca a 64 GB. La versione da 10 GB porta sul package più memoria di quanta ne resti stabile sotto carico, quindi lo sblocco la mantiene a 40 GB. L'installazione rileva quale versione è presente nella macchina e applica il layout di memoria corretto a ogni GPU.
La macchina dietro il pulsante
Una CMP 170HX sbloccata nella macchina più economica che la supporta
La GPU è una voce in fattura e la macchina un'altra; le due si sommano. Le cifre qui sotto rappresentano il costo minimo di questa configurazione: la GPU nel computer completo più economico che la supporta, prima di qualsiasi imposta sulle vendite. Nel configuratore puoi cambiare processore, memoria, dischi e numero di GPU, e ogni modifica viene prezzata nel momento in cui la apporti.
| GPU | NVIDIA CMP 170HX: 64 GB HBM2e unlocked (8 GB HBM2e without the patched driver) |
|---|---|
| GPU, per month | $189 |
| Machine | Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps |
| Machine, per month | $83.67 |
| Together | $272.67 a month |
| Setup | $29 once |
| GPUs per machine | 1 to 4 |
| Cities | New York, Bucharest, San Francisco and Miami |
| Term | Monthly; 15% off on a twelve-month cycle |
| Driver | NVIDIA open 610.57.04, patched by cmpunlocker, on Ubuntu 22.04–26.04, Debian 12/13, AlmaLinux 9/10 or Rocky Linux 9/10 |
| Memory test | Every byte the driver hands out, written and read back on each GPU before handover |
Il costo di installazione esiste perché la GPU viene montata su ordinazione, il che rende la macchina una configurazione personalizzata. Viene addebitato una sola volta e la cifra mensile resta invariata al rinnovo. Ogni altra GPU che installiamo ha lo stesso prezzo sulla pagina dei server GPU.
Risposte
Domande sul server CMP 170HX
Che cos'è una CMP 170HX sbloccata?
Una NVIDIA CMP 170HX con una build patchata del driver kernel aperto di NVIDIA dal progetto cmpunlocker. La GPU è una GA100, il die della A100, che NVIDIA ha distribuito con 8 GB della sua HBM2e visibili, il moltiplicatore-addizionatore FP32 limitato e il collegamento fermo a PCIe Gen 1. Il driver patchato attiva 64 GB, rimuove la limitazione e addestra il collegamento a Gen 2 ogni volta che avvia la GPU. Nulla sulla GPU stessa viene modificato.
Quanta VRAM ha una CMP 170HX quando è sbloccata?
64 GB di HBM2e sulla versione da 8 GB, che è ciò che nvidia-smi riporta una volta che il driver patchato è in esecuzione. La versione da 10 GB è fermata a 40 GB, la dimensione che resta stabile su di essa. Senza il driver patchato, entrambe mostrano ciò che NVIDIA ha distribuito: 8 o 10 GB.
La CMP 170HX è adatta all'inferenza AI?
Sì, per modelli che stanno in 64 GB e carichi che non richiedono ECC. Nei test di LTT Labs un modello 8B a 4 bit ha generato 113 token al secondo sbloccato contro 30 bloccato, e un modello 27B a 8 bit ha girato a 33 token al secondo. I limiti sono un collegamento PCIe Gen 2 x4 che rallenta il caricamento dei modelli, niente FP8 o FP4, e nessuna ECC sulla memoria.
Una CMP 170HX può eseguire un modello 70B?
A 4 bit, sì: i pesi arrivano a circa 38 GB, il che lascia il margine che la nostra regola di dimensionamento richiede su una GPU da 64 GB. A 8 bit arrivano a circa 70 GB, il che richiede due GPU; una macchina ne accetta fino a quattro.
Lo sblocco sopravvive ai riavvii e agli aggiornamenti del kernel?
Sì. I moduli patchati sono installati come qualsiasi altro modulo del kernel e vengono caricati a ogni avvio. Quando arriva un nuovo kernel, un hook li ricompila per esso dal sorgente NVIDIA conservato sulla macchina, prima che tu ne faccia il boot. Se una GPU si avvia ancora a 8 GB, esegui cmp-unlock build con la tua versione del kernel e spegni e riaccendi il server dal pannello di controllo.
Quali sistemi operativi ricevono il driver sbloccato?
Ubuntu 22.04, 24.04 e 26.04, Debian 12 e 13, AlmaLinux 9 e 10, e Rocky Linux 9 e 10, installati da noi su qualsiasi macchina con la GPU dentro. Fa parte dell'installazione, non è un'opzione da spuntare. Windows e Proxmox VE ricevono la GPU come NVIDIA l'ha distribuita: lo sblocco è un driver del kernel Linux, e su Proxmox le GPU di solito vanno alle macchine virtuali, che un driver dell'host non raggiunge.
Posso usare CUDA, PyTorch, vLLM e llama.cpp su di essa?
Sì. Il driver è il 610.57.04 di NVIDIA con le patch applicate, quindi il software compilato per una GPU Ampere con un driver corrente funziona. Installa il toolkit CUDA da solo, con apt install cuda-toolkit o dnf install cuda-toolkit. I meta-pacchetti cuda e cuda-drivers porterebbero con sé un secondo driver stock, quindi il gestore di pacchetti è impostato per rifiutarli.
Quante GPU CMP 170HX può ospitare un server?
Fino a quattro nella macchina a cui questa pagina si collega. Scegli il numero nel configuratore. Per più di quattro, o un modello diviso tra macchine, vedi la pagina multi-GPU.
La memoria sbloccata è affidabile?
La versione da 8 GB a 64 GB è la combinazione che ha retto nei test pubblici, e la versione da 10 GB si ferma a 40 GB per lo stesso motivo. È comunque memoria selezionata da NVIDIA, e una GPU può portare una zona debole: LTT Labs ne ha trovata una tra quelle testate. Quindi ogni installazione la verifica. Dopo il primo avvio a freddo, ogni byte che il driver assegnerà viene scritto e riletto su ciascuna GPU, con pattern fissi, di indirizzo e pseudo-casuali, ciascuno invertito sul posto, e il risultato finisce nel registro di configurazione. È un controllo alla consegna, non una garanzia per anni. Se una GPU dà problemi in seguito, esegui cmp-unlock memtest e inviaci l'output. Una GPU che fallisce viene sostituita come qualsiasi altro componente.
Perché c'è un costo di configurazione su questa build?
Perché la GPU è montata su ordinazione. Una macchina con una GPU aggiunta è una build personalizzata, e una build personalizzata comporta il costo di configurazione una tantum mostrato nella tabella dei prezzi. Viene addebitato una sola volta, e la cifra mensile non cambia al rinnovo.
Dove si trovano i server CMP 170HX?
Nelle città elencate nella tabella dei prezzi. La linea di macchine è venduta anche ad Amsterdam, ma il configuratore non può montare una GPU lì, quindi una CMP 170HX sbloccata non è disponibile in quella città.
Come posso ottenere aiuto con il server?
Apri la chat su questo sito. Un assistente AI risponde in pochi secondi e può controllare il tuo account e il tuo server. Chiedi di una persona e qualcuno prende il suo posto.
Mercato delle GPU
Macchine CMP 170HX messe in vendita dai loro proprietari
Noleggiabili anche a canone mensile: macchine CMP 170HX che i proprietari pubblicano sul nostro mercato, ciascuna al prezzo stabilito dal proprietario. Alcune sono pubblicate tramite la nostra società consociata, Primcast, e vengono noleggiate su primcast.com.
Altrove
Se la CMP 170HX non è la soluzione giusta
- Server GPUOgni GPU che installiamo, ciascuna con il proprio prezzo mensile accanto alla macchina che la ospita.
- Server LLMQuale macchina per quale modello, dai box solo CPU fino alle GPU da data center.
- Server multi-GPUSuddivisione di un modello su più GPU e macchine, e quanto ti costano bus e porte.
- Server L40S48 GB con correzione degli errori, per carichi che non tollerano un bit invertito.
Configura il tuo server CMP 170HX
Scegli processore, memoria, dischi e fino a quattro GPU. Il driver sbloccato viene installato con Linux e la memoria di ogni GPU viene testata prima che tu riceva le credenziali di accesso. Hai domande prima di iniziare? La chat risponde in pochi secondi e una persona subentra quando lo chiedi.