Serveurs GPU · NVIDIA CMP 170HX · GA100
Serveur CMP 170HX. Les 64 Go activés avant même votre connexion.
Un serveur CMP 170HX livré par nos soins arrive déverrouillé : 64 Go de HBM2e au lieu des 8 Go laissés visibles par NVIDIA, le FP32 à pleine cadence et la liaison en PCIe Gen 2. Nous intégrons le pilote open source NVIDIA patché dans Linux lors de l’installation de la machine, nous testons la mémoire de chaque GPU et nous vous remettons les accès root.
Le GPU est un GA100, la puce de l’A100. Il a quitté l’usine avec l’essentiel de ses capacités verrouillé par le firmware. Le projet cmpunlocker patche le pilote open source du noyau NVIDIA pour que ces verrous tombent à chaque démarrage du GPU par le pilote. Rien n’est flashé. La machine est mono-locataire : personne d’autre ne s’y exécute.
- 64 Go HBM2e par GPU
- Ubuntu, Debian, AlmaLinux, Rocky
- Accès root
- Engagement mensuel
CMP 170HX débloquée · avant et après
Ce que le pilote patché change sur le même GPU
LTT Labs a débloqué une CMP 170HX en septembre 2026 et l’a testée verrouillée puis débloquée sur un même banc. Les chiffres ci-dessous sont les leurs, et chaque ligne indique sa source. Les débits de jetons varient selon le modèle, la quantification, la version de llama.cpp et les options ; lisez-les donc comme un rapport, pas comme une promesse.
Un carré par gigaoctet de HBM2e.
- 8 Go visibles tels que NVIDIA les a livrés
- 56 Go de plus une fois que le pilote patché démarre le GPU
La mémoire est le changement qui compte
À 8 Go, le GPU ne contient qu’un petit modèle et guère plus. À 64 Go, il contient un modèle de 27 milliards de paramètres en 8 bits avec de la place restante pour le contexte. C’est la frontière entre un GPU sur lequel on teste et un GPU avec lequel on sert.
La génération suit la bande passante, la lecture des invites suit le calcul
L’écriture des jetons est limitée par la vitesse à laquelle les poids sortent de la mémoire, et la HBM2e a toujours été rapide sur ce point. La lecture d’une longue invite est limitée par les unités de multiplication-addition. C’est là que le bridage faisait le plus mal, et c’est donc là que le déblocage apporte le plus gros gain.
La liaison ne compte qu’au chargement
Le Gen 2 x4 double le débit hôte-vers-GPU, si bien que la partie bus d’un chargement de modèle prend moitié moins de temps. Une fois les poids sur le GPU, le bus reste inactif.
| Measure | As NVIDIA shipped it | Unlocked | Source |
|---|---|---|---|
| GPU memory | 8 GB HBM2e | 64 GB HBM2e | cmpunlocker; 65,536 MiB measured by LTT Labs |
| FP32 fused multiply-add | about 0.39 TFLOPS | unthrottled | 170th Street (stock); cmpunlocker (full SM throughput) |
| PCIe link | Gen 1 x4 | Gen 2 x4 | cmpunlocker |
| Host to GPU, measured | 0.84 GB/s | 1.68 GB/s | LTT Labs, nvbandwidth |
| 8B model at 4-bit, generating | 30 tokens/s | 113 tokens/s | LTT Labs, llama.cpp, Granite 4.1 8B Q4_K_M |
| 8B model at 4-bit, reading a prompt | 351 tokens/s | 2,994 tokens/s | LTT Labs, llama.cpp, pp512 |
| 27B model at 4-bit (~16 GB) | does not fit | 38 tokens/s | LTT Labs, llama.cpp, Qwen 3.6 27B Q4_K_M |
| 27B model at 8-bit (~29 GB) | does not fit | 33 tokens/s | LTT Labs, llama.cpp, Qwen 3.8 27B Q8_0 |
Sources : LTT Labs, “Actually Download More RAM” (12 septembre 2026) pour chaque ligne mesurée ; 170th Street pour le chiffre FP32 d’origine ; cmpunlocker pour ce que les correctifs restaurent.
L'installation, étape par étape
Comment le déverrouillage s'installe sur votre serveur CMP 170HX
Tout le monde peut lire le README de cmpunlocker. Le travail, c'est tout ce qui l'entoure, réalisé avant la livraison et maintenu ensuite. Vous n'avez rien à exécuter.
Le pilote ouvert de NVIDIA, figé sur une version précise
L'installateur ajoute le dépôt CUDA de NVIDIA et installe l'espace utilisateur du pilote ouvert pour
610.57.04, sans interface graphique, sans DKMS, et le maintient sur cette version : le paquetnvidia-driver-pinning-610.57.04sur Ubuntu et Debian, un verrouillage de version dnf sur AlmaLinux et Rocky. Le déverrouillage est conçu pour un pilote précis. Le verrou empêche une mise à jour de routine de retirer les bibliothèques sur lesquelles il repose.cmpunlocker, compilé pour votre noyau
Nous récupérons cmpunlocker à un commit fixe et compilons son
nvidia.kopatché dans le nouveau système, contre le noyau qu'il s'apprête à démarrer. Les correctifs modifient la façon dont le pilote initialise le GPU. Rien n'est écrit sur le GPU, donc retirer le pilote le ramène exactement à son état d'origine.Un premier démarrage à froid
Le déverrouillage ne prend effet qu'au premier chargement du pilote après la mise hors tension du GPU. Chaque installation se termine donc par l'arrêt du serveur, puis son redémarrage via son BMC, et le premier pilote à toucher le GPU est le pilote patché.
Vérifié et testé en mémoire à la première connexion
Lorsque le nouveau système répond pour la première fois, l'installation demande à chaque GPU comment il s'est présenté : mémoire, génération PCIe et largeur de liaison. Ensuite, elle écrit et relit chaque octet de mémoire que le pilote alloue, avec des motifs fixes, d'adresse et pseudo-aléatoires. Les deux résultats sont consignés dans le journal d'installation du serveur, où le support peut les consulter.
cmp-unlock statusetcmp-unlock memtestvous donnent les mêmes réponses depuis un shell.Les mises à jour du noyau ne le reverrouillent pas
Un crochet du noyau (
/etc/kernel/postinst.d, ou/etc/kernel/install.dsur AlmaLinux et Rocky) recompile les modules patchés pour chaque nouveau noyau à partir d'une copie des sources de NVIDIA conservée sur la machine. Une mise à niveau automatique ne renverra pas le GPU à 8 Go. Le gestionnaire de paquets refuse également les paquets qui installeraient un second pilote standard à côté. Installez CUDA avecapt install cuda-toolkitoudnf install cuda-toolkitet le conflit ne se présente jamais.
CMP 170HX 64 Go · dimensionnement
Ce qui tient dans 64 Go, et ce qui tenait dans 8
Poids uniquement, arrondis au supérieur. Un modèle est considéré comme tenant lorsque le GPU le contient avec une marge d’un quart à la moitié pour le cache KV et l’exécution. En dessous, il se charge, puis tombe à court de mémoire à mesure que le contexte s’allonge. Notre page LLM dimensionne chaque GPU selon la même règle.
| Model size | Precision | Weights | 8 GB, as shipped | 64 GB, unlocked |
|---|---|---|---|---|
| 7-8 billion parameters | 16-bit | 16 GB | does not fit | fits |
| 7-8 billion parameters | 8-bit | 8 GB | does not fit | fits |
| 7-8 billion parameters | 4-bit | 5 GB | fits | fits |
| 13-14 billion parameters | 16-bit | 28 GB | does not fit | fits |
| 13-14 billion parameters | 8-bit | 14 GB | does not fit | fits |
| 13-14 billion parameters | 4-bit | 8 GB | does not fit | fits |
| 30-34 billion parameters | 16-bit | 68 GB | does not fit | does not fit |
| 30-34 billion parameters | 8-bit | 34 GB | does not fit | fits |
| 30-34 billion parameters | 4-bit | 19 GB | does not fit | fits |
| 70 billion parameters | 16-bit | 140 GB | does not fit | does not fit |
| 70 billion parameters | 8-bit | 70 GB | does not fit | does not fit |
| 70 billion parameters | 4-bit | 38 GB | does not fit | fits |
Deux GPU dans une même machine contiennent ce qu’un seul ne peut pas : un modèle de 70 milliards de paramètres en 8 bits nécessite environ 70 Go, ce qui tient sur une paire. Le fractionnement d’un modèle sur plusieurs GPU ou machines est traité sur la page multi-GPU. Donnez à la machine au moins autant de mémoire système que le plus gros fichier de modèle, sinon le chargement ralentit. La mémoire de la configuration d’entrée figure dans le tableau des prix ci-dessous, et le configurateur en ajoute davantage.
À lire avant de commander
Un GPU économique pour l’inférence IA, et ses limites
Une CMP 170HX déverrouillée offre beaucoup de mémoire d’inférence pour son prix mensuel. Ce n’est pas une A100, et voici où cela se voit.
- Pas d’ECC
- La correction d’erreur sur la HBM2e reste désactivée ; personne ne l’a encore déverrouillée. Pour l’inférence, un bit inversé coûte une nouvelle tentative. Pour un entraînement d’une semaine, ou un travail qui doit être exact au bit près, choisissez un GPU avec mémoire protégée, comme la L40S.
- PCIe Gen 2 x4
- Environ 1,7 Go/s de l’hôte vers le GPU, mesuré, donc le bus met plus de 20 secondes à déplacer un modèle de 38 Go. Un modèle le traverse une fois puis vit en mémoire GPU, donc le serving ne s’en aperçoit guère. Une boucle d’entraînement qui envoie des lots depuis la mémoire système le remarque à chaque étape.
- Formats numériques Ampere
- FP16, BF16, TF32 et INT8 sur les cœurs tensoriels. Pas de FP8 ni de FP4 ; les deux sont arrivés avec les générations suivantes. Les modèles quantifiés en GGUF, AWQ ou GPTQ fonctionnent bien, car ils se dépaquettent vers des formats que le GPU possède.
- Linux uniquement
- Le déverrouillage est un pilote noyau Linux. Commandez la machine avec Ubuntu, Debian, AlmaLinux ou Rocky Linux et il est intégré. Sous Windows ou Proxmox VE, le GPU fonctionne comme NVIDIA l’a livré, avec 8 Go.
- Secure Boot désactivé
- Les modules patchés ne sont pas signés. Un noyau avec Secure Boot appliqué les refuse et laisse le GPU sans aucun pilote, alors gardez-le désactivé.
- Code communautaire, pas celui de NVIDIA
- cmpunlocker est un projet open source (GPL-2.0) d’Amogh Munikote, et NVIDIA ne le prend pas en charge. Nous installons un commit que nous avons compilé et vérifié, et nous déplaçons ce pin à la main, jamais automatiquement.
- La version 10 Go s’arrête à 40 Go
- La CMP 170HX de 8 Go se déverrouille à 64 Go. La version 10 Go embarque plus de mémoire sur son boîtier que ce qui reste stable en charge, donc le déverrouillage la maintient à 40 Go. L’installation lit quelle version est dans la machine et applique la bonne disposition mémoire à chaque GPU.
La machine derrière le bouton
Un CMP 170HX débloqué dans la machine la moins chère qui l’accepte
Le GPU est une ligne sur la facture et la machine en est une autre ; les deux s’additionnent. Les chiffres ci-dessous représentent le coût minimal de cette configuration : le GPU dans la machine complète la moins chère qui l’accepte, avant toute taxe de vente. Dans le configurateur, vous pouvez modifier le processeur, la mémoire, les disques et le nombre de GPU, et chaque changement est chiffré au fur et à mesure.
| GPU | NVIDIA CMP 170HX: 64 GB HBM2e unlocked (8 GB HBM2e without the patched driver) |
|---|---|
| GPU, per month | $189 |
| Machine | Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps |
| Machine, per month | $83.67 |
| Together | $272.67 a month |
| Setup | $29 once |
| GPUs per machine | 1 to 4 |
| Cities | New York, Bucharest, San Francisco and Miami |
| Term | Monthly; 15% off on a twelve-month cycle |
| Driver | NVIDIA open 610.57.04, patched by cmpunlocker, on Ubuntu 22.04–26.04, Debian 12/13, AlmaLinux 9/10 or Rocky Linux 9/10 |
| Memory test | Every byte the driver hands out, written and read back on each GPU before handover |
Les frais d’installation existent parce que le GPU est monté sur commande, ce qui fait de la machine une configuration personnalisée. Ils sont facturés une seule fois, et le montant mensuel reste le même au renouvellement. Chaque autre GPU que nous installons est tarifé de la même manière sur la page des serveurs GPU.
Réponses
Questions sur le serveur CMP 170HX
Qu'est-ce qu'un CMP 170HX débloqué ?
Une NVIDIA CMP 170HX exécutant une version corrigée du pilote noyau ouvert de NVIDIA issue du projet cmpunlocker. Le GPU est un GA100, la puce de l'A100, que NVIDIA a livré avec 8 Go de sa HBM2e visibles, le calcul FP32 en multiplication-addition bridé et la liaison maintenue en PCIe Gen 1. Le pilote corrigé active 64 Go, supprime le bridage et négocie la liaison en Gen 2 à chaque démarrage du GPU. Rien sur le GPU lui-même n'est modifié.
Combien de VRAM possède une CMP 170HX une fois débloquée ?
64 Go de HBM2e sur la version 8 Go, ce que rapporte nvidia-smi une fois le pilote corrigé exécuté. La version 10 Go est limitée à 40 Go, la taille qui reste stable sur celle-ci. Sans le pilote corrigé, l'une comme l'autre affiche ce que NVIDIA a livré : 8 ou 10 Go.
La CMP 170HX est-elle adaptée à l'inférence IA ?
Oui, pour les modèles qui tiennent dans 64 Go et les charges qui n'exigent pas d'ECC. Dans les tests de LTT Labs, un modèle 8B en 4 bits a généré 113 jetons par seconde débloqué contre 30 verrouillé, et un modèle 27B en 8 bits a tourné à 33 jetons par seconde. Les limites sont une liaison PCIe Gen 2 x4 qui ralentit le chargement des modèles, l'absence de FP8 et de FP4, et l'absence d'ECC sur la mémoire.
Une CMP 170HX peut-elle exécuter un modèle 70B ?
En 4 bits, oui : les poids représentent environ 38 Go, ce qui laisse la marge que notre règle de dimensionnement demande sur un GPU de 64 Go. En 8 bits, ils représentent environ 70 Go, ce qui nécessite deux GPU ; une machine en accepte jusqu'à quatre.
Le déblocage survit-il aux redémarrages et aux mises à jour du noyau ?
Oui. Les modules corrigés sont installés comme n'importe quel autre module noyau et se chargent à chaque démarrage. Lorsqu'un nouveau noyau arrive, un crochet les recompile pour lui à partir des sources NVIDIA conservées sur la machine, avant que vous ne démarriez dessus. Si un GPU démarre encore à 8 Go, exécutez cmp-unlock build avec votre version de noyau et coupez puis rallumez le serveur depuis le panneau de contrôle.
Quels systèmes d'exploitation reçoivent le pilote débloqué ?
Ubuntu 22.04, 24.04 et 26.04, Debian 12 et 13, AlmaLinux 9 et 10, et Rocky Linux 9 et 10, installés par nos soins sur toute machine équipée du GPU. Cela fait partie de l'installation, ce n'est pas une option à cocher. Windows et Proxmox VE reçoivent le GPU tel que NVIDIA l'a livré : le déblocage est un pilote noyau Linux, et sous Proxmox les GPU vont généralement aux machines virtuelles, qu'un pilote hôte n'atteint pas.
Puis-je utiliser CUDA, PyTorch, vLLM et llama.cpp dessus ?
Oui. Le pilote est le 610.57.04 de NVIDIA avec les correctifs appliqués, donc les logiciels conçus pour un GPU Ampere avec un pilote récent fonctionnent. Installez le kit d'outils CUDA seul, avec apt install cuda-toolkit ou dnf install cuda-toolkit. Les méta-paquets cuda et cuda-drivers apporteraient avec eux un second pilote d'origine, donc le gestionnaire de paquets est configuré pour les refuser.
Combien de GPU CMP 170HX un serveur peut-il accepter ?
Jusqu'à quatre dans la machine vers laquelle cette page renvoie. Choisissez le nombre dans le configurateur. Pour plus de quatre, ou un modèle réparti sur plusieurs machines, consultez la page multi-GPU.
La mémoire débloquée est-elle fiable ?
La version 8 Go à 64 Go est la combinaison qui a tenu lors des tests publics, et la version 10 Go s'arrête à 40 Go pour la même raison. C'est toujours de la mémoire triée par NVIDIA, et un GPU peut porter une zone défaillante : LTT Labs en a trouvé un parmi ceux qu'ils ont testés. Chaque installation la teste donc. Après le premier démarrage à froid, chaque octet que le pilote distribuera est écrit puis relu sur chaque GPU, avec des motifs fixes, d'adresse et pseudo-aléatoires, chacun inversé sur place, et le résultat est consigné dans le journal d'installation. C'est une vérification à la livraison, pas une garantie pour des années. Si un GPU se comporte mal plus tard, exécutez cmp-unlock memtest et envoyez-nous la sortie. Un GPU défaillant est remplacé comme n'importe quelle autre pièce.
Pourquoi y a-t-il des frais d'installation sur cette configuration ?
Parce que le GPU est monté à la demande. Une machine avec un GPU ajouté est une configuration personnalisée, et une configuration personnalisée entraîne les frais d'installation uniques indiqués dans le tableau des prix. Ils sont facturés une seule fois, et le montant mensuel ne change pas au renouvellement.
Où se trouvent les serveurs CMP 170HX ?
Dans les villes indiquées dans le tableau des prix. La gamme de machines est également vendue à Amsterdam, mais le configurateur ne peut pas y installer de GPU, donc une CMP 170HX débloquée n'est pas disponible dans cette ville.
Comment obtenir de l'aide avec le serveur ?
Ouvrez le chat sur ce site. Un assistant IA répond en quelques secondes et peut vérifier votre compte et votre serveur. Demandez une personne et quelqu'un prend le relais.
Place de marché GPU
Machines CMP 170HX proposées par leurs propriétaires
Également louables au mois : des machines CMP 170HX que leurs propriétaires publient sur notre place de marché, chacune au prix fixé par son propriétaire. Certaines sont proposées via notre société sœur, Primcast, et celles-ci se louent sur primcast.com.
Ailleurs
Si la CMP 170HX ne convient pas
- Serveurs GPUChaque GPU que nous installons, affiché comme une ligne mensuelle distincte à côté de la machine qui l'héberge.
- Serveurs LLMQuelle machine pour quel modèle, des boîtiers uniquement CPU jusqu'aux GPU de centre de données.
- Serveurs multi-GPURépartir un modèle sur plusieurs GPU et machines, et ce que le bus et le port vous coûtent.
- Serveurs L40S48 Go avec correction d'erreurs, pour les charges qui ne tolèrent aucun bit inversé.
Configurez votre serveur CMP 170HX
Choisissez le processeur, la mémoire, les disques et jusqu'à quatre GPU. Le pilote déverrouillé est installé avec Linux, et la mémoire de chaque GPU est testée avant que vous ne receviez l'accès. Des questions d'abord ? Le chat répond en quelques secondes, et une personne prend le relais quand vous le demandez.