GPU-Server · NVIDIA CMP 170HX · GA100
CMP-170HX-Server. Alle 64 GB sind eingeschaltet, bevor Sie sich anmelden.
Ein CMP-170HX-Server von uns kommt entsperrt an: 64 GB HBM2e statt der 8 GB, die NVIDIA sichtbar gelassen hat, FP32 mit voller Rate und die Anbindung über PCIe Gen 2. Wir bauen den gepatchten offenen NVIDIA-Treiber in Linux ein, während wir die Maschine installieren, testen den Speicher jeder GPU und übergeben Ihnen root.
Die GPU ist ein GA100, der Die aus dem A100. Sie hat das Werk verlassen, wobei der größte Teil ihrer selbst in der Firmware abgeriegelt war. Das Projekt cmpunlocker patcht den offenen Kernel-Treiber von NVIDIA, sodass diese Zäune jedes Mal fallen, wenn der Treiber die GPU startet. Es wird nichts geflasht. Die Maschine ist Single-Tenant: Niemand sonst läuft darauf.
- 64 GB HBM2e pro GPU
- Ubuntu, Debian, AlmaLinux, Rocky
- Root-Zugang
- Monatslaufzeit
Unlocked CMP 170HX · vorher und nachher
Was der gepatchte Treiber auf derselben GPU verändert
LTT Labs hat eine CMP 170HX im September 2026 freigeschaltet und sie gesperrt sowie entsperrt auf demselben Prüfstand getestet. Die folgenden Zahlen stammen von ihnen, und jede Zeile nennt ihre Quelle. Die Token-Raten hängen vom Modell, der Quantisierung, dem llama.cpp-Build und den Flags ab – lesen Sie sie daher als Verhältnis, nicht als Zusage.
Ein Quadrat pro Gigabyte HBM2e.
- 8 GB sichtbar, wie NVIDIA sie ausgeliefert hat
- 56 GB mehr, sobald der gepatchte Treiber die GPU startet
Der Speicher ist die entscheidende Änderung
Mit 8 GB fasst die GPU ein kleines Modell und sonst wenig. Mit 64 GB fasst sie ein Modell mit 27 Milliarden Parametern in 8-Bit und hat noch Platz für Kontext. Genau das ist die Grenze zwischen einer GPU zum Testen und einer für den Produktivbetrieb.
Generierung folgt der Bandbreite, Prompt-Verarbeitung der Rechenleistung
Das Schreiben von Tokens wird dadurch begrenzt, wie schnell die Gewichte aus dem Speicher strömen – und HBM2e war darin schon immer schnell. Das Lesen eines langen Prompts wird durch die Multiply-Add-Einheiten begrenzt. Genau dort bremste die Drosselung am stärksten, und genau dort zeigt die Freischaltung den größten Gewinn.
Die Anbindung zählt nur beim Laden
Gen 2 x4 verdoppelt die Host-zu-GPU-Rate, sodass der Bus-Teil eines Modell-Ladevorgangs nur noch halb so lange dauert. Sobald die Gewichte auf der GPU liegen, bleibt der Bus ungenutzt.
| Measure | As NVIDIA shipped it | Unlocked | Source |
|---|---|---|---|
| GPU memory | 8 GB HBM2e | 64 GB HBM2e | cmpunlocker; 65,536 MiB measured by LTT Labs |
| FP32 fused multiply-add | about 0.39 TFLOPS | unthrottled | 170th Street (stock); cmpunlocker (full SM throughput) |
| PCIe link | Gen 1 x4 | Gen 2 x4 | cmpunlocker |
| Host to GPU, measured | 0.84 GB/s | 1.68 GB/s | LTT Labs, nvbandwidth |
| 8B model at 4-bit, generating | 30 tokens/s | 113 tokens/s | LTT Labs, llama.cpp, Granite 4.1 8B Q4_K_M |
| 8B model at 4-bit, reading a prompt | 351 tokens/s | 2,994 tokens/s | LTT Labs, llama.cpp, pp512 |
| 27B model at 4-bit (~16 GB) | does not fit | 38 tokens/s | LTT Labs, llama.cpp, Qwen 3.6 27B Q4_K_M |
| 27B model at 8-bit (~29 GB) | does not fit | 33 tokens/s | LTT Labs, llama.cpp, Qwen 3.8 27B Q8_0 |
Quellen: LTT Labs, “Actually Download More RAM” (12. September 2026) für alle gemessenen Zeilen; 170th Street für den FP32-Wert ab Werk; cmpunlocker für das, was die Patches wiederherstellen.
Die Installation, Schritt für Schritt
Wie der Unlock auf Ihren CMP 170HX-Server kommt
Jeder kann das cmpunlocker-README lesen. Die eigentliche Arbeit ist alles drumherum – erledigt vor der Übergabe und danach am Laufen gehalten. Sie führen nichts selbst aus.
NVIDIAs offener Treiber, festgenagelt auf eine Version
Das Installationsprogramm fügt NVIDIAs CUDA-Repository hinzu und installiert den Userspace des offenen Treibers für
610.57.04, headless, ohne DKMS, und hält ihn auf dieser Version: das Paketnvidia-driver-pinning-610.57.04unter Ubuntu und Debian, eine dnf-Versionssperre unter AlmaLinux und Rocky. Der Unlock ist für genau eine Treiberversion gebaut. Die Sperre verhindert, dass ein routinemäßiges Upgrade ihm die Bibliotheken unter den Füßen wegzieht.cmpunlocker, kompiliert für Ihren Kernel
Wir holen cmpunlocker zu einem festen Commit und bauen das gepatchte
nvidia.koim neuen System, gegen den Kernel, mit dem es gleich booten wird. Die Patches ändern, wie der Treiber die GPU hochfährt. Auf die GPU selbst wird nichts geschrieben – entfernt man den Treiber, ist sie exakt wieder im Ausgangszustand.Ein kalter Erststart
Der Unlock greift nur beim ersten Treiberladen, nachdem die GPU vollständig stromlos war. Deshalb endet jede Installation damit, dass der Server ausgeschaltet und über sein BMC wieder eingeschaltet wird – und der erste Treiber, der die GPU berührt, ist der gepatchte.
Geprüft und speichergetestet beim ersten Login
Wenn das neue System zum ersten Mal antwortet, fragt die Installation jede GPU ab, als was sie hochgekommen ist: Speicher, PCIe-Generation und Linkbreite. Danach schreibt und liest sie jedes Byte des vom Treiber zugewiesenen Speichers zurück – mit festen, adressbasierten und pseudozufälligen Mustern. Beide Ergebnisse landen im Setup-Protokoll des Servers, wo der Support sie einsehen kann.
cmp-unlock statusundcmp-unlock memtestliefern Ihnen dieselben Antworten aus einer Shell.Kernel-Updates sperren ihn nicht wieder
Ein Kernel-Hook (
/etc/kernel/postinst.dbzw./etc/kernel/install.dunter AlmaLinux und Rocky) baut die gepatchten Module für jeden neuen Kernel aus einer auf der Maschine gehaltenen Kopie von NVIDIAs Quellcode neu. Ein unbeaufsichtigtes Upgrade schickt die GPU nicht zurück auf 8 GB. Der Paketmanager lehnt außerdem die Pakete ab, die einen zweiten, unveränderten Treiber daneben installieren würden. Installieren Sie CUDA mitapt install cuda-toolkitoderdnf install cuda-toolkit, und der Konflikt taucht gar nicht erst auf.
CMP 170HX 64GB · Dimensionierung
Was in 64 GB passt und was in 8 passte
Nur Gewichte, aufgerundet. Ein Modell gilt als passend, wenn die GPU es mit einem Viertel bis zur Hälfte zusätzlichem Spielraum für den KV-Cache und die Laufzeit hält. Darunter lädt es, geht dann aber der Speicher aus, wenn der Kontext wächst. Unsere LLM-Seite dimensioniert jede GPU nach derselben Regel.
| Model size | Precision | Weights | 8 GB, as shipped | 64 GB, unlocked |
|---|---|---|---|---|
| 7-8 billion parameters | 16-bit | 16 GB | does not fit | fits |
| 7-8 billion parameters | 8-bit | 8 GB | does not fit | fits |
| 7-8 billion parameters | 4-bit | 5 GB | fits | fits |
| 13-14 billion parameters | 16-bit | 28 GB | does not fit | fits |
| 13-14 billion parameters | 8-bit | 14 GB | does not fit | fits |
| 13-14 billion parameters | 4-bit | 8 GB | does not fit | fits |
| 30-34 billion parameters | 16-bit | 68 GB | does not fit | does not fit |
| 30-34 billion parameters | 8-bit | 34 GB | does not fit | fits |
| 30-34 billion parameters | 4-bit | 19 GB | does not fit | fits |
| 70 billion parameters | 16-bit | 140 GB | does not fit | does not fit |
| 70 billion parameters | 8-bit | 70 GB | does not fit | does not fit |
| 70 billion parameters | 4-bit | 38 GB | does not fit | fits |
Zwei GPUs in einem Rechner halten, was eine nicht kann: Ein 70-Milliarden-Parameter-Modell mit 8 Bit benötigt etwa 70 GB, was über ein Paar passt. Das Aufteilen eines Modells auf mehrere GPUs oder Maschinen wird auf der Multi-GPU-Seite behandelt. Geben Sie dem Rechner mindestens so viel Systemspeicher wie die größte Modelldatei, sonst verlangsamt sich das Laden. Der Speicher des Einstiegs-Builds ist in der Preistabelle unten aufgeführt, und der Konfigurator fügt mehr hinzu.
Lesen Sie dies, bevor Sie bestellen
Eine günstige GPU für KI-Inferenz – und wo ihre Grenzen liegen
Eine freigeschaltete CMP 170HX bietet für ihren monatlichen Preis viel Inferenzspeicher. Sie ist keine A100, und genau hier zeigt sich das.
- Kein ECC
- Die Fehlerkorrektur des HBM2e bleibt deaktiviert; bisher hat niemand sie freigeschaltet. Bei der Inferenz kostet ein gekipptes Bit einen erneuten Versuch. Für ein wochenlanges Training oder Arbeiten, die bitgenau sein müssen, wählen Sie eine GPU mit geschütztem Speicher, etwa die L40S.
- PCIe Gen 2 x4
- Etwa 1,7 GB/s vom Host zur GPU, gemessen – der Bus braucht also über 20 Sekunden, um ein 38-GB-Modell zu übertragen. Ein Modell passiert ihn einmal und liegt dann im GPU-Speicher, sodass das Serving davon kaum etwas merkt. Eine Trainingsschleife, die Batches aus dem Systemspeicher streamt, merkt es bei jedem Schritt.
- Ampere-Zahlenformate
- FP16, BF16, TF32 und INT8 auf den Tensor Cores. Kein FP8 und kein FP4; beide kamen erst mit späteren Generationen. Quantisierte Modelle in GGUF, AWQ oder GPTQ laufen problemlos, da sie in Formate entpackt werden, die die GPU beherrscht.
- Nur Linux
- Die Freischaltung ist ein Linux-Kernel-Treiber. Bestellen Sie die Maschine mit Ubuntu, Debian, AlmaLinux oder Rocky Linux, und er ist bereits integriert. Unter Windows oder Proxmox VE läuft die GPU so, wie NVIDIA sie ausgeliefert hat, mit 8 GB.
- Secure Boot aus
- Die gepatchten Module sind nicht signiert. Ein Kernel mit aktivem Secure Boot verweigert sie und lässt die GPU ganz ohne Treiber – lassen Sie Secure Boot daher deaktiviert.
- Community-Code, nicht von NVIDIA
- cmpunlocker ist ein Open-Source-Projekt (GPL-2.0) von Amogh Munikote, und NVIDIA unterstützt es nicht. Wir installieren einen Commit, den wir gebaut und geprüft haben, und verschieben diesen Pin von Hand, niemals automatisch.
- Die 10-GB-Version endet bei 40 GB
- Die 8-GB-CMP 170HX lässt sich auf 64 GB freischalten. Die 10-GB-Version trägt mehr Speicher im Package, als unter Last stabil bleibt, daher hält die Freischaltung sie bei 40 GB. Die Installation erkennt, welche Version in der Maschine steckt, und wendet das passende Speicherlayout auf jede GPU an.
Die Maschine hinter dem Button
Eine freigeschaltete CMP 170HX im günstigsten Rechner, der sie aufnimmt
Die GPU ist eine Position auf der Rechnung, die Maschine eine andere; beides zusammen ergibt den Preis. Die Zahlen unten sind das Minimum, das dieser Build kostet: die GPU im günstigsten Komplettrechner, der sie aufnimmt, vor jeder Umsatzsteuer. Im Konfigurator können Sie Prozessor, Arbeitsspeicher, Festplatten und GPU-Anzahl ändern, und jede Änderung wird sofort bepreist, während Sie sie vornehmen.
| GPU | NVIDIA CMP 170HX: 64 GB HBM2e unlocked (8 GB HBM2e without the patched driver) |
|---|---|
| GPU, per month | $189 |
| Machine | Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps |
| Machine, per month | $83.67 |
| Together | $272.67 a month |
| Setup | $29 once |
| GPUs per machine | 1 to 4 |
| Cities | New York, Bucharest, San Francisco and Miami |
| Term | Monthly; 15% off on a twelve-month cycle |
| Driver | NVIDIA open 610.57.04, patched by cmpunlocker, on Ubuntu 22.04–26.04, Debian 12/13, AlmaLinux 9/10 or Rocky Linux 9/10 |
| Memory test | Every byte the driver hands out, written and read back on each GPU before handover |
Die Einrichtungsgebühr entsteht, weil die GPU auftragsbezogen eingebaut wird und die Maschine damit eine Sonderanfertigung ist. Sie wird einmalig berechnet, und der monatliche Betrag bleibt bei Verlängerung unverändert. Jede andere GPU, die wir einbauen, wird auf der Seite für GPU-Server genauso bepreist.
Antworten
Fragen zum CMP 170HX Server
Was ist eine freigeschaltete CMP 170HX?
Eine NVIDIA CMP 170HX, auf der ein gepatchter Build von NVIDIAs offenem Kernel-Treiber aus dem cmpunlocker-Projekt läuft. Die GPU ist eine GA100, der Die aus der A100, die NVIDIA mit 8 GB sichtbarem HBM2e ausgeliefert hat, mit gedrosseltem FP32-Multiply-Add und einer auf PCIe Gen 1 gehaltenen Verbindung. Der gepatchte Treiber aktiviert 64 GB, entfernt die Drosselung und trainiert die Verbindung bei jedem GPU-Start auf Gen 2. An der GPU selbst wird nichts verändert.
Wie viel VRAM hat eine CMP 170HX, wenn sie freigeschaltet ist?
64 GB HBM2e bei der 8-GB-Version – das meldet nvidia-smi, sobald der gepatchte Treiber läuft. Die 10-GB-Version bleibt bei 40 GB, der Größe, die bei ihr stabil ist. Ohne den gepatchten Treiber zeigt jede Version das, was NVIDIA ausgeliefert hat: 8 oder 10 GB.
Ist die CMP 170HX gut für KI-Inferenz?
Ja, für Modelle, die in 64 GB passen, und für Aufgaben, die kein ECC benötigen. In den Tests von LTT Labs erzeugte ein 8B-Modell mit 4 Bit freigeschaltet 113 Token pro Sekunde gegenüber 30 im gesperrten Zustand, und ein 27B-Modell mit 8 Bit lief mit 33 Token pro Sekunde. Die Grenzen sind eine PCIe-Gen-2-x4-Verbindung, die das Laden von Modellen verlangsamt, kein FP8 oder FP4 und kein ECC auf dem Speicher.
Kann eine CMP 170HX ein 70B-Modell ausführen?
Mit 4 Bit ja: Die Gewichte kommen auf etwa 38 GB, womit auf einer 64-GB-GPU der Spielraum bleibt, den unsere Dimensionierungsregel verlangt. Mit 8 Bit kommen sie auf etwa 70 GB, wofür zwei GPUs nötig sind; eine Maschine nimmt bis zu vier auf.
Übersteht die Freischaltung Neustarts und Kernel-Updates?
Ja. Die gepatchten Module werden wie jedes andere Kernel-Modul installiert und bei jedem Boot geladen. Wenn ein neuer Kernel kommt, baut ein Hook sie dafür aus dem auf der Maschine gehaltenen NVIDIA-Quellcode neu, bevor Sie in ihn booten. Sollte eine GPU weiterhin mit 8 GB hochkommen, führen Sie cmp-unlock build mit Ihrer Kernel-Version aus und starten Sie den Server über das Control Panel neu.
Welche Betriebssysteme erhalten den freigeschalteten Treiber?
Ubuntu 22.04, 24.04 und 26.04, Debian 12 und 13, AlmaLinux 9 und 10 sowie Rocky Linux 9 und 10, von uns auf jeder Maschine mit dieser GPU installiert. Es ist Teil der Installation, keine Option zum Ankreuzen. Windows und Proxmox VE erhalten die GPU so, wie NVIDIA sie ausgeliefert hat: Die Freischaltung ist ein Linux-Kernel-Treiber, und bei Proxmox gehen die GPUs üblicherweise an virtuelle Maschinen, die ein Host-Treiber nicht erreicht.
Kann ich CUDA, PyTorch, vLLM und llama.cpp darauf verwenden?
Ja. Der Treiber ist NVIDIAs eigener 610.57.04 mit den angewendeten Patches, daher läuft Software, die für eine Ampere-GPU mit aktuellem Treiber gebaut wurde. Installieren Sie das CUDA-Toolkit separat, mit apt install cuda-toolkit oder dnf install cuda-toolkit. Die Meta-Pakete cuda und cuda-drivers würden einen zweiten, unveränderten Treiber mitbringen, daher ist der Paketmanager so eingestellt, dass er sie ablehnt.
Wie viele CMP-170HX-GPUs passen in einen Server?
Bis zu vier in der Maschine, auf die diese Seite verlinkt. Wählen Sie die Anzahl im Konfigurator. Für mehr als vier oder ein über Maschinen verteiltes Modell sehen Sie sich die Multi-GPU-Seite an.
Ist der freigeschaltete Speicher zuverlässig?
Die 8-GB-Version mit 64 GB ist die Kombination, die sich in öffentlichen Tests bewährt hat, und die 10-GB-Version stoppt aus demselben Grund bei 40 GB. Es ist weiterhin Speicher, den NVIDIA gebinnt hat, und eine GPU kann eine schwache Stelle tragen: LTT Labs fanden eine unter den von ihnen getesteten. Deshalb testet jede Installation ihn. Nach dem ersten Kaltstart wird jedes Byte, das der Treiber herausgeben wird, auf jeder GPU geschrieben und zurückgelesen, mit festen, adressbasierten und pseudozufälligen Mustern, jeweils an Ort und Stelle invertiert, und das Ergebnis geht ins Setup-Protokoll. Das ist eine Prüfung bei der Übergabe, keine Garantie für Jahre. Sollte eine GPU später Fehlverhalten zeigen, führen Sie cmp-unlock memtest aus und senden Sie uns die Ausgabe. Eine defekte GPU wird wie jedes andere Teil ersetzt.
Warum gibt es bei diesem Build eine Einrichtungsgebühr?
Weil die GPU auf Bestellung eingebaut wird. Eine Maschine mit nachträglich hinzugefügter GPU ist ein Custom Build, und ein Custom Build trägt die einmalige Einrichtungsgebühr aus der Preistabelle. Sie wird einmal berechnet, und der monatliche Betrag ändert sich bei Verlängerung nicht.
Wo stehen die CMP-170HX-Server?
In den Städten, die in der Preistabelle aufgeführt sind. Die Maschinenlinie wird auch in Amsterdam verkauft, aber der Konfigurator kann dort keine GPU einbauen, daher ist eine freigeschaltete CMP 170HX in dieser Stadt nicht verfügbar.
Wie erhalte ich Hilfe zum Server?
Öffnen Sie den Chat auf dieser Website. Ein KI-Assistent antwortet in Sekunden und kann Ihr Konto und Ihren Server prüfen. Fragen Sie nach einer Person, und jemand übernimmt.
GPU-Marktplatz
CMP 170HX-Maschinen, von ihren Besitzern inseriert
Auch monatsweise mietbar: CMP 170HX-Maschinen, die Besitzer auf unserem Marktplatz einstellen, jeweils zu einem vom Besitzer festgelegten Preis. Manche werden über unsere Schwesterfirma Primcast inseriert und auf primcast.com vermietet.
Andernorts
Wenn die CMP 170HX nicht die richtige Wahl ist
- GPU-ServerJede von uns eingebaute GPU, jeweils als eigene monatliche Position neben der Maschine, die sie beherbergt, bepreist.
- LLM-ServerWelche Maschine für welches Modell, von reinen CPU-Boxen bis hin zu Rechenzentrums-GPUs.
- Multi-GPU-ServerEin Modell über GPUs und Maschinen verteilen und was Bus und Port Sie kosten.
- L40S-Server48 GB mit Fehlerkorrektur, für Aufgaben, die kein gekipptes Bit tolerieren.
Konfigurieren Sie Ihren CMP 170HX-Server
Wählen Sie Prozessor, Arbeitsspeicher, Festplatten und bis zu vier GPUs. Der entsperrte Treiber wird mit Linux installiert, und der Speicher jeder GPU wird getestet, bevor Sie die Zugangsdaten erhalten. Zuerst Fragen? Der Chat antwortet in Sekunden, und ein Mensch übernimmt, wenn Sie es wünschen.