Servidores GPU · NVIDIA CMP 170HX · GA100
Servidor CMP 170HX. Los 64 GB activados antes de que inicie sesión.
Un servidor CMP 170HX nuestro llega desbloqueado: 64 GB de HBM2e en lugar de los 8 GB que NVIDIA dejó visibles, FP32 a pleno rendimiento y el enlace a PCIe Gen 2. Integramos el controlador abierto parcheado de NVIDIA en Linux mientras instalamos la máquina, probamos la memoria de cada GPU y le entregamos acceso root.
La GPU es una GA100, el mismo chip de la A100. Salió de fábrica con la mayor parte de sí misma bloqueada en el firmware. El proyecto cmpunlocker parchea el controlador abierto del kernel de NVIDIA para que esos bloqueos se desactiven cada vez que el controlador arranca la GPU. No se flashea nada. La máquina es de un solo inquilino: nadie más se ejecuta en ella.
- 64 GB HBM2e por GPU
- Ubuntu, Debian, AlmaLinux, Rocky
- Acceso root
- Plazo mensual
CMP 170HX desbloqueada · antes y después
Qué cambia el controlador parcheado en la misma GPU
LTT Labs desbloqueó una CMP 170HX en septiembre de 2026 y la probó bloqueada y desbloqueada en el mismo banco. Las cifras siguientes son suyas, y cada fila indica su fuente. Las tasas de tokens varían con el modelo, la cuantización, la compilación de llama.cpp y los flags, así que léalas como una proporción, no como una promesa.
Un cuadrado por gigabyte de HBM2e.
- 8 GB visibles tal como NVIDIA la envió
- 56 GB más una vez que el controlador parcheado arranca la GPU
La memoria es el cambio que importa
Con 8 GB la GPU aloja un modelo pequeño y poco más. Con 64 GB aloja un modelo de 27 mil millones de parámetros en 8 bits y aún queda espacio para el contexto. Esa es la línea entre una GPU para probar y una para servir.
La generación sigue al ancho de banda, la lectura del prompt sigue al cómputo
Escribir tokens está limitado por la velocidad a la que los pesos salen de la memoria, y la HBM2e siempre fue rápida en eso. Leer un prompt largo está limitado por las unidades de multiplicación-suma. El freno dolía más allí, así que es donde el desbloqueo muestra la mayor ganancia.
El enlace importa solo al cargar
Gen 2 x4 duplica la tasa de host a GPU, así que la parte de bus de una carga de modelo tarda la mitad. Una vez que los pesos están en la GPU, el bus queda inactivo.
| Measure | As NVIDIA shipped it | Unlocked | Source |
|---|---|---|---|
| GPU memory | 8 GB HBM2e | 64 GB HBM2e | cmpunlocker; 65,536 MiB measured by LTT Labs |
| FP32 fused multiply-add | about 0.39 TFLOPS | unthrottled | 170th Street (stock); cmpunlocker (full SM throughput) |
| PCIe link | Gen 1 x4 | Gen 2 x4 | cmpunlocker |
| Host to GPU, measured | 0.84 GB/s | 1.68 GB/s | LTT Labs, nvbandwidth |
| 8B model at 4-bit, generating | 30 tokens/s | 113 tokens/s | LTT Labs, llama.cpp, Granite 4.1 8B Q4_K_M |
| 8B model at 4-bit, reading a prompt | 351 tokens/s | 2,994 tokens/s | LTT Labs, llama.cpp, pp512 |
| 27B model at 4-bit (~16 GB) | does not fit | 38 tokens/s | LTT Labs, llama.cpp, Qwen 3.6 27B Q4_K_M |
| 27B model at 8-bit (~29 GB) | does not fit | 33 tokens/s | LTT Labs, llama.cpp, Qwen 3.8 27B Q8_0 |
Fuentes: LTT Labs, “Actually Download More RAM” (12 de septiembre de 2026) para cada fila medida; 170th Street para la cifra FP32 de fábrica; cmpunlocker para lo que restauran los parches.
La instalación, paso a paso
Cómo llega el desbloqueo a su servidor CMP 170HX
Cualquiera puede leer el README de cmpunlocker. El trabajo es todo lo que lo rodea, hecho antes de la entrega y mantenido en funcionamiento después. Usted no ejecuta nada.
El controlador abierto de NVIDIA, fijado a una versión
El instalador añade el repositorio CUDA de NVIDIA e instala el espacio de usuario del controlador abierto para
610.57.04, sin entorno gráfico, sin DKMS, y lo mantiene en esa versión: el paquetenvidia-driver-pinning-610.57.04en Ubuntu y Debian, un bloqueo de versión con dnf en AlmaLinux y Rocky. El desbloqueo está compilado para un controlador exacto. La fijación evita que una actualización rutinaria le quite las bibliotecas de debajo.cmpunlocker, compilado para su kernel
Obtenemos cmpunlocker en un commit fijo y compilamos su
nvidia.koparcheado dentro del nuevo sistema, contra el kernel que está a punto de arrancar. Los parches cambian cómo el controlador inicializa la GPU. No se escribe nada en la GPU, así que retirar el controlador la devuelve exactamente a como estaba.Un primer arranque en frío
El desbloqueo solo se aplica en la primera carga del controlador después de que la GPU se haya apagado por completo. Por eso cada instalación termina con el servidor apagado y encendido de nuevo a través de su BMC, y el primer controlador que toca la GPU es el parcheado.
Verificado y probado en memoria en el primer inicio de sesión
Cuando el nuevo sistema responde por primera vez, la instalación pregunta a cada GPU cómo se ha iniciado: memoria, generación PCIe y ancho de enlace. Después escribe y vuelve a leer cada byte de memoria que entrega el controlador, con patrones fijos, por dirección y pseudoaleatorios. Ambos resultados van al registro de configuración del servidor, donde el soporte puede verlos.
cmp-unlock statusycmp-unlock memtestle dan las mismas respuestas desde una shell.Las actualizaciones del kernel no lo vuelven a bloquear
Un gancho del kernel (
/etc/kernel/postinst.d, o/etc/kernel/install.den AlmaLinux y Rocky) recompila los módulos parcheados para cada kernel nuevo a partir de una copia del código fuente de NVIDIA guardada en la máquina. Una actualización desatendida no devolverá la GPU a 8 GB. El gestor de paquetes también rechaza los paquetes que instalarían un segundo controlador estándar junto a él. Instale CUDA conapt install cuda-toolkitodnf install cuda-toolkity el conflicto nunca aparece.
CMP 170HX 64GB · dimensionamiento
Qué cabe en 64 GB y qué cabía en 8
Solo pesos, redondeados al alza. Un modelo cuenta como compatible cuando la GPU lo aloja con entre un cuarto y la mitad de margen para la caché KV y el tiempo de ejecución. Por debajo de eso, carga y luego se queda sin memoria a medida que crece el contexto. Nuestra página de LLM dimensiona cada GPU con la misma regla.
| Model size | Precision | Weights | 8 GB, as shipped | 64 GB, unlocked |
|---|---|---|---|---|
| 7-8 billion parameters | 16-bit | 16 GB | does not fit | fits |
| 7-8 billion parameters | 8-bit | 8 GB | does not fit | fits |
| 7-8 billion parameters | 4-bit | 5 GB | fits | fits |
| 13-14 billion parameters | 16-bit | 28 GB | does not fit | fits |
| 13-14 billion parameters | 8-bit | 14 GB | does not fit | fits |
| 13-14 billion parameters | 4-bit | 8 GB | does not fit | fits |
| 30-34 billion parameters | 16-bit | 68 GB | does not fit | does not fit |
| 30-34 billion parameters | 8-bit | 34 GB | does not fit | fits |
| 30-34 billion parameters | 4-bit | 19 GB | does not fit | fits |
| 70 billion parameters | 16-bit | 140 GB | does not fit | does not fit |
| 70 billion parameters | 8-bit | 70 GB | does not fit | does not fit |
| 70 billion parameters | 4-bit | 38 GB | does not fit | fits |
Dos GPUs en una misma máquina alojan lo que una sola no puede: un modelo de 70 mil millones de parámetros en 8 bits necesita unos 70 GB, que caben en un par. Dividir un modelo entre varias GPUs o máquinas se trata en la página de multi-GPU. Dale a la máquina al menos tanta memoria de sistema como el archivo de modelo más grande, o la carga se ralentiza. La memoria de la configuración básica figura en la tabla de precios de abajo, y el configurador añade más.
Lea esto antes de hacer su pedido
Una GPU económica para inferencia de IA, y dónde se queda corta
Una CMP 170HX desbloqueada ofrece mucha memoria de inferencia por su precio mensual. No es una A100, y estos son los puntos donde se nota.
- Sin ECC
- La corrección de errores en la HBM2e permanece desactivada; nadie la ha desbloqueado todavía. En inferencia, un bit invertido cuesta un reintento. Para un entrenamiento de una semana o trabajos que exigen exactitud bit a bit, elija una GPU con memoria protegida, como la L40S.
- PCIe Gen 2 x4
- Alrededor de 1,7 GB/s del host a la GPU, medido, así que el bus necesita más de 20 segundos para mover un modelo de 38 GB. Un modelo lo cruza una sola vez y luego vive en la memoria de la GPU, de modo que el servicio apenas lo nota. Un bucle de entrenamiento que transmite lotes desde la memoria del sistema lo nota en cada paso.
- Formatos numéricos de Ampere
- FP16, BF16, TF32 e INT8 en los núcleos tensoriales. Sin FP8 y sin FP4; ambos llegaron con generaciones posteriores. Los modelos cuantizados en GGUF, AWQ o GPTQ funcionan bien, porque se desempaquetan a formatos que la GPU tiene.
- Solo Linux
- El desbloqueo es un controlador del kernel de Linux. Pida la máquina con Ubuntu, Debian, AlmaLinux o Rocky Linux y viene integrado. En Windows o Proxmox VE, la GPU funciona tal como la envió NVIDIA, con 8 GB.
- Secure Boot desactivado
- Los módulos parcheados no están firmados. Un kernel con Secure Boot aplicado los rechaza y deja la GPU sin controlador alguno, así que manténgalo desactivado.
- Código de la comunidad, no de NVIDIA
- cmpunlocker es un proyecto de código abierto (GPL-2.0) de Amogh Munikote, y NVIDIA no le da soporte. Instalamos un commit que hemos compilado y verificado, y movemos ese pin a mano, nunca automáticamente.
- La versión de 10 GB se queda en 40 GB
- La CMP 170HX de 8 GB se desbloquea a 64 GB. La versión de 10 GB lleva más memoria en su encapsulado de la que permanece estable bajo carga, así que el desbloqueo la mantiene en 40 GB. La instalación lee qué versión hay en la máquina y aplica la disposición de memoria correcta a cada GPU.
La máquina detrás del botón
Una CMP 170HX desbloqueada en la máquina más barata que la admite
La GPU es una línea en la factura y la máquina es otra; las dos se suman. Las cifras de abajo son lo mínimo que cuesta esta configuración: la GPU en la máquina completa más barata que la admite, antes de impuestos sobre las ventas. En el configurador puedes cambiar el procesador, la memoria, los discos y el número de GPU, y cada cambio se refleja en el precio al momento.
| GPU | NVIDIA CMP 170HX: 64 GB HBM2e unlocked (8 GB HBM2e without the patched driver) |
|---|---|
| GPU, per month | $189 |
| Machine | Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps |
| Machine, per month | $83.67 |
| Together | $272.67 a month |
| Setup | $29 once |
| GPUs per machine | 1 to 4 |
| Cities | New York, Bucharest, San Francisco and Miami |
| Term | Monthly; 15% off on a twelve-month cycle |
| Driver | NVIDIA open 610.57.04, patched by cmpunlocker, on Ubuntu 22.04–26.04, Debian 12/13, AlmaLinux 9/10 or Rocky Linux 9/10 |
| Memory test | Every byte the driver hands out, written and read back on each GPU before handover |
El cargo de instalación existe porque la GPU se monta bajo pedido, lo que convierte la máquina en una configuración personalizada. Se cobra una sola vez, y la cifra mensual se mantiene igual al renovar. Todas las demás GPU que instalamos tienen el mismo precio en la página de servidores GPU.
Respuestas
Preguntas sobre el servidor CMP 170HX
¿Qué es un CMP 170HX desbloqueado?
Una NVIDIA CMP 170HX que ejecuta una versión parcheada del controlador de núcleo abierto de NVIDIA del proyecto cmpunlocker. La GPU es una GA100, el chip de la A100, que NVIDIA envió con 8 GB de su HBM2e visibles, la multiplicación-suma FP32 limitada y el enlace fijado en PCIe Gen 1. El controlador parcheado activa los 64 GB, elimina la limitación y entrena el enlace en Gen 2 cada vez que arranca la GPU. No se modifica nada en la propia GPU.
¿Cuánta VRAM tiene una CMP 170HX cuando está desbloqueada?
64 GB de HBM2e en la versión de 8 GB, que es lo que reporta nvidia-smi una vez que se ejecuta el controlador parcheado. La versión de 10 GB se mantiene en 40 GB, el tamaño que resulta estable en ella. Sin el controlador parcheado, cualquiera de las dos muestra lo que envió NVIDIA: 8 o 10 GB.
¿Es buena la CMP 170HX para inferencia de IA?
Sí, para modelos que caben en 64 GB y trabajos que no necesitan ECC. En las pruebas de LTT Labs, un modelo de 8B a 4 bits generó 113 tokens por segundo desbloqueado frente a 30 bloqueado, y un modelo de 27B a 8 bits funcionó a 33 tokens por segundo. Las limitaciones son un enlace PCIe Gen 2 x4 que ralentiza la carga del modelo, la ausencia de FP8 o FP4 y la falta de ECC en la memoria.
¿Puede una CMP 170HX ejecutar un modelo de 70B?
A 4 bits, sí: los pesos ocupan unos 38 GB, lo que deja el margen que pide nuestra regla de dimensionamiento en una GPU de 64 GB. A 8 bits ocupan unos 70 GB, lo que requiere dos GPU; una máquina admite hasta cuatro.
¿Sobrevive el desbloqueo a reinicios y actualizaciones del núcleo?
Sí. Los módulos parcheados se instalan como cualquier otro módulo del núcleo y se cargan en cada arranque. Cuando llega un núcleo nuevo, un gancho los recompila para él a partir del código fuente de NVIDIA guardado en la máquina, antes de que arranques con él. Si una GPU sigue apareciendo con 8 GB, ejecuta cmp-unlock build con tu versión del núcleo y apaga y enciende el servidor desde el panel de control.
¿Qué sistemas operativos reciben el controlador desbloqueado?
Ubuntu 22.04, 24.04 y 26.04, Debian 12 y 13, AlmaLinux 9 y 10, y Rocky Linux 9 y 10, instalados por nosotros en cualquier máquina que lleve la GPU. Forma parte de la instalación, no es una opción que marcar. Windows y Proxmox VE reciben la GPU tal como la envió NVIDIA: el desbloqueo es un controlador de núcleo de Linux, y en Proxmox las GPU suelen ir a máquinas virtuales, a las que un controlador del anfitrión no llega.
¿Puedo usar CUDA, PyTorch, vLLM y llama.cpp en ella?
Sí. El controlador es el 610.57.04 propio de NVIDIA con los parches aplicados, así que el software creado para una GPU Ampere con un controlador actual funciona. Instala el kit de herramientas CUDA por separado, con apt install cuda-toolkit o dnf install cuda-toolkit. Los metapaquetes cuda y cuda-drivers traerían consigo un segundo controlador estándar, por lo que el gestor de paquetes está configurado para rechazarlos.
¿Cuántas GPU CMP 170HX admite un servidor?
Hasta cuatro en la máquina a la que enlaza esta página. Elige la cantidad en el configurador. Para más de cuatro, o un modelo repartido entre máquinas, consulta la página de varias GPU.
¿Es fiable la memoria desbloqueada?
La versión de 8 GB a 64 GB es la combinación que se ha mantenido en las pruebas públicas, y la versión de 10 GB se detiene en 40 GB por la misma razón. Sigue siendo memoria clasificada por NVIDIA, y una GPU puede tener un sector débil: LTT Labs encontró una entre las que probaron. Por eso cada instalación la comprueba. Tras el primer arranque en frío, cada byte que el controlador va a entregar se escribe y se lee de vuelta en cada GPU, con patrones fijos, de dirección y pseudoaleatorios, cada uno invertido en su sitio, y el resultado va al registro de configuración. Es una comprobación en la entrega, no una garantía para años. Si una GPU falla más tarde, ejecuta cmp-unlock memtest y envíanos la salida. Una GPU que falla se sustituye como cualquier otra pieza.
¿Por qué hay un cargo de configuración en este montaje?
Porque la GPU se instala bajo pedido. Una máquina con una GPU añadida es un montaje personalizado, y un montaje personalizado lleva el cargo único de configuración que figura en la tabla de precios. Se cobra una sola vez, y la cifra mensual no cambia al renovar.
¿Dónde están ubicados los servidores CMP 170HX?
En las ciudades indicadas en la tabla de precios. La línea de máquinas también se vende en Ámsterdam, pero el configurador no puede instalar una GPU allí, por lo que una CMP 170HX desbloqueada no está disponible en esa ciudad.
¿Cómo obtengo ayuda con el servidor?
Abre el chat de este sitio. Un asistente de IA responde en segundos y puede revisar tu cuenta y tu servidor. Pide una persona y una toma el relevo.
Mercado de GPU
Máquinas CMP 170HX anunciadas por sus propietarios
También alquilables por meses: máquinas CMP 170HX que los propietarios publican en nuestro mercado, cada una al precio que fija su dueño. Algunas se anuncian a través de nuestra empresa hermana, Primcast, y esas se alquilan en primcast.com.
En otros lugares
Si la CMP 170HX no es la opción adecuada
- Servidores GPUCada GPU que instalamos, con su precio como línea mensual propia junto a la máquina que la aloja.
- Servidores LLMQué máquina para qué modelo, desde equipos solo con CPU hasta GPU de centro de datos.
- Servidores multi-GPUDividir un modelo entre GPU y máquinas, y lo que le cuestan el bus y el puerto.
- Servidores L40S48 GB con corrección de errores, para trabajos que no toleran ni un bit invertido.
Configure su servidor CMP 170HX
Elija el procesador, la memoria, los discos y hasta cuatro GPU. El controlador desbloqueado se instala con Linux, y la memoria de cada GPU se prueba antes de recibir el acceso. ¿Tiene preguntas primero? El chat responde en segundos, y una persona toma el relevo cuando usted lo pida.