GPU 服务器 · NVIDIA CMP 170HX · GA100

CMP 170HX 服务器。登录之前，全部 64 GB 已为您开启。

我们提供的 CMP 170HX 服务器到手即已解锁：64 GB HBM2e，而非 NVIDIA 默认可见的 8 GB；FP32 全速运行，链路为 PCIe Gen 2。我们在安装机器时就将打过补丁的 NVIDIA 开源驱动编译进 Linux，测试每块 GPU 的显存，并把 root 权限交给您。

该 GPU 为 GA100，即 A100 所用的芯片。它出厂时大部分功能被固件屏蔽。cmpunlocker 项目对 NVIDIA 的开源内核驱动进行补丁，使这些屏蔽在驱动每次启动 GPU 时解除。无需刷写任何固件。机器为单租户：没有其他人会在上面运行。

配置服务器 查看变化
  • 每块 GPU 64 GB HBM2e
  • Ubuntu、Debian、AlmaLinux、Rocky
  • Root 权限
  • 按月计费

解锁版 CMP 170HX · 前后对比

补丁驱动在同一块 GPU 上改变了什么

LTT Labs 于 2026 年 9 月解锁了一块 CMP 170HX，并在同一测试平台上分别以锁定和解锁状态进行了测试。以下数据均出自他们之手，每一行都注明了来源。令牌速率会随模型、量化方式、llama.cpp 版本和运行参数而变化，因此请将其视为比例参考，而非承诺值。

每个方格代表 1 GB 的 HBM2e。

  • NVIDIA 出厂时可见的 8 GB
  • 补丁驱动启动 GPU 后多出的 56 GB

显存才是关键的变化

8 GB 显存下，这块 GPU 只能容纳一个小模型，几乎装不下别的。64 GB 显存下，它能以 8-bit 精度容纳一个 270 亿参数的模型，还有余量留给上下文。这就是“拿来试玩的 GPU”和“拿来提供服务的 GPU”之间的分界线。

生成速度受限于带宽，提示词读取受限于算力

写入令牌的速度取决于权重从显存中流出的快慢，而 HBM2e 在这方面一向很快。读取长提示词则受限于乘加单元。节流对后者的伤害最大，因此解锁后收益最明显的也正是这一项。

链路只在加载时重要

Gen 2 x4 将主机到 GPU 的速率翻倍，因此模型加载中走总线的那部分时间缩短一半。权重一旦上了 GPU，总线就闲置了。

MeasureAs NVIDIA shipped itUnlockedSource
GPU memory8 GB HBM2e64 GB HBM2ecmpunlocker; 65,536 MiB measured by LTT Labs
FP32 fused multiply-addabout 0.39 TFLOPSunthrottled170th Street (stock); cmpunlocker (full SM throughput)
PCIe linkGen 1 x4Gen 2 x4cmpunlocker
Host to GPU, measured0.84 GB/s1.68 GB/sLTT Labs, nvbandwidth
8B model at 4-bit, generating30 tokens/s113 tokens/sLTT Labs, llama.cpp, Granite 4.1 8B Q4_K_M
8B model at 4-bit, reading a prompt351 tokens/s2,994 tokens/sLTT Labs, llama.cpp, pp512
27B model at 4-bit (~16 GB)does not fit38 tokens/sLTT Labs, llama.cpp, Qwen 3.6 27B Q4_K_M
27B model at 8-bit (~29 GB)does not fit33 tokens/sLTT Labs, llama.cpp, Qwen 3.8 27B Q8_0

来源：LTT Labs，“Actually Download More RAM”（2026 年 9 月 12 日）提供所有实测数据行；170th Street 提供原厂 FP32 数据；cmpunlocker 说明补丁恢复了哪些功能。

安装过程，逐步说明

解锁程序如何进入您的 CMP 170HX 服务器

任何人都能阅读 cmpunlocker 的 README。真正的工作在于它周围的一切，在交付前完成，并在交付后持续维护。您无需运行任何东西。

  1. NVIDIA 开源驱动，锁定到单一版本

    安装程序会添加 NVIDIA 的 CUDA 软件源，并为 610.57.04 安装无头模式的开源驱动用户空间，不启用 DKMS，并将其保持在该版本：在 Ubuntu 和 Debian 上使用 nvidia-driver-pinning-610.57.04 软件包，在 AlmaLinux 和 Rocky 上使用 dnf 版本锁定。解锁程序针对一个精确的驱动版本构建。版本锁定可防止例行升级将底层库抽走。

  2. cmpunlocker，为您的内核编译

    我们获取固定提交版本的 cmpunlocker，并在新系统内针对即将启动的内核构建其打过补丁的 nvidia.ko。补丁改变了驱动启动 GPU 的方式。不会向 GPU 写入任何内容，因此移除驱动后，它将完全恢复原状。

  3. 一次冷启动

    解锁仅在 GPU 断电后的首次驱动加载时生效。因此，每次安装都以服务器关机、并通过其 BMC 重新上电结束，第一个接触 GPU 的驱动就是打过补丁的那个。

  4. 首次登录时检查并测试内存

    当新系统首次响应时，安装程序会询问每个 GPU 的识别结果：内存、PCIe 代数和链路宽度。然后，它用固定、地址和伪随机模式写入并读回驱动分配出的每一字节内存。两项结果都会写入服务器的安装日志，供支持人员查看。cmp-unlock status 和 cmp-unlock memtest 可在 shell 中为您提供相同的答案。

  5. 内核更新不会重新锁定

    内核钩子（/etc/kernel/postinst.d，或在 AlmaLinux 和 Rocky 上为 /etc/kernel/install.d）会利用机器上保留的 NVIDIA 源代码副本，为每个新内核重新构建打过补丁的模块。无人值守升级不会让 GPU 退回 8 GB。软件包管理器也会拒绝那些会在其旁边安装第二个原版驱动的软件包。使用 apt install cuda-toolkit 或 dnf install cuda-toolkit 安装 CUDA，冲突永远不会出现。

CMP 170HX 64GB · 容量规划

64 GB 能装下什么，8 GB 曾经装下过什么

仅计算权重，向上取整。当 GPU 能容纳模型，并额外留出四分之一到一半的余量给 KV 缓存和运行时，才算真正装得下。低于这个标准，模型虽然能加载，但上下文一增长就会耗尽显存。我们的 LLM 页面按同一规则为每款 GPU 计算容量。

Model sizePrecisionWeights8 GB, as shipped64 GB, unlocked
7-8 billion parameters16-bit16 GBdoes not fitfits
7-8 billion parameters8-bit8 GBdoes not fitfits
7-8 billion parameters4-bit5 GBfitsfits
13-14 billion parameters16-bit28 GBdoes not fitfits
13-14 billion parameters8-bit14 GBdoes not fitfits
13-14 billion parameters4-bit8 GBdoes not fitfits
30-34 billion parameters16-bit68 GBdoes not fitdoes not fit
30-34 billion parameters8-bit34 GBdoes not fitfits
30-34 billion parameters4-bit19 GBdoes not fitfits
70 billion parameters16-bit140 GBdoes not fitdoes not fit
70 billion parameters8-bit70 GBdoes not fitdoes not fit
70 billion parameters4-bit38 GBdoes not fitfits

一台机器装两块 GPU，就能容纳单卡装不下的模型：700 亿参数的 8-bit 模型约需 70 GB，正好跨两块卡放下。将模型拆分到多块 GPU 或多台机器上的方案，详见多 GPU 页面。系统内存至少要等于最大的模型文件，否则加载会变慢。入门配置的内存容量列在下方价格表中，配置器还可以继续加。

下单前请先阅读

用于 AI 推理的廉价 GPU，以及它的局限所在

解锁后的 CMP 170HX 以每月价格提供了大量推理显存。它不是 A100，以下就是差距显现的地方。

无 ECC
HBM2e 上的纠错保持关闭；目前还没有人解锁它。对于推理，一个翻转的比特只是多一次重试。对于长达一周的训练任务，或必须逐位精确的工作，请选择带受保护显存的 GPU，例如 L40S。
PCIe Gen 2 x4
实测从主机到 GPU 约 1.7 GB/s，因此传输一个 38 GB 的模型，总线需要超过 20 秒。模型只需跨越总线一次，之后常驻 GPU 显存，所以推理服务几乎无感。而从系统内存流式传输批次的训练循环，每一步都会感受到。
Ampere 数字格式
张量核心支持 FP16、BF16、TF32 和 INT8。没有 FP8 和 FP4；两者都随后续代际推出。GGUF、AWQ 或 GPTQ 格式的量化模型运行良好，因为它们会解包为 GPU 具备的格式。
仅限 Linux
解锁程序是一个 Linux 内核驱动。订购机器时选择 Ubuntu、Debian、AlmaLinux 或 Rocky Linux，它就已内置。在 Windows 或 Proxmox VE 上，GPU 按 NVIDIA 出厂状态运行，只有 8 GB。
关闭 Secure Boot
补丁模块未签名。启用 Secure Boot 强制校验的内核会拒绝它们，导致 GPU 完全没有驱动，因此请保持关闭。
社区代码，而非 NVIDIA 的
cmpunlocker 是 Amogh Munikote 的开源项目（GPL-2.0），NVIDIA 并不支持它。我们安装的是经过构建和检查的某个提交，并且手动调整该版本锁定，绝不自动进行。
10 GB 版本止步于 40 GB
8 GB 的 CMP 170HX 可解锁至 64 GB。10 GB 版本封装上搭载的显存多于负载下能保持稳定的容量，因此解锁将其限制在 40 GB。安装程序会读取机器中的版本，并为每块 GPU 应用正确的显存布局。

按钮背后的机器

一块解锁的 CMP 170HX，装在能容纳它的最便宜机器里

GPU 是发票上的一行，机器是另一行；两者相加。下面的数字是这套配置的最低成本：GPU 装在能容纳它的最便宜整机里，不含任何销售税。在配置器中，你可以更改处理器、内存、磁盘和 GPU 数量，每项更改都会即时计价。

NVIDIA CMP 170HX，一块全尺寸被动散热 GPU，挡板上没有显示输出接口
一块被动散热、全尺寸的 GPU，功耗最高 250 W，没有风扇。它需要前后通风的服务器机箱，我们的机器正是如此。
GPUNVIDIA CMP 170HX: 64 GB HBM2e unlocked (8 GB HBM2e without the patched driver)
GPU, per month$189
MachineIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
Machine, per month$83.67
Together$272.67 a month
Setup$29 once
GPUs per machine1 to 4
CitiesNew York, Bucharest, San Francisco and Miami
TermMonthly; 15% off on a twelve-month cycle
DriverNVIDIA open 610.57.04, patched by cmpunlocker, on Ubuntu 22.04–26.04, Debian 12/13, AlmaLinux 9/10 or Rocky Linux 9/10
Memory testEvery byte the driver hands out, written and read back on each GPU before handover
在配置器中打开这套配置

设置费之所以存在，是因为 GPU 按订单安装，使机器成为定制配置。该费用只收取一次，续费时月费保持不变。我们安装的其他所有 GPU 在 GPU 服务器页面上均按同样方式计价。

解答

CMP 170HX 服务器常见问题

什么是解锁版 CMP 170HX？

一块 NVIDIA CMP 170HX，运行来自 cmpunlocker 项目的 NVIDIA 开源内核驱动补丁版本。GPU 是 GA100，也就是 A100 所用的芯片，NVIDIA 出厂时只开放 8 GB 的 HBM2e 显存，FP32 乘加运算被限速，链路也固定在 PCIe Gen 1。补丁驱动会启用全部 64 GB、解除限速，并在每次启动 GPU 时将链路训练到 Gen 2。GPU 本身没有任何改动。

解锁后 CMP 170HX 有多少显存？

8 GB 版本解锁后有 64 GB 的 HBM2e，补丁驱动运行后 nvidia-smi 就会显示这个容量。10 GB 版本则稳定在 40 GB，这是它能长期保持的容量。没有补丁驱动时，两者都只显示 NVIDIA 出厂时的容量：8 或 10 GB。

CMP 170HX 适合做 AI 推理吗？

适合，前提是模型能放进 64 GB，而且工作负载不需要 ECC。在 LTT Labs 的测试中，一个 4-bit 量化的 8B 模型解锁后每秒生成 113 个 token，锁定状态只有 30 个；一个 8-bit 量化的 27B 模型则以每秒 33 个 token 运行。限制在于 PCIe Gen 2 x4 链路会拖慢模型加载，不支持 FP8 或 FP4，显存也没有 ECC。

CMP 170HX 能跑 70B 模型吗？

4-bit 量化可以：权重约 38 GB，在 64 GB GPU 上仍留有我们容量规划规则要求的余量。8-bit 量化则约 70 GB，需要两块 GPU；一台机器最多可装四块。

解锁在重启和内核更新后仍然有效吗？

有效。补丁模块和其他内核模块一样安装，每次开机都会加载。新内核到来时，一个钩子会在你启动新内核之前，用机器上保留的 NVIDIA 源码为它重新构建模块。如果某块 GPU 启动后仍显示 8 GB，请用你的内核版本运行 cmp-unlock build，然后从控制面板对服务器执行断电重启。

哪些操作系统能获得解锁驱动？

Ubuntu 22.04、24.04 和 26.04，Debian 12 和 13，AlmaLinux 9 和 10，以及 Rocky Linux 9 和 10，由我们在任何装有该 GPU 的机器上安装。它是安装的一部分，不是可勾选的选项。Windows 和 Proxmox VE 会得到 NVIDIA 出厂状态的 GPU：解锁驱动是 Linux 内核驱动，而在 Proxmox 上 GPU 通常分配给虚拟机，宿主机驱动无法触及。

能在上面使用 CUDA、PyTorch、vLLM 和 llama.cpp 吗？

可以。驱动是 NVIDIA 自家的 610.57.04 并应用了补丁，因此为 Ampere GPU 和当前驱动构建的软件都能运行。CUDA 工具包需单独安装，用 apt install cuda-toolkit 或 dnf install cuda-toolkit。cuda 和 cuda-drivers 元包会连带安装第二个原版驱动，所以包管理器已设置为拒绝它们。

一台服务器能装多少块 CMP 170HX GPU？

本页链接的机型最多可装四块。在配置器中选择数量。如需四块以上，或把模型拆分到多台机器，请查看多 GPU 页面。

解锁后的显存可靠吗？

8 GB 版本解锁到 64 GB 是公开测试中表现稳定的组合，10 GB 版本停在 40 GB 也是出于同样原因。它仍然是 NVIDIA 分选过的显存，但单块 GPU 可能存在薄弱区域：LTT Labs 在他们测试的卡中发现过一块。所以每次安装都会测试显存。首次冷启动后，驱动将要分配的每个字节都会在每块 GPU 上写入并读回，使用固定、地址和伪随机模式，每种模式都在原位置取反，结果写入安装日志。这是交付时的检查，不是多年质保。如果 GPU 之后出现异常，请运行 cmp-unlock memtest 并把输出发给我们。故障 GPU 会像其他部件一样更换。

为什么这个配置有安装费？

因为 GPU 是按订单加装的。加装 GPU 的机器属于定制配置，定制配置会收取价格表中显示的一次性安装费。只收一次，续费时月费不变。

CMP 170HX 服务器位于哪些地方？

位于价格表中列出的城市。该机型也在阿姆斯特丹销售，但那里的配置器无法加装 GPU，因此解锁版 CMP 170HX 在该城市不可用。

如何获得服务器帮助？

打开本站的聊天功能。AI 助手几秒内即可回复，并能查看你的账户和服务器。要求人工客服，就会有人接手。

其他选择

如果 CMP 170HX 不太合适

配置你的 CMP 170HX 服务器

选择处理器、内存、硬盘以及最多四块 GPU。解锁版驱动随 Linux 一起安装，每块 GPU 的内存在你拿到登录信息前都会经过测试。想先问清楚？聊天几秒内就能回复，你要求人工接管时会有专人接手。

配置服务器