GPU 独立服务器 · 算力解锁 · Bucharest,欧盟

RTX 3050,全面解锁:同一张卡,AI 算力最高提升 56%

我们现在交付的每一台 Ubuntu 或 Debian 系统的 RTX 3050 台式机,其张量核心都已全速运行。在我们自有的显卡上,FP16 矩阵运算从 14.0 提升到 21.3 TFLOPS,功耗仍保持在 70 W 以内,无需你安装任何东西。整台机器完全归你所有:一块 Intel Core i5-9500、32 GB 内存、一个 256 GB NVMe SSD 以及不限流量的 1 Gbps 端口。

  • FP16 +52%
  • BF16 +54%
  • TF32 +56%
  • 每次启动自动检测

出厂设置与解锁状态对比

在我们自己的 RTX 3050 上实测,而非照抄规格表

一张显卡装在我们的机器里,从冷启动两次:先按出厂设置,再解锁。相同内核、相同驱动、相同 70 W 功耗限制。测试项目是 AI 框架最依赖的工作负载——PyTorch 中的大规模矩阵乘法。

矩阵乘法吞吐量(TFLOPS),越高越快

8192 × 8192 矩阵,PyTorch,NVIDIA 驱动 595

  • 出厂设置
  • 解锁状态
  • FP16 +52%
  • BF16 +54%
  • TF32 +56%
  • FP32 相同
2x

峰值张量速率翻倍。逐条指令统计,FP16 和 BF16 配合 FP32 累加从每秒 17.9 万亿次运算提升到 36.1 万亿次。实际大规模乘法大约提升一半而非翻倍,因为显卡已经在其 70 W 限制下工作,额外速度必须控制在相同功耗内。

以表格形式显示数据
精度出厂设置解锁状态变化
FP16,TFLOPS14.021.3+52%
BF16,TFLOPS14.222.0+54%
TF32,TFLOPS6.910.8+56%
FP32,TFLOPS3.73.7相同
峰值张量速率,FP32 累加,TF/s17.936.12x

每个数据均为预热后五次运行、每次五十次乘法的平均值。你的实际加速效果取决于模型、批量大小和软件。

你会感受到的地方

张量核心工作之处更快,其他地方一切如旧

这次解锁只提升一件事:显卡在 FP16、BF16 和 TF32 下做矩阵乘法的速度。把时间花在这里的任务会变快;不花在这里的,运行起来和以前完全一样。

会变快

  • AI 推理中的提示词处理。读取长提示词或文档是矩阵运算,所以第一个词出现前的等待时间会变短。
  • 微调小型模型。LoRA 及类似方法在能装进 6 GB GDDR6 的模型上运行时,用 BF16 或 FP16 能更快完成。
  • 图像生成。扩散模型每一步的大部分时间都花在半精度矩阵运算上。
  • 批量推理。嵌入、分类和转录任务,一次推入大量输入的那种。

保持原样

  • 游戏和 3D 渲染。图形工作不走这条路径。
  • 视频编码和解码。NVENC 和 NVDEC 是芯片上独立的引擎,保持出厂速度。
  • FP32 CUDA 代码。普通的单精度运算无论怎样都以 3.7 TFLOPS 运行。
  • 逐 token 的文本生成。一旦模型开始写答案,决定节奏的是内存速度,而不是张量速率。

它如何到达您的服务器

在 Linux 上订购,显卡到手即解锁

  1. 选择 Ubuntu 或 Debian

    在订单表单中任选其一。我们会安装系统、NVIDIA 驱动和计算解锁,因此订单获批后约 30 分钟机器即可上线。

  2. 每次启动时应用

    不会向显卡刷写任何内容。解锁在机器启动时、NVIDIA 驱动加载之前设置,并且每次系统启动时都会检查。

  3. 出厂速度作为安全网

    如果某次启动无法应用解锁,显卡会直接以出厂频率运行并继续工作。无论哪种情况,机器上的其他部分都不会改变。

正在运行 Windows? 同一台机器也提供 Windows 版本,此时显卡以出厂速度运行:计算解锁是 Linux 功能。其他一切,从处理器到不限流量端口,都完全相同。

我们的测试方式

在提供给您之前,我们先在自己的机架上运行过

在任何一台客户机器获得解锁之前,我们先把其中一台台式机放进了实验室测试:反复冷启动、一次热重启、两种状态下的每一项基准测试,以及满载状态下的长时间运行,全程监控错误。

它扛住了。每次启动解锁都成功,显卡没有记录任何错误,满载下的每一项结果都与第一次完全一致,逐位相同。

机器
Intel Core i5-9500、32 GB、Bucharest
显卡
RTX 3050 6GB,70 W 限制
系统
Ubuntu 24.04,NVIDIA 驱动 595
启动
5 次中 5 次解锁成功
满载运行
45 分钟,0 错误
结果核对
逐位一致,0 处不匹配
基准测试
PyTorch,8192² 矩阵

常见问题

解锁版 RTX 3050:租用前人们常问的问题

“解锁”具体指什么?

指显卡张量核心在 FP16、BF16 和 TF32 下进行矩阵乘法的速率。出厂时,这块卡在 FP32 累加结果时,该运算只以芯片能力的一半速率运行。解锁后,它将以全速运行。显卡本身、其 6 GB GDDR6 和 70 W 功耗限制保持不变。

我的工作负载会快多少?

在我们的卡上,大型矩阵乘法在 FP16 下快了 52%,在 BF16 下快了 54%,在 TF32 下快了 56%。整个 AI 任务的提升会小于这个数字,因为它还会花时间在解锁不涉及的事情上,比如搬运数据或逐个生成 token。

我需要安装任何东西吗?

不需要。订购预装 Ubuntu 或 Debian 的机器,交付时 NVIDIA 驱动和计算解锁就已就位。你会获得 root 权限,可以在其上自行添加 CUDA、PyTorch 或其他任何软件。

它在 Windows 上能用吗?

不能。计算解锁仅在 Linux 上应用。同一台机器在 Windows 下会以出厂速度运行显卡,那仍然是完全属于你自己的 RTX 3050 6GB。

如果某天解锁没有生效会怎样?

显卡会以出厂速度启动并正常工作。每次启动时都会检查,所以只需重启即可进行下一次尝试。

我可以关闭它吗?

可以。它只是一个启动选项。移除该选项,关机再开机,显卡就会恢复出厂速率。我们的支持团队可以为你操作。

需要额外付费吗?

不需要。解锁版显卡已包含在机器每月 €89.00 的价格中,配备 32 GB 内存、256 GB NVMe SSD、一个 IPv4 地址和一个不限流量的 1 Gbps 端口。

同一张卡,同样的每月 €89.00,更高的 AI 吞吐量

一台完整的 RTX 3050 机器,位于 Bucharest,张量核心全速运行,提供 root 权限和不限流量的 1 Gbps 端口,审批通过后约 30 分钟即可上线。

NVIDIA、GeForce 和 RTX 是 NVIDIA Corporation 的商标。计算解锁是我们对显卡的自有配置,并非由 NVIDIA 提供。