What is a dedicated GPU server?

A physical server rented to one customer, with a graphics card installed and passed through to that customer’s own operating system. Nothing is virtualised or shared: you get every core, all the memory, the disks and the full GPU, with root access and a remote console.

How much does a GPU dedicated server cost?

A complete machine with a GPU installed runs from $91.72 to $1,682.67 a month. The price is two lines added together: the machine, and the GPU at $20.79 to $1,599 a month. Processor, memory, two disks, an unmetered port and one IPv4 address are included. Setup is a one-time $29 on a build with a GPU installed to order; a ready machine ordered as it stands has none.

Do I share the GPU with anyone?

No. One physical machine, one account, and the GPU passed through to the operating system you installed. There is no hypervisor, no MIG partition, no vGPU profile and no time-slicing. The numbers you benchmark on day one are the numbers you keep.

Can I rent a dedicated server with a GPU by the month, without a contract?

Yes. One month is the default term and there is nothing to sign. Three, six and twelve-month cycles save up to 15%, and the price does not step up at renewal. Pay by credit card or PayPal; for a larger order a bank wire can be arranged, and it usually clears fraud review faster than a card payment.

Is there a cheap GPU dedicated server?

Yes. The list on this page is sorted cheapest first, and the cheapest complete build is Quadro 3000M in Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps at $91.72 a month. Older Tesla and Quadro GPUs still transcode video and drive remote desktops well, and they come in the same whole machine with the same unmetered port.

Which NVIDIA and AMD GPUs can I get?

57 GPUs are on the list, from current NVIDIA compute accelerators and AMD Instinct down to older Tesla, Quadro and GeForce models. Each one is listed by name with its memory and the complete monthly price. If the GPU you want is missing, ask: we can often buy it in.

Which driver and CUDA version comes installed?

The ones you install. The server arrives with a clean operating system and root access, and you pin the driver, the CUDA or ROCm release and the framework build your code was tested against. If you want the driver in place at handover, put the exact version on the order. If a GPU has to support a particular CUDA release, ask before paying and we will check.

Will two GPUs fit in one server?

Often, and we quote it by hand: chassis clearance, the GPU’s width, the PCIe lanes and the power supply decide the count. Name the GPU and we reply with the chassis, the count and the lead time. The usual reason is memory rather than speed, since two 48 GB GPUs hold a model one 80 GB GPU cannot. Multi-GPU and multi-node servers covers the next step.

Can I change the GPU later?

Yes, in the server you already have: no migration, no reinstall, no new IP addresses. It is a scheduled visit with a short outage, and the bill moves by exactly the difference between the two GPUs. RAM, drives and a faster port are added under the same rule.

What happens if the GPU fails?

We replace it within your support plan’s window, counted from when you report it: 24 hours on the included Basic plan, 4 on Bronze, 3 on Silver, 2 on Gold and Platinum. Past the window, service credit follows the schedule published on the support page.

Can I bring my own graphics card?

Yes, a GPU you own, or any other part, can go into the server you rent here. It is not free, because the GPU draws power, and the charge depends on the hardware. We are not responsible if a part you brought fails; the replacement window covers only the hardware we supply. Book a call before you buy or ship it: we price it and check the chassis takes it, because a blade, for one, has no room for a full-size GPU.

Is the bandwidth really unmetered? What does egress cost?

Nothing is metered in either direction at any port speed we sell, so egress costs nothing. On GPU work that is often the largest line elsewhere: training pulls datasets in and pushes checkpoints out, and an inference endpoint answers real traffic. Unmetered bandwidth lists the faster ports.

Monthly or hourly GPU: which is cheaper?

Hourly wins while the work is bursty and really stops, up to a few hundred hours a month. Past about two thirds of the month, monthly is cheaper before you count egress, storage kept between runs and time spent waiting for capacity. Monthly also keeps the same machine, disks and addresses.

What if I picked the wrong GPU?

Within three days of activation, after troubleshooting, our refund policy applies as written. The memory table and the PCIe column above are there so you can pick the right GPU first, and we would rather talk you down to a smaller GPU in chat than refund a bigger one.

GPU 独立服务器 · 裸金属 · 按月付费

GPU 独立服务器。整块 GPU 归你独享，没有其他人共用。

GPU 独立服务器是一台按月租给单个账户的物理机器，GPU 直接直通到你自己的操作系统。没有虚拟机监控程序，没有 vGPU 切片，硅片上没有邻居。

PCIe 直通
不限流量端口
5 个城市
无合约

根据任务和所需显存选择 GPU。列表中的每一行都是一台安装了该 GPU 的完整服务器，价格来自结账时计费的同一份目录，而 GPU 本身所占的费用印在总价下方。

NVIDIA 和 AMD GPU 服务器，每台都按完整机器定价

说明 GPU 的用途以及所需的最低显存。列表会随着你的选择逐步缩小，最便宜的排在最前。每一行都会在配置器中打开搭载该 GPU 的机器。

1. GPU 用来做什么？

2. 至少需要多少 GPU 显存？最低 GPU 显存（以 GB 为单位）

任意 GB 或以上

4 位模型权重，用于参考规模

5 GB7-8B @ 4-bit
8 GB13-14B @ 4-bit
19 GB30-34B @ 4-bit
38 GB70B @ 4-bit

价格是结账系统本身的数字。如果 GPU 制造商未公布显存数据，该行会显示一个破折号，并且一旦显存控制从“任意”移开，该行就会消失。有些 GPU 可适配多个机箱：该行显示最便宜的选项，配置器会显示其余选项。

租用方式

GPU 独立服务器托管：整块 GPU 归你所有

GPU 安装在一台租给单个账户的机器的物理 PCIe 插槽中。你安装操作系统、加载内核模块，并固定你的代码所测试过的驱动、CUDA 或 ROCm 版本。没有任何东西会在你不知情的情况下升级它。

机器遵循同样的规则：每个核心、所有内存、两块磁盘、root 权限，以及服务器自带的 iLO 或 iDRAC 控制台，都在独立的管理网络上。如果某个驱动实验导致网络中断，你仍然拥有屏幕、虚拟介质和电源控制。

无切片没有 MIG 分区，没有 vGPU 配置文件，没有份额分割。一块 GPU，一个操作系统。
无队列你之上没有调度器。当你的进程空闲时，GPU 也空闲，并且仍然归你所有。
无虚拟机监控程序裸金属。你第一天测得的延迟，就是凌晨 4 点得到的延迟。
无计量数据集进，检查点和渲染结果出。端口上没有任何东西会统计字节数。

定价原理

两行相加：机器和 GPU

大多数提供商将 GPU 作为某个层级来销售，处理器、内存、磁盘和网络都围绕它定价。在这里，机器是一行月度费用，GPU 是另一行。以后更换 GPU，账单的变动正好等于两块 GPU 之间的差价。

在找便宜的 GPU 独立服务器？

从列表顶部开始。我们保留了仍能完成实际工作的旧款 GPU，例如用于视频转码或驱动远程桌面的 Tesla 和 Quadro 部件，它们与最新款 GPU 一样，安装在同一台完整机器中，使用同一个不限流量端口。我们为什么保留旧硬件解释了其中的取舍。

与按小时计费的 GPU 云相比？列表中最昂贵的配置 H100 80GB，整台机器每月 $1,682.67，按 730 小时的一个月计算，大约每小时 $2.31，而且之后不会有出站流量费用账单。

MachineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
GPUQuadro 3000M$20.79 – $1,599 across the list$20.79
PortUnmetered, both directionsNo allowance, no egress lineincluded
SetupOne-time, custom buildMonthly term, no contract$29

Complete, per month, from$91.72

三个月、六个月和十二个月的周期最多可节省 15%。配置器会对每块磁盘的价格进行四舍五入，可能会有一分钱的偏差。定价列出了网站上的所有数字。

GPU 显存

你的模型需要多少 GPU 显存

GPU 显存决定模型能否运行；核心和时钟只决定运行速度。一块少了两 GB 的 GPU 不会跑得慢，而是根本加载不了。先把这个数字定下来。

权重占用等于参数量乘以每参数字节数：16 位精度为两字节，8 位为一字节，4 位为半字节。量化到 4 位能让模型装进更小的 GPU，但会以可感知的质量损失为代价。

留出余量。 表格只统计权重。运行时、激活值和键值缓存共享同一块显存，而缓存会随着上下文的每个 token 增长，所以 38 GB 的权重在 40 GB 的 GPU 上无法从容服务。请在此基础上再加四分之一到一半。

，我们会根据你实际运行的内容来匹配 GPU。

Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB	8 GB	5 GB
13-14 billion parameters	28 GB	14 GB	8 GB
30-34 billion parameters	68 GB	34 GB	19 GB
70 billion parameters	140 GB	70 GB	38 GB

仅权重，向上取整到下一个 GB。

平台

可搭载 GPU 的服务器，以及每台机器提供的 PCIe 总线

每个平台为插槽提供不同的 PCIe 代际和通道预算。我们把它列出来，因为它会影响结果：曾有客户在 PCIe 3.0 平台上换用更新的消费级 GPU，渲染反而变慢，而且比我们更早找到了原因。

PCIe 3.0

Intel Xeon E5-2600 v1/v2

$70.93/mo before the GPU

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

GPUs: 28
Lanes: 40 lanes per socket
Sockets: 2
Max RAM: 256 GB

Intel Xeon E5-2600 v1/v2 →

PCIe 3.0

Intel Xeon E5-2600 v3/v4

$73.47/mo before the GPU

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

GPUs: 44
Lanes: 40 lanes per socket
Sockets: 2
Max RAM: 1 TB

Intel Xeon E5-2600 v3/v4 →

PCIe 3.0

Intel Xeon Silver / Gold

$83.67/mo before the GPU

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

GPUs: 48
Lanes: 48 lanes per socket
Sockets: 2
Max RAM: 1 TB

Intel Xeon Silver / Gold →

PCIe 4.0

AMD EPYC

$217.59/mo before the GPU

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

GPUs: 10
Lanes: 128 lanes per socket
Sockets: 2
Max RAM: 1 TB

AMD EPYC →

总线代际何时重要

会拖累你，当数据持续跨越总线时：从磁盘或系统内存流式传输批次的训练循环、每帧都传输场景数据的渲染器、超出 GPU 显存的工作集。
毫无影响，一旦权重加载完毕并驻留其中：能装下的模型推理、视频转码、大多数模拟。此时链路只承载小型请求和结果。
不确定？ 说出你的工作负载，我们会告诉你平台是否会成为瓶颈，包括在更快总线上搭配更便宜 GPU 是否更划算。

包含内容

在你添加任何东西之前，这里的 GPU 服务器托管已包含什么

Root 权限和你自己的驱动栈

干净的操作系统和密钥。你选择驱动、CUDA 或 ROCm 版本以及框架构建，它们会保持固定。想在交付前装好驱动？把确切版本写进订单。
独立网络上的控制台

HPE 机器上的 iLO，Dell 上的 iDRAC：键盘和屏幕、虚拟介质、电源控制、传感器和硬件日志。一个让显示或网卡挂起的模块，你可以自己重启并观察 POST 过程。
不计量的端口

在包含的速度及更高速度下，双向均不限流量。没有传输配额，也没有出站流量费用。不限流量带宽列出了更快的端口。
无需工单的重装

一键重装操作系统镜像，次数不限，完全免费。反向 DNS 由你编辑，IPv6 已包含，额外 IPv4 在配置器中加一行即可。
秒级响应，需要时有人接手

聊天由 AI 助手在几秒内回复，它可以查看你的账户和服务器，你要求人工时立即转接。故障部件会在你的支持计划窗口内更换：基础计划为 24 小时，铜牌 4 小时，银牌 3 小时，金牌和白金为 2 小时。
五个城市，自有网络

纽约、迈阿密、旧金山、阿姆斯特丹和布加勒斯特，全部运行在 Server Room 自有网络上，AS19624。位置决定了你到用户的延迟以及你需遵守的数据保护法律。数据中心介绍了每座建筑。

交付

租用带 GPU 的独立服务器能有多快

这取决于 GPU 现在在哪里，而我们在你付款前就告诉你属于哪种情况。

约 30 分钟
GPU 已装在上架的机器中
无需安装。机器已就绪并直接交付。即时服务器列出了当前可用的机器。
4 到 24 小时
我们从库存中安装 GPU
最常见的情况。技术人员安装 GPU、组建磁盘阵列并安装操作系统。额外内存或不同硬盘可在同一次上门中完成。
5 到 10 个工作日
GPU 需要采购
我们先订购部件，然后按上述流程组装。按需定制可完全按你的规格打造机器。
10 到 15 个工作日
GPU 处于配额分配中
当前加速器按分销商的日期发货，我们会在你承诺前告知具体日期。为单个客户采购的硬件需预付三个月费用报价。

所有时间线从付款和欺诈审核通过后开始计算。大多数订单在几小时内通过；新账户的首笔订单可能需要更长时间。

合作伙伴的领域

AI 生成的媒体：适合整块 GPU 的工作类型

Viral Mind Technologies 是 Server Room 的合作伙伴，构建并运营自己的数字资产：虚拟人物、在线媒体品牌以及面向创作者的软件。该公司于 2019 年以数字营销机构起家，自 2022 年底以来一直致力于自己的 AI 项目。

生成图像和视频会让模型持续驻留在 GPU 显存中，并使 GPU 连续忙碌数小时。这正是裸金属上专用 GPU 而非其中一部分的用武之地，而本页面租用的每台服务器都配备整块 GPU。

他们的作品集与案例研究：viralmindtech.com

虚拟人物Naomi Marie 于 2023 年 8 月推出，是他们完全拥有的第一位数字人物。
媒体Cybeauty Magazine 于 2024 年 3 月推出，以网络优先出版物的形式运营。
创作者工具Proof of Ownership 为创意文件签发带有日期的记录，在浏览器中进行指纹识别，因此文件永远不会离开设备。

解答

GPU 独立服务器问题解答

什么是 GPU 独立服务器？

一台只租给一位客户的物理服务器，装有显卡并直通给该客户自己的操作系统。没有任何虚拟化或共享：您拥有全部核心、所有内存、磁盘和整块 GPU，并享有 root 权限和远程控制台。

GPU 独立服务器多少钱？

一台装有 GPU 的整机每月从 $91.72 到 $1,682.67 不等。价格由两部分相加：机器本身，以及 GPU 每月 $20.79 到 $1,599。处理器、内存、两块磁盘、不限流量的端口和一个 IPv4 地址均已包含。安装费为一次性 $29，适用于按订单安装 GPU 的配置；按现成配置订购的机器则无此费用。

我会与别人共享 GPU 吗？

不会。一台物理机、一个账户，GPU 直通给您安装的操作系统。没有虚拟机监控程序、没有 MIG 分区、没有 vGPU 配置文件，也没有时间切片。您第一天测得的性能数据，就是您一直拥有的数据。

我可以按月租用带 GPU 的独立服务器，无需签合同吗？

可以。默认租期就是一个月，无需签署任何文件。三个月、六个月和十二个月的周期可节省最高 15%，续费时价格不会上涨。可用信用卡或 PayPal 付款；大额订单可安排银行电汇，且通常比信用卡付款更快通过欺诈审核。

有便宜的 GPU 独立服务器吗？

有。本页列表按价格从低到高排序，最便宜的整机配置为 Quadro 3000M，位于 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps，每月 $91.72。较旧的 Tesla 和 Quadro GPU 在视频转码和远程桌面方面依然表现出色，而且它们搭载在同样的整机中，享有同样的不限流量端口。

我可以选择哪些 NVIDIA 和 AMD GPU？

列表中有 57 款 GPU，从当前的 NVIDIA 计算加速器和 AMD Instinct，到较旧的 Tesla、Quadro 和 GeForce 型号。每款都按名称列出，并标明显存和完整的月费。如果您想要的 GPU 不在列表中，请咨询：我们通常可以采购。

预装哪个驱动和 CUDA 版本？

由您自行安装。服务器交付时带有干净的操作系统和 root 权限，您可以固定驱动、CUDA 或 ROCm 版本，以及代码测试所用的框架版本。如果您希望在交付时驱动已就位，请在订单中注明确切版本。如果 GPU 必须支持特定的 CUDA 版本，请在付款前咨询，我们会为您核实。

一台服务器能装两块 GPU 吗？

通常可以，我们会人工报价：机箱空间、GPU 宽度、PCIe 通道和电源决定了可安装的数量。告诉我们 GPU 型号，我们会回复机箱、数量和交货时间。常见原因是显存而非速度，因为两块 48 GB GPU 可以容纳一块 80 GB GPU 无法容纳的模型。多 GPU 和多节点服务器介绍了下一步方案。

以后可以更换 GPU 吗？

可以，就在您现有的服务器中：无需迁移、无需重装、无需更换 IP 地址。这是一次计划内的维护，会有短暂停机，账单按两块 GPU 的差价精确调整。内存、硬盘和更快的端口也按同样规则添加。

如果 GPU 出现故障怎么办？

我们会在您的支持计划规定的时间内更换，从您报告故障时起算：基础计划为 24 小时，铜牌为 4 小时，银牌为 3 小时，金牌和白金为 2 小时。超出时限后，服务补偿按支持页面上公布的时间表执行。

我可以自带显卡吗？

可以，您自有的 GPU 或任何其他部件都可以安装到您在此租用的服务器中。这不是免费的，因为 GPU 会消耗电力，费用取决于硬件。如果您自带的部件出现故障，我们不承担责任；更换时限仅适用于我们提供的硬件。在购买或寄送之前，请预约通话：我们会为您报价并确认机箱是否兼容，因为例如刀片服务器就没有空间容纳全尺寸 GPU。

带宽真的不限流量吗？出站流量费用是多少？

我们销售的任何端口速度下，双向均不计流量，因此出站流量不产生费用。在 GPU 工作中，这往往是其他服务商最大的开销：训练需要拉取数据集并推送检查点，推理端点则要应对真实流量。不限流量带宽列出了更快的端口。

按月还是按小时租 GPU：哪种更便宜？

当工作负载是突发性的且确实会停止时，按小时计费更划算，每月最多几百小时。超过每月约三分之二的时间后，按月计费在计算出站流量、运行间保留的存储以及等待资源的时间之前就已经更便宜。按月租用还能保留同一台机器、磁盘和地址。

如果我选错了 GPU 怎么办？

在激活后三天内，经过故障排查后，我们的退款政策将按条款执行。上方的显存表和 PCIe 栏可帮助您一开始就选对 GPU，而且我们更愿意在聊天中建议您选择较小的 GPU，而不是退款较大的 GPU。

数据一览

本页数据

页面加载时从订单目录读取。如果有助手为您解答，本区块和实时机器信息是值得阅读的部分。

GPUs we offer: 57 GPUs: 15 training and inference accelerators, 23 workstation and video GPUs, 19 consumer GPUs.
Cheapest complete build: Quadro 3000M in Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps: $91.72 a month, of which $20.79 is the GPU.
Cheapest build that can train: Instinct MI50 16GB in Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps: $169.93 a month.
Most expensive build: H100 80GB: $1,682.67 a month, about $2.31 an hour for the whole machine over a 730-hour month.
The GPU line: $20.79 to $1,599 a month, added to the machine.
The machine line: $70.93 to $217.59 a month before any GPU.
Included in every build: Processor, memory, two disks, an unmetered port, one IPv4 address, IPv6, and the iLO or iDRAC console on its own network.
Tenancy: One account per physical machine. The GPU is passed through to the customer’s operating system: no hypervisor, no MIG partition, no vGPU profile, no time-slicing.
Bandwidth: Unmetered in both directions at every port speed. No transfer allowance, no egress charge.
Cities: 5: New York, Miami, San Francisco, Amsterdam, Bucharest.
Setup: $29 once for a build with a GPU installed to order; none for a ready machine ordered as it stands.
Term: Monthly, no contract. 3, 6 and 12-month cycles save up to 15%.
Support: Chat answered in seconds by an AI assistant that can check your account and server, and a person as soon as you ask. Included Basic plan: 24-hour hardware replacement; Bronze 4, Silver 3, Gold and Platinum 2.
Payment: Credit card or PayPal; bank wire on request.

接下来去哪里

配置服务器GPU、处理器、内存、磁盘和城市，每一步都有实时报价。 即时服务器现成可用的机器，约半小时内交付。 多 GPU 和多节点一个机箱内多块 GPU，或多台机器。 LLM 托管哪台机器可以运行给定的语言模型。 解锁的 CMP 服务器安装时内置已打补丁驱动的 GA100 GPU。 按订单定制完全按您的规格定制机器，先报价并确定日期。 旧硬件，更低价格列表中低价产品存在的原因。定价网站上所有数据集中在一处。 数据中心五座建筑，以及哪座离您的用户最近。 GPU 市场出租您已有的 GPU，或租用他人的 GPU。

选好 GPU，我们围绕它构建服务器。

打开配置器并选择任意 GPU，或告诉我们您的工作负载，我们会说明哪款 GPU 合适，包括何时较便宜的型号就足够。

配置 GPU 服务器

GPU 独立服务器。整块 GPU 归你独享，没有其他人共用。

NVIDIA 和 AMD GPU 服务器，每台都按完整机器定价

GPU 独立服务器托管：整块 GPU 归你所有

两行相加：机器和 GPU

在找便宜的 GPU 独立服务器？

从拥有者手中租一台带 GPU 的服务器

你的模型需要多少 GPU 显存

可搭载 GPU 的服务器，以及每台机器提供的 PCIe 总线

Intel Xeon E5-2600 v1/v2

Intel Xeon E5-2600 v3/v4

Intel Xeon Silver / Gold

AMD EPYC

总线代际何时重要

在你添加任何东西之前，这里的 GPU 服务器托管已包含什么

Root 权限和你自己的驱动栈

独立网络上的控制台

不计量的端口

无需工单的重装

秒级响应，需要时有人接手

五个城市，自有网络

租用带 GPU 的独立服务器能有多快

GPU 已装在上架的机器中

我们从库存中安装 GPU

GPU 需要采购

GPU 处于配额分配中

AI 生成的媒体：适合整块 GPU 的工作类型

GPU 独立服务器问题解答

本页数据

接下来去哪里

选好 GPU，我们围绕它构建服务器。