更快的封装
AMD Ryzen AI Max+ 395 服务器
$399/月
- CPU16 个 Zen 5 核心
- AI126 TOPS
- 显卡AMD Radeon 8060S
- 内存64 GB DDR5
- 磁盘1 TB NVMe
当模型能装入 64 GB 并且您希望它快速响应时,请选择它。更大的 Radeon 是值得多付钱的理由。
配置此版本独立服务器 · AMD Ryzen AI · 按月付费
是的,您可以租一台:这里的 Ryzen AI 独立服务器是一整台 AMD 机器,要么是 Ryzen AI Max+ 395,每月 $399,要么是配备 128 GB 内存的 Ryzen AI 9 HX 370,每月 $249。您拥有硬件的 root 权限、不限流量的 1 Gbps 端口,且无需签订合同。
CPU 核心、集成 Radeon 和 NPU 位于同一个封装中,并从同一个内存池读取数据。能装入该内存的模型无需机器中的独立 GPU 即可运行。这就是租用它的理由:无需 GPU 即可进行 AI 推理,而且硬件上不会调度其他任何人的任务。
配置
两者都是固定配置。处理器和内存成对提供,因此选择在于速度和容量之间。
更快的封装
$399/月
当模型能装入 64 GB 并且您希望它快速响应时,请选择它。更大的 Radeon 是值得多付钱的理由。
配置此版本更多内存
$249/月
更便宜的机器拥有两倍的内存。当您加载的权重超过另一配置所能容纳的大小时,请选择它。
配置此版本| Spec | AMD Ryzen AI Max+ 395 | AMD Ryzen AI 9 HX 370 |
|---|---|---|
| Processor | AMD Ryzen AI Max+ 395 | AMD Ryzen AI 9 HX 370 |
| CPU cores | 16 | 12 |
| AI throughput | 126 TOPS | 80 TOPS (50 on the NPU) |
| Graphics | AMD Radeon 8060S | AMD Radeon 890M |
| Memory | 64 GB DDR5 | 128 GB DDR5 |
| Storage | 1 TB NVMe, one slot | 1 TB NVMe, one slot |
| Network | 1 Gbps unmetered | 1 Gbps unmetered |
| OS | Fedora 43, root | Fedora 43, root |
| Per month | $399 | $249 |
| Setup | $29 once | $29 once |
价格为每月不含销售税的价格。在布加勒斯特和阿姆斯特丹的订单以欧元按相同金额计费。
封装内部
在 GPU 服务器上,模型在运行前会被复制到 GPU 自己的内存中。这里 GPU 没有独立内存,因此无需复制。
CPU 核心、Radeon 和 NPU 共享系统内存。模型加载一次即可对三者可见,因此您可以使用 llama.cpp 在核心上运行它,通过 llama.cpp 的 Vulkan 后端将层卸载到 Radeon,或者测试您的工具链能向 NPU 推送什么。
代价是速度。笔记本级封装的内存带宽远低于数据中心 GPU,因此 token 生成更慢,同时能服务的用户也更少。对于一个团队、一个私人助手或通宵运行的批处理作业来说,这通常没问题。当它不再满足需求时,专用 GPU 服务器是下一步。
模型尺寸
在 4 位量化下,权重每十亿参数约占半 GB,在 8 位下约占 1 GB。请为操作系统和上下文缓存留出大约四分之一的内存。
| 模型大小 | 4 位权重 | 8 位权重 | Ryzen AI Max+ 395 | Ryzen AI 9 HX 370 |
|---|---|---|---|---|
| 8B | 约 5 GB | 约 9 GB | 8 位可装入 | 8 位可装入 |
| 14B | 约 9 GB | 约 15 GB | 8 位可装入 | 8 位可装入 |
| 32B | 约 19 GB | 约 34 GB | 8 位可装入 | 8 位可装入 |
| 70B | 约 40 GB | 约 75 GB | 仅 4 位 | 8 位可装入 |
| 120B | 约 65 GB | 约 125 GB | 太大 | 仅 4 位 |
仅供规划参考的粗略数字,仅指权重。长上下文和大量并行请求需要更多内存。LLM 服务器规划器可针对特定模型进行计算。
交付
4–24 小时
我们不会将这些机器提前上架等待。每台都在您选择的城市组装,配置器报价为 4 到 24 小时。由于是定制构建,第一张发票会包含一次性 $29 安装费。
root
交付时带有干净的 Fedora 43 和通过 SSH 的 root 权限。未预装任何推理服务。Ollama、llama.cpp、PyTorch 或您自己的构建版本,可按您代码测试过的版本安装。
1 Gbps
千兆端口不限流量:没有传输配额,发票上也没有超额费用行。包含一个 IPv4 地址,结账时可选择 IPv6。
在 New York, Miami, San Francisco, Bucharest and Amsterdam 组装,每座城市每月价格相同。按月计费;3, 6 or 12 个月周期可享受 5, 10 and 15% 的折扣。
包含与可选
基本管理已包含在价格中:12-hour 响应,故障硬件在 24 hours 内更换。付费层级可缩短这两项时间,并增加监控和告警。
| Drive | Per month |
|---|---|
| 1 TB NVMe | included |
| 2 TB NVMe | +$16.40 |
| 3.84 TB NVMe | +$65.40 |
| Tier | Response | Hardware swap | Per month |
|---|---|---|---|
| Basic | 12 h | 24 h | included |
| Bronze | 4 h | 4 h | +$19 |
| Silver | 2 h | 3 h | +$39 |
| Gold | 1 h | 2 h | +$69 |
| Platinum | 30 min | 2 h | +$99 |
加密备份计划也可在结账时选择。支持从在线聊天开始,AI 助手可在几秒内回答,并能检查您的账户和服务器;只要您要求,人工客服随时接管。
解答
可以。我们出租两种独立服务器:配备 64 GB 内存的 AMD Ryzen AI Max+ 395,以及配备 128 GB 内存的 Ryzen AI 9 HX 370。每台都是拥有 root 权限的整机,按月计费,无需合同。
Ryzen AI Max+ 395 配置为每月 $399,Ryzen AI 9 HX 370 配置为每月 $249,每台都配有 1 TB NVMe 和不限流量的 1 Gbps 端口。两者均按订单定制,因此第一张发票会加收一次性 $29 安装费。
首先按内存选择。HX 370 拥有 128 GB,是 Max+ 395 的两倍,因此它能容纳更快机器无法容纳的模型。当您的模型能装入 64 GB 且响应时间更重要时,请选择 Max+ 395。
可以,只要在其内存范围内。模型加载到系统内存中,CPU 核心、集成 Radeon 和 NPU 共享该内存。4 位 70B 模型约 40 GB 权重,可装入任一配置。它的响应速度比专用 GPU 慢,因此大量多用户流量应使用 GPU 服务器。
整台机器。您是唯一租户,拥有硬件 root 权限,您与处理器之间没有虚拟机监控程序。内存、Radeon 和 NPU 不与任何人共享。
它使用与 AI 迷你 PC 相同的处理器。区别在于它所在的位置:我们的机器位于我们的数据中心、我们的网络上,电源、散热、千兆端口和硬件更换都由我们为您处理。
不预装。它交付时带有干净的 Fedora 43 和 root 权限。您安装自己使用的推理栈,版本为您测试过的版本。
一个 NVMe 插槽:包含 1 TB,配置器可将其更换为 2 TB or 3.84 TB。没有第二个插槽,因此如需 RAID 或多块硬盘,请向我们咨询定制构建。
可以。在布加勒斯特或阿姆斯特丹订购的服务器以欧元计费,金额与美国城市以美元计费的金额相同。
付款批准后 4 到 24 小时。每台机器都是按订单组装,而非从货架上取用。如果您的日期紧张,请在下单前通过聊天咨询,我们会告知您队列情况。
不。我们的 Ryzen 产品线就是这两款 Ryzen AI 机器。如需通用服务器,价格表列出了我们销售的所有产品线。