NVIDIA DGX Spark • 纽约定制生产

一台GB10 Grace Blackwell机器,除此之外什么都没有。

20 个 Arm 核心,128 GB 统一 LPDDR5 内存,以及 GB10 的 Blackwell GPU,全部部署在纽约的机箱内,采用物理机根目录。没有虚拟机管理程序,没有邻居,也没有虚拟 CPU 计费。每月 599 美元,价格固定不变。

金属上的根不限流量的千兆端口按订单生产,4-24小时内完成工程师全天候在线聊天

机器如何到达你

我们不会把这些东西堆放在架子上,我们宁愿这样说,也不愿假装不是这样。

为订单而建

我们发货的每一台 DGX Spark 都是根据下单订单在纽约工厂组装的。配置器显示的交货时间范围是 4 到 24 小时,我们也正是按照这个时间范围完成工作的。

DGX操作系统已安装

它预装了NVIDIA自家的DGX操作系统,并已集成CUDA协议栈,因此您上手后的第一件事就是工作,而不是费时费力地寻找驱动程序。首次登录即可获得完整root权限。

交通流量不算什么

千兆端口,不限流量。没有大额流量限额,没有突发流量优惠,也没有会变成账单的合理使用额度。附带一个 IPv4 地址和一个 IPv6 地址。

工程师们在上面放了什么

对于某些任务而言,与租用更大服务器的一部分内存相比,在 Blackwell GPU 旁边使用单个连贯内存池要好得多。

微调开放重量模型
无需集群即可进行微调

LoRa 和适用于统一池的开源模型的全面微调。您只需拥有一台设备,它会一直运行直到任务完成,无需等待调度队列。

在私有机器上进行本地推理
您内部进行的推理

在其他人无法触及的硬件上运行模型,并将权重存储在您自己的磁盘上。当数据不能离开您的控制范围,且共享端点不可行时,这是一种明智的选择。

针对布莱克威尔的进攻
首先移植到布莱克威尔

在投入预算购买机架式服务器之前,先确保你的 CUDA 代码能够在 Blackwell 和 Arm 主机上编译和运行。这样更容易发现并解决可能出现的意外情况。

统一内存上的数据科学
不适合 PCIe 跳转的数据集

当 CPU 和 GPU 共享同一个地址空间时,跨总线复制操作就不再是需要优化的部分了。这对于处理 128 GB 容量的数据集进行迭代工作非常有用。

参考规范

配置器打开后显示的是这个版本。这里列出的所有内容,每月 599 美元就能享受到。

加速器

NVIDIA GB10 Grace Blackwell Superchip

中央处理器

20 个 Arm 核心 - 10 个 Cortex-X925,10 个 Cortex-A725

记忆

128 GB LPDDR5,CPU 和 GPU 共用

贮存

1TB NVMe SSD

网络

1 Gbps 不限流量,不共享

地址

包含 1 个 IPv4 地址和 1 个 IPv6 地址

操作系统

NVIDIA DGX 操作系统,预装

地点

美国纽约

可用性

按订单生产,4至24小时

价格

每月 599 美元,无设置费

价格为每月价格,不含适用的销售税。需要本系列未涵盖的产品?可根据您的具体要求定制

DGX Spark,提问和回答

工程师在订购产品前实际向我们提出的问题。

这是一整台机器还是其中的一部分?

一台完整的机器。一台 DGX Spark,一个租户,完全 root,你和 GB10 之间没有任何虚拟化。它的内存是一个由 Arm 内核和 Blackwell GPU 共享的单一内存池,没有分配给其他任何人。

需要多久才能拿到?

我们所有产品均按订单生产,不备库存,配置器显示的交货时间范围为 4 至 24 小时。如果您时间紧迫,请在下单前通过聊天联系我们,我们会告知您实际的生产进度。

它运行的是什么操作系统?

预装 NVIDIA DGX 操作系统,CUDA 堆栈已准备就绪。该系列产品预装 DGX 操作系统,而非我们 x86 服务器提供的更丰富的镜像菜单,因为 NVIDIA 仅在 DGX 平台上支持 GB10。您拥有完整的 root 权限,之后可以根据需要进行更改。

计算出交通流量后,运营成本是多少?

每月 599 美元,不计流量。千兆端口不限流量且不共享,无安装费,续费价格不变。延长计费周期可降低续费价格;任何因素都不会增加续费价格。

我可以要不止一个吗?

是的,它们会连接到同一个网络,放在同一个机房​​里。请告诉我们您打算在这些设备上运行多少台以及运行什么程序,我们会帮您统一下单,而无需您每台设备都单独点击配置器。