部署高性能 NVIDIA L40S GPU 服务器,针对 AI 训练、LLM 推理、3D 渲染和视频制作进行了优化。Ada Lovelace 架构配备 48 GB ECC GDDR6 显存和三个支持 AV1 的 NVENC 编码器,可安装到您配置的机器中。
NVIDIA L40S 凭借突破性的 Ada Lovelace 架构性能,在 AI 训练、图形渲染、视频转码和虚拟化方面表现出色。
L40S GPU 实现了卓越的性能指标:Tensor 运算 1466 TFLOPS,RT 核心能力 212 TFLOPS,单精度计算能力 91.6 TFLOPS。
Ada Lovelace
48GB GDDR6,带 ECC
18,176 个
864 GB/s
350 W
第四代 Tensor Core 支持 FP8,为 AI 训练和推理工作负载提供出色的计算性能。
91.6 teraFLOPS
733 teraFLOPS
1,466 teraFLOPS
212 teraFLOPS
NVIDIA L40S GPU 裸金属服务器采用 Ada Lovelace 架构,针对 AI 训练、科学计算和高性能可视化进行了优化。
我们安装的三款数据中心显卡,以服务器中使用的 PCIe 附加卡形式进行比较。
| L40S | A100 80 GB | H100 80 GB | |
|---|---|---|---|
| 架构 | Ada Lovelace | NVIDIA Ampere | Hopper |
| 显存 | 48GB GDDR6,带 ECC | 80GB HBM2e | 80GB HBM2e |
| 显存带宽 | 864 GB/s | 1,935 GB/s | 2,039 GB/s |
| 功耗 | 最高 350W | 最高 300W | 最高 350W |
| 总线接口 | PCIe Gen 4 x16 | PCIe Gen 4 x16 | PCIe Gen 5 x16 |
| 视频编码 | 3 个 NVENC,支持 AV1 | 无 | 无 |
| NVLink | 否 | 连接器,桥接需报价 | 连接器,桥接需报价 |
| 仅显卡,每月 | 加载中... | 加载中... | 加载中... |
也可按月租用:机主在我们市场上列出的 L40S 机器,每台价格由机主设定。部分机器通过我们的姊妹公司 Primcast 列出,这些机器在 primcast.com 上租用。
关于部署和管理用于 AI、渲染和专业可视化工作负载的 NVIDIA L40S GPU 加速独立服务器的常见问题。