Servidor dedicado L40S 48 GB de memoria ECC, tres codificadores AV1, root en tu propio sistema operativo.

Un servidor físico con una GPU NVIDIA L40S de 48 GB pasada directamente al sistema operativo que instales, con acceso root, un puerto sin límite de tráfico y nadie más en la máquina. Se factura por mes, con la máquina y la GPU como dos líneas en una sola factura.

El precio mensual más bajo de un servidor L40S completo es $532.67. Esa máquina es Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps, y la GPU es $449 del total. Un montaje con la GPU instalada añade una configuración única de $29, y la tabla de montajes lista cada plataforma con su propio precio.

18.176 núcleos CUDA, con 568 Tensor Cores de cuarta generación y 142 RT Cores de tercera generación, sobre la arquitectura Ada Lovelace. Lleva 48 GB de GDDR6 con ECC a 864 GB/s, se conecta por PCIe 4.0 x16 y consume hasta 350 W.

Para inferencia en un modelo que cabe en 48 GB, a menudo sí: tiene Tensor Cores FP8, de los que carece la A100, y cuesta menos al mes. Para entrenar modelos grandes, la A100 de 80 GB suele ganar, con 80 GB de HBM2e a 1.935 GB/s frente a 48 GB a 864 GB/s, y un conector NVLink. La H100 supera a ambas en entrenamiento.

En 4 bits, sí, con poco margen: los pesos ocupan unos 38 GB de los 48, lo que deja espacio para un contexto corto y un usuario. En 8 bits, 70 mil millones de parámetros necesitan unos 70 GB, lo que requiere dos GPU o una de 80 GB.

Ninguno de los dos. La L40S no tiene conector NVLink ni Multi-Instance GPU, así que dos GPU L40S en un servidor se comunican por PCIe, y una L40S funciona como una sola GPU. Si el trabajo necesita cualquiera de esas funciones, mira la A100 o la H100.

Sí. Tiene tres motores NVENC y tres NVDEC con codificación y decodificación AV1, así que FFmpeg, OBS o un transcodificador codifican por hardware. La A100 y la H100 no tienen NVENC en absoluto.

Sí, pero solo para una máquina L40S ya montada y pedida sin cambios desde servidores instantáneos. Cuesta su precio mensual dividido por 730 horas, multiplicado por 1,3, facturado por segundo hasta que la liberes, con una hora como mínimo. Cada montaje de la tabla anterior es mensual.

Bare metal. No hay hipervisor entre tu sistema operativo y la GPU, y la máquina tiene un solo inquilino. Ves la L40S completa con sus 48 GB, no una porción.

Sí, como un montaje cotizado a mano en lugar de marcado al pagar: el chasis, sus carriles PCIe y su fuente de alimentación determinan cuántas caben. Las GPU se comunican por PCIe, ya que la L40S no tiene NVLink. Pregunta en el chat antes de pedir, o mira servidores multi-GPU.

Unos 30 minutos después de la aprobación cuando ya hay una máquina con L40S montada, de 4 a 24 horas cuando instalamos una GPU que tenemos en stock, de 5 a 10 días laborables cuando la GPU se compra, y de 10 a 15 cuando está en asignación. Te decimos cuál de los cuatro casos aplica antes de que pagues.

Abre un chat: nuestra IA responde en segundos y puede consultar tu cuenta y tu servidor L40S mientras hablas. Di que quieres una persona y uno de nosotros toma el relevo en la misma conversación.