Serveur dédié L40S 48 Go de mémoire ECC, trois encodeurs AV1, root sur votre propre système d’exploitation.

Un serveur physique avec un GPU NVIDIA L40S 48 Go transmis au système d’exploitation que vous installez, avec accès root, un port non mesuré et personne d’autre sur la machine. Il est facturé au mois, la machine et le GPU figurant sur deux lignes d’une même facture.

Le prix mensuel le plus bas pour un serveur L40S complet est de $532.67. Cette machine est Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps, et le GPU représente $449 du total. Une configuration avec le GPU installé ajoute des frais d’installation uniques de $29, et le tableau des configurations indique le prix de chaque plateforme.

18 176 cœurs CUDA, avec 568 cœurs Tensor de quatrième génération et 142 cœurs RT de troisième génération, sur l’architecture Ada Lovelace. Il embarque 48 Go de GDDR6 avec ECC à 864 Go/s, se connecte en PCIe 4.0 x16 et consomme jusqu’à 350 W.

Pour l’inférence sur un modèle tenant dans 48 Go, souvent oui : il possède des cœurs Tensor FP8, absents de l’A100, et coûte moins cher par mois. Pour l’entraînement de grands modèles, l’A100 80 Go l’emporte généralement, avec 80 Go de HBM2e à 1 935 Go/s contre 48 Go à 864 Go/s, et un connecteur NVLink. Le H100 devance les deux pour l’entraînement.

En 4 bits, oui, avec peu de marge : les poids occupent environ 38 Go sur les 48, ce qui laisse de la place pour un contexte court et un seul utilisateur. En 8 bits, 70 milliards de paramètres nécessitent environ 70 Go, ce qui demande deux GPU ou un GPU de 80 Go.

Ni l’un ni l’autre. Le L40S n’a pas de connecteur NVLink ni de Multi-Instance GPU, donc deux GPU L40S dans un même serveur communiquent via PCIe, et un L40S fonctionne comme un seul GPU. Si la tâche exige l’une de ces fonctions, regardez l’A100 ou le H100.

Oui. Il possède trois moteurs NVENC et trois moteurs NVDEC avec encodage et décodage AV1, donc FFmpeg, OBS ou un transcodeur encode en matériel. L’A100 et le H100 n’ont aucun NVENC.

Oui, mais uniquement pour une machine L40S déjà en baie et commandée sans modification depuis les serveurs instantanés. Elle coûte son prix mensuel divisé par 730 heures, multiplié par 1,3, facturé à la seconde jusqu’à sa libération, avec une heure minimum. Chaque configuration du tableau ci-dessus est mensuelle.

Bare metal. Il n’y a aucun hyperviseur entre votre système d’exploitation et le GPU, et la machine n’a qu’un seul locataire. Vous voyez le L40S complet avec ses 48 Go, pas une portion.

Oui, en tant que configuration devisée manuellement plutôt que cochée au moment de la commande : le châssis, ses lignes PCIe et son alimentation déterminent combien peuvent être installés. Les GPU communiquent via PCIe, car le L40S n’a pas de NVLink. Demandez dans le chat avant de commander, ou consultez les serveurs multi-GPU.

Environ 30 minutes après validation lorsqu’une machine avec L40S est déjà en baie, 4 à 24 heures lorsque nous installons un GPU que nous avons en stock, 5 à 10 jours ouvrés lorsque le GPU est acheté, et 10 à 15 lorsqu’il est en allocation. Nous vous indiquons lequel de ces quatre cas s’applique avant que vous payiez.

Lancez un chat : notre IA répond en quelques secondes et peut consulter votre compte et votre serveur L40S pendant que vous parlez. Dites que vous voulez une personne et l’un de nous reprend la même conversation.