Serveur dédié A100 H100 Le GPU complet, votre OS, votre root.

Le H100 est la génération qui suit l’A100. Parmi les GPU PCIe que nous installons, l’A100 dispose de 40 Go de HBM2 à 1 555 Go/s ou de 80 Go de HBM2e à 1 935 Go/s et d’une interface PCIe 4.0. Le H100 possède 80 Go de HBM2e à 2 039 Go/s, des Tensor Cores de quatrième génération avec FP8 et une interface PCIe 5.0, et il consomme 350 W contre 250 ou 300 W. Tous trois offrent l’ECC, le Multi-Instance GPU et aucun encodeur vidéo.

Le prix mensuel le plus bas pour un serveur H100 80 Go complet est de $1,682.67. Cette machine est Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps, et le GPU représente $1,599 du total. Une configuration avec le GPU installé ajoute des frais d’installation uniques de $29, et le tableau des configurations indique le prix de chaque plateforme.

Le prix mensuel le plus bas pour un serveur A100 complet est de $772.47 avec le GPU 40 Go et de $972.47 avec le GPU 80 Go, chacun dans la machine la moins chère qui l’accepte. La configuration A100 40 Go est Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. La mémoire, les disques et un port plus rapide sont tarifés sur le formulaire de commande.

En PCIe. Nos châssis accueillent des GPU additionnels PCIe, donc le H100 que nous installons est la version PCIe 80 Go avec HBM2e. Le module SXM5, avec HBM3 et jusqu’à 700 W, nécessite une carte de base HGX qu’aucun de nos serveurs ne possède.

Oui, pour les modèles qui tiennent dans 80 Go avec la méthode d’entraînement que vous utilisez. Le fine-tuning complet en précision mixte avec Adam nécessite environ 16 octets par paramètre avant les activations, donc un H100 entraîne entièrement environ 5 milliards de paramètres, et les adaptateurs LoRA ou QLoRA permettent d’aller vers des modèles bien plus grands. Au-delà, le travail exige plusieurs GPU, ce que couvre la page serveurs multi-GPU.

Souvent, et cela fait l’objet d’un devis manuel plutôt que d’une case à cocher lors de la commande : le dégagement du châssis, les lignes PCIe et l’alimentation déterminent le nombre. Les deux GPU disposent d’un connecteur de pont NVLink, mais aucun pont ne figure sur le formulaire de commande, donc les GPU d’un même serveur communiquent via PCIe sauf si un pont est devisé. Demandez dans le chat avant de commander si le travail en nécessite un.

Uniquement une machine déjà en baie, commandée telle quelle, depuis les serveurs instantanés. Elle coûte son prix mensuel divisé par 730 heures, multiplié par 1,3, facturé à la seconde jusqu’à ce que vous la libériez. Une configuration sur commande, comme les lignes de cette page, est facturée au mois.

Environ 30 minutes après validation lorsqu’une machine avec le GPU est déjà en baie, 4 à 24 heures lorsque nous installons un GPU que nous avons en stock, 5 à 10 jours ouvrés lorsque le GPU est acheté, et 10 à 15 lorsqu’il est en allocation. Nous indiquons le cas applicable avant tout prélèvement.

Pas au niveau matériel. Aucun des deux ne possède d’encodeur NVENC, donc l’encodage s’exécuterait en logiciel sur le GPU ou le processeur. Ils décodent en revanche, avec 5 moteurs NVDEC sur l’A100 et 7 sur le H100. Pour le transcodage en direct, choisissez un GPU avec NVENC, comme la L40S.

Non. Le GPU est transmis directement à votre propre système d’exploitation sans hyperviseur intermédiaire, et la machine n’a qu’un seul locataire. Vous pouvez toujours le diviser vous-même avec Multi-Instance GPU en jusqu’à sept instances pour vos propres travaux.

L’IA de notre chat répond en quelques secondes et peut consulter votre compte et votre serveur pendant que vous discutez. Dites que vous voulez une personne et l’un de nous reprend la même conversation.