Serveurs dédiés GPU · NVIDIA Blackwell · au mois
Un serveur dédié RTX 5090 est une machine bare metal louée au mois, et le GPU complet est remis à votre système d’exploitation par passthrough PCIe. Les machines plus grandes acceptent jusqu’à 4 RTX 5090, et un serveur complet démarre à $472.47 par mois.
La RTX 5080 est l’option 16 Go sur la même architecture, à partir de $312.67 par mois. Les deux prix couvrent le processeur, la mémoire, les disques, le port et une adresse IPv4, le GPU étant facturé comme sa propre ligne mensuelle. Choisissez le GPU selon la mémoire, puis modifiez le reste dans le configurateur.
Les deux GPU
Les deux sont des GPU GeForce Blackwell avec GDDR7, des cœurs Tensor de 5e génération qui exécutent FP4, des cœurs RT de 4e génération et l’encodage matériel AV1. La RTX 5090 possède deux fois plus de cœurs CUDA que la 5080, deux fois plus de mémoire et un bus 512 bits à 1 792 Go/s. Si votre modèle ou votre scène tient dans 16 Go, la 5080 l’exécute pour moins cher par mois, simplement plus lentement.
32 GB GDDR7 · PCIe 5.0 x16 GPU
$472.47/mo, complete server
GPU $399/mo, plus the machine:
Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
16 GB GDDR7 · PCIe 5.0 x16 GPU
$312.67/mo, complete server
GPU $229/mo, plus the machine:
Intel Xeon Silver 4110, 8 cores, 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
Chaque prix correspond à la machine la moins chère qui accepte ce GPU, telle que le configurateur l’ouvre. Le bouton ouvre cette machine avec le GPU déjà sélectionné ; des processeurs plus rapides, plus de mémoire, des disques plus grands et un port plus rapide y sont facturés. Les configurations de Bucarest sont facturées en euros, et le configurateur affiche ce prix lorsque vous choisissez la ville.
Liaison hôte
Les RTX 5090 et RTX 5080 sont conçues pour PCIe 5.0 x16. Les gammes de machines tarifées ci-dessous font fonctionner le slot GPU en PCIe 3.0 ou PCIe 4.0, et la plus rapide d’entre elles est PCIe 4.0. Pour certains travaux, cela détermine quelle machine acheter, voici donc ce que chacune offre au GPU.
L’inférence avec les poids déjà en mémoire GPU, l’encodage vidéo et le rendu une fois la scène chargée. Les données traversent le bus au moment du chargement puis restent sur le GPU, donc une liaison PCIe 3.0 coûte quelques secondes au démarrage et rien ensuite.
Les boucles d’entraînement qui copient un lot depuis la mémoire système à chaque étape, les rendus qui diffusent des textures plus grandes que la mémoire GPU, et plusieurs GPU qui se partagent un modèle. Les GPU GeForce RTX 50 n’ont pas de NVLink, donc le trafic multi-GPU passe aussi par PCIe. Pour ces cas, choisissez la machine avec la liaison la plus rapide dans le tableau ci-dessous.
| Machine | PCIe link to the GPU | RTX 5080 | RTX 5090 |
|---|---|---|---|
| Intel Xeon E5-2600 v3/v4from $73.47/mo without a GPU | PCIe 3.0 | not offered | up to 4 |
| Intel Xeon Silver / Goldfrom $83.67/mo without a GPU | PCIe 3.0 | up to 4 | up to 4 |
| AMD EPYCfrom $217.59/mo without a GPU | PCIe 4.0 | not offered | up to 1 |
| Intel Xeon Gold 3rd gen, DDR4built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
| Intel Xeon Gold 4th gen, DDR5built to order in New York, priced in the configurator | ask us in chat | not offered | up to 2 |
Les prix des machines correspondent à la configuration la moins chère de chaque gamme sans GPU. Les gammes plus récentes montées sur commande sont tarifées dans le configurateur ; demandez-nous dans le chat quelle génération PCIe leur slot GPU utilise avant de commander. Les serveurs RTX 50 peuvent être commandés dans New York, Miami, San Francisco and Bucharest ; les machines d’Amsterdam ne sont pas proposées avec ces GPU. Centres de données décrit chaque bâtiment.
Dimensionnement pour l’IA
Pour l’inférence, la mémoire décide en premier. Les poids occupent les paramètres multipliés par les octets par paramètre, et le GPU a besoin d’un quart à la moitié en plus pour le cache KV et l’exécution. Le tableau applique cette règle à une RTX 5080, une RTX 5090 et une machine dotée de plusieurs 5090.
| Model size (weights) | RTX 508016 GB | RTX 509032 GB | 2 x RTX 509064 GB | 4 x RTX 5090128 GB |
|---|---|---|---|---|
| 7-8 billion parameters | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 13-14 billion parameters | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 30-34 billion parameters | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits | 4-bit: Fits8-bit: Fits |
| 70 billion parameters | 4-bit: No8-bit: No | 4-bit: No8-bit: No | 4-bit: Fits8-bit: No | 4-bit: Fits8-bit: Fits |
Un modèle de 30B en 4 bits ou un modèle de 13B en 8 bits se charge avec du contexte en réserve, derrière votre propre API sur Ollama, llama.cpp ou vLLM. Les cœurs Tensor Blackwell exécutent aussi le FP4 nativement, que les moteurs d’exécution conçus pour cela, comme TensorRT-LLM, utilisent pour servir les modèles 4 bits plus rapidement.
Nos machines plus grandes acceptent jusqu’à 4 d’entre elles, 128 Go de mémoire GPU au total, que vLLM ou llama.cpp répartissent sur un modèle. Deux suffisent pour un modèle de 70B en 4 bits avec de la marge. Pour un GPU avec plus de mémoire, consultez tous les GPU que nous installons ; pour des plans modèle par modèle, serveurs LLM.
Charges de travail
Un modèle sur votre propre machine, derrière votre propre point de terminaison. Les requêtes et les sorties restent sur du matériel loué à un seul compte, et la facture est la même que le GPU soit occupé tout le mois ou inactif.
Blender Cycles effectue le rendu sur CUDA ou OptiX, et les cœurs RT accélèrent le lancer de rayons dans ce logiciel et dans d’autres moteurs de rendu GPU. Installez le système d’exploitation requis par votre moteur de rendu et mettez les images en file d’attente pendant la nuit.
La RTX 5090 possède trois encodeurs NVENC et la RTX 5080 deux, chacun gérant H.264, HEVC et AV1 au niveau matériel. Deux décodeurs NVDEC sur chacune déchargent le processeur du côté entrée.
Le pilote GeForce exécute DirectX, Vulkan et OpenGL comme le ferait un ordinateur de bureau. Hébergez un serveur de jeu, une box de cloud gaming ou un poste de travail distant avec un GPU dédié derrière.
Livraison et conditions
Elle est installée et remise sans rien à monter. Serveurs instantanés liste ce qui est en baie actuellement, et ceux-ci peuvent aussi être loués à l’heure.
Un technicien installe le GPU dans la machine que vous avez configurée, construit la matrice de disques et installe le système d’exploitation. La mémoire ou les disques supplémentaires sont ajoutés lors de la même intervention.
Nous commandons la pièce, puis procédons à l’assemblage comme ci-dessus. Vous êtes informé de laquelle des trois options s’applique avant de payer.
Chaque délai commence une fois le paiement et la vérification anti-fraude validés. La plupart des commandes sont validées en quelques heures ; une première commande sur un nouveau compte peut prendre plus de temps.
Les propriétaires listent également des machines RTX 50 sur notre marketplace, chacune à un prix mensuel fixé par le propriétaire. Les annonces qui passent par notre société sœur, Primcast, sont louées sur primcast.com.
Spécifications
| GPU | Memory | Bus | Bandwidth | CUDA cores | Boost | Power | Video |
|---|---|---|---|---|---|---|---|
| RTX 5090 | 32 GB GDDR7 | 512-bit | 1,792 GB/s | 21,760 | 2.41 GHz | 575 W | 3 NVENC, 2 NVDEC |
| RTX 5080 | 16 GB GDDR7 | 256-bit | 960 GB/s | 10,752 | 2.62 GHz | 360 W | 2 NVENC, 2 NVDEC |
Chiffres GPU tels que publiés par NVIDIA pour la série GeForce RTX 50. Les prix, machines, villes et quantités par machine sont lus depuis notre catalogue de commandes, celui que la caisse utilise pour facturer.
Réponses
Un serveur RTX 5090 complet démarre à $472.47 par mois : le GPU à $399 plus la machine la moins chère qui l’accepte, Intel Xeon E5-2620 v4, 8 cores, 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. Un GPU monté sur commande ajoute des frais d’installation uniques de $29, et il n’y a aucun engagement.
Uniquement une machine qui possède déjà le GPU et qui est prise telle quelle : celles-ci sont facturées à l’heure, avec un minimum d’une heure, et la page serveurs instantanés indique lesquelles sont en rack actuellement. Une machine que vous configurez ici est assemblée pour vous et facturée au mois, sans engagement.
Non. NVIDIA vend la RTX 5090 uniquement comme GPU GeForce. Si vous voulez un GPU Blackwell que NVIDIA décline aussi en édition serveur, regardez la RTX PRO 6000 Blackwell, avec 96 Go de GDDR7 et ECC. Nous installons aussi ce GPU de 96 Go, dont le tarif figure sur notre page serveurs RTX PRO 6000, ainsi que la RTX 5090 dans des serveurs rack avec le GPU complet transmis directement.
Oui. Nos machines les plus grandes acceptent jusqu’à 4 RTX 5090, soit 128 Go de mémoire GPU au total, et le configurateur indique le maximum que chaque machine peut recevoir. Chaque GPU constitue sa propre ligne mensuelle, et les GPU communiquent entre eux via PCIe.
Pour l’inférence et le fine-tuning QLoRA, oui. Ses 32 Go accueillent un modèle de 30B en 4 bits ou un modèle de 13B en 8 bits avec de la marge pour le contexte, et deux d’entre eux contiennent un modèle de 70B en 4 bits. Il n’a pas de mode ECC, donc pour les longs entraînements sans points de contrôle, un GPU de centre de données est le choix le plus sûr.
Choisissez selon la mémoire. La RTX 5080 possède 16 Go et 960 Go/s, et un serveur complet démarre à $312.67 par mois ; elle contient un modèle de 8B en 8 bits ou un modèle de 13B en 4 bits. La RTX 5090 possède 32 Go et 1 792 Go/s, pour des modèles plus grands, des scènes plus lourdes et davantage d’encodage simultané.
Pas sur les machines dont nous publions la liaison. Le GPU est en PCIe 5.0 x16, et les lignes tarifées sur cette page font fonctionner le slot en PCIe 3.0 ou PCIe 4.0, le plus rapide étant PCIe 4.0. Pour les lignes plus récentes assemblées sur commande, demandez-nous dans le chat quelle génération le slot utilise. L’inférence, l’encodage et la plupart des rendus ne s’en aperçoivent guère ; l’entraînement qui transfère des données depuis la mémoire système à chaque étape, si.
Non. La machine est louée à un seul compte et le GPU est transmis directement à votre système d’exploitation. Il n’y a ni hyperviseur, ni profil vGPU, ni découpage temporel, et vous installez le pilote NVIDIA et la version CUDA de votre choix.
Environ 30 minutes après l’approbation de la commande lorsqu’une machine avec le GPU est déjà en rack. Lorsque nous installons un GPU de notre stock, comptez de 4 à 24 heures ; lorsqu’il doit être acheté, de 5 à 10 jours ouvrés.
À New York, Miami, San Francisco and Bucharest, sur le réseau propre de Server Room. Les machines qui acceptent les GPU RTX 50 n’y sont pas proposées avec eux à Amsterdam.
Choisissez le GPU et leur nombre, puis le processeur, la mémoire, les disques et la ville. Le configurateur chiffre chaque modification au fur et à mesure.
Tous les GPU que nous installons · Serveurs RTX 4090 · Serveurs LLM · En rack dès maintenant