La GPU completa
Passthrough PCIe hacia tu sistema operativo. No hay hipervisor, partición MIG, perfil vGPU ni división por tiempo entre tu código y la GPU.
Servidores GPU para entrenamiento e inferencia
Servidor de IA dedicado GPU completa. Tu sistema operativo. Un puerto por nodo.
Un servidor de IA dedicado es una máquina física completa con su GPU pasada directamente a tu propio sistema operativo, alquilada por meses. Los nuestros empiezan en $169.93 al mes con Instinct MI50 (16 GB HBM2), y escalan de dos maneras: más GPUs en un mismo chasis, o más nodos en un mismo switch.
- Inquilino único
- Passthrough PCIe
- Sin tarifa de salida
- 5 ciudades
- Sin permanencia
Esta página es para el paso posterior a la primera GPU. Compara todas las plataformas en las que montamos una GPU según carriles PCIe, velocidad de puerto y ciudad, calcula el precio de la red de un clúster por nodo y ofrece las fechas de entrega antes de que hagas el pedido.
- 4platforms that take a GPU
- 100 Gbpstop port, per node
- 2sockets, one chassis
- 1 TBRAM, one chassis
- 5cities
Incluido en cada nodo
Qué incluye cada servidor de IA dedicado
Las mismas cuatro cosas en un servidor con una sola GPU para aprendizaje profundo o en un clúster de veinte.
Tu propio stack
Un sistema operativo limpio con acceso root. Tú fijas el driver, la versión de CUDA o ROCm y las builds del framework con las que se probó tu código.
Un puerto sin medidor
Sin medición en ambos sentidos. Los datasets que entran, los checkpoints que salen y la replicación entre nodos nunca aparecen como una línea de salida.
Respuestas en segundos
Nuestro chat de IA responde en segundos y puede revisar tu cuenta y tus servidores mientras trabaja. Pide una persona y una toma el relevo.
Escalar más allá de una GPU
Servidor de aprendizaje profundo: añade una GPU o añade una máquina
Resuelven carencias distintas, cuestan distinto y llegan en fechas distintas. Encuentra dónde está el límite antes de comparar precios.
Servidor multi-GPU
Más GPUs en un mismo chasis
Elige esto cuando la GPU es el límite: el modelo ya no cabe en la memoria de la GPU, o las colas de trabajo se acumulan en la GPU mientras el resto de la máquina está inactivo. Más de una GPU por chasis se cotiza, no se marca, porque el espacio de ranura, los carriles PCIe y la fuente de alimentación determinan la cantidad para cada modelo de GPU.
- Lo decide
- El chasis. Indica la GPU y la cotización indica el chasis, la cantidad y la fecha.
- Ten esto en cuenta
- Dos GPUs mantienen dos grupos de memoria. Un trabajo grande debe dividirse con paralelismo de tensor o de pipeline y paga por el tráfico entre las GPUs. Los trabajos independientes simplemente se ejecutan el doble de rápido a la vez.
Clúster de GPUs
Más máquinas en un mismo switch
Elige esto cuando la máquina es el límite. La plataforma de GPU más grande de aquí se detiene en 2 sockets y 1 TB de RAM. A partir de ahí, la siguiente unidad de capacidad es otro servidor.
- Lo decide
- La ciudad y el puerto. Los nodos que trabajan juntos van en un mismo edificio, y cada uno paga por su propio puerto.
- Ten esto en cuenta
- Un clúster aquí es un conjunto de servidores separados, cada uno pedido, facturado, ampliado y sustituido por su cuenta. No hay un SKU de clúster, así que no hay prima de clúster ni cantidad mínima de nodos.
¿No sabes de qué lado estás? Envía el tamaño del modelo, el dataset y la fecha límite por . Si una sola máquina lo cubre, te lo decimos.
En vivo desde el catálogo
Plataformas de servidores de machine learning, lado a lado
Todas las plataformas en las que montamos una GPU, según las cifras que dimensionan un clúster. Las generaciones PCIe coinciden con la página de GPUs. Todas las demás cifras provienen del catálogo de pedidos cada vez que se carga esta página.
| Platform | PCIe to the GPU | Port ceiling | Sockets | RAM ceiling | Cities |
|---|---|---|---|---|---|
| Intel Xeon Silver / Gold | 48 lanes per socketPCIe 3.0 | 100 Gbps1 Gbps included | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v3/v4 | 40 lanes per socketPCIe 3.0 | 40 Gbps1 Gbps included | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v1/v2 | 40 lanes per socketPCIe 3.0 | 20 Gbps1 Gbps included | 2 | 256 GB | 3 |
| AMD EPYC | 128 lanes per socketPCIe 4.0 | 20 Gbps1 Gbps included | 2 | 1 TB | 2 |
- PCIe hacia la GPU limita la transferencia host-GPU: streaming de lotes de entrenamiento, carga de escenas, cualquier cosa que se desborde de la memoria de la GPU. Un modelo que permanece cargado apenas lo usa.
- Tope de puerto limita la transferencia nodo a nodo. Una sola máquina nunca lo nota. Un trabajo dividido entre dos máquinas depende de él.
- Ciudades es lo primero para un clúster. Una plataforma que tu ciudad no tiene no es una opción.
- La disyuntiva: el bus más ancho, AMD EPYC en PCIe 4.0, llega como máximo a 20 Gbps. El puerto de 100 Gbps está en Intel Xeon Silver / Gold, en un bus más antiguo. Ninguna plataforma tiene ambos, así que decide cuál necesita tu trabajo.
Qué GPU va en cada plataforma, y su precio mensual junto a la máquina a la que pertenece, está en servidores dedicados con GPU.
Redes de clúster
Puertos de clúster de GPUs, con precio por nodo
Un puerto se compra por máquina, así que la red bajo un clúster es la misma línea una vez por nodo, cada mes. La tabla hace esa multiplicación por ti.
| Port | 1 node | 2 nodes | 4 nodes | 8 nodes | Platforms |
|---|---|---|---|---|---|
| 1 Gbps | included | included | included | included | all 4 |
| 2 Gbps | $189 | $378 | $756 | $1,512 | all 4 |
| 3 Gbps | $299 | $598 | $1,196 | $2,392 | all 4 |
| 5 Gbps | $459 | $918 | $1,836 | $3,672 | all 4 |
| 10 Gbps | $529 | $1,058 | $2,116 | $4,232 | all 4 |
| 20 Gbps | $1,629 | $3,258 | $6,516 | $13,032 | all 4 |
| 40 Gbps | $2,799 | $5,598 | $11,196 | $22,392 | 2 of 4 |
| 100 Gbps | $3,999 | $7,998 | $15,996 | $31,992 | 1 of 4 |
- Los escalones no son lineales. En varios puntos, más nodos un escalón más abajo cuestan menos que menos nodos un escalón más arriba. Si el trabajo se particiona bien, eso compra un servidor extra.
- Los escalones superiores son más estrechos. Los puertos más rápidos existen en menos plataformas, y no en la que tiene el bus más ancho.
- Ethernet, dicho claramente. El enlace entre dos de nuestras máquinas es un puerto Ethernet. No hay línea InfiniBand ni puente GPU a GPU entre máquinas en ningún formulario de pedido. Si tu trabajo lo necesita, pregunta antes de pedir: es una cotización, y la respuesta puede ser no.
Todas las velocidades son sin medición en ambos sentidos y sin límite de transferencia. Para un puerto en una máquina, consulta ancho de banda sin medición.
Ubicación
Elige la ciudad antes que la plataforma
Los nodos que comparten un trabajo pertenecen a un mismo edificio, y nuestras cinco ciudades no tienen todas las mismas plataformas. New York and Bucharest las tienen todas. Comprueba primero la ciudad y luego configura.
- New York4 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
- Bucharest4 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
- Miami3 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2
- San Francisco2 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4
- Amsterdam2 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4
La energía, los operadores y el acceso de cada edificio están en centros de datos. Si la latencia entre dos de nuestras ciudades importa para tu diseño, pide a soporte que la mida entre esas salas.
Del pedido al rack
Las fechas de entrega vienen con la cotización
Una construcción multinodo puede implicar varias máquinas y una orden de compra de piezas. La cotización indica la pieza más lenta antes de que pagues, usando los mismos plazos que build to order.
- ~30 min
En rack, tal como está
La máquina ya existe y se entrega. Servidores instantáneos enumera lo que está en rack ahora, y es el primer lugar donde buscar los nodos sencillos de un clúster.
- 4–24 h
Construido desde nuestro stock
GPUs instaladas, discos configurados, sistema operativo instalado. Varios nodos se construyen en paralelo.
- 5–10 días
Piezas compradas
Una pieza que no tenemos en el estante se pide primero. Para un chasis multi-GPU este es el caso habitual, y el chasis suele ser la pieza lenta.
- 10–15 días
GPUs bajo asignación
Los aceleradores actuales se envían cuando el distribuidor los envía. El hardware comprado para un pedido se paga con tres meses por adelantado.
Días laborables en las dos últimas filas. Todos los plazos empiezan una vez que el pago y la revisión antifraude se aprueban. En un primer pedido grande, una transferencia bancaria suele pasar la revisión más rápido que un pago con tarjeta.
Respuestas
Preguntas sobre servidores dedicados de IA
¿Qué es exactamente un servidor dedicado de IA?
Un servidor físico alquilado a un solo cliente, con una o más GPU pasadas directamente al sistema operativo que ese cliente instala. No hay ningún hipervisor entre tu código y la GPU, y nada en la máquina se comparte: los núcleos, la memoria, los discos, la GPU completa y el puerto de red son tuyos, con acceso root.
¿Cuánto cuesta al mes un servidor dedicado de IA?
El precio completo más bajo con una GPU de clase entrenamiento es $169.93 al mes: Instinct MI50 (16 GB HBM2) en Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps. Las GPU más grandes cuestan más, y cada una aparece con su precio mensual completo en Servidores dedicados con GPU. Una configuración con una GPU montada bajo pedido añade un coste único de instalación de $29. En un clúster, cada nodo paga también por su propio puerto por encima de la velocidad incluida.
¿Qué GPU es mejor para un servidor de aprendizaje profundo?
Empieza por la memoria de la GPU, no por la velocidad. Los pesos, las activaciones y el estado del optimizador tienen que caber, y un trabajo que no cabe no se arregla con una GPU más rápida. Tenemos 15 modelos de GPU de clase entrenamiento, con hasta 80 GB de memoria en una sola GPU. Para entrenamiento que transmite lotes desde el host, revisa también la columna PCIe; para servir un modelo que permanece cargado, importa mucho menos.
¿Puedo poner varias GPU en un servidor dedicado de IA?
A menudo sí, y se cotiza en lugar de marcarse en el checkout. El espacio para las ranuras, el ancho de la GPU, las líneas PCIe por socket y la fuente de alimentación determinan la cantidad para un chasis dado. Dinos la GPU en el chat y la cotización vuelve con el chasis, la cantidad y una fecha. Dos GPU no combinan su memoria a menos que tu framework divida el modelo entre ellas.
¿Ofrecen clústeres de GPU con InfiniBand?
No como artículo de catálogo. Los nodos se conectan por Ethernet, un puerto por nodo, desde 1 Gbps incluido hasta 100 Gbps. InfiniBand, o un puente GPU a GPU entre máquinas, es una cotización, y la respuesta puede ser no. Pregunta antes de planificar un trabajo en torno a ello.
¿A qué velocidad pueden comunicarse dos de mis servidores entre sí?
A la velocidad del más lento de sus dos puertos. El puerto superior es 100 Gbps, disponible en Intel Xeon Silver / Gold. Mantén los nodos en una misma ciudad: entre ciudades, la distancia añade latencia que un puerto más rápido no elimina.
¿El tráfico entre mis nodos está medido?
No. Cada puerto es sin medición en ambas direcciones, sin límite de transferencia y sin cargo por salida. Copiar conjuntos de datos, sincronizar gradientes y escribir puntos de control entre tus nodos cuesta el precio del puerto y nada más.
¿Comparto la GPU con otros clientes?
No. Una máquina, una cuenta. La GPU está en passthrough PCIe, sin partición MIG, sin perfil vGPU y sin división de tiempo, así que el benchmark que ejecutas el primer día sigue siendo válido el día noventa.
¿Qué versión de driver y CUDA viene instalada?
Las que tú instales. El servidor se entrega con un sistema operativo limpio y acceso root, y tú eliges el driver, la versión de CUDA o ROCm y las versiones del framework. Si quieres un driver instalado en la entrega, indica la versión exacta en el pedido.
¿Qué tan rápido se entrega un servidor dedicado de IA?
Aproximadamente 30 minutos después de la aprobación del pago para una máquina que ya está en rack y se toma tal cual. De 4 a 24 horas cuando la construimos desde nuestro stock, de 5 a 10 días laborables cuando se compra una pieza, y de 10 a 15 días laborables para GPU sujetas a asignación de distribuidor. Una cotización para varios nodos indica la pieza más lenta antes de que pagues.
¿Dónde están ubicados sus servidores de IA?
Nueva York, Miami, San Francisco, Ámsterdam y Bucarest. No todas las ciudades tienen todas las plataformas de GPU: New York and Bucharest tienen todas las 4. Las máquinas en Ámsterdam y Bucarest se facturan en euros.
¿Puedo alquilar un servidor de IA mensualmente, sin contrato?
Sí. Cada máquina funciona mes a mes sin nada que firmar. Los ciclos de 3, 6 y 12 meses ahorran hasta un 15%. El hardware comprado para un solo pedido se paga tres meses por adelantado.
Para que conste
Esta página en cifras
Leído del catálogo de pedidos cuando se sirvió esta página, las mismas filas desde las que factura el checkout.
- Lowest price
- $169.93 a month, complete: Instinct MI50 (16 GB HBM2) in Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps. Every other GPU and its monthly price: GPU dedicated servers.
- Training-class GPUs
- 15 models classed ML / HPC in the catalog, up to 80 GB of GPU memory each.
- GPUs per chassis
- One is a checkbox. More than one is quoted with the GPU named, because slot clearance, lanes and the power supply decide the count.
- Nodes per cluster
- Any number. Each node is its own server, invoice and term; no cluster SKU, no cluster premium, no minimum.
- GPU platforms
- 4. Widest bus: AMD EPYC (PCIe 4.0, 128 lanes per socket), port ceiling 20 Gbps, 2 of 5 cities. Fastest port: 100 Gbps on Intel Xeon Silver / Gold.
- Link between nodes
- Ethernet, one port per node: 1 Gbps included on each, priced steps up to 100 Gbps. No InfiniBand or GPU bridge in the catalog; ask for a quote.
- One machine tops out at
- 2 sockets and 1 TB of RAM.
- Cities
- 5: New York, Miami, San Francisco, Amsterdam, Bucharest. All GPU platforms in New York and Bucharest.
- Traffic
- Unmetered in both directions at every port speed. No egress charge.
- Tenancy
- One account per physical machine. GPUs on PCIe passthrough: no hypervisor, MIG, vGPU or time-slicing.
- Software
- Clean operating system with root. You install the driver, CUDA or ROCm release.
- Delivery
- About 30 minutes for a racked machine taken as it is; 4 to 24 hours built from stock; 5 to 10 working days for bought-in parts; 10 to 15 for allocation parts.
- Term
- Monthly, no contract. 3, 6 and 12-month cycles save up to 15%. Hardware bought in for one order is paid three months up front.
- Support
- AI chat that answers in seconds and can check your account and servers; a person on request.
Publicadas por sus dueños
Máquinas multi-GPU y enlazadas en el marketplace
Máquinas con dos o más GPU, y pares enlazados, que los dueños publican en nuestro marketplace a su propio precio mensual. Primcast, nuestra empresa hermana, publica algunas; esas se alquilan en primcast.com.
Páginas relacionadas
Donde se responde la siguiente pregunta
Servidores dedicados con GPUCada GPU que montamos, con su precio junto a su máquina. Alojamiento de LLMEjecutar un modelo de lenguaje en una máquina que controlas. NVIDIA DGX SparkUna máquina GB10, y hasta cuatro de ellas conectadas en red. Ancho de banda sin mediciónUn puerto en una máquina, cada velocidad por encima de la incluida. Construcción bajo pedidoUna especificación completa, con precio y fecha antes de pagar. Servidores instantáneosLo que está en rack y encendido ahora mismo. Centros de datosLos cinco edificios donde puede vivir un clúster. PreciosCada cifra mensual del sitio, en una sola tabla. Hardware más antiguo, precio más bajoEl extremo más económico de estas plataformas, y por qué sigue en rack. SoporteVentanas de reemplazo por plan, y los créditos detrás de ellas.
Dinos el modelo, los datos y la fecha límite
Configura ahora la opción más económica, o describe el trabajo en el chat y obtén una cotización para las GPU, los nodos y la fecha.