Server GPU AMD Instinct

Implementa la AMD Instinct MI210 su infrastruttura bare metal

Un server bare metal di livello enterprise HPE con l'acceleratore AMD Instinct MI210 — 64 GB di HBM2e per machine learning e calcolo ad alte prestazioni. Il dimensionamento dell'hardware per un modello linguistico è una questione diversa: parti invece da hosting LLM.

Continua alla configurazione

64 GB HBM2e con larghezza di banda di memoria di 1.638 GB/s. Architettura CDNA™ di 2ª generazione su scheda PCIe 4.0. Infrastruttura enterprise HPE ProLiant.

Server bare metal AMD Instinct MI210

Progettati per machine learning e calcolo ad alte prestazioni. L'MI210 combina l'architettura di calcolo CDNA™ di 2ª generazione con 64 GB di memoria HBM2e per training intensivo, inferenza e applicazioni HPC.

Massima capacità di calcolo

L'architettura CDNA™ di 2ª generazione offre prestazioni di calcolo rivoluzionarie per il training di deep learning e i carichi di lavoro di calcolo scientifico che richiedono la massima capacità di elaborazione.

Fattore di forma PCIe standard

L'MI210 porta il silicio della serie MI200 su una scheda PCIe 4.0 standard, quindi si implementa nei server enterprise HPE ProLiant anziché su piattaforme acceleratrici specializzate.

Capacità di memoria massiccia

64 GB di HBM2e con ECC consentono il training e l'inferenza di modelli su larga scala e carichi di lavoro HPC vincolati alla memoria, con 1.638 GB/s di larghezza di banda che mantengono alimentate le unità di calcolo.

Il membro PCIe della serie MI200

MI250 e MI250X sono moduli OAM per piattaforme exascale specializzate. L'MI210 porta la stessa architettura CDNA™ di 2ª generazione su una scheda PCIe 4.0 standard — ed è per questo che è l'acceleratore Instinct nel nostro catalogo.

Architettura CDNA™ di 2ª generazione

Silicio di calcolo appositamente progettato che offre densità ed efficienza energetica eccezionali per carichi di lavoro di elaborazione parallela su larga scala.

Accelerazione AI

Operazioni su matrici ottimizzate e calcolo a precisione mista per training di deep learning accelerato, messa a punto dei modelli e implementazione dell'inferenza.

Architettura di coerenza della memoria

L'architettura AMD Infinity di 3ª generazione consente comunicazioni ad alta larghezza di banda e bassa latenza tra le unità di calcolo della GPU e la memoria di sistema per massimizzare il throughput dei dati.

Interconnessione GPU

I collegamenti AMD Infinity Fabric™ consentono comunicazioni peer-to-peer ad alta velocità tra le schede MI210 per training multi-GPU e carichi di lavoro di calcolo distribuito.

Infrastruttura enterprise HPE per carichi di lavoro AMD Instinct™

Piattaforma HPE ProLiant

Gli acceleratori AMD Instinct implementati su server enterprise HPE ProLiant offrono affidabilità di livello carrier e prestazioni costanti per carichi di lavoro AI e HPC in produzione.

Espansione flessibile

Scala la tua infrastruttura GPU on-demand con provisioning hardware rapido. Aggiornamenti standard e capacità aggiuntiva generalmente implementati entro 24 ore.

Supporto esperto

Specialisti in infrastrutture GPU disponibili 24 ore su 24 tramite chat dal vivo ed e-mail per assistere con implementazione, ottimizzazione e risoluzione dei problemi.

	MI210	L40S	A100	H100
Architettura GPU	CDNA 2.0	Ada Lovelace	NVIDIA Ampere	Hopper
Memoria GPU	64GB HBM2e	48GB GDDR6	80GB HBM2e	80GB HBM3
Larghezza di banda memoria GPU	1638 GB/s	864 GB/s	1935 GB/s	3352 GB/s
FP32	22.63 TFLOPS	91.6 TFLOPS	19.5 TFLOPS	51 TFLOPS
TF32 Tensor Core	312 TFLOPS	366 TFLOPS	312 TFLOPS	756 TFLOPS
FP16/BF16 Tensor Core	181 TFLOPS	733 TFLOPS	624 TFLOPS	1513 TFLOPS
Potenza	Fino a 300W	Fino a 350W	Fino a 400W	Fino a 350W
	Caricamento...	Caricamento...	Caricamento...	Caricamento...

Domande frequenti sui server AMD Instinct MI210

Ottieni risposte alle domande più comuni sull'implementazione e la gestione di server bare metal con accelerazione GPU MI210 per training, inferenza e applicazioni di calcolo ad alte prestazioni.

Cos'è l'AMD Instinct MI210 e quali carichi di lavoro ne traggono maggior beneficio?

L'AMD Instinct MI210 è una GPU di calcolo di livello enterprise basata sull'architettura CDNA™ di 2ª generazione, ottimizzata per il calcolo piuttosto che per la grafica. Eccelle nel training e nell'inferenza di deep learning, nelle simulazioni scientifiche, nella fluidodinamica computazionale, nella modellazione molecolare e nell'analisi dei dati che richiedono enormi capacità di elaborazione parallela. Se stai scegliendo l'hardware per un modello linguistico, quella domanda ha una pagina dedicata — vedi hosting LLM.

In cosa differisce l'MI210 dall'MI250 e dall'MI250X?

MI250 e MI250X sono moduli OAM progettati per piattaforme exascale specializzate e non fanno parte del nostro catalogo. L'MI210 porta la stessa architettura CDNA™ di 2ª generazione su una scheda PCIe 4.0 standard con 64 GB di HBM2e, motivo per cui si implementa nei server enterprise HPE ProLiant insieme alle nostre altre opzioni GPU.

Qual è il tempo di implementazione tipico per i server AMD Instinct?

I server a consegna immediata vengono generalmente forniti entro ~30 minuti dalla verifica del pagamento. Le configurazioni personalizzate vengono implementate in base alla disponibilità dei componenti. Tutti i server AMD Instinct supportano il riavvio istantaneo del sistema operativo senza richiedere ticket di supporto, consentendo iterazioni rapide. L'infrastruttura di rete è ottimizzata per carichi di lavoro sostenuti ad alto throughput e connettività a bassa latenza.

Quali framework software e strumenti supportano le GPU AMD Instinct?

Gli acceleratori AMD Instinct funzionano su ROCm (Radeon Open Compute), una piattaforma di calcolo GPU open source che supporta PyTorch, TensorFlow, JAX, ONNX Runtime e altri framework ML leader. ROCm include HIP (Heterogeneous-Compute Interface for Portability) che consente il porting diretto del codice CUDA, oltre a librerie ottimizzate per algebra lineare, FFT, generazione di numeri casuali e reti neurali profonde. Il supporto completo dei container tramite Docker e Kubernetes consente l'implementazione AI/ML su scala di produzione.

Quale memoria offre l'MI210?

L'MI210 dispone di 64 GB di HBM2e (High Bandwidth Memory) con ECC, che offrono 1.638 GB/s di larghezza di banda di memoria. Questa capacità supporta grandi set di dati e carichi di lavoro HPC vincolati alla memoria senza continui spostamenti di memoria tra host e acceleratore. La RAM di sistema e lo storage NVMe sono configurati separatamente nel modulo d'ordine, quindi scalano indipendentemente dall'acceleratore.