Serwery GPU AMD Instinct

Wdróż AMD Instinct MI210 na infrastrukturze bare metal

Serwer bare metal klasy korporacyjnej HPE z akceleratorem AMD Instinct MI210 — 64 GB HBM2e do uczenia maszynowego i obliczeń wysokiej wydajności. Dobór sprzętu pod model językowy to inne zagadnienie: zacznij od hostingu LLM.

64 GB HBM2e z przepustowością pamięci 1638 GB/s. Architektura CDNA™ 2. generacji na karcie PCIe 4.0. Infrastruktura korporacyjna HPE ProLiant.

Serwery bare metal AMD Instinct MI210

Zaprojektowane do uczenia maszynowego i obliczeń wysokiej wydajności. MI210 łączy architekturę obliczeniową CDNA™ 2. generacji z 64 GB pamięci HBM2e do intensywnego trenowania, inferencji i zastosowań HPC.

Maksymalna przepustowość obliczeniowa

Architektura CDNA™ 2. generacji zapewnia przełomową wydajność obliczeniową w trenowaniu głębokiego uczenia i naukowych obciążeniach obliczeniowych wymagających maksymalnej przepustowości.

Standardowy format PCIe

MI210 przenosi układy z serii MI200 na standardową kartę PCIe 4.0, dzięki czemu można go wdrażać w korporacyjnych serwerach HPE ProLiant, a nie w wyspecjalizowanych platformach akceleratorów.

Ogromna pojemność pamięci

64 GB HBM2e z ECC umożliwia trenowanie i inferencję modeli wielkoskalowych oraz obciążenia HPC zależne od pamięci, a przepustowość 1638 GB/s stale zasila jednostki obliczeniowe.

Członek serii MI200 w formacie PCIe

MI250 i MI250X to moduły OAM przeznaczone dla wyspecjalizowanych platform eksaskalowych. MI210 przenosi tę samą architekturę CDNA™ 2. generacji na standardową kartę PCIe 4.0 — dlatego to właśnie ten akcelerator Instinct znajduje się w naszej ofercie.

Architektura CDNA™ 2. generacji

Dedykowany układ obliczeniowy zapewniający wyjątkową gęstość i efektywność energetyczną w przetwarzaniu równoległym na dużą skalę.

Akceleracja AI

Zoptymalizowane operacje macierzowe i obliczenia mieszanej precyzji przyspieszają trenowanie głębokiego uczenia, dostrajanie modeli i wdrażanie inferencji.

Architektura spójności pamięci

Architektura AMD Infinity 3. generacji umożliwia komunikację o wysokiej przepustowości i niskich opóźnieniach między jednostkami obliczeniowymi GPU a pamięcią systemową, maksymalizując przepływ danych.

Interkonekt GPU

Łącza AMD Infinity Fabric™ umożliwiają szybką komunikację peer-to-peer między kartami MI210 w trenowaniu wielo-GPU i rozproszonych obciążeniach obliczeniowych.

Infrastruktura korporacyjna HPE dla obciążeń AMD Instinct™

Platforma HPE ProLiant

Akceleratory AMD Instinct wdrażane na korporacyjnych serwerach HPE ProLiant zapewniają niezawodność klasy operatorskiej i stałą wydajność w produkcyjnych obciążeniach AI i HPC.

Elastyczna rozbudowa

Skaluj infrastrukturę GPU na żądanie dzięki szybkiemu udostępnianiu sprzętu. Standardowe modernizacje i dodatkowa pojemność są zwykle wdrażane w ciągu 24 godzin.

Wsparcie eksperckie

Specjaliści ds. infrastruktury GPU dostępni całodobowo przez czat na żywo i e-mail, aby pomóc we wdrożeniu, optymalizacji i rozwiązywaniu problemów.

MI210 L40S A100 H100
Architektura GPU CDNA 2.0 Ada Lovelace NVIDIA Ampere Hopper
Pamięć GPU 64 GB HBM2e 48 GB GDDR6 80 GB HBM2e 80 GB HBM3
Przepustowość pamięci GPU 1638 GB/s 864 GB/s 1935 GB/s 3352 GB/s
FP32 22,63 TFLOPS 91,6 TFLOPS 19,5 TFLOPS 51 TFLOPS
Rdzeń tensorowy TF32 312 TFLOPS 366 TFLOPS 312 TFLOPS 756 TFLOPS
Rdzeń tensorowy FP16/BF16 181 TFLOPS 733 TFLOPS 624 TFLOPS 1513 TFLOPS
Pobór mocy Do 300 W Do 350 W Do 400 W Do 350 W
Ładowanie... Ładowanie... Ładowanie... Ładowanie...

Często zadawane pytania o serwery AMD Instinct MI210

Poznaj odpowiedzi na najczęstsze pytania dotyczące wdrażania i obsługi serwerów bare metal z akceleracją GPU MI210 do trenowania, inferencji i obliczeń wysokiej wydajności.

Czym jest AMD Instinct MI210 i które obciążenia zyskują najwięcej?

AMD Instinct MI210 to korporacyjny procesor GPU obliczeniowy zbudowany na architekturze CDNA™ 2. generacji, zoptymalizowany pod kątem obliczeń, a nie grafiki. Sprawdza się doskonale w trenowaniu i inferencji głębokiego uczenia, symulacjach naukowych, obliczeniowej dynamice płynów, modelowaniu molekularnym i analizie danych wymagającej masywnego przetwarzania równoległego. Jeśli wybierasz sprzęt pod model językowy, to zagadnienie ma własną stronę — zobacz hosting LLM.

Czym MI210 różni się od MI250 i MI250X?

MI250 i MI250X to moduły OAM zbudowane dla wyspecjalizowanych platform eksaskalowych i nie znajdują się w naszym katalogu. MI210 przenosi tę samą architekturę CDNA™ 2. generacji na standardową kartę PCIe 4.0 z 64 GB HBM2e, dzięki czemu można go wdrażać w korporacyjnych serwerach HPE ProLiant obok naszych pozostałych opcji GPU.

Jaki jest typowy czas wdrożenia serwerów AMD Instinct?

Serwery z natychmiastową dostawą są zwykle udostępniane w ciągu ~30 minut od weryfikacji płatności. Konfiguracje niestandardowe wdrażane są w zależności od dostępności komponentów. Wszystkie serwery AMD Instinct obsługują natychmiastowe przeładowanie systemu operacyjnego bez zgłoszeń do pomocy technicznej, co umożliwia szybkie iteracje. Infrastruktura sieciowa jest zoptymalizowana pod kątem długotrwałych obciążeń o wysokiej przepustowości i łączności o niskich opóźnieniach.

Które frameworki i narzędzia programistyczne obsługują procesory GPU AMD Instinct?

Akceleratory AMD Instinct działają na ROCm (Radeon Open Compute), otwartej platformie obliczeniowej GPU obsługującej PyTorch, TensorFlow, JAX, ONNX Runtime i inne wiodące frameworki ML. ROCm zawiera HIP (Heterogeneous-Compute Interface for Portability), umożliwiający proste przenoszenie kodu CUDA, a także zoptymalizowane biblioteki do algebry liniowej, FFT, generowania liczb losowych i głębokich sieci neuronowych. Pełne wsparcie kontenerów przez Docker i Kubernetes umożliwia wdrażanie AI/ML na skalę produkcyjną.

Jaką pamięć zapewnia MI210?

MI210 posiada 64 GB HBM2e (High Bandwidth Memory) z ECC, zapewniając przepustowość pamięci 1638 GB/s. Ta pojemność obsługuje duże zbiory danych i obciążenia HPC zależne od pamięci bez ciągłego przenoszenia pamięci między hostem a akceleratorem. Pamięć RAM systemu i pamięć NVMe są konfigurowane osobno w formularzu zamówienia, dzięki czemu skalują się niezależnie od akceleratora.