Serwer bare metal klasy korporacyjnej HPE z akceleratorem AMD Instinct MI210 — 64 GB HBM2e do uczenia maszynowego i obliczeń wysokiej wydajności. Dobór sprzętu pod model językowy to inne zagadnienie: zacznij od hostingu LLM.
Zaprojektowane do uczenia maszynowego i obliczeń wysokiej wydajności. MI210 łączy architekturę obliczeniową CDNA™ 2. generacji z 64 GB pamięci HBM2e do intensywnego trenowania, inferencji i zastosowań HPC.
MI250 i MI250X to moduły OAM przeznaczone dla wyspecjalizowanych platform eksaskalowych. MI210 przenosi tę samą architekturę CDNA™ 2. generacji na standardową kartę PCIe 4.0 — dlatego to właśnie ten akcelerator Instinct znajduje się w naszej ofercie.
| MI210 | L40S | A100 | H100 | |
|---|---|---|---|---|
| Architektura GPU | CDNA 2.0 | Ada Lovelace | NVIDIA Ampere | Hopper |
| Pamięć GPU | 64 GB HBM2e | 48 GB GDDR6 | 80 GB HBM2e | 80 GB HBM3 |
| Przepustowość pamięci GPU | 1638 GB/s | 864 GB/s | 1935 GB/s | 3352 GB/s |
| FP32 | 22,63 TFLOPS | 91,6 TFLOPS | 19,5 TFLOPS | 51 TFLOPS |
| Rdzeń tensorowy TF32 | 312 TFLOPS | 366 TFLOPS | 312 TFLOPS | 756 TFLOPS |
| Rdzeń tensorowy FP16/BF16 | 181 TFLOPS | 733 TFLOPS | 624 TFLOPS | 1513 TFLOPS |
| Pobór mocy | Do 300 W | Do 350 W | Do 400 W | Do 350 W |
| Ładowanie... | Ładowanie... | Ładowanie... | Ładowanie... |
Poznaj odpowiedzi na najczęstsze pytania dotyczące wdrażania i obsługi serwerów bare metal z akceleracją GPU MI210 do trenowania, inferencji i obliczeń wysokiej wydajności.