AMD Instinct GPU sunucuları

AMD Instinct MI210'u çıplak donanım altyapısında devreye alın

AMD Instinct MI210 hızlandırıcılı, HPE kurumsal sınıf çıplak donanım sunucusu — makine öğrenimi ve yüksek performanslı hesaplama için 64 GB HBM2e. Bir dil modeli için donanım boyutlandırmak farklı bir sorudur: bunun yerine LLM barındırma sayfasından başlayın.

Yapılandırmaya devam et

1.638 GB/s bellek bant genişliğine sahip 64 GB HBM2e. PCIe 4.0 kartında 2. Nesil CDNA™ mimarisi. HPE ProLiant kurumsal altyapısı.

AMD Instinct MI210 çıplak donanım sunucuları

Makine öğrenimi ve yüksek performanslı hesaplama için tasarlandı. MI210, yoğun eğitim, çıkarım ve HPC uygulamaları için 2. Nesil CDNA™ hesaplama mimarisini 64 GB HBM2e bellek ile birleştirir.

Maksimum hesaplama verimi

2. Nesil CDNA™ mimarisi, maksimum verim gerektiren derin öğrenme eğitimi ve bilimsel hesaplama iş yükleri için çığır açan hesaplama performansı sunar.

Standart PCIe form faktörü

MI210, MI200 serisi silikonu standart bir PCIe 4.0 kartına taşır; böylece özel hızlandırıcı platformları yerine kurumsal HPE ProLiant sunucularında devreye alınır.

Devasa bellek kapasitesi

ECC'li 64 GB HBM2e, büyük ölçekli modellerin eğitimi ve çıkarımı ile bellek yoğun HPC iş yüklerini mümkün kılar; 1.638 GB/s bant genişliği hesaplama birimlerini besler.

MI200 serisinin PCIe üyesi

MI250 ve MI250X, özel eksa ölçekli platformlar için OAM modülleridir. MI210 ise aynı 2. Nesil CDNA™ mimarisini standart bir PCIe 4.0 kartına taşır — bu yüzden rafımızdaki Instinct hızlandırıcısıdır.

2. Nesil CDNA™ mimarisi

Ölçekte paralel işleme iş yükleri için olağanüstü yoğunluk ve güç verimliliği sunan, amaca yönelik tasarlanmış hesaplama silikonu.

Yapay zeka hızlandırma

Hızlandırılmış derin öğrenme eğitimi, model ince ayarı ve çıkarım dağıtımı için optimize edilmiş matris işlemleri ve karma hassasiyetli hesaplama.

Bellek tutarlılık mimarisi

3. Nesil AMD Infinity mimarisi, GPU hesaplama birimleri ile sistem belleği arasında yüksek bant genişlikli, düşük gecikmeli iletişim sağlayarak veri aktarımını en üst düzeye çıkarır.

GPU ara bağlantısı

AMD Infinity Fabric™ bağlantıları, çoklu GPU eğitimi ve dağıtık hesaplama iş yükleri için MI210 kartları arasında yüksek hızlı eşler arası iletişim sağlar.

AMD Instinct™ iş yükleri için HPE kurumsal altyapısı

HPE ProLiant platformu

HPE ProLiant kurumsal sunucularında devreye alınan AMD Instinct hızlandırıcıları, üretim yapay zeka ve HPC iş yükleri için operatör sınıfı güvenilirlik ve tutarlı performans sunar.

Esnek genişleme

Hızlı donanım sağlama ile GPU altyapınızı talep üzerine ölçeklendirin. Standart yükseltmeler ve ek kapasite genellikle 24 saat içinde devreye alınır.

Uzman destek

GPU altyapı uzmanları, dağıtım, optimizasyon ve sorun giderme konularında yardımcı olmak için canlı sohbet ve e-posta yoluyla günün her saati hazırdır.

	MI210	L40S	A100	H100
GPU Mimarisi	CDNA 2.0	Ada Lovelace	NVIDIA Ampere	Hopper
GPU Belleği	64GB HBM2e	48GB GDDR6	80GB HBM2e	80GB HBM3
GPU Bellek Bant Genişliği	1638 GB/s	864 GB/s	1935 GB/s	3352 GB/s
FP32	22.63 TFLOPS	91.6 TFLOPS	19.5 TFLOPS	51 TFLOPS
TF32 Tensor Çekirdeği	312 TFLOPS	366 TFLOPS	312 TFLOPS	756 TFLOPS
FP16/BF16 Tensor Çekirdeği	181 TFLOPS	733 TFLOPS	624 TFLOPS	1513 TFLOPS
Güç	300W'a kadar	350W'a kadar	400W'a kadar	350W'a kadar
	Yükleniyor...	Yükleniyor...	Yükleniyor...	Yükleniyor...

AMD Instinct MI210 sunucuları hakkında sık sorulan sorular

Eğitim, çıkarım ve yüksek performanslı hesaplama uygulamaları için MI210 GPU hızlandırmalı çıplak donanım sunucularının devreye alınması ve işletilmesiyle ilgili sık sorulan soruların yanıtlarını bulun.

AMD Instinct MI210 nedir ve hangi iş yükleri en çok fayda sağlar?

AMD Instinct MI210, grafik yerine hesaplamaya optimize edilmiş, 2. Nesil CDNA™ mimarisi üzerine kurulu kurumsal sınıf bir hesaplama GPU'sudur. Derin öğrenme eğitimi ve çıkarımı, bilimsel simülasyonlar, hesaplamalı akışkanlar dinamiği, moleküler modelleme ve yoğun paralel işleme yetenekleri gerektiren veri analitiğinde üstün performans gösterir. Bir dil modeli için donanım seçiyorsanız, bu sorunun kendi sayfası var — bkz. LLM barındırma.

MI210, MI250 ve MI250X'ten nasıl farklıdır?

MI250 ve MI250X, özel eksa ölçekli platformlar için üretilmiş OAM modülleridir ve kataloğumuzda yer almazlar. MI210, aynı 2. Nesil CDNA™ mimarisini 64 GB HBM2e ile standart bir PCIe 4.0 kartına taşır; bu nedenle diğer GPU seçeneklerimizle birlikte kurumsal HPE ProLiant sunucularında devreye alınır.

AMD Instinct sunucuları için tipik dağıtım süresi nedir?

Anında teslim sunucular genellikle ödeme doğrulamasının ardından ~30 dakika içinde sağlanır. Özel yapılandırmalar bileşen bulunabilirliğine göre devreye alınır. Tüm AMD Instinct sunucuları, destek talebi gerektirmeden anında işletim sistemi yeniden yüklemeyi destekler ve hızlı yinelemeye olanak tanır. Ağ altyapısı, sürekli yüksek verimli iş yükleri ve düşük gecikmeli bağlantı için optimize edilmiştir.

Hangi yazılım çerçeveleri ve araçları AMD Instinct GPU'larını destekler?

AMD Instinct hızlandırıcıları, PyTorch, TensorFlow, JAX, ONNX Runtime ve diğer önde gelen ML çerçevelerini destekleyen açık kaynaklı bir GPU hesaplama platformu olan ROCm (Radeon Open Compute) üzerinde çalışır. ROCm, kolay CUDA kodu taşımayı sağlayan HIP (Heterogeneous-Compute Interface for Portability) ile doğrusal cebir, FFT, rastgele sayı üretimi ve derin sinir ağları için optimize edilmiş kütüphaneler içerir. Docker ve Kubernetes aracılığıyla tam konteyner desteği, üretim ölçeğinde yapay zeka/ML dağıtımını mümkün kılar.

MI210 hangi belleği sağlar?

MI210, ECC'li 64 GB HBM2e (Yüksek Bant Genişlikli Bellek) taşır ve 1.638 GB/s bellek bant genişliği sunar. Bu kapasite, sürekli ana bilgisayar-hızlandırıcı bellek aktarımı olmadan büyük veri kümelerini ve bellek yoğun HPC iş yüklerini destekler. Sistem RAM'i ve NVMe depolama, sipariş formunda ayrı olarak yapılandırılır; böylece hızlandırıcıdan bağımsız olarak ölçeklenirler.