Serwer dedykowany A100 H100 Pełny GPU, Twój system, Twój root.

H100 to generacja następująca po A100. Spośród montowanych przez nas kart PCIe, A100 ma 40 GB HBM2 z przepustowością 1555 GB/s lub 80 GB HBM2e z przepustowością 1935 GB/s oraz interfejs PCIe 4.0. H100 ma 80 GB HBM2e z przepustowością 2039 GB/s, rdzenie Tensor czwartej generacji z FP8 i interfejs PCIe 5.0, a pobiera 350 W w porównaniu z 250 lub 300 W. Wszystkie trzy mają ECC, Multi-Instance GPU i nie mają enkodera wideo.

Najniższa miesięczna cena za kompletny serwer H100 80 GB wynosi $1,682.67. Ta maszyna to Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps, a GPU stanowi $1,599 całości. Konfiguracja z zamontowanym GPU wiąże się z jednorazową opłatą instalacyjną w wysokości $29, a tabela konfiguracji podaje każdą platformę z własną ceną.

Najniższa miesięczna cena za kompletny serwer A100 wynosi $772.47 z GPU 40 GB i $972.47 z GPU 80 GB, każdy w najtańszej maszynie, która go obsługuje. Konfiguracja A100 40 GB to Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps. Pamięć, dyski i szybszy port są wyceniane w formularzu zamówienia.

PCIe. Nasze obudowy przyjmują karty GPU PCIe, więc montowany przez nas H100 to wersja PCIe 80 GB z HBM2e. Moduł SXM5, z HBM3 i poborem do 700 W, wymaga płyty bazowej HGX, której nie ma żaden z naszych serwerów.

Tak, dla modeli mieszczących się w 80 GB przy używanej metodzie treningu. Pełne dostrajanie w precyzji mieszanej z Adamem wymaga około 16 bajtów na parametr przed aktywacjami, więc jeden H100 w pełni trenuje około 5 miliardów parametrów, a adaptery LoRA lub QLoRA rozszerzają to na znacznie większe modele. Powyżej tego zadanie wymaga kilku GPU, co opisują serwery multi-GPU.

Często tak, i jest to wyceniane indywidualnie, a nie zaznaczane przy kasie: o liczbie decydują prześwit obudowy, linie PCIe i zasilacz. Oba GPU mają złącze mostka NVLink, ale w formularzu zamówienia nie ma mostka, więc GPU w jednym serwerze komunikują się przez PCIe, chyba że mostek zostanie wyceniony. Zapytaj na czacie przed złożeniem zamówienia, jeśli zadanie go wymaga.

Tylko maszynę już zamontowaną w szafie, zamówioną w obecnej konfiguracji, z serwerów natychmiastowych. Kosztuje ona swoją cenę miesięczną podzieloną przez 730 godzin, razy 1,3, z rozliczeniem co do sekundy do momentu zwolnienia. Konfiguracja na zamówienie, jak wiersze na tej stronie, jest rozliczana miesięcznie.

Około 30 minut po zatwierdzeniu, gdy maszyna z GPU jest już zamontowana w szafie, od 4 do 24 godzin, gdy montujemy GPU z magazynu, od 5 do 10 dni roboczych, gdy GPU jest kupowane, i od 10 do 15, gdy jest na przydziale. Informujemy, który wariant obowiązuje, zanim pobierzemy jakąkolwiek płatność.

Nie sprzętowo. Żaden z nich nie ma enkodera NVENC, więc kodowanie odbywałoby się programowo na GPU lub procesorze. Dekodują natomiast, mając 5 silników NVDEC w A100 i 7 w H100. Do transkodowania na żywo wybierz GPU z NVENC, takie jak L40S.

Nie. GPU jest przekazywane bezpośrednio do Twojego systemu operacyjnego bez hipernadzorcy pomiędzy, a maszyna ma jednego najemcę. Nadal możesz sam je podzielić za pomocą Multi-Instance GPU na maksymalnie siedem instancji dla własnych zadań.

AI na naszym czacie odpowiada w ciągu sekund i może sprawdzić Twoje konto oraz serwer podczas rozmowy. Powiedz, że chcesz rozmawiać z człowiekiem, a jeden z nas przejmie tę samą rozmowę.