Serwery dedykowane · AMD Ryzen AI · miesięcznie
Tak, możesz go wynająć: serwer dedykowany Ryzen AI to u nas cała maszyna AMD — albo Ryzen AI Max+ 395 za $399 miesięcznie, albo Ryzen AI 9 HX 370 z 128 GB pamięci za $249 miesięcznie. Dostajesz root na sprzęcie, nielimitowany port 1 Gbps i brak umowy.
Rdzenie CPU, zintegrowany Radeon i NPU siedzą w jednej obudowie i czytają z jednej puli pamięci. Model, który mieści się w tej pamięci, działa bez dedykowanego GPU w maszynie. To jest powód, by ją wynająć: wnioskowanie AI bez GPU, na sprzęcie, na który nikt inny nie jest planowany.
Konfiguracje
Obie to stałe konfiguracje. Procesor i pamięć występują w parze, więc wybór jest między szybkością a przestrzenią.
Szybszy pakiet
$399/msc
Wybierz go, gdy model mieści się w 64 GB i chcesz, aby odpowiadał szybko. Większy Radeon to powód, by zapłacić więcej.
Skonfiguruj tę wersjęWięcej pamięci
$249/msc
Tańsza maszyna mieści dwa razy więcej pamięci. Wybierz ją, gdy wagi, które ładujesz, są większe, niż pomieści druga konfiguracja.
Skonfiguruj tę wersję| Spec | AMD Ryzen AI Max+ 395 | AMD Ryzen AI 9 HX 370 |
|---|---|---|
| Processor | AMD Ryzen AI Max+ 395 | AMD Ryzen AI 9 HX 370 |
| CPU cores | 16 | 12 |
| AI throughput | 126 TOPS | 80 TOPS (50 on the NPU) |
| Graphics | AMD Radeon 8060S | AMD Radeon 890M |
| Memory | 64 GB DDR5 | 128 GB DDR5 |
| Storage | 1 TB NVMe, one slot | 1 TB NVMe, one slot |
| Network | 1 Gbps unmetered | 1 Gbps unmetered |
| OS | Fedora 43, root | Fedora 43, root |
| Per month | $399 | $249 |
| Setup | $29 once | $29 once |
Ceny są miesięczne, przed podatkiem od sprzedaży. Zamówienia w Bukareszcie i Amsterdamie są fakturowane tą samą kwotą w euro.
Wewnątrz obudowy
Na serwerze GPU model jest kopiowany do własnej pamięci GPU, zanim ruszy. Tutaj GPU nie ma osobnej pamięci, więc nie ma kopii.
Rdzenie CPU, Radeon i NPU współdzielą pamięć systemową. Model załadowany raz jest widoczny dla wszystkich trzech, więc możesz go uruchomić na rdzeniach z llama.cpp, przenieść warstwy do Radeona przez backend Vulkan llama.cpp albo przetestować, co twój zestaw narzędzi może zepchnąć na NPU.
Kompromisem jest szybkość. Przepustowość pamięci w pakiecie klasy laptopowej jest znacznie niższa niż w GPU z centrum danych, więc tokeny przychodzą wolniej i jednocześnie można obsłużyć mniej użytkowników. Dla jednego zespołu, prywatnego asystenta lub zadania wsadowego działającego przez noc to zwykle wystarcza. Gdy przestaje wystarczać, serwer dedykowany GPU to następny krok.
Dobór modelu
Wagi zajmują około pół gigabajta na miliard parametrów przy kwantyzacji 4-bitowej i około jednego gigabajta przy 8-bitowej. Zostaw mniej więcej ćwierć pamięci na system operacyjny i pamięć podręczną kontekstu.
| Rozmiar modelu | Wagi 4-bitowe | Wagi 8-bitowe | Ryzen AI Max+ 395 | Ryzen AI 9 HX 370 |
|---|---|---|---|---|
| 8B | około 5 GB | około 9 GB | mieści się w 8-bit | mieści się w 8-bit |
| 14B | około 9 GB | około 15 GB | mieści się w 8-bit | mieści się w 8-bit |
| 32B | około 19 GB | około 34 GB | mieści się w 8-bit | mieści się w 8-bit |
| 70B | około 40 GB | około 75 GB | tylko 4-bit | mieści się w 8-bit |
| 120B | około 65 GB | około 125 GB | za duży | tylko 4-bit |
Przybliżone wartości do planowania, same wagi. Długie konteksty i wiele równoległych żądań wymagają więcej. Planer serwerów LLM wyliczy to dla konkretnego modelu.
Dostawa
4–24 h
Nie trzymamy ich złożonych i czekających. Każda jest budowana w mieście, które wybierzesz, a konfigurator podaje 4 do 24 godzin. Ponieważ to konfiguracja niestandardowa, pierwsza faktura zawiera jednorazową opłatę instalacyjną $29.
root
Dociera z czystym Fedora 43 i rootem przez SSH. Żadna usługa wnioskowania nie jest preinstalowana. Ollama, llama.cpp, PyTorch lub twoja własna kompilacja trafiają na wersje, na których twój kod był testowany.
1 Gbps
Port gigabitowy jest nielimitowany: brak limitu transferu i brak pozycji za nadwyżkę na fakturze. Jeden adres IPv4 jest w cenie, a IPv6 jest dostępny przy kasie.
Budowana w New York, Miami, San Francisco, Bucharest and Amsterdam, w każdej lokalizacji za tę samą miesięczną kwotę. Rozliczenie jest miesięczne; cykle 3, 6 or 12-miesięczne dają 5, 10 and 15 procent zniżki.
W cenie i opcjonalnie
Podstawowe zarządzanie jest częścią ceny: odpowiedź w 12-hour i wymiana uszkodzonego sprzętu w ciągu 24 hours. Płatne poziomy skracają oba i dodają monitoring oraz alerty.
| Drive | Per month |
|---|---|
| 1 TB NVMe | included |
| 2 TB NVMe | +$16.40 |
| 3.84 TB NVMe | +$65.40 |
| Tier | Response | Hardware swap | Per month |
|---|---|---|---|
| Basic | 12 h | 24 h | included |
| Bronze | 4 h | 4 h | +$19 |
| Silver | 2 h | 3 h | +$39 |
| Gold | 1 h | 2 h | +$69 |
| Platinum | 30 min | 2 h | +$99 |
Szyfrowane plany kopii zapasowych są również oferowane przy kasie. Wsparcie zaczyna się na czacie na żywo z asystentem AI, który odpowiada w kilka sekund i może sprawdzić twoje konto oraz serwer; człowiek przejmuje rozmowę, kiedy tylko poprosisz.
Inne ścieżki
Odpowiedzi
Tak. Wynajmujemy dwa jako serwery dedykowane: AMD Ryzen AI Max+ 395 z 64 GB pamięci i Ryzen AI 9 HX 370 z 128 GB. Każdy to cała maszyna z dostępem root, fakturowana miesięcznie bez umowy.
Konfiguracja Ryzen AI Max+ 395 kosztuje $399 miesięcznie, a konfiguracja Ryzen AI 9 HX 370 $249 miesięcznie, każda z dyskiem 1 TB NVMe i nielimitowanym portem 1 Gbps. Obie są budowane na zamówienie, więc jednorazowa opłata instalacyjna $29 jest doliczana do pierwszej faktury.
Wybierz najpierw według pamięci. HX 370 ma 128 GB, dwa razy więcej niż Max+ 395, więc mieści modele, których szybsza maszyna nie pomieści. Wybierz Max+ 395, gdy twój model mieści się w 64 GB i czas odpowiedzi ma większe znaczenie.
Tak, w granicach jego pamięci. Model ładuje się do pamięci systemowej, którą współdzielą rdzenie CPU, zintegrowany Radeon i NPU. Model 70B w 4-bit to około 40 GB wag i mieści się na obu konfiguracjach. Odpowiada wolniej niż na dedykowanym GPU, więc duży ruch wielu użytkowników należy kierować na serwer GPU.
Cała maszyna. Jesteś jedynym najemcą, z rootem na sprzęcie i bez hipernadzorcy między tobą a procesorem. Pamięć, Radeon i NPU nie są z nikim dzielone.
Korzysta z tych samych procesorów, na których buduje się mini-PC AI. Różnica polega na tym, gdzie mieszka: nasz stoi w naszym centrum danych, w naszej sieci, z zasilaniem, chłodzeniem, portem gigabitowym i wymianą sprzętu obsługiwaną za ciebie.
Nie. Dostarczany jest z czystym Fedora 43 i dostępem root. Instalujesz stos wnioskowania, którego używasz, w wersjach, które przetestowałeś.
Jedno gniazdo NVMe: 1 TB jest w cenie, a konfigurator może je wymienić na 2 TB or 3.84 TB. Nie ma drugiego gniazda, więc w sprawie RAID lub kilku dysków poproś nas o konfigurację niestandardową.
Tak. Serwery zamawiane w Bukareszcie lub Amsterdamie są fakturowane w euro, tą samą kwotą, którą miasta w USA fakturowane są w dolarach.
4 do 24 godzin po zatwierdzeniu płatności. Każda maszyna jest budowana pod zamówienie, a nie brana z półki. Jeśli twój termin jest napięty, zapytaj na czacie przed zamówieniem, a powiemy ci, jak wygląda kolejka.
Nie. Nasza linia Ryzen to te dwie maszyny Ryzen AI. W sprawie serwera ogólnego przeznaczenia cennik pokazuje każdą linię, którą sprzedajemy.
Wybierz konfigurację i miasto. Konfigurator pokazuje pełną miesięczną sumę i opłatę instalacyjną przed zapłatą.