Dedizierte Server · AMD Ryzen AI · monatlich
Ja, Sie können einen mieten: Ein Ryzen-AI-Dedicated-Server ist hier eine komplette AMD-Maschine, entweder der Ryzen AI Max+ 395 für $399 im Monat oder der Ryzen AI 9 HX 370 mit 128 GB Arbeitsspeicher für $249 im Monat. Sie erhalten Root-Zugriff auf die Hardware, einen ungedrosselten 1-Gbit/s-Port und keine Vertragsbindung.
Die CPU-Kerne, die integrierte Radeon und die NPU sitzen in einem Gehäuse und lesen aus einem gemeinsamen Speicherpool. Ein Modell, das in diesen Speicher passt, läuft ohne separate GPU in der Maschine. Genau dafür lohnt sich das Mieten: KI-Inferenz ohne GPU, auf Hardware, auf der niemand anderes eingeplant ist.
Die Ausführungen
Beide sind feste Ausführungen. Prozessor und Arbeitsspeicher kommen als Paar, die Wahl liegt also zwischen Geschwindigkeit und Platz.
Schnelleres Paket
$399/Monat
Wählen Sie diese Ausführung, wenn das Modell in 64 GB passt und schnell antworten soll. Die größere Radeon ist der Grund für den höheren Preis.
Diese Ausführung konfigurierenMehr Arbeitsspeicher
$249/Monat
Die günstigere Maschine bietet doppelt so viel Arbeitsspeicher. Wählen Sie sie, wenn die zu ladenden Gewichte größer sind, als die andere Ausführung fassen kann.
Diese Ausführung konfigurieren| Spec | AMD Ryzen AI Max+ 395 | AMD Ryzen AI 9 HX 370 |
|---|---|---|
| Processor | AMD Ryzen AI Max+ 395 | AMD Ryzen AI 9 HX 370 |
| CPU cores | 16 | 12 |
| AI throughput | 126 TOPS | 80 TOPS (50 on the NPU) |
| Graphics | AMD Radeon 8060S | AMD Radeon 890M |
| Memory | 64 GB DDR5 | 128 GB DDR5 |
| Storage | 1 TB NVMe, one slot | 1 TB NVMe, one slot |
| Network | 1 Gbps unmetered | 1 Gbps unmetered |
| OS | Fedora 43, root | Fedora 43, root |
| Per month | $399 | $249 |
| Setup | $29 once | $29 once |
Preise gelten pro Monat vor Umsatzsteuer. Bestellungen in Bukarest und Amsterdam werden mit demselben Betrag in Euro abgerechnet.
Im Inneren des Pakets
Auf einem GPU-Server wird das Modell vor dem Start in den eigenen Speicher der GPU kopiert. Hier hat die GPU keinen separaten Speicher, daher entfällt das Kopieren.
CPU-Kerne, Radeon und NPU teilen sich den Systemspeicher. Ein einmal geladenes Modell ist für alle drei sichtbar, Sie können es also mit llama.cpp auf den Kernen ausführen, Ebenen über das Vulkan-Backend von llama.cpp auf die Radeon auslagern oder testen, was Ihre Toolchain auf die NPU bringen kann.
Der Kompromiss ist die Geschwindigkeit. Die Speicherbandbreite eines Laptop-Class-Pakets liegt weit unter der einer Rechenzentrums-GPU, daher kommen Tokens langsamer an und es können weniger Nutzer gleichzeitig bedient werden. Für ein Team, einen privaten Assistenten oder einen Batch-Job über Nacht ist das in der Regel in Ordnung. Wenn es nicht mehr reicht, ist ein dedizierter GPU-Server der nächste Schritt.
Modellgrößen
Gewichte benötigen bei 4-Bit-Quantisierung etwa ein halbes Gigabyte pro Milliarde Parameter und bei 8-Bit etwa ein Gigabyte. Lassen Sie etwa ein Viertel des Speichers für das Betriebssystem und den Kontext-Cache frei.
| Modellgröße | Gewichte bei 4-Bit | Gewichte bei 8-Bit | Ryzen AI Max+ 395 | Ryzen AI 9 HX 370 |
|---|---|---|---|---|
| 8B | ca. 5 GB | ca. 9 GB | passt bei 8-Bit | passt bei 8-Bit |
| 14B | ca. 9 GB | ca. 15 GB | passt bei 8-Bit | passt bei 8-Bit |
| 32B | ca. 19 GB | ca. 34 GB | passt bei 8-Bit | passt bei 8-Bit |
| 70B | ca. 40 GB | ca. 75 GB | nur 4-Bit | passt bei 8-Bit |
| 120B | ca. 65 GB | ca. 125 GB | zu groß | nur 4-Bit |
Grobe Planungswerte, nur Gewichte. Lange Kontexte und viele parallele Anfragen benötigen mehr. Der LLM-Server-Planer berechnet es für ein bestimmtes Modell.
Lieferung
4–24 h
Wir halten diese Server nicht gerackt und wartend vor. Jeder wird in der von Ihnen gewählten Stadt gebaut, und der Konfigurator nennt 4 bis 24 Stunden. Da es sich um eine Sonderanfertigung handelt, enthält die erste Rechnung eine einmalige Einrichtungsgebühr von $29.
root
Sie kommt mit einem sauberen Fedora 43 und Root-Zugriff über SSH. Kein Inferenzdienst ist vorinstalliert. Ollama, llama.cpp, PyTorch oder Ihr eigener Build werden in den Versionen installiert, mit denen Ihr Code getestet wurde.
1 Gbit/s
Der Gigabit-Port ist ungedrosselt: kein Transferlimit und keine Überschreitungsposition auf der Rechnung. Eine IPv4-Adresse ist enthalten, IPv6 ist beim Checkout verfügbar.
Gefertigt in New York, Miami, San Francisco, Bucharest and Amsterdam, zum gleichen Monatspreis in jeder Stadt. Abrechnung monatlich; 3, 6 or 12-Monats-Zyklen erhalten 5, 10 and 15 Prozent Rabatt.
Enthalten und optional
Basisverwaltung ist im Preis enthalten: 12-hour Reaktionszeit und Austausch defekter Hardware innerhalb von 24 hours. Die kostenpflichtigen Stufen verkürzen beides und ergänzen Monitoring und Alarme.
| Drive | Per month |
|---|---|
| 1 TB NVMe | included |
| 2 TB NVMe | +$16.40 |
| 3.84 TB NVMe | +$65.40 |
| Tier | Response | Hardware swap | Per month |
|---|---|---|---|
| Basic | 12 h | 24 h | included |
| Bronze | 4 h | 4 h | +$19 |
| Silver | 2 h | 3 h | +$39 |
| Gold | 1 h | 2 h | +$69 |
| Platinum | 30 min | 2 h | +$99 |
Verschlüsselte Backup-Pläne werden ebenfalls beim Checkout angeboten. Der Support beginnt im Live-Chat mit einem KI-Assistenten, der in Sekunden antwortet und Ihr Konto sowie Ihren Server prüfen kann; ein Mensch übernimmt, wann immer Sie es wünschen.
Andere Wege
Antworten
Ja. Wir vermieten zwei als dedizierte Server: den AMD Ryzen AI Max+ 395 mit 64 GB Arbeitsspeicher und den Ryzen AI 9 HX 370 mit 128 GB. Jeder ist eine komplette Maschine mit Root-Zugriff, monatlich abgerechnet ohne Vertrag.
Die Ausführung Ryzen AI Max+ 395 kostet $399 im Monat und die Ausführung Ryzen AI 9 HX 370 $249 im Monat, jeweils mit einer 1 TB NVMe und einem ungedrosselten 1-Gbit/s-Port. Beide werden nach Bestellung gefertigt, daher wird der ersten Rechnung eine einmalige Einrichtungsgebühr von $29 hinzugefügt.
Wählen Sie zuerst nach Arbeitsspeicher. Der HX 370 hat 128 GB, doppelt so viel wie der Max+ 395, und fasst damit Modelle, die die schnellere Maschine nicht aufnehmen kann. Wählen Sie den Max+ 395, wenn Ihr Modell in 64 GB passt und die Antwortzeit wichtiger ist.
Ja, innerhalb seines Arbeitsspeichers. Das Modell lädt in den Systemspeicher, den sich CPU-Kerne, integrierte Radeon und NPU teilen. Ein 4-Bit-70B-Modell hat etwa 40 GB Gewichte und passt auf beide Ausführungen. Es antwortet langsamer als auf einer dedizierten GPU, daher gehört starker Mehrbenutzerverkehr auf einen GPU-Server.
Eine ganze Maschine. Sie sind der einzige Mieter, mit Root-Zugriff auf die Hardware und ohne Hypervisor zwischen Ihnen und dem Prozessor. Arbeitsspeicher, Radeon und NPU werden mit niemandem geteilt.
Er nutzt dieselben Prozessoren, auf denen KI-Mini-PCs basieren. Der Unterschied liegt im Standort: Unserer steht in unserem Rechenzentrum in unserem Netzwerk, mit Strom, Kühlung, Gigabit-Port und Hardware-Austausch, die für Sie übernommen werden.
Nein. Er wird mit einem sauberen Fedora 43 und Root-Zugriff ausgeliefert. Sie installieren den von Ihnen genutzten Inferenz-Stack in den von Ihnen getesteten Versionen.
Ein NVMe-Steckplatz: 1 TB ist enthalten, und der Konfigurator kann ihn gegen 2 TB or 3.84 TB tauschen. Es gibt keinen zweiten Steckplatz, fragen Sie uns daher für RAID oder mehrere Laufwerke nach einer Sonderanfertigung.
Ja. In Bukarest oder Amsterdam bestellte Server werden in Euro abgerechnet, zum gleichen Betrag, den die US-Städte in Dollar berechnen.
4 bis 24 Stunden nach Zahlungsbestätigung. Jede Maschine wird für ihre Bestellung gefertigt und nicht aus dem Regal genommen. Wenn Ihr Termin knapp ist, fragen Sie vor der Bestellung im Chat nach, und wir sagen Ihnen, wie die Warteschlange steht.
Nein. Unsere Ryzen-Reihe besteht aus diesen beiden Ryzen-AI-Maschinen. Für einen Allzweckserver zeigt die Preisliste jede Reihe, die wir verkaufen.
Wählen Sie die Ausführung und die Stadt. Der Konfigurator zeigt die vollständige Monatssumme und die Einrichtungsgebühr, bevor Sie bezahlen.