Dedicated sunucular · AMD Ryzen AI · aylık
Evet, kiralayabilirsiniz: buradaki Ryzen AI dedicated sunucu, tam bir AMD makinedir; ister ayda $399 karşılığında Ryzen AI Max+ 395, ister 128 GB bellekle ayda $249 karşılığında Ryzen AI 9 HX 370. Donanım üzerinde root yetkisi, limitsiz 1 Gbps port ve sözleşmesiz kullanım sizindir.
CPU çekirdekleri, tümleşik Radeon ve NPU tek pakette yer alır ve tek bellek havuzundan okur. Bu belleğe sığan bir model, makinede ayrık GPU olmadan çalışır. Kiralamanın amacı budur: başka kimsenin zamanlanmadığı donanımda GPU'suz AI çıkarımı.
Yapılar
Her ikisi de sabit yapıdır. İşlemci ve bellek bir çift olarak gelir; bu yüzden seçim hız ile alan arasındadır.
Daha hızlı paket
$399/ay
Model 64 GB belleğe sığıyorsa ve hızlı yanıt istiyorsanız bunu seçin. Daha büyük Radeon, daha fazla ödemenin nedenidir.
Bu yapıyı yapılandırınDaha fazla bellek
$249/ay
Daha ucuz makine iki kat bellek tutar. Yüklediğiniz ağırlıklar diğer yapının taşıyabileceğinden büyükse bunu seçin.
Bu yapıyı yapılandırın| Spec | AMD Ryzen AI Max+ 395 | AMD Ryzen AI 9 HX 370 |
|---|---|---|
| Processor | AMD Ryzen AI Max+ 395 | AMD Ryzen AI 9 HX 370 |
| CPU cores | 16 | 12 |
| AI throughput | 126 TOPS | 80 TOPS (50 on the NPU) |
| Graphics | AMD Radeon 8060S | AMD Radeon 890M |
| Memory | 64 GB DDR5 | 128 GB DDR5 |
| Storage | 1 TB NVMe, one slot | 1 TB NVMe, one slot |
| Network | 1 Gbps unmetered | 1 Gbps unmetered |
| OS | Fedora 43, root | Fedora 43, root |
| Per month | $399 | $249 |
| Setup | $29 once | $29 once |
Fiyatlar satış vergisi öncesi aylık tutarlardır. Bükreş ve Amsterdam'daki siparişler aynı tutar üzerinden avro olarak faturalanır.
Paketin içi
GPU sunucusunda model, çalışmadan önce GPU'nun kendi belleğine kopyalanır. Burada GPU'nun ayrı belleği yoktur; dolayısıyla kopyalama da yoktur.
CPU çekirdekleri, Radeon ve NPU sistem belleğini paylaşır. Bir kez yüklenen model üçü tarafından da görülür; böylece llama.cpp ile çekirdeklerde çalıştırabilir, llama.cpp'nin Vulkan arka ucuyla katmanları Radeon'a aktarabilir veya araç zincirinizin NPU'ya neler aktarabildiğini test edebilirsiniz.
Bedeli hızdır. Dizüstü sınıfı bir paketteki bellek bant genişliği, bir veri merkezi GPU'sunun çok altındadır; bu yüzden token'lar daha yavaş gelir ve aynı anda daha az kullanıcıya hizmet verilebilir. Tek bir ekip, özel bir asistan veya gece boyunca çalışan bir toplu iş için bu genellikle yeterlidir. Yeterli olmaktan çıktığında bir sonraki adım dedicated GPU sunucusudur.
Model boyutlandırma
Ağırlıklar 4 bit nicemlemede milyar parametre başına yaklaşık yarım gigabayt, 8 bitte ise yaklaşık bir gigabayt yer kaplar. Belleğin kabaca dörtte birini işletim sistemi ve bağlam önbelleği için ayırın.
| Model boyutu | 4 bitte ağırlıklar | 8 bitte ağırlıklar | Ryzen AI Max+ 395 | Ryzen AI 9 HX 370 |
|---|---|---|---|---|
| 8B | yaklaşık 5 GB | yaklaşık 9 GB | 8 bitte sığar | 8 bitte sığar |
| 14B | yaklaşık 9 GB | yaklaşık 15 GB | 8 bitte sığar | 8 bitte sığar |
| 32B | yaklaşık 19 GB | yaklaşık 34 GB | 8 bitte sığar | 8 bitte sığar |
| 70B | yaklaşık 40 GB | yaklaşık 75 GB | yalnızca 4 bit | 8 bitte sığar |
| 120B | yaklaşık 65 GB | yaklaşık 125 GB | çok büyük | yalnızca 4 bit |
Planlama için yaklaşık rakamlar, yalnızca ağırlıklar. Uzun bağlamlar ve çok sayıda paralel istek daha fazlasını gerektirir. Belirli bir model için LLM sunucu planlayıcısı bunu hesaplar.
Teslimat
4–24 sa
Bunları rafta hazır bekletmiyoruz. Her biri seçtiğiniz şehirde üretilir ve yapılandırıcı 4 ila 24 saat süre verir. Özel üretim olduğu için ilk faturaya tek seferlik $29 kurulum ücreti eklenir.
root
Temiz bir Fedora 43 ve SSH üzerinden root ile gelir. Önceden kurulu çıkarım hizmeti yoktur. Ollama, llama.cpp, PyTorch veya kendi derlemeniz, kodunuzun test edildiği sürümlerle kurulur.
1 Gbps
Gigabit port limitsizdir: aktarım kotası yok ve faturada aşım satırı yok. Bir IPv4 adresi dahildir; IPv6 ödeme sırasında seçilebilir.
New York, Miami, San Francisco, Bucharest and Amsterdam şehrinde, her birinde aynı aylık tutarla üretilir. Faturalama aylıktır; 3, 6 or 12 aylık döngülerde 5, 10 and 15 yüzde indirim uygulanır.
Dahil ve isteğe bağlı
Temel yönetim fiyata dahildir: 12-hour yanıt ve arızalı donanımın 24 hours içinde değiştirilmesi. Ücretli kademeler her ikisini kısaltır; izleme ve uyarılar ekler.
| Drive | Per month |
|---|---|
| 1 TB NVMe | included |
| 2 TB NVMe | +$16.40 |
| 3.84 TB NVMe | +$65.40 |
| Tier | Response | Hardware swap | Per month |
|---|---|---|---|
| Basic | 12 h | 24 h | included |
| Bronze | 4 h | 4 h | +$19 |
| Silver | 2 h | 3 h | +$39 |
| Gold | 1 h | 2 h | +$69 |
| Platinum | 30 min | 2 h | +$99 |
Şifreli yedekleme planları da ödeme sırasında sunulur. Destek, saniyeler içinde yanıt veren, hesabınızı ve sunucunuzu kontrol edebilen bir AI asistanla canlı sohbette başlar; istediğiniz anda bir kişi devralır.
Diğer yollar
Yanıtlar
Evet. İki tanesini dedicated sunucu olarak kiralıyoruz: 64 GB bellekle AMD Ryzen AI Max+ 395 ve 128 GB bellekle Ryzen AI 9 HX 370. Her biri root erişimli tam bir makinedir; sözleşmesiz, aylık faturalanır.
Ryzen AI Max+ 395 yapısı ayda $399, Ryzen AI 9 HX 370 yapısı ise ayda $249; her birinde 1 TB NVMe ve limitsiz 1 Gbps port bulunur. Her ikisi de siparişe göre üretilir; bu yüzden ilk faturaya tek seferlik $29 kurulum ücreti eklenir.
Önce belleğe göre seçin. HX 370, Max+ 395'in iki katı olan 128 GB belleğe sahiptir; bu yüzden daha hızlı makinenin taşıyamadığı modelleri tutar. Modeliniz 64 GB belleğe sığıyorsa ve yanıt süresi daha önemliyse Max+ 395'i seçin.
Evet, belleği dahilinde. Model, CPU çekirdeklerinin, tümleşik Radeon'un ve NPU'nun paylaştığı sistem belleğine yüklenir. 4 bitlik 70B model yaklaşık 40 GB ağırlıktır ve her iki yapıya da sığar. Dedicated GPU'ya göre daha yavaş yanıt verir; bu yüzden yoğun çok kullanıcılı trafik GPU sunucusuna aittir.
Tam bir makine. Tek kiracı sizsiniz; donanımda root yetkiniz var ve işlemciyle aranızda hipervizör yok. Bellek, Radeon ve NPU kimseyle paylaşılmaz.
AI mini PC'lerin temelinde kullanılan işlemcilerin aynısını kullanır. Fark, nerede yaşadığıdır: bizimki veri merkezimizde, ağımızda durur; güç, soğutma, gigabit port ve donanım değişimi sizin için yönetilir.
Hayır. Temiz bir Fedora 43 ve root erişimiyle gönderilir. Kullandığınız çıkarım yığınını, test ettiğiniz sürümlerle siz kurarsınız.
Bir NVMe yuvası: 1 TB dahildir ve yapılandırıcı bunu 2 TB or 3.84 TB ile değiştirebilir. İkinci yuva yoktur; RAID veya birden fazla sürücü için bizden özel yapı isteyin.
Evet. Bükreş veya Amsterdam'da sipariş edilen sunucular, ABD şehirlerinin dolar olarak faturaladığı tutarın aynısı üzerinden avro olarak faturalanır.
Ödeme onaylandıktan sonra 4 ila 24 saat. Her makine raftan alınmak yerine siparişine göre üretilir. Tarihiniz sıkışıksa siparişten önce sohbette sorun; kuyruğun durumunu söyleriz.
Hayır. Ryzen serimiz bu iki Ryzen AI makinesinden oluşur. Genel amaçlı bir sunucu için fiyat listesi sattığımız her seriyi gösterir.
Yapıyı ve şehri seçin. Yapılandırıcı, ödemeden önce tam aylık toplamı ve kurulum ücretini gösterir.