A100 H100 özel sunucu GPU'nun tamamı, sizin işletim sisteminiz, sizin root yetkiniz.

H100, A100'den sonraki nesildir. Takabildiğimiz PCIe GPU'lar olarak A100, 1.555 GB/s hızında 40 GB HBM2 veya 1.935 GB/s hızında 80 GB HBM2e ve PCIe 4.0 arayüzü sunar. H100 ise 2.039 GB/s hızında 80 GB HBM2e, FP8 destekli dördüncü nesil Tensor Çekirdekleri ve PCIe 5.0 arayüzüne sahiptir; güç tüketimi 250 veya 300 W'a karşılık 350 W'tır. Üçünde de ECC, Çok Örnekli GPU bulunur ve video kodlayıcı yoktur.

Eksiksiz bir H100 80 GB sunucunun en düşük aylık fiyatı $1,682.67 tutarındadır. Bu makine Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps yapılandırmasındadır ve GPU, toplamın $1,599 kısmını oluşturur. GPU takılı bir yapılandırmada bir defaya mahsus $29 kurulum ücreti eklenir ve yapılandırma tablosu her platformu kendi fiyatıyla listeler.

Eksiksiz bir A100 sunucunun en düşük aylık fiyatı, 40 GB GPU ile $772.47 ve 80 GB GPU ile $972.47 olup her biri onu alabilen en ucuz makinededir. A100 40 GB yapılandırması Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps şeklindedir. Bellek, diskler ve daha hızlı bağlantı noktası sipariş formunda fiyatlandırılır.

PCIe. Kasalarımız PCIe eklenti GPU'ları alır, bu nedenle taktığımız H100, HBM2e'li 80 GB PCIe sürümüdür. HBM3 ve 700 W'a kadar güç sunan SXM5 modülü ise sunucularımızın hiçbirinde bulunmayan bir HGX ana kartı gerektirir.

Evet, kullandığınız eğitim yöntemiyle 80 GB'a sığan modeller için. Adam ile karışık hassasiyette tam ince ayar, aktivasyonlardan önce parametre başına yaklaşık 16 bayt gerektirir; bu nedenle tek bir H100 yaklaşık 5 milyar parametreyi tam olarak eğitir, LoRA veya QLoRA bağdaştırıcıları ise bunu çok daha büyük modellere genişletir. Bunun ötesinde iş birkaç GPU gerektirir; çok GPU'lu sunucular bunu kapsar.

Çoğu zaman evet ve bu, ödeme sırasında işaretlemek yerine elle fiyatlandırılır: kasa boşluğu, PCIe hatları ve güç kaynağı sayıyı belirler. Her iki GPU da NVLink köprü bağlantısı taşır, ancak sipariş formunda köprü bulunmadığından bir sunucudaki GPU'lar, köprü fiyatlandırılmadıkça PCIe üzerinden iletişim kurar. İşin köprüye ihtiyacı varsa sipariş vermeden önce sohbette sorun.

Yalnızca anında sunucular bölümünden, halihazırda rafa takılmış ve olduğu gibi sipariş edilen bir makineyi. Maliyeti, aylık fiyatının 730 saate bölünüp 1,3 ile çarpılmasıyla hesaplanır ve siz bırakana kadar saniye bazında ölçülür. Bu sayfadaki satırlar gibi sipariş üzerine yapılan bir yapılandırma ise aylık faturalandırılır.

GPU'lu bir makine zaten raftaysa onaydan yaklaşık 30 dakika sonra, elimizdeki bir GPU'yu taktığımızda 4 ila 24 saat, GPU satın alındığında 5 ila 10 iş günü ve tahsisli olduğunda 10 ila 15 gün sürer. Herhangi bir ödeme alınmadan önce hangisinin geçerli olduğunu söyleriz.

Donanımda hayır. İkisinde de NVENC kodlayıcı bulunmadığından kodlama, GPU veya işlemci üzerinde yazılımla çalışır. Çözme yapabilirler; A100'de 5, H100'de 7 NVDEC motoru bulunur. Canlı dönüştürme için L40S gibi NVENC'li bir GPU seçin.

Hayır. GPU, arada hipervizör olmadan kendi işletim sisteminize doğrudan geçirilir ve makinede tek kiracı vardır. Yine de kendi işleriniz için Çok Örnekli GPU ile onu yedi örneğe kadar kendiniz bölebilirsiniz.

Sohbetimizdeki yapay zeka saniyeler içinde yanıt verir ve siz konuşurken hesabınıza ve sunucunuza bakabilir. Bir kişi istediğinizi söyleyin; aynı konuşmayı ekibimizden biri devralır.