L40S dedicated server 48 GB ECC bellek, üç AV1 kodlayıcı, kendi işletim sisteminizde root.

Kurduğunuz işletim sistemine doğrudan geçirilen bir NVIDIA L40S 48 GB GPU'ya sahip, root erişimi, limitsiz portu ve makinede sizden başka kimsenin olmadığı fiziksel bir sunucudur. Aylık faturalandırılır; makine ve GPU tek faturada iki satır olarak yer alır.

Komple bir L40S sunucusu için en düşük aylık fiyat $532.67 tutarındadır. Bu makine Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps yapılandırmasındadır ve GPU, toplamın $449 kısmını oluşturur. GPU takılı bir yapılandırmada bir kerelik $29 kurulum ücreti eklenir ve yapılandırma tablosu her platformu kendi fiyatıyla listeler.

Ada Lovelace mimarisinde 18.176 CUDA çekirdeği, 568 dördüncü nesil Tensor Çekirdeği ve 142 üçüncü nesil RT Çekirdeği bulunur. 864 GB/s hızında ECC destekli 48 GB GDDR6 bellek taşır, PCIe 4.0 x16 üzerinden bağlanır ve 350 W'a kadar güç çeker.

48 GB'a sığan bir modelde çıkarım için genellikle evet: A100'de bulunmayan FP8 Tensor Çekirdeklerine sahiptir ve aylık maliyeti daha düşüktür. Büyük modellerin eğitimi için genellikle A100 80 GB kazanır; 1.935 GB/s hızında 80 GB HBM2e'ye karşılık 864 GB/s hızında 48 GB ve NVLink bağlantısı sunar. H100 ise eğitimde her ikisinin de önündedir.

4-bit'te evet, ancak az bir alanla: ağırlıklar 48 GB'ın yaklaşık 38 GB'ını kaplar; bu da kısa bir bağlam ve tek bir kullanıcı için yer bırakır. 8-bit'te 70 milyar parametre yaklaşık 70 GB gerektirir; bu da iki GPU veya 80 GB'lık bir GPU gerektirir.

Hayır. L40S'te NVLink bağlantısı ve Multi-Instance GPU yoktur; bu nedenle bir sunucudaki iki L40S GPU PCIe üzerinden iletişim kurar ve tek bir L40S tek GPU olarak çalışır. İş bu özelliklerden birini gerektiriyorsa A100 veya H100'e bakın.

Evet. AV1 kodlama ve kod çözme destekli üç NVENC ve üç NVDEC motoruna sahiptir; böylece FFmpeg, OBS veya bir transcoder donanımda kodlama yapar. A100 ve H100'de ise hiç NVENC yoktur.

Evet, ancak yalnızca halihazırda rafa takılmış ve anında sunucular sayfasından değiştirilmeden sipariş edilen bir L40S makinesi için. Aylık fiyatının 730 saate bölünüp 1,3 ile çarpılmasıyla hesaplanır; siz serbest bırakana kadar saniye bazında ücretlendirilir ve minimum bir saat uygulanır. Yukarıdaki tablodaki her yapılandırma aylıktır.

Bare metal. İşletim sisteminiz ile GPU arasında hipervizör yoktur ve makinede tek kiracı vardır. L40S'in tamamını, 48 GB belleğiyle görürsünüz; bir dilimini değil.

Evet, ancak ödeme sırasında işaretlemek yerine elle fiyatlandırılan bir yapılandırma olarak: kasası, PCIe hatları ve güç kaynağı kaç tane sığacağını belirler. L40S'te NVLink olmadığından GPU'lar PCIe üzerinden iletişim kurar. Sipariş vermeden önce sohbetten sorun veya çok GPU'lu sunucular sayfasına bakın.

L40S'li bir makine zaten raftaysa onaydan yaklaşık 30 dakika sonra, elimizdeki bir GPU'yu taktığımızda 4 ila 24 saat, GPU satın alındığında 5 ila 10 iş günü, tahsisli olduğunda ise 10 ila 15 iş günü sürer. Ödemeden önce bu dört durumdan hangisinin geçerli olduğunu size söyleriz.

Bir sohbet başlatın: yapay zekamız saniyeler içinde yanıt verir ve siz konuşurken hesabınıza ve L40S sunucunuza bakabilir. Bir kişiyle görüşmek istediğinizi söyleyin; ekibimizden biri aynı konuşmayı devralır.