L40S · NVIDIA GPU sunucuları

NVIDIA L40S dedicated sunucular

Yapay zeka eğitimi, LLM çıkarımı, 3D render ve video prodüksiyonu için optimize edilmiş yüksek performanslı NVIDIA L40S GPU sunucularını devreye alın. Ada Lovelace, 48 GB ECC GDDR6 ve AV1 destekli üç NVENC kodlayıcı ile yapılandırdığınız makineye takılır.

Çalışma süresi SLA 48 GB ECC GDDR6 Küresel konumlar

NVIDIA L40S GPU özellikleri

NVIDIA L40S, çığır açan Ada Lovelace mimarisi performansıyla yapay zeka eğitimi, grafik render, video kod dönüştürme ve sanallaştırmada üstünlük sağlar.

NVIDIA L40S

L40S GPU dikkat çekici performans metriklerine ulaşır: Tensor işlemlerinde 1466 TFLOPS, RT çekirdek yeteneklerinde 212 TFLOPS ve tek duyarlıklı hesaplama gücünde 91,6 TFLOPS.

Mimari

Ada Lovelace

Video belleği

ECC'li 48GB GDDR6

CUDA çekirdekleri

18.176 adet

Maks. Bant Genişliği

864 GB/s

Maks. Güç

350 W

Performans Metrikleri

FP8 destekli dördüncü nesil Tensor Çekirdekleri, yapay zeka eğitimi ve çıkarım iş yükleri için olağanüstü hesaplama performansı sunar.

FP32

91,6 teraFLOPS

FP16 Tensor Çekirdeği

733 teraFLOPS

FP8 Tensor Çekirdeği

1.466 teraFLOPS

RT Çekirdeği

212 teraFLOPS

Zorlu iş yükleri için tasarlanmış GPU sunucuları

Ada Lovelace Mimarisi ile güçlendirilmiş NVIDIA L40S GPU bare metal sunucular; yapay zeka eğitimi, bilimsel hesaplama ve yüksek performanslı görselleştirme için optimize edilmiştir.

Yapay zeka eğitim performansı

L40S GPU, gelişmiş tensor işleme ile yapay zeka iş yükü performansını önceki nesle göre 5 kat artırarak yüksek kaliteli görüntülerin ve sürükleyici içeriklerin hızla üretilmesini sağlar.

LLM ve üretken yapay zeka

L40S, FP8 destekli dördüncü nesil Tensor Çekirdeklerini kullanarak yapay zeka ve veri bilimi modeli eğitimini hızlandırmak için olağanüstü hesaplama performansı sunar.

Işın izleme hızlandırma

L40S GPU'lar, gelişmiş ışın izleme yetenekleriyle tasarım ve mühendislik görevlerinde render hızlarını artırır; mimari görselleştirme ve ürün tasarımı için mükemmeldir.

3D görselleştirme

NVIDIA L40S, 3D görselleştirmeyi geliştirerek karmaşık tasarımların daha hızlı render edilmesini ve gerçek zamanlı işlenmesini sağlar; üretkenliği ve yüksek doğrulukta çıktıları artırır.

Video prodüksiyonu

NVIDIA L40S, AV1 kodlama dahil üç video kodlama ve kod çözme motoruyla akış ve video içerik görevlerini geliştirir; performansı artırır ve TCO'yu düşürür.

Kurumsal güvenlik

L40S GPU, NEBS Seviye 3 hazırlığı dahil veri merkezi standartlarını karşılar ve gelişmiş güvenlik için güven kökü teknolojisiyle güvenli önyükleme sunar.

A100 vs L40S vs H100

Taktığımız üç veri merkezi kartı, sunucularımıza giren PCIe eklenti kartları olarak karşılaştırılmıştır.

L40S A100 80 GB H100 80 GB
Mimari Ada Lovelace NVIDIA Ampere Hopper
Bellek ECC'li 48GB GDDR6 80GB HBM2e 80GB HBM2e
Bellek Bant Genişliği 864 GB/s 1.935 GB/s 2.039 GB/s
Güç 350W'a kadar 300W'a kadar 350W'a kadar
Veri yolu arayüzü PCIe Gen 4 x16 PCIe Gen 4 x16 PCIe Gen 5 x16
Video kodlama AV1'li 3 NVENC Yok Yok
NVLink Hayır Konnektör, teklifle köprü Konnektör, teklifle köprü
Yalnızca kart, aylık Yükleniyor... Yükleniyor... Yükleniyor...

NVIDIA L40S GPU bare metal sunucular hakkında SSS

Yapay zeka, render ve profesyonel görselleştirme iş yükleri için NVIDIA L40S GPU hızlandırmalı dedicated sunucuların dağıtımı ve yönetimi hakkında sık sorulan sorular.

NVIDIA L40S'i karma yapay zeka ve grafik iş yükleri için ideal yapan nedir?

NVIDIA L40S, yapay zeka hızlandırmayı profesyonel grafik yetenekleriyle benzersiz şekilde birleştiren Ada Lovelace mimarisi üzerine inşa edilmiştir. 18.176 CUDA çekirdeği, 48GB GDDR6 bellek ve FP8 destekli dördüncü nesil Tensor Çekirdekleri ile yapay zeka modeli eğitimi, LLM çıkarımı, 3D render ve video prodüksiyonunda üstün performans gösterir. L40S, görselleştirme iş akışları için gelişmiş ışın izleme ve DLSS 3 desteğini korurken 1.466 teraFLOPS FP8 performansı sunar.

Bir L40S GPU sunucusunu ne kadar hızlı dağıtabilirim?

L40S takılı bir makine, ödeme doğrulamasından yaklaşık 30 dakika sonra teslim edilir. Stokta tuttuğumuz bir kartı taktığımızda 4 ila 24 saat sürer; satın almamız gereken bir kart beş ila on iş günü sürer ve ödemeden önce hangisi olduğu size bildirilir. Her L40S sunucusu anında işletim sistemi yeniden yüklemeyi içerir, böylece destek bileti açmadan yineleme yapabilirsiniz.

L40S'in yapay zeka iş akışları için performans avantajları nelerdir?

L40S, büyük dil modellerinin verimli eğitimi ve çıkarımı için özel olarak optimize edilmiş FP8 Tensor Çekirdeği hızlandırması sağlar. 48GB GDDR6 bellek büyük model boyutlarını desteklerken, gelişmiş tensor işlemleri önceki nesil GPU'lara göre 5 kat performans iyileştirmesi sunar. AV1 destekli üç video kodlama/kod çözme motoruyla birleştiğinde L40S, metin, görüntü ve video işlemeyi birleştiren çok modlu yapay zeka iş yüklerini yönetir.

L40S GPU sunucularından en çok hangi iş yükleri faydalanır?

L40S GPU sunucuları, hem yapay zeka hesaplama hem de grafik hızlandırma gerektiren ortamlarda üstün performans gösterir. Optimum kullanım örnekleri şunlardır: büyük dil modeli eğitimi ve çıkarımı, yapay zeka destekli görüntü ve video üretimi, profesyonel 3D render ve CAD iş akışları, AV1 kodlamalı video kod dönüştürme, sanal iş istasyonu dağıtımları (VDI) ve makine öğrenimini gerçek zamanlı görselleştirmeyle birleştiren hibrit iş yükleri.