Server dedicato L40S 48 GB di memoria ECC, tre encoder AV1, root sul tuo sistema operativo.

Un server fisico con una GPU NVIDIA L40S da 48 GB passata al sistema operativo che installi, con accesso root, una porta senza limiti di traffico e nessun altro sulla macchina. La fatturazione è mensile, con la macchina e la GPU come due voci su un'unica fattura.

Il prezzo mensile più basso per un server L40S completo è $532.67. Quella macchina è Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps, e la GPU è $449 del totale. Una configurazione con la GPU installata aggiunge un costo di attivazione una tantum di $29, e la tabella delle configurazioni elenca ogni piattaforma con il proprio prezzo.

18.176 core CUDA, con 568 Tensor Core di quarta generazione e 142 RT Core di terza generazione, su architettura Ada Lovelace. Monta 48 GB di GDDR6 con ECC a 864 GB/s, si collega tramite PCIe 4.0 x16 e assorbe fino a 350 W.

Per l'inferenza su un modello che sta in 48 GB, spesso sì: ha i Tensor Core FP8, che la A100 non ha, e costa meno al mese. Per l'addestramento di modelli grandi di solito vince la A100 80 GB, con 80 GB di HBM2e a 1.935 GB/s contro 48 GB a 864 GB/s, e un connettore NVLink. La H100 è davanti a entrambe nell'addestramento.

A 4 bit, sì, con poco margine: i pesi occupano circa 38 GB dei 48, il che lascia spazio per un contesto breve e un solo utente. A 8 bit, 70 miliardi di parametri richiedono circa 70 GB, che servono due GPU o una da 80 GB.

Nessuno dei due. La L40S non ha connettore NVLink né Multi-Instance GPU, quindi due GPU L40S in un server comunicano via PCIe, e una L40S funziona come una singola GPU. Se il lavoro richiede una di queste funzioni, guarda la A100 o la H100.

Sì. Ha tre motori NVENC e tre NVDEC con codifica e decodifica AV1, quindi FFmpeg, OBS o un transcoder codificano in hardware. La A100 e la H100 non hanno affatto NVENC.

Sì, ma solo per una macchina L40S già montata in rack e ordinata senza modifiche dagli instant server. Costa il suo prezzo mensile diviso per 730 ore, moltiplicato per 1,3, conteggiato al secondo finché non la rilasci, con un'ora come minimo. Ogni configurazione nella tabella sopra è mensile.

Bare metal. Non c'è hypervisor tra il tuo sistema operativo e la GPU, e la macchina ha un solo tenant. Vedi la L40S completa con i suoi 48 GB, non una porzione.

Sì, come configurazione quotata a mano anziché selezionata al checkout: lo chassis, le linee PCIe e l'alimentatore determinano quante ne entrano. Le GPU comunicano via PCIe, poiché la L40S non ha NVLink. Chiedi in chat prima di ordinare, oppure vedi i server multi-GPU.

Circa 30 minuti dopo l'approvazione quando una macchina con L40S è già in rack, da 4 a 24 ore quando installiamo una GPU che abbiamo in magazzino, da 5 a 10 giorni lavorativi quando la GPU viene acquistata, e da 10 a 15 quando è in allocazione. Ti diciamo quale dei quattro casi si applica prima che paghi.

Avvia una chat: la nostra IA risponde in pochi secondi e può consultare il tuo account e il tuo server L40S mentre parli. Di' che vuoi una persona e uno di noi prende in carico la stessa conversazione.