NVIDIA L40S · Ada Lovelace

Servidor dedicado com GPU NVIDIA L40S 48 GB de memória ECC, três codificadores AV1, root no seu próprio sistema operacional.

Um servidor com GPU NVIDIA L40S é uma máquina física com a L40S de 48 GB repassada ao sistema operacional que você instalar, cobrada por mês. O menor preço completo é $532.67 por mês, para Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps com a GPU instalada.

  • Locatário único
  • Passthrough PCIe
  • Porta sem medição
  • AV1 NVENC
  • Sem contrato

A L40S é a GPU que instalamos para trabalho misto: inferência e ajuste fino de LLM, renderização com ray tracing e codificação de vídeo por hardware em uma única GPU. Esta página traz os números da ficha técnica, o preço de cada plataforma compatível, o link PCIe que ela recebe em cada uma e onde uma A100 ou H100 atende melhor o trabalho.

Ficha técnica

Especificações da NVIDIA L40S

A L40S é uma GPU de data center PCIe passiva, de dois slots, na arquitetura Ada Lovelace, a mesma família de chip AD102 da RTX 6000 Ada, com memória ECC e limite de placa de 350 W. A NVIDIA cita seus números de Tensor duas vezes, denso e com esparsidade estruturada; a tabela traz ambos e indica qual é qual.

EspecificaçãoNVIDIA L40S
ArquiteturaAda Lovelace
Memória da GPU48 GB GDDR6 com ECC
Largura de banda da memória864 GB/s
Núcleos CUDA18.176
Tensor Cores568, quarta geração
RT Cores142, terceira geração
InterfacePCIe 4.0 x16
Potência da placa350 W
Fonte: página do produto e ficha técnica da NVIDIA L40S.
ComputaçãoDenso e com esparsidade
FP3291,6 TFLOPS
TF32 Tensor183 TFLOPS 366 com esparsidade
FP16 / BF16 Tensor362 TFLOPS 733 com esparsidade
FP8 Tensor733 TFLOPS 1.466 com esparsidade
INT8 Tensor733 TOPS 1.466 com esparsidade
RT Core212 TFLOPS
Motores de vídeo3 NVENC, 3 NVDEC, codificação e decodificação AV1
MIG / NVLinkNenhum

A L40S também suporta o software NVIDIA vGPU e inicialização segura com raiz de confiança em hardware, e está pronta para NEBS Nível 3. Em nossos servidores, a GPU completa vai para o seu sistema operacional, então dividi-la com vGPU seria com sua própria licença e seu próprio hipervisor.

Do catálogo de pedidos

Preços de servidores L40S, com a máquina em que a GPU vai

A L40S está em 2 plataformas. Cada linha é a fatura mensal completa da máquina mais barata em uma delas: processador, memória, os discos com que o formulário de pedido abre, uma porta sem medição e um endereço IPv4, mais a GPU. Configurar abre essa plataforma com a L40S selecionada, onde você adiciona memória, discos ou uma porta mais rápida.

PlatformPCIe linkCheapest machineCitiesPer month
Intel Xeon Silver / GoldL40S $449/moIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 GbpsNew York, Bucharest, San Francisco, Miami$532.67Configure
AMD EPYCL40S $449/moAMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 GbpsNew York, Bucharest$666.59Configure

A L40S é uma GPU PCIe 4.0. Em uma plataforma PCIe 3.0, o link opera a 16 GB/s em cada direção em vez de 32, o que torna mais lento carregar pesos e transmitir lotes da memória do host, mas não o trabalho que permanece nos 864 GB/s de memória da própria GPU. Uma configuração com GPU instalada paga uma taxa única de instalação de $29. Pagar 3, 6 ou 12 meses adiantado dá até 15% de desconto, e o preço não aumenta na renovação.

L40S vs A100 vs H100

L40S, A100 ou H100: as três GPUs de data center que instalamos

A A100 e a H100 trazem HBM com mais que o dobro da largura de banda e conectores NVLink, e não têm codificador de vídeo. A L40S tem menos largura de banda de memória, adiciona RT Cores e três motores NVENC, e custa menos por mês. As três são as versões PCIe, o único formato que nossos chassis aceitam.

Fontes: ficha técnica da NVIDIA L40S, ficha técnica da A100, resumo do produto H100 PCIe. Preços do nosso catálogo de pedidos, cada um com a máquina mais barata que aceita a GPU.
EspecificaçãoL40SA100 80 GBH100 80 GB PCIe
ArquiteturaAda LovelaceAmpereHopper
Memória da GPU48 GB GDDR6, ECC80 GB HBM2e, ECC80 GB HBM2e, ECC
Largura de banda da memória864 GB/s1.935 GB/s2.039 GB/s
FP8SimNãoSim
RT Cores142NenhumNenhum
Codificação de vídeo3 NVENC com AV1NenhumNenhum
NVLinkNãoConector de ponteConector de ponte
GPU Multi-InstânciaNãoAté 7Até 7
Potência da placa350 W300 W350 W
InterfacePCIe 4.0 x16PCIe 4.0 x16PCIe 5.0 x16
Linha da GPU, por mês$449$899$1,599
Servidor completo a partir de$532.67$972.47$1,682.67

Escolha a A100 ou a H100 quando um modelo precisar de mais de 48 GB em uma única GPU, quando o treinamento for limitado pela largura de banda da memória, ou quando duas GPUs precisarem trocar dados por NVLink. Ambas estão em servidores A100 e H100.

Cargas de trabalho

O que um servidor com GPU NVIDIA L40S executa bem

Comece pela memória. Os pesos, o cache KV e o runtime precisam caber em 48 GB; um trabalho que não cabe não é salvo por um chip mais rápido.

IA

Inferência e ajuste fino

Servir modelos 13B em 16 bits com folga, 30B em 8 bits ou 70B em 4 bits com contexto curto, e ajuste fino LoRA ou QLoRA. Os FP8 Tensor Cores aceleram a inferência onde seu runtime suporta FP8.

Gráficos

Renderização e 3D

RT Cores para renderizadores que os usam via OptiX, como o Blender Cycles, e 48 GB para cenas que estouram a memória de uma GPU de consumo de 24 GB.

Vídeo

Codificação e transcodificação

Três motores NVENC e três NVDEC com AV1, para que FFmpeg, OBS ou um transcodificador codifique em hardware e deixe os núcleos CUDA para o resto do pipeline.

Os pesos do modelo cabem em 48 GB?

Model weights16-bit8-bit4-bit
7-8 billion parametersfits16 GBfits8 GBfits5 GB
13-14 billion parametersfits28 GBfits14 GBfits8 GB
30-34 billion parametersno68 GBtight34 GBfits19 GB
70 billion parametersno140 GBno70 GBtight38 GB

Somente pesos. "Cabe" significa que metade do tamanho dos pesos ainda fica livre para o cache KV e o runtime. "Apertado" carrega, mas um prompt longo ou um segundo usuário pode estourar os 48 GB. Para um modelo específico, hospedagem de LLM indica a máquina, e para canais ao vivo em hardware, servidores de transcodificação por GPU executam Flussonic ou Wowza na GPU.

Incluso

L40S bare metal: o que você controla e como é cobrado

Sem máquina virtual e sem GPU compartilhada: a L40S pertence a uma máquina e a máquina pertence a você. A máquina e a GPU são duas linhas mensais em uma fatura, e trocar a GPU depois ajusta a fatura pela diferença enquanto seus discos e endereços IP permanecem.

Root e console remoto

Seu sistema operacional, instalado limpo, com root, mais o controlador fora de banda da máquina (iLO, iDRAC ou BMC) para a tela, mídia virtual e energia.

Drivers que você fixa

O driver NVIDIA, a versão do CUDA e o framework permanecem nas versões que você escolher, e nada os atualiza por você. Para ter um driver instalado antes da entrega, escreva a versão no pedido.

Uma porta sem medição

O tráfego não é medido em nenhuma direção, então conjuntos de dados, checkpoints e vídeo codificado não acrescentam nada à fatura. Portas mais rápidas estão no formulário de pedido e em largura de banda sem medição.

Mês a mês

Pague um mês por vez e pare quando o trabalho terminar. A cobrança por hora é apenas para uma máquina já instalada no rack e pedida sem alterações em servidores instantâneos; uma configuração permanece mensal.

O que um servidor L40S executa

Informe o sistema operacional no formulário de pedido e é ele que estará no disco na entrega: Ubuntu da 14.04 à 26.04, Windows Server do 2008 R2 ao 2025, Proxmox VE ou VMware vSphere Hypervisor. A pilha de GPU por cima é sua. A L40S pede um driver R535 ou mais recente, o ramo em que a NVIDIA a adicionou, e CUDA 12 para alcançar seus FP8 Tensor Cores. PyTorch, vLLM, llama.cpp e Ollama então veem um dispositivo com 48 GB, e o FFmpeg 6.0 ou mais recente traz o codificador av1_nvenc que aciona os três motores NVENC.

Entrega

Quanto tempo leva um servidor L40S

Depende de onde a GPU está quando você faz o pedido, e você é informado de qual caso se aplica antes de pagar. Cada tempo abaixo conta a partir da aprovação do pedido.

  1. 30 min

    Já no rack

    Uma máquina que carrega uma L40S está esperando no rack.

  2. 4–24 h

    Instalada do nosso estoque

    Temos a GPU e a instalamos na máquina que você configurou.

  3. 5–10 dias

    Comprada

    Dias úteis, quando precisamos comprar a L40S primeiro.

  4. 10–15 dias

    Em alocação

    Dias úteis, quando o fornecedor define a data.

Respostas

Perguntas sobre servidores L40S

O que é um servidor dedicado L40S?

Um servidor físico com uma GPU NVIDIA L40S 48 GB passada diretamente para o sistema operacional que você instalar, com acesso root, porta sem limite de tráfego e mais ninguém na máquina. A cobrança é mensal, com a máquina e a GPU como duas linhas na mesma fatura.

Quanto custa um servidor L40S?

O menor preço mensal de um servidor L40S completo é $532.67. Essa máquina é Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps, e a GPU representa $449 do total. Uma configuração com a GPU instalada acrescenta uma taxa única de setup de $29, e a tabela de configurações lista cada plataforma com seu próprio preço.

Quantos núcleos CUDA tem a NVIDIA L40S?

18.176 núcleos CUDA, com 568 Tensor Cores de quarta geração e 142 RT Cores de terceira geração, na arquitetura Ada Lovelace. Ela traz 48 GB de GDDR6 com ECC a 864 GB/s, conecta-se via PCIe 4.0 x16 e consome até 350 W.

A L40S é melhor que a A100 para IA?

Para inferência em um modelo que cabe em 48 GB, muitas vezes sim: ela tem Tensor Cores FP8, que a A100 não tem, e custa menos por mês. Para treinar modelos grandes, a A100 80 GB geralmente vence, com 80 GB de HBM2e a 1.935 GB/s contra 48 GB a 864 GB/s, e conector NVLink. A H100 está à frente de ambas no treinamento.

Uma L40S consegue rodar um modelo de 70B?

Em 4 bits, sim, com pouca folga: os pesos ocupam cerca de 38 GB dos 48, o que deixa espaço para um contexto curto e um usuário. Em 8 bits, 70 bilhões de parâmetros precisam de cerca de 70 GB, o que exige duas GPUs ou uma de 80 GB.

A L40S suporta NVLink ou MIG?

Nenhum dos dois. A L40S não tem conector NVLink nem Multi-Instance GPU, então duas GPUs L40S em um servidor comunicam-se via PCIe, e uma L40S roda como uma única GPU. Se o trabalho exigir qualquer um desses recursos, veja a A100 ou a H100.

A L40S é boa para codificação de vídeo?

Sim. Ela tem três motores NVENC e três NVDEC com codificação e decodificação AV1, então FFmpeg, OBS ou um transcodificador codifica em hardware. A A100 e a H100 não têm NVENC algum.

Posso alugar uma L40S sob demanda, por hora?

Sim, mas apenas para uma máquina L40S já instalada no rack e pedida sem alterações em servidores instantâneos. O custo é o preço mensal dividido por 730 horas, vezes 1,3, medido por segundo até você liberar, com uma hora como mínimo. Cada configuração na tabela acima é mensal.

Isso é uma instância cloud L40S ou bare metal?

Bare metal. Não há hipervisor entre seu sistema operacional e a GPU, e a máquina tem um único locatário. Você vê a L40S completa com seus 48 GB, não uma fatia dela.

Qual sistema operacional e driver NVIDIA um servidor L40S roda?

Qualquer imagem que você indicar no formulário de pedido, instalada antes da entrega: Ubuntu da 14.04 à 26.04, Windows Server do 2008 R2 ao 2025, Proxmox VE ou VMware vSphere Hypervisor. A L40S pede driver R535 ou mais recente, o ramo em que a NVIDIA a adicionou, e CUDA 12 para acessar seus Tensor Cores FP8. Após a entrega, o driver, a versão do CUDA e o framework permanecem nas versões que você escolher.

Posso colocar duas ou mais GPUs L40S em um servidor?

Sim, como uma configuração cotada manualmente em vez de marcada no checkout: o chassi, suas pistas PCIe e a fonte de alimentação definem quantas cabem. As GPUs comunicam-se via PCIe, já que a L40S não tem NVLink. Pergunte no chat antes de pedir, ou veja servidores multi-GPU.

Quanto tempo um servidor L40S leva para ser entregue?

Cerca de 30 minutos após a aprovação quando uma máquina com L40S já está no rack, 4 a 24 horas quando instalamos uma GPU que temos em estoque, 5 a 10 dias úteis quando a GPU é comprada, e 10 a 15 quando está em alocação. Informamos qual dos quatro casos se aplica antes de você pagar.

Quem responde quando preciso de ajuda?

Inicie um chat: nossa IA responde em segundos e pode consultar sua conta e seu servidor L40S enquanto você fala. Diga que quer uma pessoa e um de nós assume a mesma conversa.

Em texto simples

Todos os números desta página

GPU
NVIDIA L40S, Ada Lovelace, 48 GB GDDR6 with ECC, 864 GB/s, PCIe 4.0 x16, 350 W
Cores
18,176 CUDA cores, 568 fourth-generation Tensor Cores, 142 third-generation RT Cores
Compute
FP32 91.6 TFLOPS; FP16 and BF16 Tensor 362 TFLOPS (733 with sparsity); FP8 733 TFLOPS (1,466 with sparsity)
Video
3 NVENC and 3 NVDEC engines, AV1 encode and decode
L40S server from
$532.67 a month, complete: Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps with the GPU
GPU line
$449 a month on top of the machine
Platforms
Intel Xeon Silver / Gold (PCIe 3.0); AMD EPYC (PCIe 4.0)
Cities
New York, Bucharest, San Francisco, Miami
Setup
$29 once for a build with a GPU fitted
Term
Monthly, no contract; up to 15% off for 3, 6 or 12 months paid ahead
Traffic
Unmetered port, no egress charge
GPU access
PCIe passthrough to your own OS, root, single tenant, no hypervisor
Delivery
About 30 minutes racked; 4 to 24 hours fitted from stock; 5 to 10 working days bought in; 10 to 15 on allocation
Not on the L40S
NVLink, Multi-Instance GPU, HBM

Escolha a plataforma e configure o servidor L40S

Abra o configurador com a L40S já selecionada, ou diga-nos o modelo, a cena ou a quantidade de canais no chat. A IA responde em segundos; uma pessoa assume sempre que você pedir.