Servidor dedicado L40S 48 GB de memória ECC, três codificadores AV1, root no seu próprio sistema operacional.

Um servidor físico com uma GPU NVIDIA L40S de 48 GB repassada ao sistema operacional que você instalar, com acesso root, porta sem limite de tráfego e mais ninguém na máquina. A cobrança é mensal, com a máquina e a GPU como duas linhas em uma única fatura.

O menor preço mensal de um servidor L40S completo é $532.67. Essa máquina é Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps, e a GPU representa $449 do total. Uma configuração com a GPU instalada acrescenta uma taxa única de setup de $29, e a tabela de configurações lista cada plataforma com seu próprio preço.

18.176 núcleos CUDA, com 568 Tensor Cores de quarta geração e 142 RT Cores de terceira geração, na arquitetura Ada Lovelace. Ela traz 48 GB de GDDR6 com ECC a 864 GB/s, conecta-se via PCIe 4.0 x16 e consome até 350 W.

Para inferência em um modelo que caiba em 48 GB, muitas vezes sim: ela tem Tensor Cores FP8, que a A100 não tem, e custa menos por mês. Para treinar modelos grandes, a A100 de 80 GB geralmente vence, com 80 GB de HBM2e a 1.935 GB/s contra 48 GB a 864 GB/s, além de conector NVLink. A H100 está à frente de ambas no treinamento.

Em 4 bits, sim, com pouco espaço: os pesos ocupam cerca de 38 GB dos 48, o que deixa espaço para um contexto curto e um usuário. Em 8 bits, 70 bilhões de parâmetros exigem cerca de 70 GB, o que pede duas GPUs ou uma de 80 GB.

Nenhum dos dois. A L40S não tem conector NVLink nem Multi-Instance GPU, então duas GPUs L40S em um servidor se comunicam via PCIe, e uma L40S roda como uma única GPU. Se o trabalho exigir qualquer um desses recursos, veja a A100 ou a H100.

Sim. Ela tem três motores NVENC e três NVDEC com codificação e decodificação AV1, então FFmpeg, OBS ou um transcodificador codifica em hardware. A A100 e a H100 não têm NVENC algum.

Sim, mas apenas para uma máquina L40S já instalada no rack e pedida sem alterações em servidores instantâneos. O custo é o preço mensal dividido por 730 horas, vezes 1,3, medido por segundo até você liberar, com uma hora como mínimo. Cada configuração da tabela acima é mensal.

Bare metal. Não há hipervisor entre o seu sistema operacional e a GPU, e a máquina tem um único locatário. Você vê a L40S completa com seus 48 GB, não uma fatia dela.

Sim, como uma configuração cotada manualmente em vez de marcada no checkout: o chassi, suas pistas PCIe e a fonte de alimentação determinam quantas cabem. As GPUs se comunicam via PCIe, já que a L40S não tem NVLink. Pergunte no chat antes de pedir, ou veja servidores multi-GPU.

Cerca de 30 minutos após a aprovação quando uma máquina com L40S já está no rack, de 4 a 24 horas quando instalamos uma GPU que temos em estoque, de 5 a 10 dias úteis quando a GPU é comprada e de 10 a 15 quando está sob alocação. Informamos qual dos quatro casos se aplica antes de você pagar.

Inicie um chat: nossa IA responde em segundos e pode consultar sua conta e seu servidor L40S enquanto você fala. Diga que quer uma pessoa e um de nós assume a mesma conversa.