Servidor dedicado com GPU · computação desbloqueada · Bucharest, UE

Alugue um servidor GPU RTX 3050 para IA, com núcleos tensor desbloqueados

Um desktop RTX 3050 6GB completo para inferência e ajuste fino de IA, alugado por mês em Bucharest. Todos os que entregamos com Ubuntu têm os núcleos tensor a funcionar à velocidade máxima: na nossa própria placa, o trabalho matricial FP16 passou de 14.0 para 21.3 TFLOPS, dentro do mesmo limite de potência de 70 W, sem nada para instalar. A máquina é toda sua: um Intel Core i5-9500, 32 GB de memória, um 256 GB NVMe SSD, root e uma porta 1 Gbps sem limites de tráfego.

  • FP16 +52%
  • BF16 +54%
  • TF32 +56%
  • Verificado a cada arranque

Configuração de fábrica vs desbloqueada

Medido no nosso próprio RTX 3050, não copiado de uma ficha técnica

Uma placa numa das nossas máquinas, iniciada a frio duas vezes: primeiro na configuração de fábrica, depois desbloqueada. Mesmo kernel, mesmo driver, mesmo limite de energia 70 W. O teste é aquele em que as frameworks de IA mais se apoiam: uma grande multiplicação de matrizes em PyTorch.

Débito de multiplicação de matrizes em TFLOPS, quanto maior, mais rápido

Matrizes 8192 × 8192, PyTorch, driver NVIDIA 595

  • Fábrica
  • Desbloqueada
  • FP16 +52%
  • BF16 +54%
  • TF32 +56%
  • FP32 igual
2x

A taxa de pico dos tensores duplica. Contada instrução a instrução, FP16 e BF16 com acumulação FP32 passaram de 17.9 para 36.1 biliões de operações por segundo. As multiplicações reais de grande dimensão ganham cerca de metade em vez do dobro, porque a placa já trabalha no seu limite de 70 W e a velocidade extra tem de caber dentro da mesma energia.

Mostrar os valores numa tabela
PrecisãoFábricaDesbloqueadaVariação
FP16, TFLOPS14.021.3+52%
BF16, TFLOPS14.222.0+54%
TF32, TFLOPS6.910.8+56%
FP32, TFLOPS3.73.7igual
Taxa de pico dos tensores, acumulação FP32, TF/s17.936.12x

Cada valor é a média de cinco execuções de cinquenta multiplicações, após um aquecimento. O seu ganho de velocidade depende do modelo, do tamanho do lote e do software.

Onde você vai sentir

Mais rápido onde os núcleos tensor fazem o trabalho, inalterado em todo o resto

O desbloqueio melhora uma coisa: a velocidade com que a placa multiplica matrizes em FP16, BF16 e TF32. Tudo o que passa seu tempo ali acelera; tudo o que não passa, roda exatamente como antes.

Fica mais rápido

  • Processamento de prompts na inferência de IA. Ler um prompt ou documento longo é trabalho de matriz, então a espera antes da primeira palavra fica mais curta.
  • Ajuste fino de modelos pequenos. LoRA e similares rodam em modelos que cabem em 6 GB GDDR6 e terminam mais cedo em BF16 ou FP16.
  • Geração de imagens. Modelos de difusão passam a maior parte de cada etapa em matemática de matriz de meia precisão.
  • Inferência em lote. Tarefas de embeddings, classificação e transcrição que empurram muitas entradas de uma vez.

Permanece como estava

  • Jogos e renderização 3D. O trabalho gráfico não passa por esse caminho.
  • Codificação e decodificação de vídeo. NVENC e NVDEC são motores separados no chip e mantêm a velocidade de fábrica.
  • Código CUDA FP32. Matemática comum de precisão simples roda a 3.7 TFLOPS de qualquer forma.
  • Geração de texto token a token. Uma vez que o modelo está escrevendo sua resposta, a velocidade da memória define o ritmo, não a taxa dos tensores.

Como chega ao seu servidor

Peça com Ubuntu e a placa chega desbloqueada

  1. Escolha o Ubuntu

    Selecione Ubuntu 22.04, 24.04 ou 26.04 no formulário de pedido. Instalamos o sistema, o driver da NVIDIA e o desbloqueio de computação em conjunto, para que a máquina fique online cerca de 30 minutos após a aprovação do seu pedido.

  2. Aplicado a cada inicialização

    Nada é gravado na placa. O desbloqueio é definido durante a inicialização da máquina, antes de o driver da NVIDIA carregar, e é verificado sempre que o sistema inicia.

  3. Velocidade de fábrica como rede de segurança

    Se uma inicialização não conseguir aplicá-lo, a placa simplesmente entra na sua taxa de fábrica e continua funcionando. Nada mais na máquina muda em nenhum dos casos.

Prefere Windows ou outro sistema? Peça a mesma máquina com qualquer sistema operacional da nossa lista, incluindo Windows. Nesse caso, a placa funciona na velocidade de fábrica, pois aplicamos o desbloqueio apenas no Ubuntu. Todo o resto, do processador à porta sem limite de tráfego, é idêntico.

Como testamos

Rodamos no nosso próprio rack antes de oferecer a você

Antes que uma única máquina de cliente recebesse o desbloqueio, submetemos um desses desktops a um teste de laboratório: partidas a frio repetidas, uma reinicialização a quente, todos os benchmarks em ambos os estados e uma longa execução sob carga total, monitorando erros o tempo todo.

Ele aguentou. O desbloqueio funcionou em todas as partidas, a placa não registrou erros e todos os resultados sob carga saíram idênticos ao primeiro, bit a bit.

Máquina
Intel Core i5-9500, 32 GB, Bucharest
Placa
RTX 3050 6GB, limite 70 W
Sistema
Ubuntu 24.04, driver NVIDIA 595
Partidas
Desbloqueado em 5 de 5
Execução em carga total
45 minutos, 0 erros
Resultados verificados
Idênticos bit a bit, 0 divergências
Benchmark
PyTorch, matrizes 8192²

Perguntas

RTX 3050 desbloqueada: o que as pessoas perguntam antes de alugar uma

O que exatamente é desbloqueado?

A taxa na qual os núcleos tensor da placa multiplicam matrizes em FP16, BF16 e TF32. De fábrica, esta placa executa essa matemática na metade da taxa que o chip consegue quando soma resultados em FP32. Desbloqueada, ela opera na taxa total. A placa, seu 6 GB GDDR6 e seu limite de energia 70 W permanecem os mesmos.

Quanto mais rápida será minha carga de trabalho?

Em nossa placa, multiplicações de matrizes grandes rodaram 52% mais rápido em FP16, 54% em BF16 e 56% em TF32. Um trabalho de IA completo ganha menos do que isso, porque também gasta tempo em coisas que o desbloqueio não afeta, como mover dados ou gerar tokens um de cada vez.

Quais modelos de IA cabem em 6 GB GDDR6?

A memória, não a taxa de tensor, decide o que você pode executar. O Whisper large-v3 ocupa cerca de 3,1 GB em 16 bits e o Stable Diffusion 1.5 cerca de 2 GB, então ambos deixam espaço de sobra. Um modelo de linguagem de 8 bilhões de parâmetros quantizado para 4 bits tem 4,92 GB de pesos, o que cabe com contexto sobrando. O SDXL em 16 bits (6,9 GB) e um modelo de 13B em 4 bits (7,87 GB) não cabem; para 24 GB de memória de vídeo, veja nossos servidores da série RTX 30.

Preciso instalar alguma coisa?

Não. Peça a máquina com Ubuntu e ela é entregue com o driver da NVIDIA e o desbloqueio de computação já aplicados. Você recebe acesso root e pode adicionar CUDA, PyTorch ou qualquer outra coisa por cima.

Posso encomendá-la com Windows?

Sim, com Windows ou qualquer outro sistema operacional que oferecemos. O desbloqueio de computação é aplicado apenas no Ubuntu, então em qualquer outro sistema a placa roda na velocidade de fábrica, que ainda é um RTX 3050 6GB completo só seu.

O que acontece se o desbloqueio não for aplicado um dia?

A placa inicia na velocidade de fábrica e funciona normalmente. Ela é verificada a cada inicialização, então basta reiniciar para a próxima tentativa.

Posso desligá-lo?

Sim. É uma única opção de boot. Remova-a, desligue e ligue a máquina novamente, e a placa retorna à taxa de fábrica. Nossa equipe de suporte pode fazer isso por você.

Custa algo a mais?

Não. A placa desbloqueada está incluída no preço da máquina de €89.00 por mês, com 32 GB de memória, o 256 GB NVMe SSD, um endereço IPv4 e uma porta 1 Gbps sem limite de tráfego.

Mais desempenho de IA da mesma placa, pelo mesmo valor de €89.00 por mês

Uma máquina RTX 3050 completa em Bucharest com os núcleos tensor em velocidade máxima, acesso root e uma porta 1 Gbps sem limite de tráfego, online cerca de 30 minutos após a aprovação.

NVIDIA, GeForce e RTX são marcas comerciais da NVIDIA Corporation. O desbloqueio de computação é uma configuração nossa da placa e não é fornecido pela NVIDIA.