Servidor dedicado com GPU · computação liberada · Bucharest, UE
A RTX 3050, liberada: até 56% mais matemática de IA da mesma placa
Cada desktop RTX 3050 que entregamos agora com Ubuntu ou Debian tem seus núcleos tensor rodando em velocidade máxima. Na nossa própria placa, isso elevou o trabalho de matriz FP16 de 14.0 para 21.3 TFLOPS, dentro do mesmo limite de energia de 70 W, sem nada para você instalar. A máquina é toda sua: um Intel Core i5-9500, 32 GB de memória, um 256 GB NVMe SSD e uma porta 1 Gbps sem limite de tráfego.
- FP16 +52%
- BF16 +54%
- TF32 +56%
- Verificado a cada inicialização
Configuração de fábrica vs desbloqueada
Medido no nosso próprio RTX 3050, não copiado de uma ficha técnica
Uma placa numa das nossas máquinas, iniciada a frio duas vezes: primeiro na configuração de fábrica, depois desbloqueada. Mesmo kernel, mesmo driver, mesmo limite de energia 70 W. O teste é aquele em que as frameworks de IA mais se apoiam: uma grande multiplicação de matrizes em PyTorch.
Débito de multiplicação de matrizes em TFLOPS, quanto maior, mais rápido
Matrizes 8192 × 8192, PyTorch, driver NVIDIA 595
- Fábrica
- Desbloqueada
- FP16 14.0+52%21.3
- BF16 14.2+54%22.0
- TF32 6.9+56%10.8
- FP32 3.7igual3.7
A taxa de pico dos tensores duplica. Contada instrução a instrução, FP16 e BF16 com acumulação FP32 passaram de 17.9 para 36.1 biliões de operações por segundo. As multiplicações reais de grande dimensão ganham cerca de metade em vez do dobro, porque a placa já trabalha no seu limite de 70 W e a velocidade extra tem de caber dentro da mesma energia.
Mostrar os valores numa tabela
| Precisão | Fábrica | Desbloqueada | Variação |
|---|---|---|---|
| FP16, TFLOPS | 14.0 | 21.3 | +52% |
| BF16, TFLOPS | 14.2 | 22.0 | +54% |
| TF32, TFLOPS | 6.9 | 10.8 | +56% |
| FP32, TFLOPS | 3.7 | 3.7 | igual |
| Taxa de pico dos tensores, acumulação FP32, TF/s | 17.9 | 36.1 | 2x |
Cada valor é a média de cinco execuções de cinquenta multiplicações, após um aquecimento. O seu ganho de velocidade depende do modelo, do tamanho do lote e do software.
Onde você vai sentir
Mais rápido onde os núcleos tensor fazem o trabalho, inalterado em todo o resto
O desbloqueio melhora uma coisa: a velocidade com que a placa multiplica matrizes em FP16, BF16 e TF32. Tudo o que passa seu tempo ali acelera; tudo o que não passa, roda exatamente como antes.
Fica mais rápido
- Processamento de prompts na inferência de IA. Ler um prompt ou documento longo é trabalho de matriz, então a espera antes da primeira palavra fica mais curta.
- Ajuste fino de modelos pequenos. LoRA e similares rodam em modelos que cabem em 6 GB GDDR6 e terminam mais cedo em BF16 ou FP16.
- Geração de imagens. Modelos de difusão passam a maior parte de cada etapa em matemática de matriz de meia precisão.
- Inferência em lote. Tarefas de embeddings, classificação e transcrição que empurram muitas entradas de uma vez.
Permanece como estava
- Jogos e renderização 3D. O trabalho gráfico não passa por esse caminho.
- Codificação e decodificação de vídeo. NVENC e NVDEC são motores separados no chip e mantêm a velocidade de fábrica.
- Código CUDA FP32. Matemática comum de precisão simples roda a 3.7 TFLOPS de qualquer forma.
- Geração de texto token a token. Uma vez que o modelo está escrevendo sua resposta, a velocidade da memória define o ritmo, não a taxa dos tensores.
Como chega ao seu servidor
Peça-o em Linux e a placa chega desbloqueada
Escolha Ubuntu ou Debian
Selecione qualquer um dos dois no formulário de pedido. Instalamos o sistema, o driver da NVIDIA e o desbloqueio de computação em conjunto, para que a máquina fique online cerca de 30 minutos após a aprovação do seu pedido.
Aplicado a cada inicialização
Nada é gravado na placa. O desbloqueio é definido durante a inicialização da máquina, antes de o driver da NVIDIA carregar, e é verificado sempre que o sistema inicia.
Velocidade de fábrica como rede de segurança
Se uma inicialização não conseguir aplicá-lo, a placa simplesmente entra na sua taxa de fábrica e continua funcionando. Nada mais na máquina muda em nenhum dos casos.
Está usando Windows? A mesma máquina está disponível com Windows e, nesse caso, a placa opera na velocidade de fábrica: o desbloqueio de computação é um recurso do Linux. Todo o resto, do processador à porta sem medição, é idêntico.
Como testamos
Rodamos no nosso próprio rack antes de oferecer a você
Antes que uma única máquina de cliente recebesse o desbloqueio, submetemos um desses desktops a um teste de laboratório: partidas a frio repetidas, uma reinicialização a quente, todos os benchmarks em ambos os estados e uma longa execução sob carga total, monitorando erros o tempo todo.
Ele aguentou. O desbloqueio funcionou em todas as partidas, a placa não registrou erros e todos os resultados sob carga saíram idênticos ao primeiro, bit a bit.
- Máquina
- Intel Core i5-9500, 32 GB, Bucharest
- Placa
- RTX 3050 6GB, limite 70 W
- Sistema
- Ubuntu 24.04, driver NVIDIA 595
- Partidas
- Desbloqueado em 5 de 5
- Execução em carga total
- 45 minutos, 0 erros
- Resultados verificados
- Idênticos bit a bit, 0 divergências
- Benchmark
- PyTorch, matrizes 8192²
Perguntas
RTX 3050 desbloqueada: o que as pessoas perguntam antes de alugar uma
O que exatamente é desbloqueado?
A taxa na qual os núcleos tensor da placa multiplicam matrizes em FP16, BF16 e TF32. De fábrica, esta placa executa essa matemática na metade da taxa que o chip consegue quando soma os resultados em FP32. Desbloqueada, ela opera na taxa total. A placa, seu 6 GB GDDR6 e seu limite de energia 70 W permanecem os mesmos.
Quanto mais rápido meu workload ficará?
Em nossa placa, multiplicações de matrizes grandes rodaram 52% mais rápido em FP16, 54% em BF16 e 56% em TF32. Um job de IA completo ganha menos que isso, porque também gasta tempo em coisas que o desbloqueio não afeta, como mover dados ou gerar tokens um de cada vez.
Preciso instalar alguma coisa?
Não. Peça a máquina com Ubuntu ou Debian e ela é entregue com o driver da NVIDIA e o desbloqueio de computação já aplicados. Você recebe acesso root e pode adicionar CUDA, PyTorch ou qualquer outra coisa por cima.
Funciona no Windows?
Não. O desbloqueio de computação é aplicado apenas no Linux. A mesma máquina com Windows roda a placa na velocidade de fábrica, que ainda é um RTX 3050 6GB completo só seu.
O que acontece se o desbloqueio não for aplicado um dia?
A placa inicia na velocidade de fábrica e funciona normalmente. Ela é verificada a cada inicialização, então basta reiniciar para a próxima tentativa.
Posso desligá-lo?
Sim. É uma única opção de boot. Remova-a, desligue e ligue a máquina novamente, e a placa volta à taxa de fábrica. Nossa equipe de suporte pode fazer isso por você.
Custa algo a mais?
Não. A placa desbloqueada está incluída no preço da máquina de €89.00 por mês, com 32 GB de memória, o 256 GB NVMe SSD, um endereço IPv4 e uma porta 1 Gbps sem medição.
Mais desempenho de IA da mesma placa, pelo mesmo valor de €89.00 por mês
Uma máquina RTX 3050 completa em Bucharest com os núcleos tensor em velocidade máxima, acesso root e uma porta 1 Gbps sem limite de tráfego, online cerca de 30 minutos após a aprovação.
NVIDIA, GeForce e RTX são marcas comerciais da NVIDIA Corporation. O desbloqueio de computação é uma configuração nossa da placa e não é fornecido pela NVIDIA.