GPU-Dedicated-Server · Rechenleistung freigeschaltet · Bucharest, EU
Die RTX 3050, freigeschaltet: bis zu 56% mehr KI-Rechenleistung aus derselben Karte
Jeder RTX 3050-Desktop, den wir jetzt mit Ubuntu oder Debian ausliefern, lässt seine Tensor-Kerne mit voller Geschwindigkeit laufen. Bei unserer eigenen Karte stieg die FP16-Matrixarbeit damit von 14.0 auf 21.3 TFLOPS, innerhalb desselben 70 W-Leistungslimits, ohne dass Sie etwas installieren müssen. Die Maschine gehört ganz Ihnen: ein Intel Core i5-9500, 32 GB Arbeitsspeicher, eine 256 GB NVMe SSD und ein ungedrosselter 1 Gbps-Port.
- FP16 +52%
- BF16 +54%
- TF32 +56%
- Bei jedem Start geprüft
Werkseinstellung vs. entsperrt
Gemessen auf unserer eigenen RTX 3050, nicht aus einem Datenblatt kopiert
Eine Karte in einer unserer Maschinen, zweimal kalt gestartet: zuerst mit Werkseinstellung, dann entsperrt. Gleicher Kernel, gleicher Treiber, gleiche 70 W-Leistungsgrenze. Der Test ist die Aufgabe, auf die KI-Frameworks am stärksten setzen: eine große Matrixmultiplikation in PyTorch.
Matrixmultiplikations-Durchsatz in TFLOPS, höher ist schneller
8192 × 8192-Matrizen, PyTorch, NVIDIA-Treiber 595
- Werkseinstellung
- Entsperrt
- FP16 14.0+52%21.3
- BF16 14.2+54%22.0
- TF32 6.9+56%10.8
- FP32 3.7gleich3.7
Die Spitzen-Tensorrate verdoppelt sich. Anweisung für Anweisung gezählt, stiegen FP16 und BF16 mit FP32-Akkumulation von 17.9 auf 36.1 Billionen Operationen pro Sekunde. Große reale Multiplikationen gewinnen etwa die Hälfte statt das Doppelte, weil die Karte bereits an ihrer 70 W-Grenze arbeitet und die zusätzliche Geschwindigkeit in dieselbe Leistungsaufnahme passen muss.
Zahlen als Tabelle anzeigen
| Präzision | Werkseinstellung | Entsperrt | Änderung |
|---|---|---|---|
| FP16, TFLOPS | 14.0 | 21.3 | +52% |
| BF16, TFLOPS | 14.2 | 22.0 | +54% |
| TF32, TFLOPS | 6.9 | 10.8 | +56% |
| FP32, TFLOPS | 3.7 | 3.7 | gleich |
| Spitzen-Tensorrate, FP32-Akkumulation, TF/s | 17.9 | 36.1 | 2x |
Jeder Wert ist der Durchschnitt aus fünf Durchläufen von je fünfzig Multiplikationen nach einem Aufwärmen. Ihre eigene Beschleunigung hängt von Modell, Batch-Größe und Software ab.
Wo Sie es spüren werden
Schneller, wo die Tensor-Kerne die Arbeit verrichten, unverändert überall sonst
Die Freischaltung steigert genau eines: wie schnell die Karte Matrizen in FP16, BF16 und TF32 multipliziert. Alles, was dort seine Zeit verbringt, wird schneller; alles, was das nicht tut, läuft exakt wie zuvor.
Wird schneller
- Prompt-Verarbeitung bei KI-Inferenz. Einen langen Prompt oder ein Dokument zu lesen ist Matrixarbeit, daher verkürzt sich die Wartezeit bis zum ersten Wort.
- Feinabstimmung kleiner Modelle. LoRA und Ähnliches läuft auf Modellen, die in 6 GB GDDR6 passen, und ist in BF16 oder FP16 früher fertig.
- Bilderzeugung. Diffusionsmodelle verbringen den Großteil jedes Schritts mit halbpräziser Matrixmathematik.
- Batch-Inferenz. Embedding-, Klassifizierungs- und Transkriptionsaufträge, die viele Eingaben auf einmal verarbeiten.
Bleibt wie es war
- Spiele und 3D-Rendering. Grafikarbeit nimmt diesen Weg nicht.
- Video-Enkodierung und -Dekodierung. NVENC und NVDEC sind separate Engines auf dem Chip und behalten ihre Werksgeschwindigkeit.
- FP32-CUDA-Code. Gewöhnliche Mathematik mit einfacher Genauigkeit läuft so oder so mit 3.7 TFLOPS.
- Token-für-Token-Textgenerierung. Sobald ein Modell seine Antwort schreibt, gibt die Speichergeschwindigkeit das Tempo vor, nicht die Tensor-Rate.
So erreicht es Ihren Server
Unter Linux bestellen – die Karte kommt entsperrt an
Wählen Sie Ubuntu oder Debian
Entscheiden Sie sich im Bestellformular für eines der beiden Systeme. Wir installieren das System, den NVIDIA-Treiber und das Compute-Unlock gemeinsam, sodass die Maschine etwa 30 Minuten nach der Freigabe Ihrer Bestellung online ist.
Bei jedem Start aktiv
Auf der Karte wird nichts geflasht. Das Unlock wird beim Booten der Maschine gesetzt, bevor der NVIDIA-Treiber lädt, und bei jedem Systemstart erneut geprüft.
Werksgeschwindigkeit als Sicherheitsnetz
Sollte es beim Booten einmal nicht angewendet werden können, startet die Karte einfach mit ihrer Werksrate und arbeitet normal weiter. Am Rest der Maschine ändert sich in beiden Fällen nichts.
Nutzen Sie Windows? Dieselbe Maschine ist auch mit Windows erhältlich; dort läuft die Karte mit ihrer Werksgeschwindigkeit, denn das Compute-Unlock ist eine Linux-Funktion. Alles andere – vom Prozessor bis zum ungedrosselten Port – ist identisch.
So haben wir es getestet
Wir haben es in unserem eigenen Rack betrieben, bevor wir es Ihnen angeboten haben
Bevor auch nur eine einzige Kundenmaschine die Freischaltung erhielt, haben wir einen dieser Desktops einem Labortest unterzogen: wiederholte Kaltstarts, ein warmer Neustart, alle Benchmarks in beiden Zuständen und ein langer Lauf unter Volllast – die ganze Zeit über auf Fehler überwacht.
Er hat standgehalten. Die Freischaltung griff bei jedem Start, die Karte protokollierte keine Fehler, und jedes Ergebnis unter Last war mit dem ersten identisch, Bit für Bit.
- Maschine
- Intel Core i5-9500, 32 GB, Bucharest
- Karte
- RTX 3050 6GB, 70 W Limit
- System
- Ubuntu 24.04, NVIDIA-Treiber 595
- Starts
- Freigeschaltet bei 5 von 5
- Volllast-Lauf
- 45 Minuten, 0 Fehler
- Ergebnisse geprüft
- Bit-identisch, 0 Abweichungen
- Benchmark
- PyTorch, 8192² Matrizen
Fragen
Freigeschaltete RTX 3050: Was Kunden vor dem Mieten wissen möchten
Was genau ist freigeschaltet?
Die Rate, mit der die Tensor-Kerne der Karte Matrizen in FP16, BF16 und TF32 multiplizieren. Ab Werk führt diese Karte diese Berechnungen mit der halben Rate aus, die der Chip erreichen kann, wenn er Ergebnisse in FP32 addiert. Freigeschaltet läuft sie mit voller Rate. Die Karte, ihr 6 GB GDDR6 und ihr 70 W Leistungslimit bleiben unverändert.
Wie viel schneller wird meine Arbeitslast?
Auf unserer Karte liefen große Matrixmultiplikationen 52% schneller in FP16, 54% in BF16 und 56% in TF32. Ein kompletter KI-Job profitiert weniger davon, da er auch Zeit für Dinge aufwendet, die die Freischaltung nicht betrifft, etwa das Verschieben von Daten oder das Erzeugen von Tokens einzeln nacheinander.
Muss ich etwas installieren?
Nein. Bestellen Sie die Maschine mit Ubuntu oder Debian, und sie wird mit NVIDIAs Treiber und bereits aktivierter Compute-Freischaltung geliefert. Sie erhalten Root-Zugriff und können CUDA, PyTorch oder alles Weitere obendrauf installieren.
Funktioniert das unter Windows?
Nein. Die Compute-Freischaltung wird nur unter Linux angewendet. Dieselbe Maschine mit Windows betreibt die Karte mit ihrer Werksgeschwindigkeit, und das ist immer noch eine vollwertige RTX 3050 6GB für Sie allein.
Was passiert, wenn die Freischaltung eines Tages nicht angewendet wird?
Die Karte startet mit ihrer Werksgeschwindigkeit und funktioniert normal. Sie wird bei jedem Start geprüft, daher genügt ein Neustart für den nächsten Versuch.
Kann ich sie ausschalten?
Ja. Es handelt sich um eine einzelne Boot-Option. Entfernen Sie sie, schalten Sie die Maschine aus und wieder ein, und die Karte kehrt zu ihrer Werksrate zurück. Unser Support-Team kann das für Sie übernehmen.
Kostet das extra?
Nein. Die freigeschaltete Karte ist im Maschinenpreis von €89.00 pro Monat enthalten, mit 32 GB Arbeitsspeicher, dem 256 GB NVMe SSD, einer IPv4-Adresse und einem unlimitierten 1 Gbps-Port.
Mehr KI-Durchsatz mit derselben Karte, zum gleichen Preis von €89.00 pro Monat
Eine komplette RTX 3050-Maschine in Bucharest mit voll ausgelasteten Tensor-Kernen, Root-Zugriff und einem unlimitierten 1 Gbps-Port, etwa 30 Minuten nach Freigabe online.
NVIDIA, GeForce und RTX sind Marken der NVIDIA Corporation. Die Rechenfreischaltung ist unsere eigene Konfiguration der Karte und wird nicht von NVIDIA bereitgestellt.