GPU-Dedicated-Server · Rechenleistung freigeschaltet · Bucharest, EU
Mieten Sie einen RTX 3050-GPU-Server für KI, Tensor-Kerne freigeschaltet
Ein kompletter RTX 3050 6GB-Desktop für KI-Inferenz und Feinabstimmung, monatlich gemietet in Bucharest. Jedes Gerät, das wir mit Ubuntu ausliefern, läuft mit voller Tensor-Kern-Leistung: Bei unserer eigenen Karte stieg die FP16-Matrixarbeit von 14.0 auf 21.3 TFLOPS, innerhalb desselben 70 W-Leistungslimits, ohne dass Sie etwas installieren müssen. Die Maschine gehört ganz Ihnen: ein Intel Core i5-9500, 32 GB Arbeitsspeicher, eine 256 GB NVMe SSD, Root-Zugang und ein ungedrosselter 1 Gbps-Port.
- FP16 +52%
- BF16 +54%
- TF32 +56%
- Bei jedem Start geprüft
Werkseinstellung vs. entsperrt
Gemessen auf unserer eigenen RTX 3050, nicht aus einem Datenblatt kopiert
Eine Karte in einer unserer Maschinen, zweimal kalt gestartet: zuerst mit Werkseinstellung, dann entsperrt. Gleicher Kernel, gleicher Treiber, gleiche 70 W-Leistungsgrenze. Der Test ist die Aufgabe, auf die KI-Frameworks am stärksten setzen: eine große Matrixmultiplikation in PyTorch.
Matrixmultiplikations-Durchsatz in TFLOPS, höher ist schneller
8192 × 8192-Matrizen, PyTorch, NVIDIA-Treiber 595
- Werkseinstellung
- Entsperrt
- FP16 14.0+52%21.3
- BF16 14.2+54%22.0
- TF32 6.9+56%10.8
- FP32 3.7gleich3.7
Die Spitzen-Tensorrate verdoppelt sich. Anweisung für Anweisung gezählt, stiegen FP16 und BF16 mit FP32-Akkumulation von 17.9 auf 36.1 Billionen Operationen pro Sekunde. Große reale Multiplikationen gewinnen etwa die Hälfte statt das Doppelte, weil die Karte bereits an ihrer 70 W-Grenze arbeitet und die zusätzliche Geschwindigkeit in dieselbe Leistungsaufnahme passen muss.
Zahlen als Tabelle anzeigen
| Präzision | Werkseinstellung | Entsperrt | Änderung |
|---|---|---|---|
| FP16, TFLOPS | 14.0 | 21.3 | +52% |
| BF16, TFLOPS | 14.2 | 22.0 | +54% |
| TF32, TFLOPS | 6.9 | 10.8 | +56% |
| FP32, TFLOPS | 3.7 | 3.7 | gleich |
| Spitzen-Tensorrate, FP32-Akkumulation, TF/s | 17.9 | 36.1 | 2x |
Jeder Wert ist der Durchschnitt aus fünf Durchläufen von je fünfzig Multiplikationen nach einem Aufwärmen. Ihre eigene Beschleunigung hängt von Modell, Batch-Größe und Software ab.
Wo Sie es spüren werden
Schneller, wo die Tensor-Kerne die Arbeit verrichten, unverändert überall sonst
Die Freischaltung steigert genau eines: wie schnell die Karte Matrizen in FP16, BF16 und TF32 multipliziert. Alles, was dort seine Zeit verbringt, wird schneller; alles, was das nicht tut, läuft exakt wie zuvor.
Wird schneller
- Prompt-Verarbeitung bei KI-Inferenz. Einen langen Prompt oder ein Dokument zu lesen ist Matrixarbeit, daher verkürzt sich die Wartezeit bis zum ersten Wort.
- Feinabstimmung kleiner Modelle. LoRA und Ähnliches läuft auf Modellen, die in 6 GB GDDR6 passen, und ist in BF16 oder FP16 früher fertig.
- Bilderzeugung. Diffusionsmodelle verbringen den Großteil jedes Schritts mit halbpräziser Matrixmathematik.
- Batch-Inferenz. Embedding-, Klassifizierungs- und Transkriptionsaufträge, die viele Eingaben auf einmal verarbeiten.
Bleibt wie es war
- Spiele und 3D-Rendering. Grafikarbeit nimmt diesen Weg nicht.
- Video-Enkodierung und -Dekodierung. NVENC und NVDEC sind separate Engines auf dem Chip und behalten ihre Werksgeschwindigkeit.
- FP32-CUDA-Code. Gewöhnliche Mathematik mit einfacher Genauigkeit läuft so oder so mit 3.7 TFLOPS.
- Token-für-Token-Textgenerierung. Sobald ein Modell seine Antwort schreibt, gibt die Speichergeschwindigkeit das Tempo vor, nicht die Tensor-Rate.
So erreicht es Ihren Server
Bestellen Sie es mit Ubuntu und die Karte kommt entsperrt an
Wählen Sie Ubuntu
Wählen Sie im Bestellformular Ubuntu 22.04, 24.04 oder 26.04. Wir installieren das System, den NVIDIA-Treiber und die Compute-Entsperrung gemeinsam, sodass die Maschine etwa 30 Minuten nach der Bestellfreigabe online ist.
Bei jedem Start aktiv
Auf der Karte wird nichts geflasht. Die Entsperrung wird beim Booten der Maschine gesetzt, bevor der NVIDIA-Treiber geladen wird, und bei jedem Systemstart erneut geprüft.
Werksgeschwindigkeit als Sicherheitsnetz
Sollte sie beim Booten einmal nicht angewendet werden können, startet die Karte einfach mit ihrer Werksrate und funktioniert weiter. Am Rest der Maschine ändert sich in beiden Fällen nichts.
Bevorzugen Sie Windows oder ein anderes System? Bestellen Sie dieselbe Maschine mit jedem Betriebssystem aus unserer Liste, Windows inbegriffen. Die Karte läuft dann mit ihrer Werksgeschwindigkeit, da wir die Entsperrung nur unter Ubuntu anwenden. Alles andere, vom Prozessor bis zum ungedrosselten Port, ist identisch.
So haben wir es getestet
Wir haben es in unserem eigenen Rack betrieben, bevor wir es Ihnen angeboten haben
Bevor auch nur eine einzige Kundenmaschine die Freischaltung erhielt, haben wir einen dieser Desktops einem Labortest unterzogen: wiederholte Kaltstarts, ein warmer Neustart, alle Benchmarks in beiden Zuständen und ein langer Lauf unter Volllast – die ganze Zeit über auf Fehler überwacht.
Er hat standgehalten. Die Freischaltung griff bei jedem Start, die Karte protokollierte keine Fehler, und jedes Ergebnis unter Last war mit dem ersten identisch, Bit für Bit.
- Maschine
- Intel Core i5-9500, 32 GB, Bucharest
- Karte
- RTX 3050 6GB, 70 W Limit
- System
- Ubuntu 24.04, NVIDIA-Treiber 595
- Starts
- Freigeschaltet bei 5 von 5
- Volllast-Lauf
- 45 Minuten, 0 Fehler
- Ergebnisse geprüft
- Bit-identisch, 0 Abweichungen
- Benchmark
- PyTorch, 8192² Matrizen
Fragen
Freigeschaltete RTX 3050: Was Kunden vor dem Mieten wissen möchten
Was genau ist freigeschaltet?
Die Rate, mit der die Tensor-Kerne der Karte Matrizen in FP16, BF16 und TF32 multiplizieren. Ab Werk führt diese Karte diese Berechnungen mit der halben Rate aus, die der Chip erreichen kann, wenn er Ergebnisse in FP32 addiert. Freigeschaltet läuft sie mit voller Rate. Die Karte, ihr 6 GB GDDR6 und ihr 70 W Leistungslimit bleiben unverändert.
Wie viel schneller wird meine Arbeitslast?
Auf unserer Karte liefen große Matrixmultiplikationen 52% schneller in FP16, 54% in BF16 und 56% in TF32. Ein ganzer KI-Job profitiert weniger davon, da er auch Zeit für Dinge aufwendet, die die Freischaltung nicht betrifft, etwa das Verschieben von Daten oder das Erzeugen von Tokens einzeln nacheinander.
Welche KI-Modelle passen in 6 GB GDDR6?
Der Speicher, nicht die Tensor-Rate, entscheidet, was Sie ausführen können. Whisper large-v3 benötigt etwa 3,1 GB bei 16 Bit und Stable Diffusion 1.5 etwa 2 GB, beide lassen also noch Platz übrig. Ein auf 4 Bit quantisiertes Sprachmodell mit 8 Milliarden Parametern umfasst 4,92 GB an Gewichten, was mit verbleibendem Kontext hineinpasst. SDXL mit 16 Bit (6,9 GB) und ein 13B-Modell mit 4 Bit (7,87 GB) passen nicht; für 24 GB Videospeicher sehen Sie sich unsere RTX-30-Server an.
Muss ich etwas installieren?
Nein. Bestellen Sie die Maschine mit Ubuntu, wird sie mit NVIDIA-Treiber und bereits aktivierter Rechen-Freischaltung geliefert. Sie erhalten Root-Zugriff und können CUDA, PyTorch oder alles Weitere obendrauf installieren.
Kann ich sie mit Windows bestellen?
Ja, mit Windows oder jedem anderen Betriebssystem, das wir anbieten. Die Rechen-Freischaltung wird nur unter Ubuntu angewendet, auf jedem anderen System läuft die Karte daher mit ihrer Werksgeschwindigkeit, was immer noch ein vollwertiger RTX 3050 6GB für Sie ist.
Was passiert, wenn die Freischaltung eines Tages nicht angewendet wird?
Die Karte startet mit ihrer Werksgeschwindigkeit und funktioniert normal. Sie wird bei jedem Start geprüft, ein Neustart genügt also für den nächsten Versuch.
Kann ich sie ausschalten?
Ja. Es handelt sich um eine einzelne Boot-Option. Entfernen Sie sie, schalten Sie die Maschine aus und wieder ein, und die Karte kehrt zu ihrer Werksrate zurück. Unser Support-Team kann das für Sie übernehmen.
Kostet es extra?
Nein. Die freigeschaltete Karte ist im Maschinenpreis von €89.00 pro Monat enthalten, mit 32 GB Arbeitsspeicher, dem 256 GB NVMe SSD, einer IPv4-Adresse und einem unlimitierten 1 Gbps-Port.
Mehr KI-Durchsatz mit derselben Karte, zum gleichen Preis von €89.00 pro Monat
Eine komplette RTX 3050-Maschine in Bucharest mit voll ausgelasteten Tensor-Kernen, Root-Zugriff und einem unlimitierten 1 Gbps-Port, etwa 30 Minuten nach Freigabe online.
NVIDIA, GeForce und RTX sind Marken der NVIDIA Corporation. Die Rechenfreischaltung ist unsere eigene Konfiguration der Karte und wird nicht von NVIDIA bereitgestellt.