GPU dedicated server · υπολογιστική χωρίς όρια · Bucharest, ΕΕ

Ο RTX 3050, ξεκλείδωτος: έως και 56% περισσότερα μαθηματικά τεχνητής νοημοσύνης από την ίδια κάρτα

Κάθε επιτραπέζιος υπολογιστής RTX 3050 που παραδίδουμε πλέον με Ubuntu ή Debian έχει τους πυρήνες tensor να λειτουργούν σε πλήρη ταχύτητα. Στη δική μας κάρτα, αυτό ανέβασε την επεξεργασία πινάκων FP16 από 14.0 σε 21.3 TFLOPS, εντός του ίδιου ορίου ισχύος 70 W, χωρίς να χρειαστεί να εγκαταστήσετε τίποτα. Το μηχάνημα είναι αποκλειστικά δικό σας: ένας Intel Core i5-9500, 32 GB μνήμης, ένας 256 GB NVMe SSD και μια απεριόριστη θύρα 1 Gbps.

Νοικιάστε τον ξεκλείδωτο RTX 3050 Δείτε εργοστασιακή έναντι ξεκλείδωτης
  • FP16 +52%
  • BF16 +54%
  • TF32 +56%
  • Έλεγχος σε κάθε εκκίνηση

Εργοστασιακή ρύθμιση έναντι ξεκλειδωμένης

Μετρημένο στο δικό μας RTX 3050, όχι αντιγραμμένο από φύλλο προδιαγραφών

Μία κάρτα σε ένα από τα μηχανήματά μας, εκκίνηση από κρύα κατάσταση δύο φορές: πρώτα στην εργοστασιακή ρύθμιση, μετά ξεκλειδωμένη. Ίδιος πυρήνας, ίδιος οδηγός, ίδιο όριο ισχύος 70 W. Η δοκιμή είναι αυτή στην οποία βασίζονται περισσότερο τα πλαίσια εργασίας τεχνητής νοημοσύνης, ένας μεγάλος πολλαπλασιασμός πινάκων στο PyTorch.

Ρυθμός πολλαπλασιασμού πινάκων σε TFLOPS, υψηλότερος σημαίνει ταχύτερος

Πίνακες 8192 × 8192, PyTorch, οδηγός NVIDIA 595

  • Εργοστασιακή
  • Ξεκλειδωμένη
  • FP16 +52%
  • BF16 +54%
  • TF32 +56%
  • FP32 ίδιο
2x

Ο μέγιστος ρυθμός τανυστών διπλασιάζεται. Μετρώντας εντολή προς εντολή, τα FP16 και BF16 με συσσώρευση FP32 πήγαν από 17.9 σε 36.1 τρισεκατομμύρια πράξεις το δευτερόλεπτο. Οι μεγάλοι πολλαπλασιασμοί του πραγματικού κόσμου κερδίζουν περίπου το μισό αντί για διπλάσιο, επειδή η κάρτα ήδη λειτουργεί στο όριο 70 W και η επιπλέον ταχύτητα πρέπει να χωρέσει μέσα στην ίδια ισχύ.

Εμφάνιση των αριθμών ως πίνακα
ΑκρίβειαΕργοστασιακήΞεκλειδωμένηΑλλαγή
FP16, TFLOPS14.021.3+52%
BF16, TFLOPS14.222.0+54%
TF32, TFLOPS6.910.8+56%
FP32, TFLOPS3.73.7ίδιο
Μέγιστος ρυθμός τανυστών, συσσώρευση FP32, TF/s17.936.12x

Κάθε αριθμός είναι ο μέσος όρος πέντε εκτελέσεων πενήντα πολλαπλασιασμών, μετά από προθέρμανση. Η δική σας επιτάχυνση εξαρτάται από το μοντέλο σας, το μέγεθος παρτίδας και το λογισμικό.

Εκεί που θα το νιώσεις

Ταχύτερη εκεί όπου δουλεύουν οι πυρήνες tensor, αμετάβλητη παντού αλλού

Το ξεκλείδωμα ανεβάζει ένα μόνο πράγμα: πόσο γρήγορα πολλαπλασιάζει η κάρτα πίνακες σε FP16, BF16 και TF32. Ό,τι περνά τον χρόνο του εκεί επιταχύνεται· ό,τι δεν περνά, τρέχει ακριβώς όπως πριν.

Γίνεται ταχύτερο

  • Επεξεργασία προτροπών στην εξαγωγή συμπερασμάτων AI. Η ανάγνωση μιας μεγάλης προτροπής ή ενός εγγράφου είναι δουλειά πινάκων, οπότε η αναμονή πριν από την πρώτη λέξη μικραίνει.
  • Λεπτομερής ρύθμιση μικρών μοντέλων. Το LoRA και παρόμοια τρέχουν σε μοντέλα που χωρούν σε 6 GB GDDR6 και τελειώνουν νωρίτερα σε BF16 ή FP16.
  • Δημιουργία εικόνων. Τα μοντέλα διάχυσης περνούν το μεγαλύτερο μέρος κάθε βήματος σε μαθηματικά πινάκων μισής ακρίβειας.
  • Ομαδική εξαγωγή συμπερασμάτων. Εργασίες ενσωματώσεων, ταξινόμησης και μεταγραφής που περνούν πολλές εισόδους ταυτόχρονα.

Παραμένει όπως ήταν

  • Παιχνίδια και τρισδιάστατη απόδοση. Η εργασία γραφικών δεν περνά από αυτό το μονοπάτι.
  • Κωδικοποίηση και αποκωδικοποίηση βίντεο. Οι NVENC και NVDEC είναι ξεχωριστές μηχανές στο τσιπ και διατηρούν την εργοστασιακή τους ταχύτητα.
  • Κώδικας CUDA FP32. Τα συνηθισμένα μαθηματικά μονής ακρίβειας τρέχουν στα 3.7 TFLOPS είτε έτσι είτε αλλιώς.
  • Δημιουργία κειμένου λέξη προς λέξη. Μόλις ένα μοντέλο γράφει την απάντησή του, ο ρυθμό τον ορίζει η ταχύτητα μνήμης, όχι ο ρυθμός tensor.

Πώς φτάνει στον διακομιστή σας

Παραγγείλτε το σε Linux και η κάρτα φτάνει ξεκλείδωτη

  1. Επιλέξτε Ubuntu ή Debian

    Διαλέξτε όποιο από τα δύο θέλετε στη φόρμα παραγγελίας. Εγκαθιστούμε το σύστημα, τον οδηγό της NVIDIA και το ξεκλείδωμα υπολογιστικής ισχύος μαζί, ώστε το μηχάνημα να είναι online περίπου 30 λεπτά αφού εγκριθεί η παραγγελία σας.

  2. Εφαρμόζεται σε κάθε εκκίνηση

    Τίποτα δεν εγγράφεται μόνιμα στην κάρτα. Το ξεκλείδωμα ορίζεται κατά την εκκίνηση του μηχανήματος, πριν φορτώσει ο οδηγός της NVIDIA, και ελέγχεται κάθε φορά που ξεκινά το σύστημα.

  3. Η εργοστασιακή ταχύτητα ως δίχτυ ασφαλείας

    Αν κάποια εκκίνηση δεν μπορέσει να το εφαρμόσει, η κάρτα απλώς ξεκινά στην εργοστασιακή της ταχύτητα και συνεχίζει να λειτουργεί. Τίποτα άλλο στο μηχάνημα δεν αλλάζει σε καμία περίπτωση.

Χρησιμοποιείτε Windows; Το ίδιο μηχάνημα διατίθεται και με Windows, όπου η κάρτα λειτουργεί στην εργοστασιακή της ταχύτητα: το ξεκλείδωμα υπολογιστικής ισχύος είναι χαρακτηριστικό του Linux. Όλα τα υπόλοιπα, από τον επεξεργαστή έως τη θύρα χωρίς όριο δεδομένων, είναι πανομοιότυπα.

Πώς το δοκιμάσαμε

Το τρέξαμε στο δικό μας rack πριν σας το προσφέρουμε

Πριν ξεκλειδωθεί έστω και ένα μηχάνημα πελάτη, βάλαμε έναν από αυτούς τους επιτραπέζιους υπολογιστές σε εργαστηριακή δοκιμή: επαναλαμβανόμενες ψυχρές εκκινήσεις, μία θερμή επανεκκίνηση, κάθε benchmark και στις δύο καταστάσεις και μία μεγάλη διαδρομή υπό πλήρες φορτίο, παρακολουθώντας συνεχώς για σφάλματα.

Άντεξε. Το ξεκλείδωμα ενεργοποιήθηκε σε κάθε εκκίνηση, η κάρτα δεν κατέγραψε σφάλματα και κάθε αποτέλεσμα υπό φορτίο βγήκε πανομοιότυπο με το πρώτο, bit προς bit.

Μηχάνημα
Intel Core i5-9500, 32 GB, Bucharest
Κάρτα
RTX 3050 6GB, όριο 70 W
Σύστημα
Ubuntu 24.04, οδηγός NVIDIA 595
Εκκινήσεις
Ξεκλείδωμα σε 5 από 5
Δοκιμή πλήρους φορτίου
45 λεπτά, 0 σφάλματα
Έλεγχος αποτελεσμάτων
Πανομοιότυπα bit, 0 ασυμφωνίες
Benchmark
PyTorch, πίνακες 8192²

Ερωτήσεις

Ξεκλείδωτη RTX 3050: τι ρωτούν πριν νοικιάσουν μία

Τι ακριβώς είναι ξεκλείδωτο;

Ο ρυθμός με τον οποίο οι tensor cores της κάρτας πολλαπλασιάζουν πίνακες σε FP16, BF16 και TF32. Από το εργοστάσιο, αυτή η κάρτα εκτελεί αυτά τα μαθηματικά στον μισό ρυθμό από ό,τι μπορεί το chip όταν προσθέτει αποτελέσματα σε FP32. Ξεκλείδωτη, τρέχει στον πλήρη ρυθμό. Η κάρτα, το 6 GB GDDR6 της και το όριο ισχύος 70 W παραμένουν ίδια.

Πόσο πιο γρήγορος θα είναι ο φόρτος εργασίας μου;

Στη δική μας κάρτα, μεγάλοι πολλαπλασιασμοί πινάκων έτρεξαν 52% γρηγορότερα σε FP16, 54% σε BF16 και 56% σε TF32. Μια ολόκληρη εργασία AI κερδίζει λιγότερο από αυτό, επειδή ξοδεύει επίσης χρόνο σε πράγματα που το ξεκλείδωμα δεν αγγίζει, όπως η μετακίνηση δεδομένων ή η παραγωγή tokens ένα-ένα.

Χρειάζεται να εγκαταστήσω κάτι;

Όχι. Παραγγείλετε το μηχάνημα με Ubuntu ή Debian και παραδίδεται με τον driver της NVIDIA και το compute unlock ήδη ενεργοποιημένα. Έχετε πρόσβαση root και μπορείτε να προσθέσετε CUDA, PyTorch ή οτιδήποτε άλλο από πάνω.

Λειτουργεί σε Windows;

Όχι. Το compute unlock εφαρμόζεται μόνο σε Linux. Το ίδιο μηχάνημα με Windows τρέχει την κάρτα στην εργοστασιακή της ταχύτητα, η οποία εξακολουθεί να είναι ένα πλήρες RTX 3050 6GB δικό σας.

Τι συμβαίνει αν το unlock δεν εφαρμοστεί κάποια μέρα;

Η κάρτα ξεκινά στην εργοστασιακή της ταχύτητα και λειτουργεί κανονικά. Ελέγχεται σε κάθε εκκίνηση, οπότε μια επανεκκίνηση αρκεί για την επόμενη προσπάθεια.

Μπορώ να το απενεργοποιήσω;

Ναι. Είναι μία μόνο επιλογή εκκίνησης. Αφαιρέστε την, απενεργοποιήστε και ενεργοποιήστε ξανά το μηχάνημα και η κάρτα επιστρέφει στον εργοστασιακό της ρυθμό. Η ομάδα υποστήριξής μας μπορεί να το κάνει για εσάς.

Κοστίζει επιπλέον;

Όχι. Η ξεκλείδωτη κάρτα περιλαμβάνεται στην τιμή του μηχανήματος των €89.00 τον μήνα, με 32 GB μνήμης, τον 256 GB NVMe SSD, μία διεύθυνση IPv4 και μια αμέτρητη θύρα 1 Gbps.

Περισσότερη απόδοση AI από την ίδια κάρτα, στην ίδια τιμή €89.00 τον μήνα

Ένα ολόκληρο μηχάνημα RTX 3050 σε Bucharest με τους tensor cores σε πλήρη ρυθμό, πρόσβαση root και απεριόριστη θύρα 1 Gbps, online περίπου 30 λεπτά μετά την έγκριση.

Νοικιάστε το ξεκλείδωτο RTX 3050 Τι μπορεί να τρέξει αυτό το μηχάνημα Κάθε διακομιστής GPU

Τα NVIDIA, GeForce και RTX είναι εμπορικά σήματα της NVIDIA Corporation. Το ξεκλείδωμα υπολογιστικής ισχύος είναι δική μας διαμόρφωση της κάρτας και δεν παρέχεται από τη NVIDIA.