Η κάρτα είναι δική σου, ολόκληρη
Είναι μια φυσική RTX 3050 σε υποδοχή PCIe, και το λειτουργικό σου σύστημα τη βλέπει απευθείας στο nvidia-smi. Χωρίς εικονική GPU, χωρίς κατανομή χρόνου, χωρίς γείτονα που μοιράζεται τη μνήμη της.
GPU dedicated server · Bucharest, EU
Όχι ένα κομμάτι από την κάρτα κάποιου άλλου, ούτε μετρητής που τρέχει ανά ώρα. Ένας επιτραπέζιος υπολογιστής Intel Core i5-9500 με μια NVIDIA GeForce RTX 3050 6GB ενσωματωμένη, 32 GB μνήμη και έναν 256 GB NVMe SSD, σε απεριόριστη θύρα 1 Gbps στο datacenter Bucharest μας. Πρόσβαση root, δικό σας λειτουργικό σύστημα, online περίπου 30 λεπτά μετά την έγκριση της παραγγελίας σας.
Γιατί κοστίζει λιγότερο
Οι περισσότεροι GPU servers τιμολογούνται γύρω από κάρτες που καταναλώνουν δεκαπλάσια ενέργεια. Αυτός εδώ είναι φτιαγμένος γύρω από την κάρτα.
Είναι μια φυσική RTX 3050 σε υποδοχή PCIe, και το λειτουργικό σου σύστημα τη βλέπει απευθείας στο nvidia-smi. Χωρίς εικονική GPU, χωρίς κατανομή χρόνου, χωρίς γείτονα που μοιράζεται τη μνήμη της.
Η RTX 3050 καταναλώνει 70 W. Λειτουργεί άνετα σε desktop, οπότε δεν πληρώνεις για το 2U chassis, τα διπλά τροφοδοτικά και τη βαριά ψύξη που αποτελούν μεγάλο μέρος της τιμής ενός μεγάλου GPU server.
Μια εργασία που κρατά την κάρτα απασχολημένη όλο το εικοσιτετράωρο κοστίζει το ίδιο με μια που την αφήνει αδρανή, και τίποτα δεν μετρά την κίνηση που φεύγει από τη θύρα 1 Gbps. Ο λογαριασμός είναι ο ίδιος κάθε μήνα.
Τι εκτελεί
Έξι gigabyte χωρούν ένα γλωσσικό μοντέλο 8 δισεκατομμυρίων παραμέτρων κβαντισμένο στα 4 bit, με χώρο να απομένει για τα συμφραζόμενά του. Σερβίρετέ το με Ollama ή llama.cpp πίσω από το δικό σας κλειδί API, ή μεταγράψτε ήχο με Whisper large-v3 στην κάρτα.
Llama 3.1 8B στα 4-bit: 4,92 GB βαρώνΤο 6 GB GDDR6 της κάρτας βρίσκεται δίπλα σε έναν κωδικοποιητή NVENC 7ης γενιάς και έναν αποκωδικοποιητή NVDEC 5ης γενιάς, οπότε η κωδικοποίηση H.264 και HEVC γίνεται σε υλικό και αφήνει τον επεξεργαστή ελεύθερο. Οι ροές που φεύγουν από τη θύρα χωρίς χρέωση δεδομένων δεν κοστίζουν τίποτα επιπλέον.
Έως 8 ταυτόχρονες συνεδρίες κωδικοποίησης με driver 550.54.14 ή νεότεροΤα Windows βρίσκονται στη φόρμα παραγγελίας, οπότε το μηχάνημα μπορεί να είναι ένας επιτραπέζιος υπολογιστής στον οποίο έχετε πρόσβαση από οπουδήποτε: το Blender αποδίδει σε CUDA ή OptiX, και τα εργαλεία σχεδίασης λαμβάνουν επιτάχυνση υλικού αντί για αποδότη λογισμικού.
2,304 πυρήνες CUDA, 1.47 GHz boostΓράψτε και δοκιμάστε kernels, χτίστε containers με το NVIDIA Container Toolkit και εκτελέστε δοκιμές GPU σε κάθε commit, στην ίδια γενιά Ampere με το A100. Νοικιάστε τη μεγάλη κάρτα μόνο όταν ο κώδικας είναι έτοιμος για αυτήν.
Αρχιτεκτονική Ampere, πυρήνες Tensor 3ης γενιάςΠριν παραγγείλετε
Έξι gigabyte τρέχουν ένα μοντέλο 8B· δεν κάνουν πλήρη fine-tune ενός μοντέλου, και ένα μοντέλο 13B στα 4-bit (7,87 GB) δεν χωράει. Για 24 GB δείτε τους διακομιστές της σειράς RTX 30, και κάθε κάρτα που τοποθετούμε βρίσκεται στη σελίδα διακομιστών GPU.
Ο 256 GB NVMe SSD φιλοξενεί το σύστημα και τα δεδομένα σας. Κρατήστε αντίγραφα αλλού ή προσθέστε το νυχτερινό backup που προσφέρεται στη φόρμα παραγγελίας.
Μια μητρική desktop δεν διαθέτει IPMI ή iLO. Η ενεργοποίηση γίνεται απομακρυσμένα· αν το λειτουργικό σύστημα παγώσει, το προσωπικό μας στο Bucharest κάνει επανεκκίνηση για εσάς.
Κάθε ένα από αυτά τα desktop είναι εγκατεστημένο σε rack στο Bucharest, εντός ΕΕ. Για άλλες πόλεις, επιλέξτε έναν διακομιστή GPU από την πλήρη λίστα.
Πλήρεις προδιαγραφές
| Εξάρτημα | Προδιαγραφή |
|---|---|
| Κάρτα γραφικών | NVIDIA GeForce RTX 3050 6GB |
| Μνήμη GPU | 6 GB GDDR6, δίαυλος 96-bit |
| Πυρήνες CUDA | 2,304 έως 1.47 GHz |
| Μηχανές βίντεο | NVENC 7ης γενιάς, NVDEC 5ης γενιάς |
| Ισχύς κάρτας | 70 W |
| Επεξεργαστής | Intel Core i5-9500, 6 πυρήνες, 3.0 GHz βασική συχνότητα, 4.4 GHz turbo, 9 MB cache |
| Μνήμη | 32 GB DDR4 |
| Αποθήκευση | 256 GB NVMe SSD |
| Δίκτυο | Θύρα 1 Gbps, χωρίς όριο δεδομένων, μία διεύθυνση IPv4 |
| Κέντρο δεδομένων | Bucharest, ΕΕ |
| Τιμή | €82.29 τον μήνα |
Στοιχεία κάρτας από τις δημοσιευμένες προδιαγραφές της NVIDIA για την RTX 3050 (μοντέλο 6 GB)· στοιχεία επεξεργαστή από τη σελίδα προϊόντος της Intel για τον Core i5-9500. Τιμή, μνήμη, αποθήκευση, δίκτυο και πόλη προέρχονται από τον κατάλογο παραγγελιών μας, τον ίδιο που χρησιμοποιείται για τη χρέωσή σας.
Ερωτήσεις
Ναι. Ολόκληρο το μηχάνημα είναι δικό σας: η NVIDIA GeForce RTX 3050 6GB βρίσκεται στην υποδοχή PCIe της και περνάει στο λειτουργικό σας σύστημα χωρίς τίποτα ενδιάμεσα. Κανένας άλλος πελάτης δεν μοιράζεται την κάρτα, τη μνήμη της ή τον επεξεργαστή.
Τα €82.29 τον μήνα καλύπτουν τον επεξεργαστή, την κάρτα γραφικών, 32 GB μνήμης, τον 256 GB NVMe SSD, μία διεύθυνση IPv4, μια θύρα 1 Gbps χωρίς όριο δεδομένων και βασική υποστήριξη. Μια άδεια Windows, επιπλέον διευθύνσεις, αντίγραφα ασφαλείας και ταχύτερη υποστήριξη είναι προαιρετικά και κοστολογούνται στη φόρμα παραγγελίας.
Ναι, για συμπερασμό σε μέγεθος 7 έως 8 δισεκατομμυρίων παραμέτρων: ένα μοντέλο 8B κβαντισμένο στα 4 bit χρειάζεται περίπου 5 GB, που αφήνει χώρο για τα συμφραζόμενά του. Μοντέλα 13B παραμέτρων και άνω χρειάζονται περισσότερη μνήμη από 6 GB, ακόμη και στα 4-bit.
Η φόρμα παραγγελίας αναφέρει τα συστήματα για αυτό το μηχάνημα: διανομές Linux όπως Ubuntu, Debian και AlmaLinux, Proxmox VE και Windows. Έχετε πρόσβαση root ή διαχειριστή και εγκαθιστάτε τον οδηγό της NVIDIA και το CUDA όπως σε οποιονδήποτε υπολογιστή.
Αυτοί οι επιτραπέζιοι υπολογιστές είναι ήδη τοποθετημένοι σε rack, οπότε ένα μηχάνημα είναι online περίπου 30 λεπτά μετά την έγκριση της παραγγελίας σας. Τα στοιχεία σύνδεσης εμφανίζονται στον πίνακα ελέγχου σας.
Ναι. Η θύρα λειτουργεί στα 1 Gbps και τίποτα δεν μετράει την κίνηση μέσα ή έξω, οπότε η ροή, οι λήψεις μοντέλων και τα αντίγραφα ασφαλείας κοστίζουν το ίδιο με έναν αδρανή μήνα.
Ένας RTX 3050, ένας Intel Core i5-9500 και 32 GB μνήμης, τοποθετημένος σε Bucharest και online περίπου 30 λεπτά μετά την έγκριση.