L40S · Διακομιστές NVIDIA GPU

NVIDIA L40S αποκλειστικοί διακομιστές

Αναπτύξτε διακομιστές NVIDIA L40S GPU υψηλής απόδοσης, βελτιστοποιημένους για εκπαίδευση AI, συμπερασμό LLM, τρισδιάστατη απόδοση και παραγωγή βίντεο. Ada Lovelace με 48 GB ECC GDDR6 και τρεις κωδικοποιητές NVENC με AV1, προσαρμοσμένο στο μηχάνημα που διαμορφώνετε.

SLA χρόνου λειτουργίας 48 GB ECC GDDR6 Παγκόσμιες τοποθεσίες

Προδιαγραφές NVIDIA L40S GPU

Η NVIDIA L40S διαπρέπει στην εκπαίδευση AI, την απόδοση γραφικών, τη μετατροπή βίντεο και την εικονικοποίηση με πρωτοποριακή απόδοση αρχιτεκτονικής Ada Lovelace.

NVIDIA L40S

Η GPU L40S επιτυγχάνει αξιοσημείωτες μετρικές απόδοσης: 1466 TFLOPS σε λειτουργίες Tensor, 212 TFLOPS σε δυνατότητες πυρήνων RT και 91,6 TFLOPS σε υπολογιστική ισχύ απλής ακρίβειας.

Αρχιτεκτονική

Ada Lovelace

Μνήμη βίντεο

48GB GDDR6 με ECC

Πυρήνες CUDA

18.176 τεμ.

Μέγιστο εύρος ζώνης

864 GB/s

Μέγιστη ισχύς

350 W

Μετρικές απόδοσης

Οι Tensor Cores τέταρτης γενιάς με υποστήριξη FP8 προσφέρουν εξαιρετική υπολογιστική απόδοση για φόρτους εργασίας εκπαίδευσης AI και συμπερασμού.

FP32

91,6 teraFLOPS

FP16 Tensor Core

733 teraFLOPS

FP8 Tensor Core

1.466 teraFLOPS

RT Core

212 teraFLOPS

Διακομιστές GPU σχεδιασμένοι για απαιτητικούς φόρτους εργασίας

Διακομιστές bare metal με NVIDIA L40S GPU, βασισμένοι στην αρχιτεκτονική Ada Lovelace, βελτιστοποιημένοι για εκπαίδευση AI, επιστημονικούς υπολογισμούς και οπτικοποίηση υψηλής απόδοσης.

Απόδοση εκπαίδευσης AI

Η GPU L40S ενισχύει την απόδοση φόρτων εργασίας AI κατά 5 φορές σε σχέση με τον προκάτοχό της, επιτρέποντας ταχεία δημιουργία εικόνων υψηλής ποιότητας και καθηλωτικού περιεχομένου με προηγμένη επεξεργασία tensor.

LLM και γενετική AI

Η L40S αξιοποιεί Tensor Cores τέταρτης γενιάς με υποστήριξη FP8, προσφέροντας εξαιρετική υπολογιστική απόδοση για την επιτάχυνση της εκπαίδευσης μοντέλων AI και επιστήμης δεδομένων.

Επιτάχυνση ανίχνευσης ακτίνων

Οι GPU L40S αυξάνουν τις ταχύτητες απόδοσης σε εργασίες σχεδιασμού και μηχανικής μέσω προηγμένων δυνατοτήτων ανίχνευσης ακτίνων, ιδανικές για αρχιτεκτονική οπτικοποίηση και σχεδιασμό προϊόντων.

Τρισδιάστατη οπτικοποίηση

Η NVIDIA L40S βελτιώνει την τρισδιάστατη οπτικοποίηση, επιτρέποντας ταχύτερη απόδοση και χειρισμό πολύπλοκων σχεδίων σε πραγματικό χρόνο για αυξημένη παραγωγικότητα και αποτελέσματα υψηλής πιστότητας.

Παραγωγή βίντεο

Η NVIDIA L40S αναβαθμίζει τις εργασίες ροής και βίντεο με τρεις μηχανές κωδικοποίησης και αποκωδικοποίησης βίντεο, συμπεριλαμβανομένης της κωδικοποίησης AV1 για βελτιωμένη απόδοση και μειωμένο TCO.

Εταιρική ασφάλεια

Η GPU L40S πληροί τα πρότυπα κέντρων δεδομένων, συμπεριλαμβανομένης της ετοιμότητας NEBS Επιπέδου 3, και προσφέρει ασφαλή εκκίνηση με τεχνολογία ρίζας εμπιστοσύνης για ενισχυμένη ασφάλεια.

A100 vs L40S vs H100

Οι τρεις κάρτες κέντρου δεδομένων που τοποθετούμε, συγκρινόμενες ως πρόσθετες κάρτες PCIe που μπαίνουν στους διακομιστές μας.

L40S A100 80 GB H100 80 GB
Αρχιτεκτονική Ada Lovelace NVIDIA Ampere Hopper
Μνήμη 48GB GDDR6 με ECC 80GB HBM2e 80GB HBM2e
Εύρος ζώνης μνήμης 864 GB/s 1.935 GB/s 2.039 GB/s
Ισχύς Έως 350W Έως 300W Έως 350W
Διασύνδεση διαύλου PCIe Gen 4 x16 PCIe Gen 4 x16 PCIe Gen 5 x16
Κωδικοποίηση βίντεο 3 NVENC με AV1 Καμία Καμία
NVLink Όχι Σύνδεσμος, γέφυρα κατόπιν προσφοράς Σύνδεσμος, γέφυρα κατόπιν προσφοράς
Μόνο η κάρτα, ανά μήνα Φόρτωση... Φόρτωση... Φόρτωση...

Συχνές ερωτήσεις για διακομιστές bare metal με NVIDIA L40S GPU

Συνήθεις ερωτήσεις σχετικά με την ανάπτυξη και διαχείριση αποκλειστικών διακομιστών με επιτάχυνση NVIDIA L40S GPU για φόρτους εργασίας AI, απόδοσης και επαγγελματικής οπτικοποίησης.

Τι κάνει την NVIDIA L40S ιδανική για μικτούς φόρτους εργασίας AI και γραφικών;

Η NVIDIA L40S είναι χτισμένη στην αρχιτεκτονική Ada Lovelace, συνδυάζοντας μοναδικά την επιτάχυνση AI με επαγγελματικές δυνατότητες γραφικών. Διαθέτοντας 18.176 πυρήνες CUDA, 48GB μνήμη GDDR6 και Tensor Cores τέταρτης γενιάς με υποστήριξη FP8, διαπρέπει στην εκπαίδευση μοντέλων AI, τον συμπερασμό LLM, την τρισδιάστατη απόδοση και την παραγωγή βίντεο. Η L40S αποδίδει 1.466 teraFLOPS απόδοσης FP8, διατηρώντας παράλληλα προηγμένη ανίχνευση ακτίνων και υποστήριξη DLSS 3 για ροές εργασίας οπτικοποίησης.

Πόσο γρήγορα μπορώ να αναπτύξω έναν διακομιστή L40S GPU;

Ένα μηχάνημα που είναι ήδη τοποθετημένο σε rack με L40S παραδίδεται εντός περίπου 30 λεπτών από την επαλήθευση πληρωμής. Όταν τοποθετούμε μια κάρτα που έχουμε σε απόθεμα, χρειάζονται 4 έως 24 ώρες· μια κάρτα που πρέπει να αγοράσουμε χρειάζεται πέντε έως δέκα εργάσιμες ημέρες, και ενημερώνεστε ποια ισχύει πριν πληρώσετε. Κάθε διακομιστής L40S περιλαμβάνει άμεση επανεγκατάσταση λειτουργικού συστήματος, ώστε να μπορείτε να επαναλαμβάνετε χωρίς να ανοίγετε δελτίο υποστήριξης.

Ποια είναι τα πλεονεκτήματα απόδοσης της L40S για ροές εργασίας AI;

Η L40S παρέχει επιτάχυνση FP8 Tensor Core ειδικά βελτιστοποιημένη για αποδοτική εκπαίδευση και συμπερασμό μεγάλων γλωσσικών μοντέλων. Η μνήμη 48GB GDDR6 υποστηρίζει μεγάλα μεγέθη μοντέλων, ενώ οι προηγμένες λειτουργίες tensor προσφέρουν βελτίωση απόδοσης 5 φορές σε σχέση με GPU προηγούμενης γενιάς. Σε συνδυασμό με τρεις μηχανές κωδικοποίησης/αποκωδικοποίησης βίντεο με υποστήριξη AV1, η L40S διαχειρίζεται πολυτροπικούς φόρτους εργασίας AI που συνδυάζουν επεξεργασία κειμένου, εικόνας και βίντεο.

Ποιοι φόρτοι εργασίας ωφελούνται περισσότερο από διακομιστές L40S GPU;

Οι διακομιστές L40S GPU διαπρέπουν σε περιβάλλοντα που απαιτούν τόσο υπολογιστική ισχύ AI όσο και επιτάχυνση γραφικών. Οι βέλτιστες περιπτώσεις χρήσης περιλαμβάνουν: εκπαίδευση και συμπερασμό μεγάλων γλωσσικών μοντέλων, δημιουργία εικόνων και βίντεο με AI, επαγγελματική τρισδιάστατη απόδοση και ροές εργασίας CAD, μετατροπή βίντεο με κωδικοποίηση AV1, αναπτύξεις εικονικών σταθμών εργασίας (VDI) και υβριδικούς φόρτους εργασίας που συνδυάζουν μηχανική μάθηση με οπτικοποίηση σε πραγματικό χρόνο.