Dedicated Instant Custom GPU Cloud VPS Unmetered Domains Pricing Data Centers
Marketplace Build your server
A100 · H100 · NVIDIA-GPU-Server

Enterprise NVIDIA A100 H100 Dedicated Server

Bare-Metal-Server mit einer NVIDIA A100 (40 oder 80 GB) oder einer H100 80 GB, beide als PCIe-Erweiterungskarten, für KI-Training, Inferenz und High-Performance-Computing. Eine bereits gerackte Maschine mit ihrer Karte wird in Minuten übergeben; jede andere Konfiguration wird bestückt oder beschafft und vor der Bezahlung terminiert.

Uptime-SLA Enterprise-Support
Alle Konfigurationen ansehen

Technische Daten der NVIDIA A100 & H100 GPUs

GPU-Beschleuniger der Enterprise-Klasse, entwickelt für KI-Training, Inferenz und wissenschaftliches Rechnen.

Vergleichen Sie die technischen Daten, um die optimale Konfiguration für Ihre Workload-Anforderungen auszuwählen.

NVIDIA A100

Die A100-GPU liefert außergewöhnliche Leistung, Skalierbarkeit und Zuverlässigkeit für KI-Trainings- und Inferenz-Workloads. Aufgebaut auf der Ampere-Architektur mit fortschrittlichen Tensor Cores für beschleunigtes Rechnen im Enterprise-Maßstab.

Architektur

Ampere

Videospeicher

40 GB HBM2 oder 80 GB HBM2e

CUDA-Kerne

6.912

Max. Bandbreite

1.555 GB/s (40 GB), 1.935 GB/s (80 GB)

Max. Leistungsaufnahme

250 W (40 GB), 300 W (80 GB)

Bus-Schnittstelle

PCIe Gen 4 x16

NVENC-Video-Encoder

Keine (5 NVDEC-Decoder)

NVIDIA H100

Hopper, die Generation nach Ampere, in ihrer PCIe-Erweiterungskarten-Form: die H100, die in die von uns gebauten Server passt. Das SXM5-Modul mit HBM3 wird auf einer HGX-Grundplatine montiert, und keines unserer Gehäuse nimmt eine solche auf, daher gelten dessen Werte hier nicht.

Architektur

Hopper

Videospeicher

80 GB HBM2e

Max. Bandbreite

2.039 GB/s

Max. Leistungsaufnahme

350 W

Bus-Schnittstelle

PCIe Gen 5 x16

NVENC-Video-Encoder

Keine (7 NVDEC-Decoder)

Enterprise-KI-Infrastruktur für anspruchsvolle Workloads

NVIDIA A100- und H100-Dedicated-Server auf Basis der Ampere- und Hopper-Architekturen, optimiert für groß angelegtes KI-Training, LLM-Inferenz und wissenschaftliche Rechenanwendungen.

Ampere-Architektur

Gefertigt im 7-nm-Prozess mit 54 Milliarden Transistoren liefert die NVIDIA-Ampere-Architektur bahnbrechende Leistung für KI-Training und HPC-Workloads.

Hochbandbreiten-Speicher

Gestapelter Speicher auf jeder von uns verbauten Karte: HBM2 mit 1.555 GB/s bei der 40-GB-A100, HBM2e mit 1.935 GB/s bei der 80-GB-A100 und mit 2.039 GB/s bei der H100, jeweils mit ECC.

KI-Beschleunigung

Fortschrittliche Tensor Cores liefern bis zu 20-fache Leistungssteigerung gegenüber früheren Generationen für Deep-Learning-Training und Inferenz-Workloads.

Multi-Instance GPU

Partitionieren Sie jede GPU in bis zu sieben isolierte Instanzen mit dedizierten Compute-, Speicher- und Cache-Ressourcen für eine optimale mandantenfähige Auslastung.

NVLink-Konnektivität

Beide Karten verfügen über einen NVLink-Bridge-Anschluss. Im Bestellformular ist keine Bridge enthalten, daher kommunizieren zwei Karten in einem Server über PCIe, sofern keine Bridge angeboten wird; fragen Sie vor der Bestellung nach, wenn der Job eine benötigt.

Enterprise-Zuverlässigkeit

GPUs in Rechenzentrumsqualität mit ECC-Speicher, erweiterten RAS-Funktionen und Enterprise-Support für geschäftskritische Produktionsumgebungen.

FAQ zu NVIDIA A100 H100 GPU-Servern

Häufige Fragen zur Bereitstellung und Verwaltung von Enterprise-NVIDIA-A100-H100-GPU-beschleunigten Dedicated-Servern für KI-Training, Inferenz und High-Performance-Computing.

Was macht NVIDIA A100- und H100-GPUs für Enterprise-KI-Workloads geeignet?

Beide sind Rechenzentrums-Beschleuniger, die für Berechnungen an großen Modellen ausgelegt sind: gestapelter HBM-Speicher mit ECC, Tensor Cores, auf die die großen Frameworks abzielen, und Multi-Instance GPU zur Aufteilung einer Karte auf Ihre eigenen Jobs. Die A100 ist Ampere mit Tensor Cores der dritten Generation; die H100 ist Hopper mit Tensor Cores der vierten Generation und der Transformer Engine für FP8-Präzision. Keine der Karten verfügt über einen Hardware-Video-Encoder, daher ist keine die richtige Wahl für Transkodierung.

Wie schneiden A100- und H100-GPUs in Leistung und Fähigkeiten im Vergleich ab?

Als die von uns verbauten PCIe-Karten hat die A100 6.912 CUDA-Kerne, 40 GB HBM2 mit 1.555 GB/s oder 80 GB HBM2e mit 1.935 GB/s, zieht 250 oder 300 W und wird über PCIe Gen 4 angebunden. Die H100 hat 80 GB HBM2e mit 2.039 GB/s, zieht 350 W und wird über PCIe Gen 5 angebunden. Anderswo mit HBM3-Speicher angegebene H100-Werte beschreiben das SXM5-Modul, das eine HGX-Grundplatine benötigt, die keiner unserer Server verwendet.

Welche Enterprise-Konnektivitäts- und Skalierbarkeitsfunktionen sind verfügbar?

Innerhalb einer Maschine kann jede Karte in bis zu sieben isolierte Multi-Instance-GPU-Instanzen partitioniert werden, jede mit eigenem Compute, Speicher und Cache. Beide Karten verfügen außerdem über einen NVLink-Bridge-Anschluss, aber im Bestellformular ist keine Bridge enthalten: Zwei Karten in einem Server kommunizieren über PCIe, sofern keine Bridge angeboten wird; fragen Sie daher vor der Bestellung nach, wenn der Job eine benötigt. Zwischen Servern ist die Verbindung der Ethernet-Port jeder Maschine, und Multi-GPU- und Multi-Node-Builds haben eine eigene Seite.

Wie lange dauert die Lieferung eines A100- oder H100-Servers?

Eine bereits mit der Karte gerackte Maschine wird innerhalb von etwa 30 Minuten nach Zahlungsbestätigung geliefert. Wenn wir eine vorrätige Karte einbauen, dauert es 4 bis 24 Stunden; eine Karte, die wir beschaffen müssen, dauert fünf bis zehn Werktage, bzw. zehn bis fünfzehn, wenn der Beschleuniger kontingentiert ist, und Sie erfahren vor der Bezahlung, welcher Fall zutrifft.