Vor dem Kauf gefragt
Zehn klare Antworten.
Kann ich ein LLM ohne Grafikkarte betreiben?
Ja, innerhalb einer Grenze, die es wert ist, genannt zu werden: Ein quantisiertes 7–8B-Modell auf dem CPU-Einschub bedient ehrlich den Assistenten, das Retrieval und die Embeddings eines Teams. Es wird kein 70B für tausend Nutzer bedienen — das ist die Aufgabe des GPU-Einschubs, und diese Seite sagt es hier, statt Sie es entdecken zu lassen.
Was braucht ein 70B-Modell?
Etwa 38 GB Kartenspeicher bei 4-Bit, was die 48 GB-Karte trägt; 70 GB bei 8-Bit, wofür es die 80 GB-Karte braucht; 140 GB bei voller Präzision, was mehr als eine Karte ist und zur Frage der Multi-Karten-Seite wird.
Welche Modelle darf ich betreiben?
Alles, dessen Gewichte Sie halten dürfen: die Familien Llama, Qwen, Mistral, Gemma und DeepSeek sowie ihre Fine-Tunes. Die Lizenz liegt zwischen Ihnen und dem Herausgeber — die Maschine liest sie nicht, und wir kontrollieren sie nicht.
Werden meine Daten zum Trainieren verwendet?
Nein. Nichts im Pfad liest sie. Ein Mandant pro Maschine, Ihr Betriebssystem, Ihre Festplatten; wir betreiben die Hardware und das Netzwerk darunter, niemals den Workload darüber.
Warum nicht bei einer API pro Token bleiben?
Bleiben Sie, solange Ihr Traffic stoßweise ist oder das Frontier-Modell das Produkt ist. Wechseln Sie, wenn das Volumen stetig ist, die Daten sensibel sind oder ein abgestimmtes offenes Modell die Arbeit bereits erledigt — und beides mischt sich gut: Viele Stacks leiten die härtesten fünf Prozent an eine API und bedienen den Rest selbst.
Monatlich mieten oder die Hardware kaufen?
Kaufen gewinnt nach ein oder zwei Jahren konstanter Nutzung, plus jemand, der dafür bezahlt wird, sie unterzubringen, zu versorgen, zu kühlen und zu reparieren. Mieten gewinnt am ersten Tag, bei jedem Upgrade und um drei Uhr morgens, wenn ein Teil nach unserer schriftlichen Uhr stirbt statt nach Ihrer.
Wie schnell ist die Lieferung?
Etwa dreißig Minuten für eine Maschine im Regal, vier bis vierundzwanzig Stunden für einen Build, länger, wenn ein Teil eingekauft wird — die Leiter wird am Bestellpunkt gedruckt, und Sofort-Server listet, was gerade gerackt ist.
Gibt es eine Testphase?
Keine Testkonten. Innerhalb von drei Kalendertagen nach der ersten Aktivierung gilt die Rückerstattungsrichtlinie wie geschrieben, und Kryptowährungszahlungen werden als Guthaben erstattet. Die günstigste ehrliche Testphase ist ein Monat auf dem CPU-Einschub.
Gelten für Sonderbestellteile andere Bedingungen?
Manchmal. Ein für Ihre Bestellung eingekauftes Teil kann eine Vorauszahlung oder eine Mindestlaufzeit mit sich bringen — und das wird Ihnen genau gesagt, bevor Sie zahlen, niemals danach. Maschinen im Regal tragen den Standard: ein Monat, kein Vertrag.
Was passiert, wenn ich aus dem Einschub herauswachse?
Der nächste Einschub, meist im selben Gebäude: Eine CPU-Maschine übergibt ihre Gewichte über das lokale Kabel an eine GPU-Maschine, oder die Karte im Chassis, das Sie bereits halten, wird getauscht und die Rechnung bewegt sich um exakt die Differenz.