Die GPU-Beschaffung ist zu dem Punkt geworden, an dem Programme für private KI entweder finanziert werden oder still versanden. Die technische Arbeit ist geschnitten, die Architektur ist abgestimmt, und dann erscheint eine Zahl, für die niemand im Raum einen Referenzpunkt hat, verbunden mit einem Liefertermin, den niemand bestätigen kann. Finance fragt, ob es Capex oder Opex sein soll, die Infrastruktur fragt, woher der Strom kommt, und die Antwort auf beides hängt an einer Auslastungszahl, die das Team noch nicht hat.
Die brauchbare Ausgangsposition für 2026 lautet: Mieten oder reservieren ist der Standard, und Kaufen ist die Ausnahme, die begründet werden muss. GPU-Cloud und GPU-as-a-Service sind in der Regel günstiger, solange die dauerhafte Auslastung unter rund 60-75 % liegt, sobald Strom, Kühlung, Personal, Ersatzteile und Abschreibung mitgezählt werden. Die meisten KI-Workloads in Unternehmen liegen davon weit entfernt, besonders in den ersten zwei Jahren. Sie sind schubweise, experimentell und stark auf Evaluation und Iteration gewichtet statt auf stetige Produktions-Inferenz.
Dieser Standard ist kein Argument gegen private Infrastruktur. Er ist ein Argument darüber, wie man sie bezieht. Dedizierte Kapazität, Private Pods und souveräne Regionen liefern Isolation und Datenlokalisierung ohne Bestellung von Hardware, und die Souveränitätsanforderung, die das Projekt ausgelöst hat, verlangt selten, dass Ihre Organisation Eigentümerin der Geräte ist.
Was die Hardware tatsächlich kostet
Marktpreise zu kennen lohnt sich, weil sie jedes weitere Gespräch verankern, auch die Mietangebote.
- H100 liegt 2026 bei etwa 25.000 bis 40.000 US-Dollar pro GPU, wobei die Spanne aus dem Formfaktor (PCIe gegenüber SXM5) und dem Vertriebskanal entsteht.
- Ein 8x-H100-SXM5-Knoten kostet rund 250.000 bis 400.000 US-Dollar all-in für den Server selbst, vor Netzwerk, Racks und Facility-Arbeiten.
- H200 liegt bei ungefähr 30.000 bis 40.000 US-Dollar, ein Aufschlag von etwa 15-20 % gegenüber H100.
- Für Kapazität der B200-Generation gibt es keine transparenten Listenpreise, die eine Nennung wert wären. Das Angebot bleibt knapp, und Abschlüsse werden meist als dedizierte Kapazität oder auf Rack-Ebene verhandelt statt als Stückkauf.
Die Knotenzahl ist die, die man behalten sollte. Ein einzelner Server mit 8 GPUs ist eine Drittelmillion Dollar an Gerät, das nach einem kürzeren Zeitplan abschreibt, als die meisten Finanzabteilungen annehmen, und das in einem Rechenzentrum steht, das große Mengen Strom liefern und wieder als Wärme abführen muss. Genau das wird mit einem Stundensatz verglichen.
Mietbenchmarks und der Abstand zwischen den Anbietern
Die Stundenpreise trennen sich deutlich nach Anbieterklasse, und der Unterschied ist groß genug, um die Projektwirtschaftlichkeit allein zu drehen.
- Hyperscaler (AWS, Azure, GCP): rund 2,50-4,00 US-Dollar pro Stunde On-Demand für H100, fallend auf 1,20-2,00 US-Dollar bei Reservierung.
- Spezialisierte GPU-Clouds (CoreWeave, Lambda, Together): rund 1,50-2,50 US-Dollar On-Demand, 0,90-1,50 US-Dollar reserviert.
- Spot- oder Preemptible-Kapazität: rund 0,80-1,50 US-Dollar pro Stunde, mit dem entsprechenden Unterbrechungsrisiko.
Spezialanbieter sind für dasselbe Silizium deutlich günstiger als Hyperscaler, und Reservierungszusagen halbieren die On-Demand-Sätze ungefähr. Für Workloads, die Unterbrechungen vertragen, und Evaluationsläufe wie auch Batch-Embedding-Jobs tun das üblicherweise, ist Spot-Kapazität nochmals deutlich günstiger.
Praktisch heißt das: Derselbe Workload kann sich in den Kosten um den Faktor vier unterscheiden, je nachdem, wo und wie er eingekauft wird. Bevor Sie einen Kauf modellieren, prüfen Sie, ob ein Commitment-Vertrag bei einem Spezialanbieter bereits ins Budget passt. Das ist häufig der Fall, und zwar ohne Facility-Projekt.
Die Kosten außerhalb des Angebots
Die Total Cost of Ownership bei Eigentum ist nicht die Serverrechnung, und in dieser Lücke gehen Kaufen-oder-Mieten-Analysen schief. Strom, Kühlung, Facility-Overhead, Betriebspersonal, Ersatzteile und Abschreibung gehören ins Modell. Auswertungen aus 2026, die das einbeziehen, finden Cloud für viele Workloads 40-70 % günstiger als eigene Hardware, eine Spanne, die auch erheblichen Streit über die Eingangsgrößen übersteht.
Strom und Kühlung verdienen gesonderte Aufmerksamkeit, weil sie Restriktionen sind und keine Kostenzeilen. Dichte Multi-GPU-Systeme haben aus der Beschaffung ein Planungsproblem für Rack-Dichte, elektrische Kapazität und Flüssigkühlung gemacht, kein Einkaufsproblem. Ein Rechenzentrum, das die Leistung pro Rack nicht liefern oder die Wärme nicht abführen kann, kann die Hardware unabhängig vom Budget nicht aufnehmen. Bevor eine Kaufdiskussion weitergeht, holen Sie sich vom Facility Management eine schriftliche Auskunft über verfügbare Leistung pro Rack und Kühlvermögen für die Zielkonfiguration. Diese eine Frage beendet einen erheblichen Teil aller On-Premise-Vorschläge, und sie früh zu stellen ist weit billiger.
Personal ist der zweite unterschätzte Posten. Eigene GPU-Infrastruktur braucht Menschen, die um drei Uhr nachts Treiberprobleme, Interconnect-Ausfälle und Thermal Throttling diagnostizieren können. Diese Fähigkeit wird eingestellt, eingekauft oder fehlt, und Fehlen zeigt sich als ungeplante Ausfallzeit gegen genau die Auslastungsannahme, die den Kauf gerechtfertigt hat.
Lieferzeiten und Vertragsrisiko
Das Angebot an High-End-GPUs bleibt 2026 knapp, mit Lieferzeiten von Wochen bis Monaten je nach Konfiguration und Kanal. Unternehmensabschlüsse nehmen zunehmend die Form von Take-or-Pay-Kapazität oder reservierten Private Pods an, genau weil das die Lieferung sichert.
Diese Strukturen verschieben das Risiko, statt es zu beseitigen, und vier Punkte gehören auf die Liste der Rechtsprüfung:
- Lieferterminrisiko. Was mit Ihrem Programm und mit Ihren Zahlungen geschieht, wenn Hardware oder Kapazität ein Quartal zu spät kommt.
- Bilanzrisiko des Anbieters. Spezialisierte GPU-Clouds sind aus strukturellen Gründen günstiger, und einige sind junge Unternehmen mit schweren Kapitalverpflichtungen. Eine mehrjährige exklusive Abhängigkeit verdient dieselbe Sorgfaltsprüfung wie jeder kritische Lieferant.
- Mindestauslastung. Take-or-Pay heißt, Sie zahlen den Sockel, ob Sie ihn nutzen oder nicht. Setzen Sie den Sockel gegen eine pessimistische Prognose, nicht gegen den Business Case.
- Kündigungsstrafen. Sie bestimmen, was ein Strategiewechsel kostet, und sie sind bei Vertragsschluss meist verhandelbar und danach nie mehr.
Souveränität ohne Eigentum
Für regulierte Workloads und Pflichten zur Datenlokalisierung funktioniert das hybride Muster. Der regulierte Pfad bleibt in einem konkreten Rechenzentrum oder einer souveränen Cloud-Region mit vertraglichen Garantien, und Entwicklung, Evaluation und unkritische Workloads laufen auf der jeweils günstigsten Kapazität.
Der Markt hat sich darauf eingestellt. Private Pods, dedizierte Racks und GPU-as-a-Service von Hyperscalern wie von Spezialisten bieten inzwischen Isolations- und Standortzusagen, die geteilte Public Cloud nicht liefern konnte. Worauf es ankommt, ist vertragliche Genauigkeit: das Rechenzentrum benennen, die Jurisdiktion der betreibenden Gesellschaft benennen, physischen und administrativen Zugriff definieren und festlegen, was bei Vertragsende mit Daten und Kapazität geschieht. Ein Label “souverän” ohne diese Klauseln ist Marketing, und Ihre Aufsicht liest den Vertrag, nicht die Broschüre.
Wie Sie an die Entscheidung herangehen
Holen Sie eine ehrliche Auslastungsprognose, bevor Sie irgendetwas bepreisen. Nicht die Kapazität, die Sie im Skalierungsfall bräuchten, sondern GPU-Stunden pro Woche für die nächsten zwölf Monate auf Basis der Workloads, die tatsächlich existieren. Die meisten Teams stellen fest, dass die Zahl weit unter dem Niveau liegt, ab dem Eigentum sinnvoll wird, und die Beschaffungsfrage klärt sich von selbst.
Ist die Prognose wirklich hoch und stabil, rechnen Sie das Dreijahresmodell mit Ihrem eigenen Strompreis, den Kühlgrenzen Ihres Standorts und einer Personalzeile, und vergleichen Sie es mit einem Reservierungsvertrag bei einem Spezialanbieter. Eigentum wird oberhalb von etwa 75 % dauerhafter Auslastung interessant, bei Dreijahreshorizont und einer Flotte, die den operativen Overhead trägt.
Andernfalls kaufen Sie ein reserviertes Commitment bei einem Spezialanbieter für die stetige Grundlast, nutzen Spot-Kapazität für unterbrechbare Arbeit und schauen in einem Jahr mit echten Zahlen erneut hin. Das Workload-Profil im ersten Jahr sagt das dritte Jahr schlecht voraus, und ein Vertrag, aus dem Sie herauskommen, ist mehr wert als eine marginale Ersparnis auf einer Prognose, die Sie noch nicht verteidigen können.
Häufige Fragen
Ab welcher Auslastung lohnt sich Kaufen gegenüber Mieten?
Veröffentlichte Vergleiche für 2026 verorten den Umschlagpunkt zwischen 60 % und 75 % dauerhafter Auslastung, sobald Strom, Kühlung, Facility-Overhead, Personal, Ersatzteile und Abschreibung eingerechnet sind; einzelne Analysen sehen Mieten bei den meisten Workloads noch unterhalb von 70 % vorn. Die Spanne entsteht, weil Facility-Kosten je nach Standort und Strommarkt enorm schwanken. Behandeln Sie den Bereich als Vorprüfung, nicht als Antwort: Liegt Ihre ehrliche Auslastungsprognose deutlich unter 60 %, beenden Sie die Analyse und mieten Sie. Liegt sie über 75 % und ist über drei Jahre stabil, rechnen Sie das vollständige Modell mit Ihrem eigenen Strompreis.
Ist Leasing ein sinnvoller Mittelweg?
Ja, für einen bestimmten Zweck: dedizierte Hardware ohne Capex zu bekommen oder eine Lieferzeit zu überbrücken. Was Leasing nicht ist, ist ein günstigerer Weg zum Eigentum. Eine Leasing-Analyse von 2026 beziffert die Gesamtkosten auf rund 15-30 % über dem Barkauf bei Operating-Leasing und 8-15 % darüber bei Objektfinanzierung. Leasen Sie, wenn die bilanzielle Behandlung oder der Liefertermin die bindende Restriktion ist, nicht wenn das Ziel die niedrigsten Stückkosten über drei Jahre sind, und lesen Sie die Kündigungsklauseln vor dem Zinssatz.
Wie erfüllen wir Anforderungen an die Datenlokalisierung, ohne Hardware zu besitzen?
Das übliche Muster ist hybrid: Der regulierte Pfad bleibt in einem benannten Rechenzentrum oder einer souveränen Cloud-Region, alles andere läuft auf der jeweils günstigsten GPU-Kapazität. Der Markt 2026 hat sich in Richtung Private Pods, dedizierter Racks und GPU-as-a-Service bewegt, die vertragliche Standort- und Isolationsgarantien ohne Kaufentscheidung liefern. Entscheidend im Vertrag ist die Genauigkeit: welches Rechenzentrum, welche Jurisdiktion betreibt es, wer hat Zugriff auf die Hardware, und was passiert mit Ihren Daten bei Vertragsende.