Das Kostenargument für selbst gehostete Sprachmodelle wird selbstbewusst und meist falsch vorgetragen. Ein Team vergleicht einen GPU-Stundensatz mit einem API-Preis je Million Token, findet die GPU bei voller Auslastung günstiger und hält die Sache für entschieden. Sie ist nicht entschieden, denn voller Auslastung sieht Produktionsverkehr nicht ähnlich, und weil die GPU die kleinere Hälfte dessen ist, was Selbst-Hosting kostet.
Die ehrliche Position für 2026 lautet: Kommerzielle APIs gewinnen bei den Gesamtkosten für niedriges und mittleres Volumen, und Selbst-Hosting gewinnt bei den Kosten nur bei hohem, dauerhaftem Volumen mit einer Auslastung, die sowohl Hardware als auch die Menschen im Betrieb amortisiert. Das ist ein schmaleres Fenster, als die meisten Business Cases annehmen. Es ist zugleich nicht der einzige Grund für ein privates Deployment: Wo die Datenkontrolle der Treiber ist, kann ein privates Deployment deutlich unterhalb des Kostenumschlagpunkts richtig sein, und das offen zu sagen ist verteidigungsfähiger, als ein Kostenargument zu konstruieren, das zwölf Monate Ist-Zahlen nicht übersteht.
Dieser Artikel trennt die beiden Argumente, denn ihre Vermischung erzeugt Business Cases, die bei der ersten Budgetprüfung zusammenfallen.
Die zwei Kostengleichungen
Der Vergleich, den man üblicherweise anstellt, ist auf einer Seite unvollständig. Ausgeschrieben:
Die monatlichen Kosten beim Selbst-Hosting sind GPU-Abschreibung oder -Miete plus Strom plus Speicher und Netzwerk plus Betriebsaufwand plus die wiederkehrenden Kosten für Evaluation, Upgrades und Störungen.
Die monatlichen API-Kosten sind Input-Token mal Input-Rate plus Output-Token mal Output-Rate plus Tooling und Guardrails.
Die API-Seite ist so, wie sie dasteht, nahezu vollständig, weshalb sie sich leicht prognostizieren lässt. Die Selbst-Hosting-Seite hat drei Terme, die in der Tabellenkalkulation selten auftauchen und die zusammen meist die Antwort bestimmen.
Eine veröffentlichte Aufschlüsselung eines Deployments mit einer A100 80GB aus 2026 zeigt die Proportionen: 3.240 US-Dollar pro Monat all-in, aufgeteilt in 1.440 US-Dollar GPU-Miete, 1.500 US-Dollar DevOps-Aufwand und 300 US-Dollar Infrastruktur-Overhead. Die Rechenleistung ist weniger als die Hälfte der Summe. Bei rund 1 Million Token pro Tag war dieser Aufbau nur gegenüber den teuersten Frontier-APIs günstiger und lag beim gleichen Volumen weiterhin deutlich über den günstigen API-Tarifen.
Die Kosten, die die Ersparnis auslöschen
- Betriebsaufwand. Die obige Position kalkuliert 15 Stunden pro Monat zu 100 US-Dollar allein für DevOps-Zeit bei einem bescheidenen Deployment. Das ist ein konservativer Wert für ein System mit echten Nutzern, Rufbereitschaft und einem Serving-Stack, der sich unter Ihnen verändert.
- Infrastruktur-Overhead. Netzwerk, Monitoring, Logging, Backups, Sicherheitskontrollen und Orchestrierung. In derselben Analyse mit 300 US-Dollar pro Monat angesetzt, und das unter der Annahme, dass Sie vorhandene Plattformfähigkeiten wiederverwenden statt sie aufzubauen.
- Evaluations- und Upgrade-Zyklus. Jedes Modell-Release, jedes Serving-Stack-Upgrade und jede Prompt-Migration bringt Benchmark-Läufe, Regressionstests und ein erneutes Deployment mit sich. Quellen schlagen das der Engineering-Zeit zu, statt es gesondert auszuweisen, und genau deshalb fehlt es in Business Cases. Es ist wiederkehrend, nicht einmalig.
- Unterauslastung. Das ist die stille Position. Fixe GPU-Kosten fallen an, ob Anfragen kommen oder nicht. Schubweiser Verkehr, bei dem eine Werktagsspitze über einer nahezu leerlaufenden Nacht liegt, bedeutet, dass die effektiven Kosten pro Token ein Mehrfaches der Zahl aus Ihrer Kapazitätsrechnung betragen können. APIs berechnen nichts, wenn niemand fragt.
Unterauslastung verdient eine eigene Analyse, bevor irgendetwas beschafft wird. Nehmen Sie eine Woche echter Request-Logs, tragen Sie Token pro Stunde auf und berechnen Sie das Verhältnis von Spitze zu Mittelwert. Ein Verhältnis über drei sollte Sie beim Kauf vorsichtig machen, denn Sie dimensionieren nach der Spitze und zahlen sie rund um die Uhr.
Wo die API-Preise 2026 liegen
Die API-Preise sind weit genug gefallen, um die Standardantwort zu verändern. Berichtete Spannen aus der Jahresmitte 2026 liegen bei rund 0,50 bis 3 US-Dollar je Million Input-Token und 1,50 bis 15 US-Dollar je Million Output-Token. Diese Spanne ist der Kern der Entscheidung, denn welches Ende Sie ablösen, wiegt schwerer als Ihr Volumen.
Gegen APIs der Einstiegsklasse am unteren Ende dieser Spannen ist Selbst-Hosting bei den Kosten kaum je zu rechtfertigen, bei keinem Volumen, das ein mittelgroßes Unternehmen erzeugt. Gegen Premium-Frontier-APIs am oberen Ende kommt der Umschlagpunkt erheblich früher, und der Fall kann echt sein.
Die erste Frage lautet also nicht “wie viele Token senden wir”, sondern “welche Modellklasse verlangt dieser Workload wirklich”. Ein Klassifikations- oder Extraktions-Workload, der auf einem kleinen Open-Weight-Modell ausreichend läuft, wäre auch auf einer API nie teuer geworden, und die Ersparnis durch Selbst-Hosting fällt entsprechend klein aus. Die Workloads, bei denen Selbst-Hosting echtes Geld spart, sind die, die heute auf teuren Modellen bei stetigem Volumen laufen.
Die veröffentlichten Break-even-Bänder
Die Analysen aus 2026 laufen nicht auf eine einzige Zahl zu, was für sich genommen aufschlussreich ist. Sie gruppieren sich so:
- Unter etwa 1 Million Token pro Tag gewinnen APIs bei den Gesamtkosten fast immer.
- 1 bis 10 Millionen Token pro Tag: Es hängt von Modellwahl und Auslastung ab. APIs gewinnen meist weiterhin, außer Sie lösen ein Frontier-Modell ab oder der Datenschutz verlangt es anders. Ein optimistischer Vergleich mit einem Premium-Modell setzt den Break-even bereits bei 5 bis 10 Millionen Token pro Monat auf einer einzelnen High-End-GPU an, doch diese Zahl unterstellt hohe Auslastung und lässt den Großteil des Personalaufwands weg.
- 10 bis 50 Millionen Token pro Tag: Selbst-Hosting wird bei den Kosten plausibel, wenn die Last stetig ist und der Betrieb bereits reif.
- Über 50 Millionen Token pro Tag gewinnt Selbst-Hosting oft klar, mit berichteten Vorteilen von 40 % bis 60 % gegenüber Premium-APIs. Eine Analyse eines Workloads der Llama-70B-Klasse bei rund 500 Millionen Token pro Tag behauptet etwa den fünffachen Vorteil.
Zwei weitere Schwellen tauchen in den Quellen auf und sind für die Größenordnung erwähnenswert: Manche privaten Deployments erreichen Kostengleichstand binnen 3 bis 6 Monaten bei rund 50.000 Abfragen pro Monat, und mehrere Analysen verorten den Umschlagpunkt im Unternehmensmaßstab bei 100 Millionen oder mehr Token pro Tag. Die Streuung zwischen diesen Angaben ist eine Funktion dessen, was die jeweiligen Autoren mitgezählt haben, und das ist der Hauptgrund, ein eigenes Modell zu rechnen statt eine veröffentlichte Schwelle zu übernehmen.
Wenn der Datenschutz der Grund ist, sagen Sie es
Unterhalb von rund 20.000 US-Dollar monatlicher API-Ausgaben formuliert eine Analyse von 2026 die Lage unverblümt: Die API gewinnt in jeder Dimension außer beim Datenschutz. Das ist eine nützliche Rahmung, weil sie den Druck nimmt, eine Kostengeschichte zu erfinden.
Ein privates Deployment ist unabhängig vom Kostenvergleich die richtige Antwort, wenn Sie Datenlokalisierung und Kontrolle im eigenen Haus brauchen, vertragliche Isolation für reguliertes oder mandantenvertrauliches Material, die Zusicherung, dass kein Dritter Prompts, Ausgaben oder Embeddings aufbewahrt, oder eine Reduktion des rechtlichen und beschaffungsseitigen Risikos, das ein externer Modellanbieter mitbringt. In regulierten Branchen, bei Arbeiten an sensiblem geistigen Eigentum und bei internen Copiloten über vertraulichem Material entscheidet der Datenschutz auch dann, wenn die API günstiger ist.
Ein Business Case, der sagt “das kostet uns 2.000 US-Dollar im Monat mehr als die API, und hier ist das Risiko, das es beseitigt”, ist vor einem Aufsichtsgremium haltbar. Ein Business Case, der Einsparungen behauptet, die nicht eintreten, kostet Sie die Glaubwürdigkeit bei der nächsten Anfrage.
Womit Sie anfangen
Messen Sie, bevor Sie modellieren. Erheben Sie einen Monat echter Tokenvolumina, getrennt nach Input und Output, nach Workload und nach Tagesstunde. Die meisten Teams, die das aus dem Gedächtnis schätzen, liegen um einen Faktor daneben, der die Antwort verändert.
Führen Sie den Vergleich dann je Workload statt im Aggregat. Ein Unternehmen hat typischerweise wenige Workloads mit hohem Volumen und niedriger Komplexität, die sich gut selbst hosten lassen, und einen langen Schwanz mit niedrigem Volumen und hoher Komplexität, bei denen das nicht gilt. Hybrid ist meist die richtige Architektur, mit den sensiblen und volumenstarken Arbeiten privat und dem Rest auf einer API. Eine einheitliche Antwort über die gesamte Landschaft zu erzwingen erzeugt sowohl überteuerte private Cluster als auch inakzeptable Datenrisiken.
Nehmen Sie eine Auslastungsannahme auf, die Sie schriftlich verteidigen würden, und nehmen Sie die Personalzeile auf. Wenn der Fall nur bei 80 % GPU-Auslastung funktioniert und Ihr Verkehr eine Werktagskurve ist, funktioniert der Fall nicht.
Trennen Sie schließlich die Entscheidung vom Zeitpunkt. Mieten Sie Kapazität, fahren Sie den Workload ein Quartal lang privat, und lassen Sie die gemessenen Zahlen über den Kauf entscheiden. Sich bei der Miete zu irren kostet ein Quartal. Sich bei einem Hardwarekauf zu irren kostet drei Jahre.
Häufige Fragen
Wir geben rund 4.000 US-Dollar pro Monat für API-Aufrufe aus. Sollten wir selbst hosten?
Aus Kostengründen nein. Auf diesem Niveau kostet ein bescheidenes Selbst-Hosting mehr, sobald die Betriebszeit mitgerechnet wird: Eine veröffentlichte Aufschlüsselung von 2026 setzt ein Deployment mit einer A100 80GB bei rund 3.240 US-Dollar pro Monat an, davon 1.500 US-Dollar DevOps-Aufwand und 300 US-Dollar Infrastruktur-Overhead, vor jeder Evaluations- oder Upgrade-Arbeit. Sie tauschten variable 4.000 US-Dollar gegen fixe 3.240 US-Dollar plus Engineering-Aufmerksamkeit und Auslastungsrisiko. Hosten Sie auf diesem Ausgabenniveau nur dann selbst, wenn die Datenkontrolle es verlangt, und nennen Sie das als Grund.
Welches Tokenvolumen rechtfertigt Selbst-Hosting allein über die Kosten?
Die veröffentlichten Analysen für 2026 gruppieren sich in Bänder, statt sich auf eine Zahl zu einigen. Ab etwa 2 Millionen Token pro Tag beginnen übliche Open-Weight-Konfigurationen mit gängigen APIs zu konkurrieren. Zwischen 10 und 30 Millionen Token pro Tag erzeugt Selbst-Hosting bei stetiger Unternehmenslast einen spürbaren Vorteil. Oberhalb von 50 Millionen Token pro Tag beschreiben mehrere Quellen Einsparungen von 40 % bis 60 % und mehr gegenüber Premium-APIs. Die Streuung spiegelt Auslastung und die abgelöste API wider, behandeln Sie die Bänder also als Vorprüfung.
Ist der Kauf von GPUs besser als die Miete?
Nur bei hoher dauerhafter Auslastung. Miete erhält die Flexibilität, solange sich die Form Ihres Workloads noch verändert, und im ersten Jahr verändert sie sich erheblich. Ein dokumentiertes Deployment mit 38.500 Euro Hardware lief mit rund 1.030 Euro Betriebskosten pro Monat gegen eine API-Rechnung von 10.900 Euro monatlich für denselben Workload, was für den Kauf spricht, aber daran hängt, dass diese Auslastung hält. Mieten Sie zuerst, messen Sie die echte Nutzung ein Quartal lang und kaufen Sie dann gegen Belege.