Der TCO-Rechner für den ehrlichen Kostenvergleich 2026
Eigene KI-Hardware oder doch die Cloud-API? Diese Frage entscheidet sich am Break-even: der Nutzerzahl, ab der sich eine eigene GPU rechnet. Wir zeigen die realen Preise für Cloud-APIs und On-Premise-Hardware im Jahr 2026, die Formel dahinter und einen interaktiven Rechner, mit dem Sie Ihr eigenes Szenario durchspielen.
Stand: Juli 2026 — Richtwerte, keine Rechts- oder Steuerberatung
On-Premise-KI lohnt sich typischerweise ab einer zweistelligen Nutzerzahl oder bei dokumenten- und agentenintensiver Nutzung; bei leichter Chat-Nutzung unter rund 30 Mitarbeitern ist eine EU-Cloud-API meist günstiger.
Cloud-APIs kosten nichts im Leerlauf und skalieren pro Token — ideal für wenige Nutzer oder schwankende Last. Eigene Hardware verursacht Fixkosten (Anschaffung, Strom, Wartung), die sich erst ab einer bestimmten Nutzungsmenge amortisieren. Je teurer das gewählte Cloud-Modell und je intensiver die Nutzung, desto früher lohnt sich On-Premise. Zusätzlich zählen Argumente, die im reinen Preis nicht auftauchen: Datenhoheit, DSGVO, Berufsgeheimnisschutz und Unabhängigkeit vom Anbieter.
Cloud-KI wird pro Token abgerechnet — getrennt nach Eingabe (Input) und Ausgabe (Output). Die Spannbreite ist enorm: US-Premium-Modelle der Spitzenklasse kosten ein Vielfaches günstiger EU-Modelle. Die folgenden Richtwerte (in US-Dollar je 1 Million Token) bilden das Preisgefüge Mitte 2026 ab:
| Modellklasse | Input ($/1M) | Output ($/1M) | Einordnung |
|---|---|---|---|
| Premium US (GPT-5.5 / Opus-Klasse) | 5,00 | 27,00 | Höchste Qualität, US-Anbieter |
| Mittelklasse EU (Mistral Large 2) | 2,00 | 6,00 | Starke Qualität, EU-gehostet |
| Günstig EU (Mistral Small 3) | 0,10 | 0,30 | Für einfache Aufgaben, EU-gehostet |
Umrechnung mit 0,92 USD/EUR. Preise ändern sich laufend; im Rechner unten anpassbar.
Ein Mitarbeiter mit mittlerer Nutzung (RAG, Wissensarbeit) verbraucht rund 200.000 Input- und 25.000 Output-Token pro Arbeitstag. Bei 21 Arbeitstagen und dem EU-Mittelklassemodell sind das etwa 10,60 € pro Nutzer und Monat. Mit einem US-Premium-Modell steigt derselbe Verbrauch auf rund 32 € pro Nutzer und Monat — der Faktor drei bis vier zwischen EU-Mittelklasse und US-Premium ist der wichtigste Hebel in jeder Kalkulation.
On-Premise heißt: eine oder mehrere GPUs im eigenen Serverraum, plus die Infrastruktur drumherum. Die Hardwarekosten hängen an der GPU-Klasse, die wiederum bestimmt, wie große Modelle laufen. Drei typische Stufen:
| Setup | GPU | Preis (Hardware) | Geeignet für |
|---|---|---|---|
| Einsteiger | 1× RTX 5090 32 GB | 3.000–3.500 € | Modelle 7–32B quantisiert |
| Mittel | 1× RTX PRO 6000 Blackwell 96 GB | 7.800–12.200 € | 70B+, mehrere Sessions |
| Enterprise | 1× H100 80 GB | 23.000–30.000 € | Höchste Last, große Modelle |
Eine Einsteiger-GPU zieht unter Last rund 600 Watt. Bei 50 % Auslastung und 22 ct/kWh Gewerbestrom sind das etwa 45 bis 50 € Strom pro Monat. Wichtig zur Einordnung: Der deutsche Gewerbestrom liegt für KMU real im Bereich von rund 27 ct/kWh (bei 10.000 kWh Jahresverbrauch), Industrie-Neuabschlüsse eher bei 16,7 ct/kWh. Der 2026 politisch diskutierte subventionierte Industriestrompreis von 5 ct/kWh gilt ausdrücklich nur für rund 91 energieintensive Branchen — nicht für den normalen Mittelstand. Kalkulationen, die On-Premise-KI mit 5 ct schönrechnen, sind für die allermeisten Unternehmen unseriös.
Zwischen Cloud-API und eigenem Server liegt die dedizierte GPU-Miete in EU-Rechenzentren. Sie kombiniert Datenhoheit und planbare Fixkosten mit null Anschaffungskosten — und lässt sich monatlich kündigen. Ideal, um On-Premise zu erproben, bevor eigene Hardware angeschafft wird. Richtwerte Mitte 2026:
Der Break-even ist die Nutzerzahl, ab der die fixen On-Premise-Kosten pro Monat unter die mit der Nutzerzahl steigenden Cloud-Kosten fallen. Die Cloud-Kurve steigt linear, die On-Premise-Kurve ist waagerecht — der Schnittpunkt ist die Entscheidungsgröße.
Vereinfachte Formeln:
Cloud/Monat = Nutzer × Token/Tag × Arbeitstage ÷ 1 Mio. × Preis × Kurs On-Premise/Monat = GPU-Preis × (1 + Aufschlag) ÷ (Jahre × 12) + Stromkosten + Wartung Break-even = On-Premise/Monat ÷ Cloud-Kosten je Nutzer
Der reine Kostenvergleich blendet Faktoren aus, die für viele Unternehmen den Ausschlag geben — und für Berufsgeheimnisträger sogar rechtlich zwingend sind:
Bei eigener oder EU-gemieteter Hardware verlassen personenbezogene Daten nie Ihren Kontrollbereich. Kein Drittlandtransfer, keine Abhängigkeit von wechselnden Angemessenheitsbeschlüssen.
Kanzleien, Arztpraxen, Steuerberater und Psychotherapeuten unterliegen der Schweigepflicht. Die Weitergabe von Mandanten- oder Patientendaten an externe Verarbeiter ist strafbewehrt — On-Premise oder streng abgesicherte EU-Verarbeitung ist hier oft der einzig saubere Weg.
Lokale Modelle antworten ohne Netzwerk-Umweg und funktionieren auch, wenn die Internetleitung oder der Cloud-Anbieter einmal ausfällt.
Wer offene Modelle auf eigener Infrastruktur betreibt, ist nicht an Preiserhöhungen, API-Änderungen oder das Abkündigen von Modellen eines einzelnen Anbieters gebunden.
Stellen Sie Nutzerzahl, Nutzungsintensität, Cloud-Modellklasse und On-Premise-Setup ein. Der Rechner zeigt Ihren Break-even, den Kostenverlauf und die Gesamtkosten über den gewählten Zeitraum. Alle Annahmen lassen sich unter „Erweiterte Annahmen“ anpassen.
Ab 26 Nutzern ist On-Premise günstiger
Gesamtkosten über 3 Jahre
| Cloud-API gesamt | 7.651 € |
| On-Premise gesamtHardware einmalig + Strom & Wartung laufend | 9.861 € |
| Differenz | 2.210 €Cloud günstiger |
Empfehlung
Bei aktuell 20 Nutzern ist die EU-Cloud-API die wirtschaftlichere Wahl. On-Premise lohnt sich in diesem Profil rechnerisch ab rund 26 Nutzern — oder früher, sobald Datenhoheit, DSGVO und § 203 den Ausschlag geben.
Stand Juli 2026, anpassbar. Richtwerte ohne Gewähr — keine Rechts- oder Steuerberatung. Preise für Hardware, Strom und Cloud-APIs ändern sich laufend.
Als Faustregel lohnt sich On-Premise-KI ab einer zweistelligen Nutzerzahl. Bei mittlerer Nutzung mit einer günstigen EU-Cloud-API liegt der Break-even gegenüber einem Einsteiger-Setup bei rund 26 bis 27 Nutzern. Bei teuren US-Premium-Modellen kippt die Rechnung schon bei rund 9 Nutzern. Dokumenten- und agentenintensive Nutzung senkt die Schwelle zusätzlich.
Auf einer RTX 5090 mit 32 GB laufen quantisierte Modelle von 7 bis rund 32 Milliarden Parametern. Eine RTX PRO 6000 Blackwell mit 96 GB fasst 70B-Modelle und mehrere parallele Sessions. Eine H100 mit 80 GB ist für höchste Last und große Modelle gedacht. Entscheidend sind Parameterzahl, Quantisierung und die gewünschte Kontextlänge.
Nein, die DSGVO schreibt keine On-Premise-Lösung vor. Auch eine EU-gehostete Cloud kann DSGVO-konform sein, wenn Auftragsverarbeitung, Serverstandort und technische Maßnahmen stimmen. On-Premise wird aber zum starken Argument, wenn besonders sensible Daten verarbeitet werden oder Berufsgeheimnisträger nach § 203 StGB betroffen sind.
Eine Einsteiger-GPU mit rund 600 Watt Dauerlast kostet bei 50 % Auslastung und 22 ct/kWh Gewerbestrom etwa 45 bis 50 € Strom pro Monat. Der 2026 diskutierte subventionierte Industriestrompreis von 5 ct/kWh gilt nur für rund 91 energieintensive Branchen, nicht für den normalen Mittelstand.
Ja. Dedizierte GPU-Miete in EU-Rechenzentren kombiniert Datenhoheit mit planbaren Fixkosten und ohne Anschaffung. Eine RTX PRO 6000 mit 96 GB gibt es bei EU-Anbietern ab rund 889 € pro Monat, kleinere GPUs deutlich günstiger — ideal, um On-Premise zu erproben, bevor eigene Hardware angeschafft wird.
Wir rechnen Ihr konkretes Szenario durch, prüfen die passende Modell- und Hardwareklasse und setzen die Lösung um — On-Premise oder als DSGVO-konforme EU-Instanz. Pragmatisch und ohne Hype.
On-Premise-KI-Beratung anfragenOder starten Sie mit einer strukturierten KI-Potenzial- und Compliance-Analyse.
Zur KI-Readiness-Analyse