Was kostet Private AI für Unternehmen? On-Premise, EU-Cloud und SaaS vergleichen

Private AI ist nicht automatisch günstiger als SaaS oder eine Cloud-API. Ein fairer Vergleich zählt Einführung, Infrastruktur, Modellzugriff, Integration, laufende Arbeit und Exit zusammen. Er setzt voraus, dass alle Varianten denselben Workflow mit ausreichender Qualität, Geschwindigkeit und Kontrolle erfüllen.
Dieser Leitfaden zeigt eine nachvollziehbare Total-Cost-of-Ownership-Rechnung über 12 und 36 Monate für ein KMU. Alle Eurobeträge sind ausdrücklich gewählte Rechenannahmen, keine Marktpreise, Anbieterangebote oder gemessenen Projektergebnisse. Ersetzen Sie sie durch Ihre Angebote und Pilotdaten.
Stand: 17. November 2026. Die Architekturentscheidung hinter dem Kostenvergleich behandelt Private AI vs. Public Cloud. Hier geht es um deren wirtschaftliche Bewertung.
Was vergleichen wir: SaaS, EU-API, dedizierte Cloud und On-Premise?
Private AI bezeichnet hier eine bewusst kontrollierte Betriebsumgebung für einen konkreten KI-Workflow. EU-Hosting beschreibt zunächst einen Standort; es sagt allein nichts über Dedizierung oder die vollständigen Datenpfade aus.
| Variante | Was wird gekauft oder betrieben? | Was bleibt beim Unternehmen? |
|---|---|---|
| SaaS | Fertiger Assistenzdienst mit Lizenzen, Funktionen und Nutzungslimits | Einführung, Datenzugriffe, Konfiguration, fachliche Prüfung und erlaubte Nutzung |
| EU-API mit eigener Anwendung | Verbrauchsbasierter Modellzugriff in einer vertraglich geprüften EU-Region | Anwendung, Datenanbindung, Identity, Evaluation und Anwendungsbetrieb |
| Dedizierte EU-Cloud | Reservierte Modellkapazität mit vereinbarter Betriebsgrenze | Anwendung sowie nicht vom Provider übernommene Runtime- und Betriebsaufgaben |
| On-Premise | Eigene Hardware und Modellruntime | Zusätzlich Kapazität, Patches, Recovery und Hardware-Lifecycle |
SaaS und API sind getrennte Optionen. Ein SaaS-Abo enthält nicht automatisch die API für eigene Automatisierungen. Umgekehrt braucht eine reine API-Anwendung nicht automatisch SaaS-Lizenzen. Der Build-vs-Buy-Vergleich für RAG hilft, die zugekauften und selbst verantworteten Schichten abzugrenzen.
Erst gleiche Leistung prüfen, dann Kosten rechnen
Das Beispiel betrachtet einen begrenzten, textbasierten Assistenz-Workflow für 25 aktive Personen: Informationen aus einer freigegebenen Textsammlung abrufen und Antwortentwürfe erstellen. Menschen prüfen die Ergebnisse. Keine autonomen ERP-Aktionen, keine OCR, keine Sprachverarbeitung und kein Fine-Tuning.
Die Zahlen sind nur vergleichbar, wenn jede Variante den erforderlichen Datenzugriff und Workflow tatsächlich unterstützt. Kann SaaS die Berechtigungen oder Anbindung nicht erfüllen, fällt diese Spalte aus der Auswahl. Ein günstigerer Chat ist kein Ersatz für eine integrierte Fachanwendung.
Vor einem realen Vergleich gehören folgende Anforderungen in die Abnahme:
- Dieselben repräsentativen Aufgaben, Quellen und fachlichen Qualitätsgrenzen.
- Dieselben Zugriffsrechte und zulässigen Datenpfade, einschließlich Logs und externer Dienste.
- Vereinbarte Antwortzeit, Spitzennutzung und Wiederherstellungsziele.
- Klarer Umfang für Support, Updates und menschliche Nacharbeit.
Das Beispiel plant Bürozeiten, tolerierbare Wartezeiten und keine zugesicherte Hochverfügbarkeit. Ein einzelnes On-Premise-System ohne Redundanz ist kein Vergleich zu einem 24/7-Service mit vertraglicher Ausfallsicherung. Die KI-Architektur-Checkliste prüft diese Produktionsanforderungen.
Das transparente TCO-Modell
TCO(n Monate) = Einführung + Hardwarekauf
+ n × laufende Monatskosten
+ Zusatzkosten im Zeitraum + Exit-Reserve
Monatskosten = Lizenzen / Inferenz + Hosting / Storage / Backup
+ Strom + Betriebsarbeit + Evaluation
+ Integrationspflege + fachliche Nacharbeit
Interne Arbeitszeit wird mit einem angenommenen Vollkostensatz bewertet. Sie ist wirtschaftlicher Ressourcenverbrauch, auch wenn keine neue Rechnung entsteht. Eine Liquiditätsplanung muss externe Zahlungen und interne Zeit separat ausweisen.
Hardware wird einmal gekauft und nicht zusätzlich abgeschrieben. Für dieses vereinfachte Budgetmodell bleiben Preise konstant; Finanzierung, Abzinsung, Steuereffekte, Inflation und Restwert sind ausgeschlossen. Eine Ersatzbeschaffung innerhalb des Horizonts gehört in die Zusatzkosten. Hier wird unterstellt, dass keine nötig ist. Der vollständige Hardwarekauf wird auch im 12-Monats-Vergleich angesetzt: Das benachteiligt kurze Nutzungszeiten bewusst und bildet keine buchhalterische Ergebnisrechnung ab.
Annahmen: Nutzung, Tokens und Arbeitszeit
| Eingabe | Gewählte Annahme |
|---|---|
| Aktive Nutzer | 25 |
| Aufgaben je Person und Arbeitstag | 20 |
| Arbeitstage je Monat | 20 |
| Aufgaben je Monat | 25 × 20 × 20 = 10.000 |
| Input je Modellaufruf | 6.000 Tokens, einschließlich Systemprompt und Quellenkontext |
| Output je Modellaufruf | 1.000 Tokens |
| Aufrufe je Aufgabe | Durchschnittlich 1,2; einschließlich Wiederholungen |
| Abgerechnetes API-Volumen | 72 Mio. Input- und 12 Mio. Output-Tokens pro Monat |
| Hypothetischer API-Tarif | 2 Euro / Mio. Input, 6 Euro / Mio. Output |
| Hypothetische SaaS-Lizenz | 30 Euro je Person und Monat; passendes Kontingent vorausgesetzt |
| Technischer Vollkostensatz | 80 Euro je Stunde |
| Fachlicher Vollkostensatz | 40 Euro je Stunde |
| Fachliche Nacharbeit | 10 Stunden pro Monat in jeder Variante |
Die API-Inferenz kostet damit 72 × 2 + 12 × 6 = 216 Euro pro Monat. Cache-, Batch- und Mengenrabatte sind nicht angesetzt. Versteckte Zusatzaufrufe oder weitere abrechenbare Tokens müssen aus realer Telemetrie ergänzt werden. Tokenzahlen können zwischen Modellen und Tokenizern abweichen.
Die getrennte Input-/Output-Rechnung entspricht beispielsweise den Abrechnungsdimensionen der Scaleway-Preisliste. Die hier eingesetzten Tarifwerte stammen nicht aus dieser Preisliste. SaaS-Kontingente dürfen nicht einfach aus API-Tokens abgeleitet werden: Eine Lizenz muss den getesteten Workflow und sein Volumen abdecken.
Für On-Premise wird der durchschnittliche Stromverbrauch des vollständigen Systems hypothetisch mit 0,25 kW angesetzt: 0,25 × 720 Stunden × 0,28 Euro/kWh = 50,40 Euro pro Monat. Das ist weder ein gemessener Verbrauch noch ein österreichischer Stromtarif. Zusätzliche Kühlung muss eingerechnet werden, wenn sie anfällt.
Einmalige und monatliche Kosten vollständig erfassen
Alle Beträge in Euro ohne Umsatzsteuer. Enthaltene Providerleistungen werden nicht ein zweites Mal als eigene Arbeit berechnet. Für das Beispiel werden gültige Modell- und Softwarelizenzen ohne zusätzliche Lizenzgebühr vorausgesetzt; diese Annahme ist für die konkret gewählten Komponenten zu prüfen.
| Einmalige Position | SaaS | EU-API | Dedizierte EU-Cloud | On-Premise |
|---|---|---|---|---|
| Architektur, Daten- und Zugriffskonzept | 3.000 | 3.000 | 3.000 | 3.000 |
| Konfiguration, Integration und Deployment | 2.000 | 8.000 | 10.000 | 10.000 |
| Testfälle und Erstabnahme | 2.000 | 2.000 | 2.000 | 2.000 |
| Einführung und Schulung | 1.000 | 1.000 | 1.000 | 1.000 |
| Hardwarekauf | 0 | 0 | 0 | 8.000 |
| Summe einmalig | 8.000 | 14.000 | 16.000 | 24.000 |
Die Integrationsbudgets sind Annahmen. Beim SaaS wird eine bereits unterstützte Anbindung konfiguriert; die übrigen Varianten benötigen eine eigene Anwendung. Für zusätzliche Connectoren, Datenbereinigung oder Sicherheitsanforderungen sind reale Aufwände zu ergänzen.
| Monatliche Position | SaaS | EU-API | Dedizierte EU-Cloud | On-Premise |
|---|---|---|---|---|
| Lizenzen, API-Inferenz oder reservierte Modellkapazität | 750 | 216 | 900 | 0 |
| Anwendungs-Hosting, Storage, Backup und Infrastrukturpflege | 0 | 120 | 150 | 100 |
| Strom separat | 0 | 0 | 0 | 50,40 |
| Betrieb: Monitoring, Patches, Restore-Tests; 4 / 6 / 10 / 14 Std. × 80 Euro | 320 | 480 | 800 | 1.120 |
| Evaluation und Modellwechsel-Prüfung: 4 Std. × 80 Euro | 320 | 320 | 320 | 320 |
| Integrationspflege: 2 Std. × 80 Euro | 160 | 160 | 160 | 160 |
| Fachliche Prüfung und Nacharbeit: 10 Std. × 40 Euro | 400 | 400 | 400 | 400 |
| Summe monatlich | 1.950 | 1.696 | 2.530 | 2.250,40 |
Bei On-Premise enthält die 100-Euro-Position angenommenen externen Backup-Speicher und Infrastrukturmaterial, keine nochmals verrechneten Betriebsstunden. Bei Cloud ist Energie in der Kapazitäts-/Hostingannahme enthalten. OCR, Embeddings, Reranking, kommerzielle Lizenzen oder externe Fallbacks sind im Beispiel nicht separat erforderlich. Falls Ihr Workflow sie braucht, müssen sie explizit hinzugefügt werden.
TCO-Vergleich über 12 und 36 Monate
Die Exit-Reserve steht für einen angenommenen Wechsel am Ende des jeweiligen Horizonts. Ohne Wechsel bleibt sie eine Budgetreserve. Tatsächlicher Export, Index-Neuaufbau, Evaluation, Parallelbetrieb und Stilllegung können teurer oder günstiger sein.
Fiktives Beispiel für 25 aktive Personen, inklusive Exit-Reserve. Die Tabelle darunter enthält die ungerundeten Eurobeträge.
| Ergebnis | SaaS | EU-API | Dedizierte EU-Cloud | On-Premise |
|---|---|---|---|---|
| Einmalig | 8.000 | 14.000 | 16.000 | 24.000 |
| Laufend pro Monat | 1.950 | 1.696 | 2.530 | 2.250,40 |
| Exit-Reserve | 1.000 | 2.000 | 2.500 | 2.500 |
| TCO 12 Monate | 32.400 | 36.352 | 48.860 | 53.504,80 |
| TCO 36 Monate | 79.200 | 77.056 | 109.580 | 107.514,40 |
Beispiel zum Nachrechnen: On-Premise über 36 Monate = 24.000 + 36 × 2.250,40 + 2.500 = 107.514,40 Euro.
SaaS liegt im Beispiel nach 12 Monaten vorn; nach 36 Monaten ist die EU-API um 2.144 Euro günstiger als SaaS. SaaS startet mit weniger Einführungsaufwand, die EU-API hat niedrigere laufende Kosten. Dedizierte Cloud und On-Premise kosten bei diesem Nutzungsprofil mehr. Zusätzliche Kontrolle kann diesen Mehraufwand rechtfertigen, muss aber eine konkrete Anforderung erfüllen.
Welche Annahme kippt die Entscheidung?
| Änderung gegenüber dem Beispiel | Rechnerischer Effekt | Was vor einer Entscheidung zu prüfen ist |
|---|---|---|
| Zehnfaches API-Volumen, sonst unverändert | Inferenz steigt von 216 auf 2.160 Euro/Monat; EU-API-TCO über 36 Monate steigt auf 147.040 Euro | Kann die eigene Hardware diese Last mit gleicher Qualität und Latenz überhaupt tragen? |
| Vier zusätzliche Betriebsstunden pro Monat | 320 Euro/Monat; 11.520 Euro über 36 Monate | Welche Aufgaben sind tatsächlich im Providervertrag enthalten? |
| 100 zusätzliche Stunden Nacharbeit pro Monat | 4.000 Euro/Monat; 144.000 Euro über 36 Monate | Welche Variante besteht die fachliche Evaluation? |
| Redundanz oder zusätzliche GPU nötig | Einmalige und laufende Kosten steigen um die konkreten Angebotspositionen | Kapazität und Ausfallanforderungen neu messen; alte Rechnung verwerfen |
Auslastung verändert Stückkosten, nicht rückwirkend die bezahlte Hardware. Teilen Sie fixe Monatskosten nicht durch einen Auslastungsfaktor und behandeln Sie das Ergebnis dann als zusätzliche TCO-Ausgabe. Unbenutzte Kapazität ist bereits bezahlt. Mehr Last kann jedoch eine neue Kapazitätsstufe auslösen.
Unter der rein rechnerischen Annahme unveränderter On-Premise-Kapazität wäre der 36-Monats-Gleichstand zur EU-API bei etwa 4,92-mal dem Ausgangsvolumen erreicht: Der API-TCO ohne Inferenz beträgt 69.280 Euro, also (107.514,40 − 69.280) / (36 × 216) ≈ 4,92. Das ist keine Kaufempfehlung: Ohne Lasttest ist unbewiesen, ob die Hardware rund 49.200 Aufgaben pro Monat bewältigt.
Scaleway weist ausdrücklich darauf hin, dass Standard-Benchmarks die konkrete Last nicht ersetzen. vLLM dokumentiert dafür unter anderem Input-/Output-Tokens, Cache-Nutzung, Time to First Token und Ende-zu-Ende-Latenz. Messen Sie zusätzlich den fachlichen Erfolg.
Wirtschaftlichkeit: Kosten je akzeptierter Aufgabe statt je Token
Kosten je akzeptierter Aufgabe = TCO im Zeitraum
/ fachlich akzeptierte Aufgaben im Zeitraum
Im hypothetischen API-Beispiel wären bei 90 Prozent akzeptierten Aufgaben 36.352 / (12 × 10.000 × 0,9) ≈ 0,34 Euro je akzeptierter Aufgabe fällig. Die 90 Prozent sind eine zusätzliche Annahme, kein Testergebnis. Für einen Vergleich braucht jede Variante ihre eigene gemessene Erfolgsquote und Nacharbeit.
TCO beantwortet noch nicht, ob sich der Workflow lohnt. Dafür zählen realisierte Zeitgewinne, zusätzliche Erlöse oder vermiedene Kosten gegenüber dem bisherigen Prozess. Gesparte Minuten sind nicht automatisch Cashflow. Eine Nutzenhypothese mit Abbruchkriterium beschreibt KI-Pilot planen.
Angebote für Österreich, Deutschland und die Schweiz vergleichen
Holen Sie Angebote für denselben Scope ein. Lassen Sie Datenregion, Zugriffe, Unterauftragnehmer, Modelllizenz, Quoten, Supportzeiten, Datenexport und Kündigungsbedingungen konkret ausweisen. EU- oder Schweizer Hosting allein ist kein Nachweis für vollständige Kontrolle oder Datenschutzkonformität.
Für AT und DE kann ein Euro-Budget als gemeinsame Recheneinheit dienen. Für Schweizer Angebote rechnen Sie CHF anhand eines dokumentierten Wechselkursdatums um oder führen das gesamte Modell in CHF. Umsatzsteuer, Vorsteuerabzug und Förderungen werden separat geprüft; Förderungen sind hier nicht als sichere Einsparung berücksichtigt.
Die Private-AI-Preisliste von Safe Swiss Cloud zeigt beispielhaft unterschiedliche Positionen für Chat, API und Integration. Sie ist eine Quelle für Angebotsdimensionen, keine Grundlage unserer Beispielbeträge. Bei Self-Hosting müssen die konkreten Lizenzbedingungen geprüft werden; der Mistral Model Selection Guide führt Lizenzinformationen neben Funktionen und Preisen auf.
Häufige Fragen
Was kostet Private AI für ein KMU?
Eine belastbare Summe braucht einen konkreten Workflow, Angebote und Betriebsannahmen. Im hypothetischen Beispiel dieses Artikels kostet dedizierte EU-Cloud 48.860 Euro über 12 Monate und On-Premise 53.504,80 Euro. Das sind Rechenwerte für einen begrenzten Assistenz-Workflow, keine Marktpreise oder Angebote.
Ab wie vielen Nutzern lohnt sich On-Premise-KI?
Es gibt keine allgemeine Nutzergrenze. Entscheidend sind Nutzung, Qualitätsanforderungen, Parallelität, Kapazität und Betriebsaufwand. Ein rechnerischer Break-even gilt nur innerhalb der tatsächlich getesteten Kapazität und bei vergleichbarem Leistungsumfang.
Sind SaaS-Lizenzen und API-Kosten dasselbe?
Nein. Eine SaaS-Lizenz bezahlt ein Produkt mit vereinbartem Funktionsumfang und Limits. Eine API bezahlt Modellzugriff; Anwendung, Integration und Betrieb kommen hinzu. API-Kosten werden nur zusätzlich zu SaaS gerechnet, wenn der Workflow tatsächlich separate API-Aufrufe benötigt.
Ist eine EU-Cloud automatisch Private AI?
Nein. EU bezeichnet zunächst den Standort. Dedizierung, Netzwerkgrenzen, Zugriffsrechte, Datenpfade und Betriebsverantwortung sind getrennt zu prüfen. Eine EU-API kann auf geteilter Infrastruktur laufen.
Soll Hardwarekauf plus Abschreibung in die TCO-Rechnung?
Nicht für denselben Vermögenswert doppelt. Dieses Modell erfasst den Hardwarekauf einmalig. Eine separate Ergebnisrechnung kann stattdessen Abschreibung verwenden; Zahlungsfluss, Kostenrechnung und Restwert müssen dann klar getrennt sein.
Was gehört zu den Exit-Kosten?
Export, Neubau von Indizes, Anpassung von Schnittstellen, erneute Evaluation, Parallelbetrieb und sichere Stilllegung. Das Beispiel enthält eine angenommene Exit-Reserve am Ende jedes Vergleichshorizonts; sie ist kein bereits angefallener Zahlungsabfluss.
Nächster Schritt für einen konkreten Architekturentscheid
Sie haben einen Workflow und müssen Budget oder Betriebsmodell festlegen? Halten Sie Aufgabenvolumen, Qualitätsziel, erlaubte Datenpfade, vorhandene Integrationen und Betriebskapazität fest. Mit diesen Angaben lässt sich eine TCO-Rechnung aus Angeboten und Pilotmessungen ableiten.
Konkreten Architektur- und Kostenvergleich anfragen. Ziel ist eine nachvollziehbare Entscheidung mit klarem Scope – einschließlich der Option, ein bestehendes Produkt zu nutzen oder den Build zu stoppen.