Alle Beiträge
Private AITCOKI-Architektur

Was kostet Private AI für Unternehmen? On-Premise, EU-Cloud und SaaS vergleichen

11 Min. LesezeitThomas Stermole
Kompakter Server neben einem aufgeschlagenen Kontobuch und einem Bleistift auf dunkelgrünem Untergrund.

Private AI ist nicht automatisch günstiger als SaaS oder eine Cloud-API. Ein fairer Vergleich zählt Einführung, Infrastruktur, Modellzugriff, Integration, laufende Arbeit und Exit zusammen. Er setzt voraus, dass alle Varianten denselben Workflow mit ausreichender Qualität, Geschwindigkeit und Kontrolle erfüllen.

Dieser Leitfaden zeigt eine nachvollziehbare Total-Cost-of-Ownership-Rechnung über 12 und 36 Monate für ein KMU. Alle Eurobeträge sind ausdrücklich gewählte Rechenannahmen, keine Marktpreise, Anbieterangebote oder gemessenen Projektergebnisse. Ersetzen Sie sie durch Ihre Angebote und Pilotdaten.

Stand: 17. November 2026. Die Architekturentscheidung hinter dem Kostenvergleich behandelt Private AI vs. Public Cloud. Hier geht es um deren wirtschaftliche Bewertung.

Was vergleichen wir: SaaS, EU-API, dedizierte Cloud und On-Premise?

Private AI bezeichnet hier eine bewusst kontrollierte Betriebsumgebung für einen konkreten KI-Workflow. EU-Hosting beschreibt zunächst einen Standort; es sagt allein nichts über Dedizierung oder die vollständigen Datenpfade aus.

VarianteWas wird gekauft oder betrieben?Was bleibt beim Unternehmen?
SaaSFertiger Assistenzdienst mit Lizenzen, Funktionen und NutzungslimitsEinführung, Datenzugriffe, Konfiguration, fachliche Prüfung und erlaubte Nutzung
EU-API mit eigener AnwendungVerbrauchsbasierter Modellzugriff in einer vertraglich geprüften EU-RegionAnwendung, Datenanbindung, Identity, Evaluation und Anwendungsbetrieb
Dedizierte EU-CloudReservierte Modellkapazität mit vereinbarter BetriebsgrenzeAnwendung sowie nicht vom Provider übernommene Runtime- und Betriebsaufgaben
On-PremiseEigene Hardware und ModellruntimeZusätzlich Kapazität, Patches, Recovery und Hardware-Lifecycle

SaaS und API sind getrennte Optionen. Ein SaaS-Abo enthält nicht automatisch die API für eigene Automatisierungen. Umgekehrt braucht eine reine API-Anwendung nicht automatisch SaaS-Lizenzen. Der Build-vs-Buy-Vergleich für RAG hilft, die zugekauften und selbst verantworteten Schichten abzugrenzen.

Erst gleiche Leistung prüfen, dann Kosten rechnen

Das Beispiel betrachtet einen begrenzten, textbasierten Assistenz-Workflow für 25 aktive Personen: Informationen aus einer freigegebenen Textsammlung abrufen und Antwortentwürfe erstellen. Menschen prüfen die Ergebnisse. Keine autonomen ERP-Aktionen, keine OCR, keine Sprachverarbeitung und kein Fine-Tuning.

Die Zahlen sind nur vergleichbar, wenn jede Variante den erforderlichen Datenzugriff und Workflow tatsächlich unterstützt. Kann SaaS die Berechtigungen oder Anbindung nicht erfüllen, fällt diese Spalte aus der Auswahl. Ein günstigerer Chat ist kein Ersatz für eine integrierte Fachanwendung.

Vor einem realen Vergleich gehören folgende Anforderungen in die Abnahme:

  • Dieselben repräsentativen Aufgaben, Quellen und fachlichen Qualitätsgrenzen.
  • Dieselben Zugriffsrechte und zulässigen Datenpfade, einschließlich Logs und externer Dienste.
  • Vereinbarte Antwortzeit, Spitzennutzung und Wiederherstellungsziele.
  • Klarer Umfang für Support, Updates und menschliche Nacharbeit.

Das Beispiel plant Bürozeiten, tolerierbare Wartezeiten und keine zugesicherte Hochverfügbarkeit. Ein einzelnes On-Premise-System ohne Redundanz ist kein Vergleich zu einem 24/7-Service mit vertraglicher Ausfallsicherung. Die KI-Architektur-Checkliste prüft diese Produktionsanforderungen.

Das transparente TCO-Modell

TCO(n Monate) = Einführung + Hardwarekauf
             + n × laufende Monatskosten
             + Zusatzkosten im Zeitraum + Exit-Reserve

Monatskosten = Lizenzen / Inferenz + Hosting / Storage / Backup
             + Strom + Betriebsarbeit + Evaluation
             + Integrationspflege + fachliche Nacharbeit

Interne Arbeitszeit wird mit einem angenommenen Vollkostensatz bewertet. Sie ist wirtschaftlicher Ressourcenverbrauch, auch wenn keine neue Rechnung entsteht. Eine Liquiditätsplanung muss externe Zahlungen und interne Zeit separat ausweisen.

Hardware wird einmal gekauft und nicht zusätzlich abgeschrieben. Für dieses vereinfachte Budgetmodell bleiben Preise konstant; Finanzierung, Abzinsung, Steuereffekte, Inflation und Restwert sind ausgeschlossen. Eine Ersatzbeschaffung innerhalb des Horizonts gehört in die Zusatzkosten. Hier wird unterstellt, dass keine nötig ist. Der vollständige Hardwarekauf wird auch im 12-Monats-Vergleich angesetzt: Das benachteiligt kurze Nutzungszeiten bewusst und bildet keine buchhalterische Ergebnisrechnung ab.

Annahmen: Nutzung, Tokens und Arbeitszeit

EingabeGewählte Annahme
Aktive Nutzer25
Aufgaben je Person und Arbeitstag20
Arbeitstage je Monat20
Aufgaben je Monat25 × 20 × 20 = 10.000
Input je Modellaufruf6.000 Tokens, einschließlich Systemprompt und Quellenkontext
Output je Modellaufruf1.000 Tokens
Aufrufe je AufgabeDurchschnittlich 1,2; einschließlich Wiederholungen
Abgerechnetes API-Volumen72 Mio. Input- und 12 Mio. Output-Tokens pro Monat
Hypothetischer API-Tarif2 Euro / Mio. Input, 6 Euro / Mio. Output
Hypothetische SaaS-Lizenz30 Euro je Person und Monat; passendes Kontingent vorausgesetzt
Technischer Vollkostensatz80 Euro je Stunde
Fachlicher Vollkostensatz40 Euro je Stunde
Fachliche Nacharbeit10 Stunden pro Monat in jeder Variante

Die API-Inferenz kostet damit 72 × 2 + 12 × 6 = 216 Euro pro Monat. Cache-, Batch- und Mengenrabatte sind nicht angesetzt. Versteckte Zusatzaufrufe oder weitere abrechenbare Tokens müssen aus realer Telemetrie ergänzt werden. Tokenzahlen können zwischen Modellen und Tokenizern abweichen.

Die getrennte Input-/Output-Rechnung entspricht beispielsweise den Abrechnungsdimensionen der Scaleway-Preisliste. Die hier eingesetzten Tarifwerte stammen nicht aus dieser Preisliste. SaaS-Kontingente dürfen nicht einfach aus API-Tokens abgeleitet werden: Eine Lizenz muss den getesteten Workflow und sein Volumen abdecken.

Für On-Premise wird der durchschnittliche Stromverbrauch des vollständigen Systems hypothetisch mit 0,25 kW angesetzt: 0,25 × 720 Stunden × 0,28 Euro/kWh = 50,40 Euro pro Monat. Das ist weder ein gemessener Verbrauch noch ein österreichischer Stromtarif. Zusätzliche Kühlung muss eingerechnet werden, wenn sie anfällt.

Einmalige und monatliche Kosten vollständig erfassen

Alle Beträge in Euro ohne Umsatzsteuer. Enthaltene Providerleistungen werden nicht ein zweites Mal als eigene Arbeit berechnet. Für das Beispiel werden gültige Modell- und Softwarelizenzen ohne zusätzliche Lizenzgebühr vorausgesetzt; diese Annahme ist für die konkret gewählten Komponenten zu prüfen.

Einmalige PositionSaaSEU-APIDedizierte EU-CloudOn-Premise
Architektur, Daten- und Zugriffskonzept3.0003.0003.0003.000
Konfiguration, Integration und Deployment2.0008.00010.00010.000
Testfälle und Erstabnahme2.0002.0002.0002.000
Einführung und Schulung1.0001.0001.0001.000
Hardwarekauf0008.000
Summe einmalig8.00014.00016.00024.000

Die Integrationsbudgets sind Annahmen. Beim SaaS wird eine bereits unterstützte Anbindung konfiguriert; die übrigen Varianten benötigen eine eigene Anwendung. Für zusätzliche Connectoren, Datenbereinigung oder Sicherheitsanforderungen sind reale Aufwände zu ergänzen.

Monatliche PositionSaaSEU-APIDedizierte EU-CloudOn-Premise
Lizenzen, API-Inferenz oder reservierte Modellkapazität7502169000
Anwendungs-Hosting, Storage, Backup und Infrastrukturpflege0120150100
Strom separat00050,40
Betrieb: Monitoring, Patches, Restore-Tests; 4 / 6 / 10 / 14 Std. × 80 Euro3204808001.120
Evaluation und Modellwechsel-Prüfung: 4 Std. × 80 Euro320320320320
Integrationspflege: 2 Std. × 80 Euro160160160160
Fachliche Prüfung und Nacharbeit: 10 Std. × 40 Euro400400400400
Summe monatlich1.9501.6962.5302.250,40

Bei On-Premise enthält die 100-Euro-Position angenommenen externen Backup-Speicher und Infrastrukturmaterial, keine nochmals verrechneten Betriebsstunden. Bei Cloud ist Energie in der Kapazitäts-/Hostingannahme enthalten. OCR, Embeddings, Reranking, kommerzielle Lizenzen oder externe Fallbacks sind im Beispiel nicht separat erforderlich. Falls Ihr Workflow sie braucht, müssen sie explizit hinzugefügt werden.

TCO-Vergleich über 12 und 36 Monate

Die Exit-Reserve steht für einen angenommenen Wechsel am Ende des jeweiligen Horizonts. Ohne Wechsel bleibt sie eine Budgetreserve. Tatsächlicher Export, Index-Neuaufbau, Evaluation, Parallelbetrieb und Stilllegung können teurer oder günstiger sein.

Balkendiagramm: SaaS hat im Beispiel nach 12 Monaten die niedrigsten Gesamtkosten, die EU-API nach 36 Monaten. Alle Werte stehen in der Tabelle darunter.Fiktives Beispiel für 25 aktive Personen, inklusive Exit-Reserve. Die Tabelle darunter enthält die ungerundeten Eurobeträge.

ErgebnisSaaSEU-APIDedizierte EU-CloudOn-Premise
Einmalig8.00014.00016.00024.000
Laufend pro Monat1.9501.6962.5302.250,40
Exit-Reserve1.0002.0002.5002.500
TCO 12 Monate32.40036.35248.86053.504,80
TCO 36 Monate79.20077.056109.580107.514,40

Beispiel zum Nachrechnen: On-Premise über 36 Monate = 24.000 + 36 × 2.250,40 + 2.500 = 107.514,40 Euro.

SaaS liegt im Beispiel nach 12 Monaten vorn; nach 36 Monaten ist die EU-API um 2.144 Euro günstiger als SaaS. SaaS startet mit weniger Einführungsaufwand, die EU-API hat niedrigere laufende Kosten. Dedizierte Cloud und On-Premise kosten bei diesem Nutzungsprofil mehr. Zusätzliche Kontrolle kann diesen Mehraufwand rechtfertigen, muss aber eine konkrete Anforderung erfüllen.

Welche Annahme kippt die Entscheidung?

Änderung gegenüber dem BeispielRechnerischer EffektWas vor einer Entscheidung zu prüfen ist
Zehnfaches API-Volumen, sonst unverändertInferenz steigt von 216 auf 2.160 Euro/Monat; EU-API-TCO über 36 Monate steigt auf 147.040 EuroKann die eigene Hardware diese Last mit gleicher Qualität und Latenz überhaupt tragen?
Vier zusätzliche Betriebsstunden pro Monat320 Euro/Monat; 11.520 Euro über 36 MonateWelche Aufgaben sind tatsächlich im Providervertrag enthalten?
100 zusätzliche Stunden Nacharbeit pro Monat4.000 Euro/Monat; 144.000 Euro über 36 MonateWelche Variante besteht die fachliche Evaluation?
Redundanz oder zusätzliche GPU nötigEinmalige und laufende Kosten steigen um die konkreten AngebotspositionenKapazität und Ausfallanforderungen neu messen; alte Rechnung verwerfen

Auslastung verändert Stückkosten, nicht rückwirkend die bezahlte Hardware. Teilen Sie fixe Monatskosten nicht durch einen Auslastungsfaktor und behandeln Sie das Ergebnis dann als zusätzliche TCO-Ausgabe. Unbenutzte Kapazität ist bereits bezahlt. Mehr Last kann jedoch eine neue Kapazitätsstufe auslösen.

Unter der rein rechnerischen Annahme unveränderter On-Premise-Kapazität wäre der 36-Monats-Gleichstand zur EU-API bei etwa 4,92-mal dem Ausgangsvolumen erreicht: Der API-TCO ohne Inferenz beträgt 69.280 Euro, also (107.514,40 − 69.280) / (36 × 216) ≈ 4,92. Das ist keine Kaufempfehlung: Ohne Lasttest ist unbewiesen, ob die Hardware rund 49.200 Aufgaben pro Monat bewältigt.

Scaleway weist ausdrücklich darauf hin, dass Standard-Benchmarks die konkrete Last nicht ersetzen. vLLM dokumentiert dafür unter anderem Input-/Output-Tokens, Cache-Nutzung, Time to First Token und Ende-zu-Ende-Latenz. Messen Sie zusätzlich den fachlichen Erfolg.

Wirtschaftlichkeit: Kosten je akzeptierter Aufgabe statt je Token

Kosten je akzeptierter Aufgabe = TCO im Zeitraum
                              / fachlich akzeptierte Aufgaben im Zeitraum

Im hypothetischen API-Beispiel wären bei 90 Prozent akzeptierten Aufgaben 36.352 / (12 × 10.000 × 0,9) ≈ 0,34 Euro je akzeptierter Aufgabe fällig. Die 90 Prozent sind eine zusätzliche Annahme, kein Testergebnis. Für einen Vergleich braucht jede Variante ihre eigene gemessene Erfolgsquote und Nacharbeit.

TCO beantwortet noch nicht, ob sich der Workflow lohnt. Dafür zählen realisierte Zeitgewinne, zusätzliche Erlöse oder vermiedene Kosten gegenüber dem bisherigen Prozess. Gesparte Minuten sind nicht automatisch Cashflow. Eine Nutzenhypothese mit Abbruchkriterium beschreibt KI-Pilot planen.

Angebote für Österreich, Deutschland und die Schweiz vergleichen

Holen Sie Angebote für denselben Scope ein. Lassen Sie Datenregion, Zugriffe, Unterauftragnehmer, Modelllizenz, Quoten, Supportzeiten, Datenexport und Kündigungsbedingungen konkret ausweisen. EU- oder Schweizer Hosting allein ist kein Nachweis für vollständige Kontrolle oder Datenschutzkonformität.

Für AT und DE kann ein Euro-Budget als gemeinsame Recheneinheit dienen. Für Schweizer Angebote rechnen Sie CHF anhand eines dokumentierten Wechselkursdatums um oder führen das gesamte Modell in CHF. Umsatzsteuer, Vorsteuerabzug und Förderungen werden separat geprüft; Förderungen sind hier nicht als sichere Einsparung berücksichtigt.

Die Private-AI-Preisliste von Safe Swiss Cloud zeigt beispielhaft unterschiedliche Positionen für Chat, API und Integration. Sie ist eine Quelle für Angebotsdimensionen, keine Grundlage unserer Beispielbeträge. Bei Self-Hosting müssen die konkreten Lizenzbedingungen geprüft werden; der Mistral Model Selection Guide führt Lizenzinformationen neben Funktionen und Preisen auf.

Häufige Fragen

Was kostet Private AI für ein KMU?

Eine belastbare Summe braucht einen konkreten Workflow, Angebote und Betriebsannahmen. Im hypothetischen Beispiel dieses Artikels kostet dedizierte EU-Cloud 48.860 Euro über 12 Monate und On-Premise 53.504,80 Euro. Das sind Rechenwerte für einen begrenzten Assistenz-Workflow, keine Marktpreise oder Angebote.

Ab wie vielen Nutzern lohnt sich On-Premise-KI?

Es gibt keine allgemeine Nutzergrenze. Entscheidend sind Nutzung, Qualitätsanforderungen, Parallelität, Kapazität und Betriebsaufwand. Ein rechnerischer Break-even gilt nur innerhalb der tatsächlich getesteten Kapazität und bei vergleichbarem Leistungsumfang.

Sind SaaS-Lizenzen und API-Kosten dasselbe?

Nein. Eine SaaS-Lizenz bezahlt ein Produkt mit vereinbartem Funktionsumfang und Limits. Eine API bezahlt Modellzugriff; Anwendung, Integration und Betrieb kommen hinzu. API-Kosten werden nur zusätzlich zu SaaS gerechnet, wenn der Workflow tatsächlich separate API-Aufrufe benötigt.

Ist eine EU-Cloud automatisch Private AI?

Nein. EU bezeichnet zunächst den Standort. Dedizierung, Netzwerkgrenzen, Zugriffsrechte, Datenpfade und Betriebsverantwortung sind getrennt zu prüfen. Eine EU-API kann auf geteilter Infrastruktur laufen.

Soll Hardwarekauf plus Abschreibung in die TCO-Rechnung?

Nicht für denselben Vermögenswert doppelt. Dieses Modell erfasst den Hardwarekauf einmalig. Eine separate Ergebnisrechnung kann stattdessen Abschreibung verwenden; Zahlungsfluss, Kostenrechnung und Restwert müssen dann klar getrennt sein.

Was gehört zu den Exit-Kosten?

Export, Neubau von Indizes, Anpassung von Schnittstellen, erneute Evaluation, Parallelbetrieb und sichere Stilllegung. Das Beispiel enthält eine angenommene Exit-Reserve am Ende jedes Vergleichshorizonts; sie ist kein bereits angefallener Zahlungsabfluss.

Nächster Schritt für einen konkreten Architekturentscheid

Sie haben einen Workflow und müssen Budget oder Betriebsmodell festlegen? Halten Sie Aufgabenvolumen, Qualitätsziel, erlaubte Datenpfade, vorhandene Integrationen und Betriebskapazität fest. Mit diesen Angaben lässt sich eine TCO-Rechnung aus Angeboten und Pilotmessungen ableiten.

Konkreten Architektur- und Kostenvergleich anfragen. Ziel ist eine nachvollziehbare Entscheidung mit klarem Scope – einschließlich der Option, ein bestehendes Produkt zu nutzen oder den Build zu stoppen.

Nächster Schritt

Klingt relevant für Ihr Unternehmen?

In einem unverbindlichen Erstgespräch klären wir in 30 Minuten, ob und wo sich der Einstieg für Sie lohnt — ehrlich und ohne Verkaufsdruck.

Erstgespräch anfragen