Souveräne KI-Plattform (RAG & Agents)
experdoo GmbH · 2023 – 2026
Rolle
AI Solution Architect
Tech Stack
Self-hosted LLMs (StackIT), Vector DB, Docker, flowise, n8n, nocodb
Ausgangslage
Strenge regulatorische Anforderungen (DSGVO, Bankenaufsicht), sensibles Unternehmenswissen, keine Nutzung externer Public-Cloud-KI erlaubt. Ziel war die produktive Nutzung von KI ohne Kontroll- oder Datenverlust.
Lösung & Architektur
- Konzeption und Umsetzung einer vollständig selbstgehosteten KI-Architektur
- Aufbau eines RAG-Systems für internes Wissen (Dokumente, Richtlinien, Fachprozesse)
- Entwicklung mehrerer KI-Agents zur Recherche, Zusammenfassung und Entscheidungsunterstützung
- Mandantenfähige Architektur mit klarer Daten- und Rechte-Trennung
Ergebnis
Produktive KI-Nutzung ohne Cloud-Abhängigkeit. Deutliche Reduktion manueller Recherche- und Analysezeiten. Positive interne Sicherheits- und Architektur-Reviews.