RAG-System implementieren lassen: Was gehört ins Pilotangebot?
Ihr Supportteam beantwortet dieselben Fragen immer wieder und sucht dafür in Handbüchern, Richtlinien oder einer internen Wissensdatenbank. Ein KI-Wissensassistent könnte helfen. Bevor Sie Angebote einholen, legen Sie fest, welche Fragen ein Team mit welchen Quellen beantworten soll und wie Sie die Antworten prüfen. Damit können Sie beurteilen, ob ein Angebot Ihren Arbeitsalltag abdeckt.
Was soll der Assistent im ersten Pilot leisten?
Ein fiktives Beispiel aus dem technischen Support. Ein Kunde fragt, ob ein bestimmtes Ersatzteil zu einer älteren Geräteserie passt. Der Assistent soll die Frage anhand der freigegebenen Serviceunterlagen beantworten und auf die relevante Stelle verweisen. Geht die Kompatibilität aus den Unterlagen nicht eindeutig hervor, meldet er das. Die Antwort an den Kunden bleibt beim Supportteam. Für die Abnahme können Sie je einen Fall mit eindeutiger, widersprüchlicher und fehlender Dokumentation vorgeben. So sehen Sie, ob der Assistent auch bei unklarer Quellenlage sinnvoll reagiert.
Für diesen Pilot reichen ein definiertes Team, ein Produktbereich und eine gepflegte Quelle als Ausgangspunkt. Das kann eine SharePoint-Bibliothek, ein Bereich in Confluence oder ein Bestand im Dokumentenmanagementsystem sein. Ein RAG-System sucht darin passende Inhalte und stellt sie dem Sprachmodell für die Antwort bereit.
Ein Wissensassistent für den technischen Support
- 01
Supportfrage
Passt das Ersatzteil zur Geräteserie?
- 02
Freigegebene Quellen
Die Suche berücksichtigt Dokumentversionen und Zugriffsrechte.
- 03
Antwort mit Beleg
Die Antwort nennt die Fundstelle oder meldet fehlende Evidenz.
Was Sie im Angebot vergleichen sollten
| Punkt | Was konkret im Angebot stehen sollte |
|---|---|
| Datenquelle | Welche Ablage wird angebunden? Wie kommen neue Versionen, Löschungen und geänderte Rechte im Assistenten an? |
| Nutzer und Zugriff | Welche Rollen testen den Pilot? Wie wird geprüft, dass jede Rolle ausschließlich die für sie freigegebenen Inhalte erhält? |
| Antwortqualität | Wer liefert typische Fragen und erwartete Quellen? Wie werden falsche, unbelegte und bewusst offen gelassene Antworten bewertet? |
| Lieferumfang | Erhalten Sie einen nutzbaren Assistenten, dokumentierte Testfälle und eine Auswertung? Wer behebt Fehler während des Piloten? |
| Betrieb und Übergabe | Wo laufen Suche und Sprachmodell? Welche laufenden Kosten entstehen? Welche Konfiguration und Tests übernimmt Ihr Team bei der Übergabe? |
Zugriffsrechte gehören in die Suche: Prüfen Sie mit zwei unterschiedlichen Testkonten, was das System jeweils finden und in die Antwort übernehmen darf. Wie eine solche Kontrolle beim Abruf umgesetzt werden kann, zeigt die Microsoft-Dokumentation zur Zugriffskontrolle auf Dokumentebene. Details zur Anbindung finden Sie im Beitrag DMS mit RAG verbinden.
Wovon hängt der Preis ab?
Für den Aufwand sind zusätzliche Schnittstellen, uneinheitliche Rechte und schlecht aufbereitete Dokumente oft entscheidender als die reine Dateizahl. Ein gepflegter Bestand mit einheitlichem Zugriff lässt sich anders kalkulieren als gescannte Handbücher mit mehreren Versionen und getrennten Berechtigungen pro Kunde. Lassen Sie sich Einrichtung, fachliche Tests und laufenden Betrieb getrennt ausweisen.
Nutzen Sie bereits eine Wissenssuche oder einen Assistenten in Ihrem vorhandenen System, testen Sie damit dieselben Fragen. Zeigt sich die Lücke erst bei mehreren Quellen, besonderen Berechtigungen oder einer Integration in Ihr Kundenportal, gehört genau diese Lücke in den Pilotumfang.
So können Sie Ihr Projekt anfragen
Schicken Sie mir drei typische Fragen, den Namen Ihrer wichtigsten Datenquelle und die Rolle des Teams, das den Assistenten nutzen soll. Wenn unterschiedliche Zugriffsrechte gelten, beschreiben Sie kurz die Gruppen. Für die erste Einschätzung genügt eine Beschreibung des Bestands.