Der Anwendungsfall kommt vor dem Chatfenster
Ein Assistent kann häufige Produktfragen beantworten, passende Dokumente finden, Unterschiede erklären oder eine Anfrage vorbereiten. Diese Aufgaben benötigen jeweils andere Quellen, Regeln und Erfolgskriterien. Die allgemeine Vorgabe, Besucherfragen zu beantworten, ist für eine belastbare Umsetzung zu ungenau.
Zuerst wird deshalb ein begrenzter Nutzerweg gewählt. Dabei wird festgelegt, welche Fragen dazugehören, welche nicht und wann der Assistent an eine Seite, ein Formular oder einen Ansprechpartner übergibt. Fehlt ein wiederkehrender Informationsbedarf, ist eine bessere Navigation möglicherweise die einfachere Lösung.
- Wiederkehrende Fragen und heutige Reibung erfassen
- Erlaubte Aufgaben und klare Nicht-Ziele dokumentieren
- Erfolg an gelösten Anliegen statt an Chat-Nachrichten messen
Die Wissensbasis bestimmt die Antwortqualität
Website-Seiten, Handbücher, Datenblätter und FAQ können nur dann als Grundlage dienen, wenn sie aktuell, widerspruchsfrei und eindeutig verantwortet sind. Ein Sprachmodell kann Lücken sprachlich überzeugend verdecken; NIST beschreibt solche plausibel klingenden Falschaussagen als typisches Risiko generativer KI.
Quellen werden daher ausgewählt, versioniert und mit Gültigkeit versehen. Antworten sollten auf die verwendeten Inhalte verweisen können. Wenn die Wissensbasis keine belastbare Antwort enthält, muss der Assistent Unsicherheit sichtbar machen, statt eine Ergänzung zu erfinden.
- Nur freigegebene und zuordenbare Quellen verwenden
- Verantwortliche und Aktualisierungsrhythmus festlegen
- Belege anzeigen und fehlendes Wissen offen benennen
Datenfluss und Grenzen müssen kontrollierbar bleiben
Nutzer können Namen, Kontaktdaten, Projektinformationen oder vertrauliche Inhalte eingeben, auch wenn sie nicht danach gefragt werden. Deshalb werden Datensparsamkeit, Filterung, Speicherfristen und Zugriffsrechte ebenso geplant wie Modell, Hosting und mögliche Unterauftragnehmer.
Eine Middleware kann Regeln, Quellenzugriff, Protokollierung und Übergaben zentral steuern. Sie beseitigt Risiken jedoch nicht automatisch. Prompt Injection, ungewollte Offenlegung von Systemanweisungen und problematische Ausgaben benötigen technische Schutzmaßnahmen sowie realistische Tests. Welche rechtlichen Anforderungen gelten, muss für den konkreten Einsatz geprüft werden.
- Sensible Eingaben vermeiden und technisch begrenzen
- Quellen, Modell und Drittsysteme nur mit nötigen Rechten anbinden
- Missbrauchs- und Offenlegungsszenarien vor Freigabe testen
Ein Wissensassistent bleibt ein betriebenes System
Nach dem Start verändern sich Angebot, Inhalte und Fragen. Stichprobentests, Nutzerfeedback und nicht beantwortete Anliegen zeigen, wo Wissen fehlt oder Regeln angepasst werden müssen. Einzelne gute Demonstrationen ersetzen keine wiederholbare Qualitätsprüfung.
Für kritische Themen gelten engere Grenzen. Preiszusagen, rechtliche Bewertungen, sicherheitsrelevante Anweisungen oder individuelle Eignungsentscheidungen sollten nicht ungeprüft automatisiert werden. Der Übergang an einen Menschen muss verständlich sein und den bisherigen Kontext nur soweit weitergeben, wie es erforderlich und erlaubt ist.
- Testfragen und erwartete Kernaussagen als Prüfsatz pflegen
- Fehler, Abbrüche und Übergaben regelmäßig auswerten
- Verantwortung für Inhalt, Technik und Freigabe eindeutig zuordnen