Verhindern, dass eine KI Antworten erfindet

Sprachmodelle sind darauf gebaut, den plausibelsten nächsten Satz zu erzeugen, nicht den zutreffendsten. Meist fällt beides zusammen. Wenn nicht, entsteht eine selbstsichere, gut formulierte und vollständig erfundene Antwort — und der Kunde kann es nicht erkennen. Unser Leitfaden einer KI beibringen, wie Ihr Unternehmen klingt behandelt das als technisches Problem mit bekannten Gegenmitteln, nicht als Rätsel.

Woher Erfindungen kommen

Drei Situationen erzeugen nahezu alles davon. Die erste ist eine Lücke: Der Kunde fragt etwas, das Ihre Dokumente nicht abdecken, und das Modell füllt den Raum, statt es zuzugeben. Die zweite ist Widerspruch: Zwei Dokumente sagen Unterschiedliches, und das Modell mischt beides. Die dritte ist Verallgemeinerung: Das Modell weiß, was Betriebe wie Ihrer üblicherweise verlangen, und dieses Allgemeinwissen sickert ein, als wäre es Ihre Preisliste.

Alle drei lassen sich angehen, und keine davon verschwindet, weil man dem Modell sagt, es solle korrekt sein.

Die vier Schutzmechanismen, die wirken

1. Antworten in der Suche verankern. Für alles Faktische über Ihr Geschäft — Preise, Regeln, Verfügbarkeit, Angebot und Nicht-Angebot — antwortet die KI aus Ihren Dokumenten, nicht aus Allgemeinwissen.
2. Einen ausdrücklichen Weg zum Scheitern geben. „Steht die Antwort nicht in deinem Material, sage, dass du mit einer Kollegin klärst" muss geschrieben stehen, sonst hält das Modell Raten für Hilfsbereitschaft.
3. Den Rahmen verengen. Eine KI, die nur Buchungen und Produktfragen bearbeitet, hat weit weniger Gelegenheiten zu erfinden als eine, die alles beantwortet.
4. Für alles Aktuelle Werkzeuge statt Gedächtnis nutzen. Verfügbarkeit, Bestellstatus und Preise kommen aus einer Abfrage im Moment der Frage, nie aus etwas, das das Modell früher im Gespräch aufgenommen hat.

Der vierte Punkt erwischt Teams am häufigsten. Wurde ein Preis vor zwanzig Nachrichten genannt und hat sich seither geändert, wiederholt das Modell bereitwillig den alten. Livedaten gehören hinter einen Werkzeugaufruf — auch deshalb zählen Fähigkeitsentscheidungen, siehe entscheiden, was Ihre KI tun darf.

“

Eine KI, die „ich prüfe das" sagt, ist mehr wert als eine, die zu neunzig Prozent recht hat und nie anzeigt, welche zehn Prozent gemeint sind.

— be digital ai Team

Gezielt darauf testen

Im normalen Gebrauch finden Sie keine Halluzinationen, weil Sie unbewusst Fragen stellen, die beantwortbar sind. Testen Sie gegnerisch. Fragen Sie nach einer Leistung, die Sie nicht anbieten. Fragen Sie nach einem Preis, der nicht auf der Liste steht. Fragen Sie nach einer Regel, die Sie nie aufgeschrieben haben. Stellen Sie eine falsche Prämisse voran — „da Sie ja sonntags geöffnet haben, komme ich um zehn?"

In jedem Fall ist die richtige Antwort ein klares Eingeständnis plus Angebot zu klären. Kommt stattdessen eine flüssige Erfindung, haben Sie eine Lücke gefunden, und die Abhilfe ist meist ein Dokument statt einer Regel — siehe eine Wissensbasis, die Ihre KI wirklich nutzen kann. Wiederholen Sie diesen Fragensatz nach jeder größeren Änderung an Dokumenten oder Modell.

Auf die teuren Kategorien achten

Nicht jede Erfindung kostet gleich viel. Eine leicht falsche Leistungsbeschreibung ist ein kleines Ärgernis. Ein erfundener Preis wird zu einer Zusage, auf die Ihr Kunde berechtigt besteht. Ein erfundenes Lieferdatum wird zur Beschwerde. Eine erfundene Regel zu Erstattung oder medizinischer Eignung kann zum Rechtsproblem werden.

Ordnen Sie Ihre Kategorien und legen Sie die härtesten Beschränkungen auf die teuren. Preise und Regeln werden nur aus Dokumenten zitiert, nie paraphrasiert. Alles Klinische, Rechtliche oder Finanzielle geht standardmäßig an einen Menschen — genau die Art Auslöser aus wann die KI stoppen und einen Menschen holen sollte.

Wenn es bereits passiert ist

Gehen Sie davon aus, dass es passiert, und legen Sie vorab fest, wie Sie reagieren. In der Regel: kleine Fehler einhalten, große korrigieren — wer zwanzig Euro zu günstig genannt bekam, sollte den genannten Preis erhalten, weil Diskutieren mehr kostet als die Differenz. Ist die Abweichung groß, ruft ein Mensch an, sagt klar, dass die automatische Antwort falsch war, und bietet einen Ausgleich für die Unannehmlichkeit.

Behandeln Sie den Vorfall dann als Information. Jede Erfindung zeigt auf ein fehlendes Dokument oder einen zu weiten Rahmen, und das Protokoll zeigt genau, was der KI vorlag, als es schiefging — die Prüfroutine aus das KI-Protokoll lesen macht aus einer schlechten Woche eine dauerhaft kleinere Fehlerfläche.