KI-Agenten3 Min. LesezeitVon Ahmed AkramVeröffentlicht 30. Oktober 2026

Wie verhindern Sie, dass eine Support-KI Dinge erfindet?

Jedes Unternehmen, das eine KI vor seine Kunden gesetzt hat, scheint eine Geschichte parat zu haben, wie sie selbstsicher eine Rückgaberegel erfunden hat. Ein Sprachmodell lässt sich nicht perfekt machen. Erfundene Antworten lassen sich aber zur Ausnahme machen, und die wenigen, die durchrutschen, richten keinen Schaden an.

Kurze Antwort

Stützen Sie jede Antwort auf Ihre eigenen, freigegebenen Inhalte. Lassen Sie die KI „Das weiß ich nicht“ sagen und übergeben, wenn diese Inhalte die Frage nicht abdecken. Begrenzen Sie, was sie zusagen darf, protokollieren Sie die Quelle jeder Antwort und lesen Sie jede Woche eine Stichprobe echter Gespräche. Testen Sie vor dem Start und nach jeder Änderung mit echten früheren Fragen.

Warum Support-Bots Antworten erfinden

Ein Sprachmodell schreibt die wahrscheinlichsten nächsten Wörter. Fragen Sie es nach Ihrer Rückgaberegel, obwohl es sie nie gesehen hat, schreibt es eine. Eine plausible. Meist eine großzügige.

Die meisten Halluzinationen im Support sind also kein Rätsel. Der Bot wurde etwas gefragt, wozu ihm die Fakten fehlten, und nichts hat ihm gesagt, dass er aufhören soll. Ein Standard-Bot mit freundlicher Anweisung und ohne Zugriff auf Ihre Dokumente ist genau darauf angelegt, so zu scheitern.

Beispiel: dieselbe Frage, mit und ohne Quellenbindung

Kann ich einen Sale-Artikel nach 30 Tagen zurückgeben?

Bot ohne Quellenbindung

Natürlich! Alle Artikel können innerhalb von 60 Tagen gegen volle Erstattung zurückgegeben werden.

Erfundene Regel, keine Quelle

Agent mit Quellenbindung

Sale-Artikel können innerhalb von 14 Tagen gegen Gutschrift zurückgegeben werden. Ihre Bestellung liegt 32 Tage zurück, deshalb habe ich den Fall an unser Team weitergegeben. Sie erhalten heute eine Antwort.

Quelle: Rückgabebedingungen, Abschnitt 2. An einen Menschen übergeben.

Fünf Leitplanken, die funktionieren

Keine davon ist exotisch. Zusammen machen sie aus einem Bot, der improvisiert, einen, der nachschlägt und weiß, wann er aufhören muss.

Die Leitplanken, in der Reihenfolge, in der wir sie einrichten

Auf Quellen stützen
Der Agent antwortet aus Ihren freigegebenen Richtlinien, Ihrem Katalog und Ihren Bestelldaten, nicht aus Allgemeinwissen.
„Weiß ich nicht“ erlauben
Deckt der Inhalt eine Frage nicht ab, sagt er das und übergibt, statt zu raten.
Zusagen begrenzen
Erstattungen, Rabatte und Liefertermine nur innerhalb Ihrer Regeln. Alles andere braucht einen Menschen.
Quelle festhalten
Jede Antwort wird mit dem Dokument oder Datensatz protokolliert, aus dem sie stammt. So lässt sie sich prüfen.
Wöchentlich prüfen
Lesen Sie eine Stichprobe echter Chats, schließen Sie Lücken im Inhalt und nehmen Sie schwierige Fälle in die Tests auf.

Testen Sie, bevor Ihre Kunden es tun

Sammeln Sie einige hundert echte Fragen aus Ihrem Posteingang oder Chatverlauf, auch die unangenehmen: verärgerte Kunden, Nachrichten halb auf Englisch und halb auf Arabisch, Fragen zu Produkten, die Sie nicht mehr verkaufen. Notieren Sie zu jeder, wie eine gute Antwort aussieht.

Lassen Sie den Agenten vor dem Start gegen diese Sammlung laufen und nach jeder Änderung an Inhalt oder Regeln erneut. Das ist ein langweiliger Schritt. Er fängt aber die meisten peinlichen Antworten ab, bevor ein Kunde sie je sieht.

Wenn er trotzdem einmal danebenliegt

Das wird vorkommen, hin und wieder. Behandeln Sie jede falsche Antwort wie einen Fehlerbericht zu Ihren Inhalten: Finden Sie das fehlende oder unklare Dokument, beheben Sie es und nehmen Sie die Frage in Ihre Tests auf, damit es so bleibt.

Nennen Sie dem Kunden dann die richtige Antwort. Ein schnell korrigierter Fehler wird Ihnen viel leichter verziehen als einer, der verteidigt wird.

Weitere häufige Fragen

Lassen sich KI-Halluzinationen ganz abstellen?

Nein. Ein Sprachmodell kann immer einen falschen Satz erzeugen. Quellenbindung, Übergaberegeln und Tests machen es selten, und Grenzen dafür, was der Agent zusagen darf, halten die seltenen Fehler klein.

Brauchen wir ein eigenes KI-Modell, um das zu lösen?

Fast nie. Das Problem sind meist fehlende Fakten und fehlende Regeln, nicht das Modell. Üblich ist ein führendes Modell, das mit Ihren eigenen Inhalten verbunden ist und klare Grenzen hat.

Wie oft sollte jemand die Gespräche durchsehen?

Wöchentlich in den ersten zwei Monaten, solange Sie noch Lücken im Inhalt finden. Danach genügt meist eine monatliche Durchsicht plus ein Hinweis bei Gesprächen, die ein Kunde schlecht bewertet hat.

Passende Leistung

KI-Agenten & AssistentenIndividuelle KI-Agenten und Chatbots für WhatsApp, Web-Chat und Ihr Team. Sie antworten aus Ihren eigenen Dokumenten und geben heikle Fälle an Menschen ab.Zur Leistung

Bereitet es Ihnen Sorgen, was Ihr Support-Bot Kunden erzählt?

Sprechen Sie mit uns