# Wie verhindern Sie, dass eine Support-KI Dinge erfindet? > Warum Support-Chatbots Antworten erfinden und mit welchen Leitplanken es selten passiert: Quellenbindung, Übergabe, Grenzen bei Zusagen, wöchentliche Prüfung. Quelle: https://morfalabs.com/de/blog/stop-ai-chatbot-hallucinations _KI-Agenten · 3 Min. Lesezeit · Veröffentlicht 30. Oktober 2026_ Jedes Unternehmen, das eine KI vor seine Kunden gesetzt hat, scheint eine Geschichte parat zu haben, wie sie selbstsicher eine Rückgaberegel erfunden hat. Ein Sprachmodell lässt sich nicht perfekt machen. Erfundene Antworten lassen sich aber zur Ausnahme machen, und die wenigen, die durchrutschen, richten keinen Schaden an. ## Kurze Antwort Stützen Sie jede Antwort auf Ihre eigenen, freigegebenen Inhalte. Lassen Sie die KI „Das weiß ich nicht“ sagen und übergeben, wenn diese Inhalte die Frage nicht abdecken. Begrenzen Sie, was sie zusagen darf, protokollieren Sie die Quelle jeder Antwort und lesen Sie jede Woche eine Stichprobe echter Gespräche. Testen Sie vor dem Start und nach jeder Änderung mit echten früheren Fragen. ## Warum Support-Bots Antworten erfinden Ein Sprachmodell schreibt die wahrscheinlichsten nächsten Wörter. Fragen Sie es nach Ihrer Rückgaberegel, obwohl es sie nie gesehen hat, schreibt es eine. Eine plausible. Meist eine großzügige. Die meisten Halluzinationen im Support sind also kein Rätsel. Der Bot wurde etwas gefragt, wozu ihm die Fakten fehlten, und nichts hat ihm gesagt, dass er aufhören soll. Ein Standard-Bot mit freundlicher Anweisung und ohne Zugriff auf Ihre Dokumente ist genau darauf angelegt, so zu scheitern. **Beispiel: dieselbe Frage, mit und ohne Quellenbindung** > Kann ich einen Sale-Artikel nach 30 Tagen zurückgeben? - **Bot ohne Quellenbindung:** Natürlich! Alle Artikel können innerhalb von 60 Tagen gegen volle Erstattung zurückgegeben werden. _(Erfundene Regel, keine Quelle)_ - **Agent mit Quellenbindung:** Sale-Artikel können innerhalb von 14 Tagen gegen Gutschrift zurückgegeben werden. Ihre Bestellung liegt 32 Tage zurück, deshalb habe ich den Fall an unser Team weitergegeben. Sie erhalten heute eine Antwort. _(Quelle: Rückgabebedingungen, Abschnitt 2. An einen Menschen übergeben.)_ ## Fünf Leitplanken, die funktionieren Keine davon ist exotisch. Zusammen machen sie aus einem Bot, der improvisiert, einen, der nachschlägt und weiß, wann er aufhören muss. **Die Leitplanken, in der Reihenfolge, in der wir sie einrichten** 1. **Auf Quellen stützen:** Der Agent antwortet aus Ihren freigegebenen Richtlinien, Ihrem Katalog und Ihren Bestelldaten, nicht aus Allgemeinwissen. 2. **„Weiß ich nicht“ erlauben:** Deckt der Inhalt eine Frage nicht ab, sagt er das und übergibt, statt zu raten. 3. **Zusagen begrenzen:** Erstattungen, Rabatte und Liefertermine nur innerhalb Ihrer Regeln. Alles andere braucht einen Menschen. 4. **Quelle festhalten:** Jede Antwort wird mit dem Dokument oder Datensatz protokolliert, aus dem sie stammt. So lässt sie sich prüfen. 5. **Wöchentlich prüfen:** Lesen Sie eine Stichprobe echter Chats, schließen Sie Lücken im Inhalt und nehmen Sie schwierige Fälle in die Tests auf. ## Testen Sie, bevor Ihre Kunden es tun Sammeln Sie einige hundert echte Fragen aus Ihrem Posteingang oder Chatverlauf, auch die unangenehmen: verärgerte Kunden, Nachrichten halb auf Englisch und halb auf Arabisch, Fragen zu Produkten, die Sie nicht mehr verkaufen. Notieren Sie zu jeder, wie eine gute Antwort aussieht. Lassen Sie den Agenten vor dem Start gegen diese Sammlung laufen und nach jeder Änderung an Inhalt oder Regeln erneut. Das ist ein langweiliger Schritt. Er fängt aber die meisten peinlichen Antworten ab, bevor ein Kunde sie je sieht. ## Wenn er trotzdem einmal danebenliegt Das wird vorkommen, hin und wieder. Behandeln Sie jede falsche Antwort wie einen Fehlerbericht zu Ihren Inhalten: Finden Sie das fehlende oder unklare Dokument, beheben Sie es und nehmen Sie die Frage in Ihre Tests auf, damit es so bleibt. Nennen Sie dem Kunden dann die richtige Antwort. Ein schnell korrigierter Fehler wird Ihnen viel leichter verziehen als einer, der verteidigt wird. ## Weitere häufige Fragen ### Lassen sich KI-Halluzinationen ganz abstellen? Nein. Ein Sprachmodell kann immer einen falschen Satz erzeugen. Quellenbindung, Übergaberegeln und Tests machen es selten, und Grenzen dafür, was der Agent zusagen darf, halten die seltenen Fehler klein. ### Brauchen wir ein eigenes KI-Modell, um das zu lösen? Fast nie. Das Problem sind meist fehlende Fakten und fehlende Regeln, nicht das Modell. Üblich ist ein führendes Modell, das mit Ihren eigenen Inhalten verbunden ist und klare Grenzen hat. ### Wie oft sollte jemand die Gespräche durchsehen? Wöchentlich in den ersten zwei Monaten, solange Sie noch Lücken im Inhalt finden. Danach genügt meist eine monatliche Durchsicht plus ein Hinweis bei Gesprächen, die ein Kunde schlecht bewertet hat. ## Passende Leistung [KI-Agenten & Assistenten](https://morfalabs.com/de/services/ai-agents.md): Individuelle KI-Agenten und Chatbots für WhatsApp, Web-Chat und Ihr Team. Sie antworten aus Ihren eigenen Dokumenten und geben heikle Fälle an Menschen ab. ## Bereitet es Ihnen Sorgen, was Ihr Support-Bot Kunden erzählt? - E-Mail: [info@morfalabs.com](mailto:info@morfalabs.com) - Web: https://morfalabs.com ## Weitere Artikel - [KI und Blockchain bis 2030](https://morfalabs.com/de/blog/ai-and-blockchain-future.md) - [KI im Unternehmen bis 2030](https://morfalabs.com/de/blog/future-of-ai-in-business.md) - [Lohnen sich KI-Agenten?](https://morfalabs.com/de/blog/are-ai-agents-worth-it.md) - [Zapier, n8n oder Eigenbau?](https://morfalabs.com/de/blog/zapier-n8n-or-custom-automation.md) - [Rechnungen ohne Vorlagen erfassen](https://morfalabs.com/de/blog/automate-invoice-entry-without-templates.md) - [Softwareagentur auswählen](https://morfalabs.com/de/blog/choose-a-software-agency.md) - [Von ChatGPT empfohlen werden](https://morfalabs.com/de/blog/get-recommended-by-chatgpt.md) - [Brauchen Sie eine Blockchain?](https://morfalabs.com/de/blog/does-your-business-need-a-blockchain.md) - [Sind Firmendaten in ChatGPT sicher?](https://morfalabs.com/de/blog/is-company-data-safe-in-chatgpt.md) - [Neues ERP oder Integrationen?](https://morfalabs.com/de/blog/new-erp-or-better-integrations.md) - [Excel oder Live-Dashboard?](https://morfalabs.com/de/blog/excel-reports-vs-live-dashboard.md) - [Lohnt sich diese Automatisierung?](https://morfalabs.com/de/blog/automation-roi-before-you-build.md) - [Sind Ihre Daten bereit für KI?](https://morfalabs.com/de/blog/is-your-data-ready-for-ai.md) - [Nativ, plattformübergreifend oder Web?](https://morfalabs.com/de/blog/native-cross-platform-or-web-app.md) - [Agentur oder internes Team?](https://morfalabs.com/de/blog/agency-or-in-house-team.md) - [Ein Software-Briefing schreiben](https://morfalabs.com/de/blog/write-a-software-brief.md) - [SEO und GEO im Vergleich](https://morfalabs.com/de/blog/seo-vs-geo.md) ## Seiten - [Einblicke](https://morfalabs.com/de/blog.md) ## Weitere Sprachen - [English](https://morfalabs.com/en/blog/stop-ai-chatbot-hallucinations.md) - [العربية](https://morfalabs.com/ar/blog/stop-ai-chatbot-hallucinations.md) - [Français](https://morfalabs.com/fr/blog/stop-ai-chatbot-hallucinations.md) - [Español](https://morfalabs.com/es/blog/stop-ai-chatbot-hallucinations.md)