KI-Chatbot auf der Website: Was er können muss und was er nicht darf

Was soll ein KI-Chatbot auf einer Unternehmenswebsite leisten?

Ein KI-Chatbot auf einer Unternehmenswebsite soll Besuchern schnell und verständlich die Fragen beantworten, die sie sonst per Telefon oder E-Mail stellen würden, und sie zum nächsten sinnvollen Schritt führen: einer Anfrage, einem Termin, einer passenden Seite oder einem Ansprechpartner.

Der Unterschied zu früheren, regelbasierten Bots liegt darin, dass ein Sprachmodell frei formulierte Fragen versteht und natürlich antwortet. Das macht den Einstieg für Besucher leichter, bringt aber eine neue Verantwortung mit: Das Modell antwortet auch dann flüssig, wenn es die Antwort nicht weiß. Genau hier entscheidet sich, ob ein Chatbot nützt oder schadet.

Sinnvolle Aufgaben sind das Erklären von Leistungen, das Vorqualifizieren von Anfragen, das Beantworten wiederkehrender Fragen zu Ablauf, Verfügbarkeit und Einzugsgebiet, das Weiterleiten auf die richtige Seite und das Aufnehmen von Kontaktdaten mit Einwilligung. Nicht sinnvoll sind verbindliche Preisauskünfte, Rechtsberatung, medizinische Aussagen oder Zusagen, die ein Mensch treffen muss.

Woher nimmt der Chatbot sein Wissen?

Der Chatbot nimmt sein Wissen aus einer gepflegten Wissensbasis, die Ihre Leistungen, Abläufe, häufigen Fragen und Regeln enthält, und nicht aus dem allgemeinen Wissen des Sprachmodells. Dieses Verfahren, bei dem das Modell vor jeder Antwort die passenden Inhalte aus Ihren Dokumenten erhält, wird als Retrieval-Augmented Generation oder kurz RAG bezeichnet.

Die Wissensbasis besteht aus geprüften Texten: Leistungsbeschreibungen, FAQ, Prozessbeschreibungen, Öffnungszeiten, Einzugsgebiet, Ansprechpartner, Richtlinien. Alles, was dort nicht steht, soll der Bot nicht beantworten, sondern zur Kontaktaufnahme führen. Die Qualität dieser Texte bestimmt die Qualität der Antworten; eine Website voller Marketingfloskeln liefert einen Bot voller Marketingfloskeln.

Wichtig ist die Pflege. Ändern sich Leistungen, Zeiten oder Abläufe, muss die Wissensbasis nachgezogen werden, sonst antwortet der Bot aus der Vergangenheit. Legen Sie fest, wer dafür verantwortlich ist und wie oft die Inhalte geprüft werden.

• Leistungen mit Umfang, Ablauf und Voraussetzungen
• Häufige Fragen mit geprüften Antworten
• Einzugsgebiet, Erreichbarkeit, Ansprechpartner
• Was der Bot ausdrücklich nicht beantworten soll
• Verantwortliche Person und Prüfrhythmus für Aktualisierungen

Wie verhindern Sie erfundene Antworten?

Erfundene Antworten, oft Halluzinationen genannt, verhindern Sie durch die Begrenzung auf die Wissensbasis, klare Antwortregeln, definierte Tabuthemen und eine Rückfallantwort, die bei Unsicherheit an einen Menschen verweist. Technisch wird das Modell angewiesen, ausschließlich aus den bereitgestellten Inhalten zu antworten und bei fehlender Grundlage dies offen zu sagen.

Die kritischsten Bereiche sind Preise, Verfügbarkeiten, Fristen und Zusagen. Ein Bot, der einen Preis nennt, den es nicht gibt, erzeugt eine Erwartung, die Ihr Vertrieb später einfangen muss. Deshalb sollte der Bot bei diesen Themen nicht raten, sondern den Weg zum Angebot beschreiben und Kontaktdaten aufnehmen.

Hinzu kommt der Schutz vor Manipulation. Nutzer können versuchen, den Bot mit geschickten Formulierungen dazu zu bringen, seine Regeln zu ignorieren, interne Anweisungen preiszugeben oder sich zu Themen zu äußern, die nichts mit Ihrem Unternehmen zu tun haben. Ein professionell eingerichteter Bot erkennt solche Versuche, bleibt bei seinem Auftrag und lässt sich nicht zu Aussagen im Namen Ihres Unternehmens verleiten. Vor dem Start gehört ein Test mit genau solchen Angriffen dazu.

Welche Datenschutzfragen müssen vor dem Start geklärt sein?

Vor dem Start müssen geklärt sein, welche Daten der Bot verarbeitet, wo sie verarbeitet werden, wie lange sie gespeichert bleiben, auf welcher Grundlage das geschieht und wie Besucher darüber informiert werden. Diese Fragen entscheiden über die Zulässigkeit des Einsatzes und sollten mit Ihrem Datenschutzbeauftragten oder einer Rechtsberatung abgestimmt werden.

Grundsätzlich gilt Datensparsamkeit. Der Bot braucht für die meisten Fragen keine personenbezogenen Daten. Erst wenn eine Anfrage aufgenommen wird, fragt er nach Name und Kontaktmöglichkeit, und zwar mit einer klaren Einwilligung und dem Hinweis auf die Datenschutzerklärung. Gesprächsverläufe sollten nur so lange gespeichert werden, wie es für die Bearbeitung nötig ist.

Technisch ist entscheidend, wo das Sprachmodell läuft und ob der Anbieter die Daten zu eigenen Zwecken nutzt. Ein Auftragsverarbeitungsvertrag mit dem Anbieter, die Wahl eines Verarbeitungsorts innerhalb der EU oder mit anerkanntem Schutzniveau und der Verzicht auf die Nutzung Ihrer Daten zum Training sind übliche Anforderungen. Der Zugriff auf das Modell sollte über einen eigenen Server laufen, damit keine Zugangsdaten im Browser liegen. Wie wir solche Systeme aufbauen, beschreibt unsere Leistung KI & Automatisierung.

• Datensparsamkeit: keine personenbezogenen Daten ohne Anlass
• Einwilligung und Datenschutzhinweis vor der Aufnahme von Kontaktdaten
• Auftragsverarbeitungsvertrag und Verarbeitungsort mit dem Anbieter klären
• Keine Nutzung Ihrer Gesprächsdaten zum Training durch Dritte
• Speicherdauer und Löschkonzept festlegen
• Zugriff auf das Modell über einen eigenen Server, nicht direkt aus dem Browser

Wie funktioniert die Übergabe an einen Menschen?

Die Übergabe an einen Menschen funktioniert, indem der Bot bestimmte Situationen erkennt, den bisherigen Verlauf zusammenfasst und die Anfrage mit Kontaktdaten an eine definierte Stelle weiterleitet, etwa per E-Mail, ins CRM oder in ein Ticketsystem, und dem Besucher sagt, was als Nächstes passiert.

Auslöser für die Übergabe sind Fragen außerhalb der Wissensbasis, Preis- und Vertragsfragen, Beschwerden, ausdrückliche Wünsche nach einem Gespräch und Themen, die der Bot nicht beantworten darf. In diesen Fällen soll der Bot nicht ausweichen oder im Kreis antworten, sondern klar sagen, dass ein Mitarbeiter übernimmt, und die nötigen Daten aufnehmen.

Außerhalb der Geschäftszeiten nennt der Bot die Erreichbarkeit und die voraussichtliche Reaktionszeit. Innerhalb der Geschäftszeiten kann die Übergabe auch an einen Live-Chat erfolgen. Wichtig ist, dass auf Ihrer Seite jemand die Übergaben tatsächlich bearbeitet. Ein Bot, der Anfragen sammelt, die niemand beantwortet, ist schlimmer als kein Bot.

Wie führen Sie den Chatbot ein und verbessern ihn danach?

Sie führen den Chatbot ein, indem Sie mit einem begrenzten Themenbereich starten, die Gespräche der ersten Wochen auswerten, die Wissensbasis daraus ergänzen und den Umfang schrittweise erweitern. So bleibt die Qualität kontrollierbar, und Sie lernen, was Ihre Besucher wirklich fragen.

Die Auswertung der Gespräche ist dabei die wertvollste Quelle. Sie zeigt, welche Fragen häufig gestellt werden, wo der Bot nicht weiterkam, welche Formulierungen missverstanden wurden und an welchen Stellen Besucher abgesprungen sind. Viele dieser Erkenntnisse verbessern nicht nur den Bot, sondern auch Ihre Website, weil sie Lücken in den Inhalten sichtbar machen.

Messen Sie den Erfolg an dem, was der Bot bewirken soll: aufgenommene Anfragen, gebuchte Termine, beantwortete Fragen ohne Telefonat, Zufriedenheit der Nutzer. Ein Bot, der viele Gespräche führt, aber keine Anfragen erzeugt, erfüllt seinen Zweck nicht. Ein Bot, der wenige, aber qualifizierte Anfragen bringt und das Telefon entlastet, hat sich gelohnt.

• Mit einem klaren Themenbereich und definierten Tabuzonen starten
• Gesprächsverläufe regelmäßig lesen und Wissensbasis ergänzen
• Unbeantwortete Fragen als Hinweise für Website-Inhalte nutzen
• Erfolg an Anfragen und Entlastung messen, nicht an Gesprächszahl
• Angriffsversuche und Fehlantworten nach jedem Update erneut testen

Häufige Fragen