Am 22. Mai 2026 veröffentlichte die Northeastern University einen Artikel mit einer unverblümten Überschrift: ChatGPT sieht sich einer Klagewelle gegenüber. Bis März waren allein gegen OpenAI mindestens 11 Klagen eingereicht worden, dazu weitere gegen Character.AI und Google. Die Rechtstheorien eskalieren schnell – widerrechtliche Tötung, Konstruktionsfehler am Produkt, unterlassene Warnung. Im Januar wurde der wegweisende Fall Setzer beigelegt, nachdem ein Gericht etwas getan hatte, das kein Gericht zuvor getan hatte: Es stufte die Ausgabe eines KI-Chatbots als „Produkt“ ein statt als geschützte Meinungsäußerung.
Wenn Sie einen Chatbot auf Ihrer Website betreiben, ist es verlockend, diese Schlagzeilen zu lesen und sich zurückzulehnen. Das sind Klagen gegen die Labore, die die Modelle bauen, wegen tragischer Grenzfälle rund um Companion-KI. Sie beantworten nur Versandfragen. Nichts davon betrifft Sie.
Das ist der falsche Schluss. Die Klagen, die Schlagzeilen machen, drehen sich um die Hersteller von Foundation-Modellen und katastrophale Schäden. Das rechtliche Risiko, das für Ihr Unternehmen gilt, ist älter, leiser und rechtlich weitaus gefestigter. Es hat einen Namen, den die meisten Menschen im Support bereits kennen: die Air-Canada-Linie.
Der Fall, den sich jeder Betreiber eines Business-Chatbots einprägen sollte
Im Februar 2024 entschied ein kanadisches Schiedsgericht über einen Streitfall, der trivial wirkte. Ein trauernder Kunde hatte den Website-Chatbot von Air Canada zu Trauerfall-Tarifen befragt. Der Bot sagte ihm, er könne jetzt buchen und innerhalb von 90 Tagen eine Rückerstattung beantragen. Diese Richtlinie existierte nicht. Der Bot hatte sie erfunden.
Als der Kunde die Rückerstattung verlangte, lehnte Air Canada ab und argumentierte schriftlich, der Chatbot sei „a separate legal entity that is responsible for its own actions“ (dt. „eine eigenständige juristische Einheit, die für ihre eigenen Handlungen verantwortlich ist“). Das Schiedsgericht wies das rundheraus zurück. Sein Urteilssatz ist der Satz, den Sie sich an den Monitor kleben sollten:
„It makes no difference whether the information comes from a static page or a chatbot.“ (dt. „Es spielt keine Rolle, ob die Information von einer statischen Seite oder von einem Chatbot stammt.“)
Air Canada wurde angewiesen, die erfundene Richtlinie einzuhalten und Schadensersatz, Zinsen und Gebühren zu zahlen. Die Summe war klein. Das Prinzip nicht. Eine Aufsichtsinstanz sah sich einen halluzinierenden Bot an und sagte: Das ist das Unternehmen, das spricht. Sie sind an das gebunden, was er sagt.
Dieses Prinzip hat sich seither nur verhärtet. Die „Produkt“-Einordnung im Setzer-Vergleich bedeutet, dass Chatbot-Ausgaben wie jedes andere Produkt bewertet werden können, das ein Unternehmen ausliefert – und damit produkthaftungsrechtlichen Theorien unterliegen, wenn sie fehlerhaft sind. US-Gerichte verhängten im ersten Quartal 2026 Sanktionen wegen KI-Halluzinationen von über $145,000, darunter eine Rekordstrafe von $110,000 in Oregon und eine erstmalige Aussetzung einer Berufszulassung in Nebraska. Die Schlagzeilen-Klagen könnten Jahre dauern und die Branche am Ende nicht verändern, wie John Wihbey von der Northeastern University warnte – zu beweisen, dass eine bestimmte Technologie einer bestimmten Person geschadet hat, ist schwierig. Doch die Air-Canada-Linie braucht keine neuartige Rechtstheorie. Sie funktioniert bereits heute, in Schiedsgerichten für Bagatellsachen und bei Verbraucherschutzbeschwerden.
In diesem Beitrag geht es um dieses alltägliche Risiko, nicht um die Schlagzeilen-Prozesse. Nichts davon ist Rechtsberatung – sprechen Sie über Ihre Situation mit einem Anwalt. Das Ziel hier ist enger und nützlicher: genau zu verstehen, wie ein Website-Chatbot Haftung erzeugt, und welche Kontrollen sie tatsächlich verringern.
Die sieben Wege, wie ein Support-Bot Sie verklagbar macht
„Halluzination“ ist ein einziges Wort für mindestens sieben unterschiedliche Fehlermuster, und jedes birgt ein anderes geschäftliches Risiko. Ein Bot, der ein Rückerstattungsfenster erfindet, ist ein anderes Problem als einer, der eine Sicherheitsanweisung fabriziert.
| Halluzinationstyp | Was der Bot tut | Haftung, die dadurch entsteht |
|---|---|---|
| Richtlinie | Erfindet eine Rückgabe-, Rückerstattungs- oder Garantiebedingung | Sie sind womöglich verpflichtet, sie einzuhalten (die Air-Canada-Linie) |
| Preis | Nennt einen Preis, Rabatt oder eine Gebühr, die es nicht gibt | Risiko wegen irreführender Preisangaben und Verbraucherschutz |
| Kontospezifisch | Nennt eine falsche Tatsache zur Bestellung oder zum Kontostand dieses Kunden | Vertragsbruch, Irreführung |
| Handlung | Behauptet, etwas getan zu haben („Ihre Bestellung ist storniert“), was nicht geschah | Nichterfüllung; Vertrauensschäden |
| Zitat | Zitiert eine Quelle, ein Gesetz oder ein Dokument, das nicht existiert | Sanktionen in regulierten Kontexten; Vertrauensverlust |
| Fähigkeit | Verspricht etwas, das das Produkt nicht kann | Irreführende Werbung |
| Sicherheit | Gibt eine falsche Anweisung mit physischen Folgen | Fahrlässigkeit, Produkthaftung – die schwerwiegendste Stufe |
Der rote Faden: Dem Gesetz ist es egal, dass eine KI die Aussage erzeugt hat. Die FTC und die Verbraucherschutzgesetze der US-Bundesstaaten verbieten unlautere oder irreführende Praktiken – unabhängig davon, ob ein Mensch oder ein Modell sie hervorgebracht hat. Eine Haftungsanalyse brachte es auf den Punkt: Handelt Ihre KI als Vertreter Ihres Unternehmens, tragen Sie die Verantwortung für das, was sie kommuniziert.
Warum ein rohes Sprachmodell eine Haftungsmaschine ist
Hier die unbequeme technische Tatsache dahinter. Ein großes Sprachmodell ist darauf optimiert, flüssigen, plausiblen, selbstsicheren Text zu erzeugen. Es ist nicht darauf optimiert, wahren Text zu erzeugen. Diese beiden Ziele überschneiden sich meistens – und genau das macht die Fehler gefährlich: Die falsche Antwort kommt im selben ruhigen, souveränen Ton daher wie die richtige. Seine Stimme zittert nicht, wenn es Ihre Rückerstattungsrichtlinie erfindet.
Viele nehmen an, dass Retrieval das Problem löst. Es hilft enorm, ist aber keine Garantie. Eine Stanford-Studie aus dem Jahr 2025 zu retrieval-lastigen juristischen Recherche-Tools ergab, dass das beste nur bei 65 % der Anfragen korrekt und verankert antwortete; Wettbewerber lagen bei 41 % und 19 %. Das sind teure, eigens dafür gebaute Produkte, deren Modell auf einen kuratierten Korpus ausgerichtet ist – und trotzdem halluzinierten sie bei einem Drittel der Fragen. Ein Allzweckmodell mit einem System-Prompt wie „sei hilfreich“ auf Ihre Website zu setzen, befindet sich in einem völlig anderen Sicherheitsuniversum.
Die Lehre lautet nicht „Nutzen Sie keinen Chatbot.“ Viele Unternehmen lösen den Großteil ihres Support-Volumens mit KI und stoßen nie auf ein Problem, weil sie den Bot korrekt eingeschränkt haben. Die Lehre lautet: Die Sicherheit steckt in der Architektur rund um das Modell, nicht im Modell selbst. Ein Chatbot ist nur so gut zu verteidigen wie die Kontrollen, die Sie zwischen das Sprachmodell und Ihren Kunden setzen.
Die Kontrollen, die das Risiko tatsächlich verringern
Ordnen Sie jede Kontrolle dem Risiko zu, das sie adressiert. Das ist der entscheidende Teil, und hier hört die Plattformwahl auf, kosmetisch zu sein.
| Kontrolle | Was sie tut | Welches Risiko sie senkt |
|---|---|---|
| Verankerung durch Retrieval | Antwortet nur aus Ihren Trainingsinhalten, nicht aus dem Gedächtnis des Modells | Halluzinationen bei Richtlinien, Preisen, Fähigkeiten |
| Verbindliche Q&A-Paare | Exakte, handgeschriebene Antworten, die allem anderen vorgehen | Die kritischen Fragen, bei denen Sie sich keinen Fehler leisten können |
| Quellenangabe | Zeigt, aus welchem Dokument eine Antwort stammt | Zitat-Halluzinationen; macht Überprüfung möglich |
| Echtzeit-Aktionen | Ruft Bestell-/Kontodaten per API live ab, statt zu raten | Kontospezifische Halluzinationen |
| Konfidenzbasierte Übergabe | Leitet unsichere oder risikoreiche Anliegen an einen Menschen weiter | Halluzinationen bei Handlungen und Sicherheit |
| Ausgabe-Leitplanken | Blockiert erfundene Rabatte, gefälschte URLs, unbestätigte Behauptungen | Halluzinationen bei Preisen und Handlungen |
| Chat-Protokolle | Ein überprüfbarer Datensatz jeder Antwort, die der Bot gegeben hat | Beweise, Auditierung, schnelle Korrektur |
Einige davon verdienen mehr Detail, weil die meisten Teams hier zu wenig investieren.
Verankerung ist der Boden, nicht die Decke. Ihren Chatbot auf Ihrer eigenen Website, Ihren Dokumenten und Ihrem Hilfe-Center zu trainieren, macht den Unterschied zwischen einem Bot, der aus Ihrer Realität antwortet, und einem, der aus dem Durchschnitt des Internets antwortet. Bei Agentkit ist das der Standard: Ein Chatbot antwortet aus den Inhalten, auf denen Sie ihn trainieren – gecrawlte Seiten, hochgeladene PDFs und Dokumente sowie Textausschnitte. Das Modell wird angewiesen, aus diesem Korpus zu arbeiten, statt zu improvisieren. Für dokumentenlastigen Support bindet das Chatten mit Ihren eigenen Dokumenten Antworten an die tatsächliche Richtliniendatei, nicht an eine Paraphrase davon.
Q&A-Paare sind Ihr Sicherheitsgurt für die Fragen, die nicht falsch beantwortet werden dürfen. Verankerung reduziert Erfindungen, eliminiert sie aber nicht. Für die Handvoll Fragen, bei denen eine falsche Antwort eine Klage bedeutet – Ihr Rückerstattungsfenster, Ihre Stornobedingungen, eine sicherheitskritische Anweisung – wollen Sie eine fest hinterlegte Antwort, keine generierte. Genau das leisten die Q&A-Paare von Agentkit: eine exakte, von Menschen geschriebene Antwort, die Vorrang vor jeder anderen Quelle hat. Das Modell hat kein Mitspracherecht darüber, ob Ihre Rückgabefrist 30 Tage beträgt. Sie haben es festgelegt; der Bot liest es vor. Identifizieren Sie Ihre zehn Fragen mit dem höchsten Haftungsrisiko und legen Sie sie als Q&A-Paare fest, bevor Sie live gehen.
Echtzeit-Aktionen ersetzen Raten durch Nachschauen. Kontospezifische Halluzinationen – „Ihre Bestellung wurde gestern versandt“, obwohl das nicht stimmt – entstehen, wenn ein Bot Fragen beantwortet, zu denen er keine Daten hat. Die Lösung ist, ihm Daten zu geben. Individuelle API-Aktionen lassen den Chatbot Ihr Bestellsystem, CRM oder Ihren Lagerbestand in Echtzeit abfragen und aus dem tatsächlichen Datensatz antworten. Sind die Daten nicht verfügbar, sagt ein gut gebauter Bot das, statt einen Status zu erfinden.
Übergabe ist eine Haftungskontrolle, keine UX-Nettigkeit. Die mit Abstand wichtigste architektonische Entscheidung ist, was der Bot tut, wenn er sich unsicher ist. Ein verteidigungsfähiger Chatbot eskaliert Antworten mit geringer Konfidenz und risikoreiche Anliegen – Rückerstattungen, Abrechnung, Stornierungen, alles Sicherheitsnahe – an einen Menschen. Diese Grenze gut zu gestalten, ist eine eigene Disziplin; wir haben sie ausführlich in Design der Übergabe an Mitarbeiter behandelt. Der Bot, der bei einem Rückerstattungsstreit sagt „Ich hole mir kurz eine Kollegin oder einen Kollegen dazu“, ist der Bot, der niemals eine Rückerstattungsrichtlinie erfindet.
Anweisungen und Leitplanken legen die Standardeinstellungen des Bots fest. Ihr System-Prompt sollte dem Bot sagen, dass er nicht spekulieren darf, niemals Preise oder Rabatte erfinden darf, zugeben soll, wenn er etwas nicht weiß, und strikt in Ihrem Themenbereich bleiben soll. Gutes Prompt-Engineering macht aus „sei hilfreich“ ein „seien Sie hilfreich, aber erfinden Sie niemals eine Richtlinie, und eskalieren Sie alles, bei dem Sie sich nicht sicher sind.“ Kombinieren Sie das mit Domain-Einschränkungen, damit das Widget nur auf Ihren eigenen Seiten läuft, sowie mit Ratenlimit, damit ein einzelner Nutzer es nicht so provozieren kann, wie der Chatbot von DPD 2024 berüchtigterweise dazu gebracht wurde, Kunden zu beschimpfen.
Protokolle sind Ihr Beweismittel und Ihr Frühwarnsystem. Jedes Agentkit-Gespräch wird protokolliert. Dieser Datensatz erfüllt zwei Aufgaben: Er lässt Sie überprüfen, was der Bot Menschen tatsächlich gesagt hat (und ein schlechtes Muster korrigieren, bevor es zur Beschwerde wird), und er ist die Dokumentation, die Sie brauchen, wenn ein Kunde je behauptet, der Bot habe etwas versprochen. Prüfen Sie wöchentlich die Rate verankerter Antworten und die Fragen, die eine Übergabe ausgelöst haben. Ein Bot, der sich still verschlechtert, zeigt sich in den Protokollen lange bevor er vor einem Schiedsgericht auftaucht.
Noch etwas, das man leicht übersieht: Halten Sie die Wissensdatenbank aktuell. Die Hälfte der Haftungsfälle entsteht nicht durch Erfindung, sondern dadurch, dass selbstsicher eine Richtlinie genannt wird, die früher einmal galt. Automatisches Retraining (ab dem Standard-Tarif) crawlt Ihre Inhalte nach einem Zeitplan erneut, damit der Bot nicht die Preisseite des letzten Quartals zitiert.
Eine Haftungs-Checkliste vor dem Launch
Bevor Sie einen Chatbot auf einer Seite einbetten, auf der Kunden Entscheidungen treffen, gehen Sie diese Liste durch:
- Ist er verankert? Der Bot antwortet aus Ihren Inhalten, nicht aus dem offenen Modell. Prüfen Sie das, indem Sie ihn etwas fragen, das nicht in Ihrer Dokumentation steht – er sollte ablehnen, nicht improvisieren.
- Sind die kritischen Antworten festgelegt? Rückerstattung, Stornierung, Garantie, Preise und jede sicherheitskritische Anweisung sind Q&A-Paare, kein generierter Text.
- Schaut er nach, statt zu raten? Konto- und bestellspezifische Fragen treffen auf eine Live-API oder werden übergeben – nie aus der Luft gegriffen beantwortet.
- Eskaliert er bei Unsicherheit? Anliegen mit geringer Konfidenz und hohem Risiko werden an einen Menschen weitergeleitet. Sie haben getestet, dass diese Grenze tatsächlich greift.
- Ist er eingegrenzt? Domain-Einschränkungen begrenzen ihn auf Ihre Website; Ratenlimit blockiert Missbrauch; Anweisungen verbieten erfundene Preise und Versprechen.
- Können Sie ihn überprüfen? Chat-Protokolle sind aktiviert, und jemand sieht sie sich regelmäßig an.
- Ist das Wissen aktuell? Veraltet, aber selbstsicher ist sein eigenes Fehlermuster. Automatisches Retraining oder ein manueller Aktualisierungsplan halten die Inhalte live.
Die Einbettung ist der einfache Teil, sobald die Kontrollen stehen:
<script src="https://cdn.agentkit.ai/widget.js" data-chatbot="your-chatbot-id" async> </script>
Eine Anmerkung zum Umfang: Hier geht es um die zivilrechtliche Haftung für das, was Ihr Bot sagt – nicht um die Welle KI-spezifischer Regulierung, die durch die Parlamente der US-Bundesstaaten geht und die wir separat im Leitfaden zu Chatbot-Gesetzen 2026 behandelt haben. Sie müssen an beides denken. Ein Bot kann Offenlegungsgesetze vollständig einhalten und Sie trotzdem an eine erfundene Rückerstattungsrichtlinie binden.
Fazit
Die Klagen gegen OpenAI und Character.AI werden sich über Jahre hinziehen, und die meisten Unternehmen, die einen Support-Bot betreiben, werden nie an etwas Vergleichbarem beteiligt sein. Aber jedes dieser Unternehmen lebt unter der Air-Canada-Linie: Ihr Chatbot spricht für Sie, und Sie stehen für das ein, was er sagt. Das ist kein Grund, KI-Support zu meiden. Unternehmen lösen den Großteil ihres Support-Volumens mit Chatbots und sparen dabei echtes Geld – die Wirtschaftlichkeit steht nicht infrage. Es ist ein Grund, den Bot als das zu behandeln, was er rechtlich ist: ein Vertreter Ihres Unternehmens, eingesetzt mit derselben Sorgfalt, die Sie einem menschlichen Vertreter entgegenbringen würden.
Der Unterschied zwischen einem Haftungsrisiko und einem Wertgegenstand ist die Architektur rund um das Modell. Verankern Sie ihn in Ihren Inhalten. Legen Sie Ihre kritischen Antworten fest. Übergeben Sie bei Unsicherheit. Protokollieren Sie alles. Ein so gebauter Chatbot vermeidet nicht nur den Gerichtssaal – er ist derjenige, dem Kunden tatsächlich vertrauen, weil er ihnen entweder die Wahrheit sagt oder sagt, dass er es nicht weiß.
Erstellen Sie Ihren Chatbot kostenlos →
Keine Kreditkarte erforderlich.
