Wer haftet, wenn die KI im Kundensupport falsch berät?

Wichtige Erkenntnisse

• OLG Hamm, Urteil vom 12.05.2026, Az. 4 UKl 3/25: Betreiber haften für falsche Chatbot-Aussagen, auch bei korrekt gefütterten Daten
• Air Canada musste 812,02 kanadische Dollar zahlen, weil der Chatbot einen nachträglichen Trauerfall-Tarif zusagte, den die Richtlinie nicht vorsah. Das Argument, der Bot sei eigenständig, scheiterte.
• Art. 50 Abs. 1 KI-VO verlangt ab dem 2. August 2026, dass Nutzer erkennen, wenn sie mit einem KI-System statt mit einem Menschen sprechen.
• Verstöße gegen Art. 50 KI-VO können mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden.
• Eine Freigabe ist nur wirksam, wenn der Prüfer Zeit und Quelle hat. Automatisierungs-Bias macht blindes Bestätigen wertlos.

Drei Fehlerarten. Drei unterschiedliche Folgen.

Nicht jeder KI-Fehler ist gleich. In der Praxis lassen sich drei Arten unterscheiden, und die Art entscheidet darüber, wie teuer der Fehler wird und wie viel Prüfung er verdient. Die erste Art: eine erfundene Produkteigenschaft. Das OLG Hamm hatte über einen Klinik-Chatbot zu entscheiden, der die beiden Ärzte hinter dem beklagten Unternehmen als Fachärzte für plastische und ästhetische Chirurgie sowie als Fachärzte für ästhetische Medizin bezeichnete. Diese Facharzttitel existieren in dieser Form nicht bzw. werden von den Ärzten nicht geführt. Das Gericht wertete die Antworten als nach § 5 Abs. 1, Abs. 2 Nr. 3 UWG unzulässige geschäftliche Handlungen des Unternehmens (Urteil vom 12.05.2026, Az. 4 UKl 3/25)¹.

Die zweite Art: eine falsche Auskunft zu Fristen oder Preisen. Das Landgericht Kiel hatte über einen Wirtschaftsinformationsdienst zu entscheiden, dessen automatisierte Auswertung fälschlich meldete, die Klägerin werde wegen Vermögenslosigkeit gelöscht. Die Falschauskunft verletzte das Unternehmenspersönlichkeitsrecht und begründete einen Unterlassungsanspruch gegen den Betreiber (LG Kiel, Urteil vom 29.02.2024, Az. 6 O 151/23)². Die dritte Art: eine Zusage, die niemand decken kann. Der Chatbot von Air Canada stellte einem Kunden in Aussicht, den Trauerfall-Tarif nachträglich beantragen zu können, was die tatsächliche Richtlinie nicht vorsah. Das Civil Resolution Tribunal in British Columbia verurteilte die Airline zur Zahlung von 650,88 kanadischen Dollar Schadensersatz sowie 36,14 Dollar Zinsen und 125 Dollar Verfahrenskosten, zusammen 812,02 kanadische Dollar³.

Warum die Unterscheidung zählt: Eine bloße Auskunft kann falsch sein und trotzdem niemanden binden. Eine Zusage bindet dich dagegen sofort, weil sie nach außen als Erklärung deines Unternehmens wirkt. Genau deshalb verlangen die drei Fehlerarten unterschiedliche Prüfintensität. Eine erfundene Produkteigenschaft ist vor allem ein Wettbewerbs- und Irreführungsrisiko. Eine falsche Frist- oder Preisauskunft schlägt auf Vertragsverhältnisse durch. Eine ungedeckte Zusage ist der teuerste Fall, weil sie unmittelbar zu erfüllen ist.

• Erfundene Eigenschaft: Irreführungs- und Wettbewerbsrisiko, wie im Fall der nicht geführten Facharzttitel vor dem OLG Hamm¹.
• Falsche Auskunft zu Fristen oder Preisen: greift in bestehende Vertragsverhältnisse ein und kann wie im Kiel-Fall fremde Rechte verletzen².
• Ungedeckte Zusage: bindet das Unternehmen unmittelbar, wie das Tarifversprechen des Air-Canada-Chatbots³.

Für deinen Support-Alltag heißt das: Je näher eine Antwort an Preis, Frist oder verbindlicher Zusage liegt, desto höher die Freigabestufe. Die vier Stufen dazu stehen weiter unten.

Der Grundsatz: Der Bot arbeitet für dich.

Keines der drei Gerichte hat die KI selbst belangt. Das ist kein Zufall. Ein KI-System ist keine Rechtsperson, kann keine Rechte und keine Pflichten tragen. Die Verantwortung läuft immer auf den Betreiber hinaus, der das System in eigener Verantwortung einsetzt. Genau das haben drei Entscheidungen aus zwei Rechtsordnungen, zwei in Deutschland und eine in Kanada, unabhängig voneinander so gesehen.

Das OLG Hamm behandelte die Chatbot-Antworten als geschäftliche Handlungen der Beklagten selbst. Das Unternehmen hatte eingewandt, die fehlerhaften Antworten seien ihm nicht als eigene geschäftliche Handlung zurechenbar. Das Gericht folgte dem nicht: Selbst wenn die Beklagte den Bot ausschließlich mit korrekten Datensätzen hätte programmieren lassen, trüge sie für die Falschangaben die Verantwortung. Der Chatbot sei auch kein Dritter im Sinne des Gesetzes, weshalb ein Rückgriff auf die Voraussetzungen einer Verkehrssicherungspflicht verwehrt sei¹.

Das LG Kiel stellte auf die vorgelagerte unternehmerische Entscheidung ab: Wer sich willentlich einer eigenen Software bedient, um Auskünfte zu erzeugen, haftet als unmittelbarer Störer für den vollautomatisierten Output. Das Gericht schrieb wörtlich, die Beklagte könne sich nicht darauf zurückziehen, sie sei an diesem automatischen Vorgang nicht beteiligt gewesen, weil sie sich bewusst einer künstlichen Intelligenz bedient habe².

Und das Tribunal in British Columbia wies das Argument zurück, der Chatbot sei ein separates Rechtssubjekt, das für seine eigenen Handlungen verantwortlich sei. In der Entscheidung heißt es, ein Chatbot habe zwar eine interaktive Komponente, sei aber immer noch nur ein Teil der Website von Air Canada, und es mache keinen Unterschied, ob die Information von einer statischen Seite oder einem Chatbot komme³.

Was davon ist Gesetzestext und was Auslegung? Der Gesetzestext lautet: § 280 Abs. 1 BGB: Verletzt der Schuldner eine Pflicht aus dem Schuldverhältnis, so kann der Gläubiger Ersatz des hierdurch entstehenden Schadens verlangen. Dies gilt nicht, wenn der Schuldner die Pflichtverletzung nicht zu vertreten hat⁴. Diese Norm ist die typische vertragliche Anspruchsgrundlage, wenn eine falsche Support-Auskunft Kund:innen schadet. Dass eine KI-Auskunft dem Betreiber als eigene Erklärung zugerechnet wird, ist dagegen Auslegung aus den genannten Gerichtsentscheidungen, nicht wörtlicher Gesetzestext. Und ein Hinweis vorab: Dieser Artikel ist keine Rechtsberatung, sondern eine Einordnung für den Support-Alltag.

Kennzeichnung. Pflicht ab August 2026.

Seit dem 2. August 2026 gilt in der EU eine Transparenzpflicht, die viele Support-Teams erst spät auf dem Schirm haben. Artikel 50 Absatz 1 der KI-Verordnung verlangt, dass KI-Systeme für die direkte Interaktion mit natürlichen Personen so konzipiert sind, dass die Personen informiert werden, dass sie mit einem KI-System interagieren. Die Pflicht gilt nicht, wenn dies aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände offensichtlich ist⁵. Das Geltungsdatum folgt aus Artikel 113 der Verordnung⁶.

Die IHK Schleswig-Holstein gibt dazu einen praxisnahen Hinweis: Der Hinweis sollte direkt zu Beginn der Kommunikation erscheinen und nicht erst in den AGB oder der Datenschutzerklärung. Als mögliche Formulierungen nennt die IHK Sätze wie: Sie kommunizieren mit einem KI-System. Oder: Dieser Chatbot beantwortet Ihre Anfrage mithilfe künstlicher Intelligenz⁶.

Verstöße gegen Artikel 50 können mit Geldbußen von bis zu 15 Millionen Euro oder bei Unternehmen mit bis zu drei Prozent des weltweiten Jahresumsatzes geahndet werden. Maßgeblich ist jeweils der höhere Betrag, im Falle von KMU der jeweils niedrigere⁷⁶.

• Hinweis an den Anfang der Konversation, nicht in die AGB⁶.
• Ausnahme nur, wenn die KI-Beteiligung für Nutzer:innen offensichtlich ist⁵.
• Geldbußen bis 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes, der höhere Betrag gilt⁶.

Praktisch heißt das: Der Kennzeichnungshinweis gehört in das Chatfenster selbst, sichtbar beim ersten Kontakt. Ein Hinweis im Footer der Website reicht nicht. Kennzeichnung schützt übrigens nicht vor Haftung für falsche Inhalte. Sie erfüllt eine eigene Pflicht und schafft Klarheit darüber, wessen Erklärung die Antwort ist: deine.

Ohne Protokoll keine Verteidigung.

Wenn ein Fehler passiert, entscheidet nicht die Frage, ob er passiert ist. Entscheidend ist, ob du ihn rekonstruieren kannst. Nur mit einem Protokoll der Konversation, der genannten Quelle und der Übergabe kannst du prüfen, was die KI wann auf welcher Grundlage geantwortet hat. Ohne dieses Protokoll stehst du im Streitfall auf Behauptungen, und Behauptungen sind keine Verteidigung.

Drei Dinge müssen nachvollziehbar bleiben. Erstens die Konversation selbst: Welche Frage wurde gestellt, welche Antwort gegeben, wann. Zweitens die Quelle: Aus welchem Wissensartikel oder Dokument hat die KI geantwortet, oder gab es gar keine Quelle. Drittens die Übergabe: Wann und warum hat das System an einen Menschen übergeben, oder hat es das gerade nicht getan, obwohl es hätte müssen.

Dazu kommt die Freigabe selbst. Die IHK empfiehlt, zu dokumentieren, wer Inhalte geprüft und die finale Freigabe verantwortet hat⁶. Übertrage das auf den Support: Bei jeder menschlich freigegebenen Antwort sollte klar sein, wer geprüft hat und auf welcher Quellenlage. Das ist im Streitfall der Unterschied zwischen einem nachvollziehbaren Prozess und einer Lücke.

• Konversation vollständig protokollieren: Frage, Antwort, Zeitpunkt.
• Genannte Quelle mitspeichern: Welcher Wissensartikel, welches Dokument, oder keine Quelle.
• Übergaben dokumentieren: Wann, warum, an wen.
• Freigaben dokumentieren: Wer hat geprüft und freigegeben⁶.

Ein Wort zu Aufbewahrungsfristen: Wie lange du Konversationen und Protokolle halten musst, hängt von deinen gesetzlichen und vertraglichen Pflichten ab, etwa aus Datenschutz- und Handelsrecht. Wir nennen hier bewusst keine konkrete Frist, weil die richtige Dauer vom Einzelfall abhängt. Regel sie bewusst, schriftlich, und stimme sie mit deinem Datenschutzverantwortlichen ab. Zu kurz aufbewahrt kostet dich die Verteidigung, zu lang aufbewahrt kostet dich Datenschutz.

Die Wissensbasis ist der Haftungshebel.

Die häufigste Fehlerquelle ist nicht das Modell. Es ist veraltetes oder widersprüchliches Wissen. Ein KI-Agent, der aus einer Wissensbasis antwortet, ist so gut wie die Artikel, PDFs und Seiten, die du ihm gibst. Ein Preis von 2023 in einem PDF, das niemand aktualisiert hat, ist für die KI eine genauso gültige Quelle wie deine aktuelle Preisseite. Der Fehler entsteht also nicht im Modell, sondern in deiner Pflege.

Genau deshalb ist die Quellenangabe der zweitwichtigste Hebel. Jede Antwort, die ihre Quelle nennt, macht Fehler findbar: Dein Team sieht sofort, welcher Artikel die falsche Aussage hergegeben hat, und kann ihn korrigieren. Der Schaden bleibt auf die Antworten begrenzt, die aus dieser einen Quelle gespeist wurden. Antworten ohne Quelle sind dagegen nicht prüfbar, und genau die solltest du gar nicht erst zulassen.

Die Air-Canada-Lehre zeigt, was Quellenangabe nicht retten kann. Air Canada argumentierte, die korrekte Richtlinie sei auf der Website nachzulesen gewesen. Das Tribunal wies das zurück: Es sei für Air Canada offensichtlich, dass das Unternehmen für alle Informationen auf seiner Website verantwortlich ist, gleich ob sie von einer statischen Seite oder einem Chatbot stammen³. Übersetzt: Ein korrekter Link neben einer falschen Antwort schützt dich nicht. Die Antwort selbst muss stimmen.

• Verantwortliche benennen: Wer pflegt Preise, Fristen und Vertragsbedingungen in der Wissensbasis.
• Versionierung für kritische Artikel: Änderungen an Preisen, Fristen und Verträgen nachvollziehbar halten.
• Veraltete Quellen aktiv entfernen: Ein altes PDF in der Wissensbasis ist eine tickende Falschauskunft.
• Widersprüche prüfen: Wenn zwei Artikel dasselbe Thema unterschiedlich beantworten, gewinnt die KI eine davon, nicht die richtige.

Ein Pflege-Prozess braucht keine große Organisation. Er braucht Verantwortliche, einen Rhythmus und eine Priorisierung. Kritische Artikel sind alle, die Preis, Frist, Vertrag oder Zusage betreffen. Die gehören an die Spitze deiner Prüfliste, nicht ans Ende.

Vier Freigabestufen für den Alltag.

Aus allem bisher Gesagten folgt eine einfache Frage für jede Support-Antwort: Wie viel Prüfung braucht dieser Inhalt, bevor er rausgeht? Die Antwort lässt sich in vier Stufen fassen. Sie sind kein Rechtssatz, sondern eine praktische Übersetzung der Haftungslage in den Alltag.

1. 01Stufe 1: Vollautomatische Antwort mit Quelle. Für unkritische Themen, wo die Quelle die Antwort eindeutig hergibt: Navigationsfragen, allgemeine Produktinformationen, Verweise auf Dokumente. Die KI antwortet direkt, mit Quellenangabe.
2. 02Stufe 2: KI-Entwurf, Mensch prüft und sendet. Für Themen mit mittlerem Risiko: Die KI legt einen Entwurf mit Quelle vor, ein Mensch liest, passt an und sendet. Nichts geht automatisch raus.
3. 03Stufe 3: Immer ein Mensch bei Preis, Frist, Vertrag und jeder Zusage. Diese Antworten gehen nie vollautomatisch raus. Sie werden von einem Menschen verfasst oder geprüft und freigegeben, mit der Quelle vor Augen.
4. 04Stufe 4: Übergabe an das Team, wenn die Quelle nicht hergibt. Findet die KI keine verlässliche Quelle, antwortet sie nicht, sondern übergibt an einen Menschen. Das ist kein Versagen, sondern die sicherste Stufe.

Die Zuordnung typischer Themen sieht so aus: Bestellstatus, Rechnungsdownload und Konto-Zugang gehören in Stufe 1, solange die Quelle eindeutig ist. Retouren und Stornierungen gehören in Stufe 2 oder 3, je nachdem, ob Fristen im Spiel sind. Preise, Kündigungsfristen, Vertragsbedingungen und jede Form von Zusage, Rabatt, Kulanz oder Sonderkondition gehören in Stufe 3. Und alles, was die Wissensbasis nicht eindeutig beantwortet, gehört in Stufe 4.

Ein Wort zur Warnung vor dem Automatisierungs-Bias. Das Alexander von Humboldt Institut für Internet und Gesellschaft weist darauf hin, dass Menschen dazu neigen, maschinellen Vorentscheidungen zu stark zu vertrauen, was als Automatisierungs-Bias bekannt ist⁸. Übertragen auf den Support heißt das: Ein Klick auf Freigeben, ohne die Quelle gelesen zu haben, ist keine Prüfung. Es ist eine Bestätigung. Der Unterschied ist genau der, der im Streitfall zählt.

Deshalb braucht ein Prüfer zwei Dinge: Zeit und die Quelle vor Augen. Ein Entwurf ohne Quellenangabe ist nicht prüfbar, ein Prüfer ohne Zeit ist keine Kontrolle. Wenn deine Freigabeprozesse so gebaut sind, dass Prüfen schneller geht als Lesen, dann prüft niemand wirklich. Plane die Zeit ein, sonst ist die Freigabe wertlos.

Ein Beispiel aus dem eigenen Setup.

Zum Schluss ein Beispiel aus der eigenen Werkstatt, kein Pitch. ComLayer ist eine KI-Support-Plattform mit Widget, Hilfe-Center, geteiltem Posteingang und einem KI-Agenten, der ausschließlich aus dem eigenen Unternehmenswissen antwortet. Der Agent beantwortet Fragen nur, wenn das hinterlegte Wissen die Antwort hergibt, und belegt jede Antwort mit der Quelle. Reicht das Wissen nicht, rät er nicht, sondern übergibt an einen Menschen.

Wie sich das auf die vier Freigabestufen abbildet: Stufe 1 ist die automatische Antwort mit Quellenangabe, wie sie der Agent standardmäßig liefert. Stufe 2 ist der KI-Entwurf im geteilten Posteingang: Zu offenen Fragen liegt ein Antwortentwurf mit Quelle bereit, dein Team liest, passt an und sendet. Stufe 3 und 4 sind Prozessregeln auf deiner Seite: Preis-, Frist- und Vertragsfragen legst du in deinem Workspace so fest, dass sie immer über den Entwurf laufen, und die Übergabe bei fehlender Quelle ist der technische Fallback, der Stufe 4 abbildet.

Was auch ComLayer nicht leisten kann: die inhaltliche Prüfung beim Betreiber abnehmen. Kein Tool kann für dich entscheiden, ob dein Preisartikel aktuell ist oder ob eine Zusage gedeckt ist. Das bleibt deine Verantwortung, und genau deshalb sind Protokoll, Quellenangabe und Freigabestufen so wichtig. Wie sich Halluzinationen technisch verhindern lassen, steht in Halluzinationen im Support verhindern; die datenschutzrechtliche Seite behandelt DSGVO-konforme KI im Kundenservice.

Häufig gestellte Fragen