KI im Finanz-Support: Was erlaubt ist und was nicht

Wichtige Erkenntnisse

• KI-Agenten eignen sich ideal für Statusauskünfte und Formularhilfe: Bei der Schweizer Digitalbank Yuh deckt der Chatbot rund 45 Prozent aller Anfragen ab.
• Artikel 22 der DSGVO verbietet rein automatisierte Entscheidungen mit rechtlicher Wirkung, etwa bei der Ablehnung von Krediten.
• Die BaFin warnt vor algorithmischer Diskriminierung und verlangt bei Hochrisiko-Systemen strenge Daten-Governance.
• Beschwerden und Betrugsverdachtsfälle müssen für die schnelle Deeskalation zwingend an das menschliche Team übergeben werden.
• KI im Support darf keine Anlageberatung leisten, sondern muss strikt auf vorab freigegebene Unternehmensdokumente begrenzt sein.

Statusauskunft und Formulare. Das darf die KI sofort.

Der Einsatz von Künstlicher Intelligenz im Kundenservice von Finanzdienstleistern scheitert selten an der Technik, sondern an unklaren regulatorischen Zuständigkeiten. Banken, Versicherer und Fintechs agieren in einem Umfeld, in dem falsche Auskünfte sofort Haftungs- oder Aufsichtsrisiken nach sich ziehen. Dennoch existiert ein breiter Bereich an Kundenanfragen, der rechtlich unbedenklich und ohne menschliche Freigabe automatisiert werden kann: die reine Informationsvermittlung.

Dazu gehören wiederkehrende Fragen zu Öffnungszeiten, Kontoführungsgebühren, Filialstandorten oder der Dauer von Standardüberweisungen. Auch die Navigation zu Dokumenten, wie etwa Formularen für Freistellungsaufträge, Adressänderungen oder Vollmachten, ist für KI-Agenten ideal geeignet. Solange das System bestehende, öffentlich zugängliche oder vertraglich festgelegte Bedingungen lediglich zitiert und erklärt, greift keine aufsichtsrechtliche Beratungspflicht.

Die Praxis zeigt, wie groß dieser Hebel ist. Eine Erhebung der Hochschule Luzern (HSLU) zum Kundenservice von 61 Schweizer Banken beschreibt am Beispiel der Digitalbank Yuh, dass deren Chatbot heute rund 45 Prozent aller Anfragen abdeckt, laut Yuh besonders zuverlässig bei Standardanliegen zu Funktionen, Preisen und allgemeinen Themen¹. Für Support-Teams bedeutet das eine massive Entlastung von Routineaufgaben, sofern eine DSGVO-konforme KI auf saubere Wissensquellen zugreift.

Die harte Grenze. DSGVO Artikel 22.

Die rechtliche Grenze der Automatisierung beginnt dort, wo aus reiner Auskunft eine Entscheidung wird. Artikel 22 Absatz 1 der Datenschutz-Grundverordnung (DSGVO) formuliert hierzu ein eindeutiges Verbot: Betroffene Personen haben das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.

Für Finanzinstitute bedeutet dies in der Praxis ein striktes Verbot des autonomen KI-Vollzugs bei kritischen Vorgängen. Ein KI-Agent darf weder eigenständig einen Kreditantrag ablehnen, noch eine Schadensregulierung in der Versicherung verweigern oder ein Girokonto einseitig kündigen. Selbst wenn Risikomodelle im Hintergrund eine Ablehnung nahelegen, muss die finale rechtliche Entscheidung stets durch einen Menschen überprüfbar bleiben oder direkt von Mitarbeitenden getroffen werden.

• Rechtliche Wirkung: Ein Vertrag kommt nicht zustande, wird gekündigt oder Leistungen werden final verweigert. Hier greift das Verbot rein automatisierter Prozesse nach Art. 22 Abs. 1 DSGVO.
• Erhebliche Beeinträchtigung: Finanzielle Einschränkungen wie die Herabstufung eines Kreditrahmens oder die Sperrung von Kontofunktionen verlangen zwingend menschliche Kontrollmechanismen.
• Rechte der Betroffenen: Nach Art. 22 Abs. 3 DSGVO müssen Institute sicherstellen, dass Kundinnen und Kunden das Eingreifen einer Person verlangen, ihren eigenen Standpunkt darlegen und Entscheidungen anfechten können.

Ausnahmen greifen nach Art. 22 Abs. 2 DSGVO nur dann, wenn die automatisierte Entscheidung für den Abschluss oder die Erfüllung eines Vertrags erforderlich ist, auf Rechtsvorschriften beruht oder mit ausdrücklicher Einwilligung erfolgt. Doch auch dann bleiben flankierende Schutzmaßnahmen, wie das Recht auf manuelle Nachprüfung, gesetzlich vorgeschrieben.

Fairness und Bias. Die Vorgaben der BaFin.

Neben dem Datenschutz stellt die Finanzaufsicht strenge Anforderungen an die operative Governance. Die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) betont, dass allgemeine Organisations- und Risikomanagementvorgaben nach § 25a des Kreditwesengesetzes (KWG) sowie § 23 des Versicherungsaufsichtsgesetzes (VAG) uneingeschränkt für Algorithmen und KI-Systeme gelten². Institute müssen jederzeit nachweisen können, wie automatisierte Systeme zu ihren Ergebnissen gelangen.

Ein zentrales Risiko liegt in unbewussten Verzerrungen (Bias) innerhalb der Trainings- und Kontextdaten. Werden historische Daten unreflektiert übernommen, droht eine mittelbare oder unmittelbare Diskriminierung geschützter Gruppen nach dem Allgemeinen Gleichbehandlungsgesetz (AGG), beispielsweise aufgrund von Alter, Geschlecht oder ethnischer Herkunft. Bewertet ein KI-System Anfragen je nach Sprachmuster oder Wohnort systematisch unterschiedlich, greift die Aufsicht im Rahmen der Missstandsaufsicht ein.

• Risikoklassifizierung: Die europäische KI-Verordnung (EU AI Act) stuft KI-Systeme zur Prüfung der Kreditwürdigkeit oder zur Risikobewertung in der Lebens- und Krankenversicherung als Hochrisiko-Systeme ein.
• Daten-Governance: Trainings- und Wissensdaten müssen repräsentativ, fehlerfrei und frei von unzulässigen Diskriminierungsmerkmalen gepflegt werden.
• Transparenzpflichten: Für Support-Chatbots gelten klare Kennzeichnungspflichten, wie sie unter anderem Artikel 50 der KI-Verordnung für Systeme mit Interaktionscharakter vorgibt.

Für den Kundensupport leitet sich daraus eine klare Vorgabe ab: Ein KI-Agent darf keine dynamischen Konditionen auf Basis intransparenter Kundenscorings im Chat anbieten. Er hat für alle Kundinnen und Kunden auf Basis derselben verifizierten Dokumente identische, nachvollziehbare Fakten zu liefern.

Beschwerden und Verdacht. Wann der Mensch übernimmt.

Es gibt Szenarien im Finanzalltag, bei denen Automatisierung nicht nur unpassend, sondern fahrlässig ist. Das betrifft vor allem Sicherheitsvorfälle, Betrugsverdacht und formelle regulatorische Beschwerden. In diesen Momenten entscheidet oft die Reaktionszeit von Minuten über finanzielle Schäden oder aufsichtsrechtliche Rügen.

Meldet eine Kundin einen Phishing-Vorfall, unberechtigte Abbuchungen oder den Verlust von Zugangsdaten, darf keine KI zeitintensive Dialogschleifen führen. Hier greifen Notfallprotokolle: Sperrung von Karten und Zugängen sowie sofortige Weiterleitung an spezialisierte Fraud-Teams. Gleiches gilt für Verdachtsmomente nach dem Geldwäschegesetz (GwG). Erkennt ein Support-Mitarbeitender verdächtige Transaktionsmuster, können Meldepflichten nach § 43 GwG ausgelöst werden. Eine KI darf solche Prozesse weder bewerten noch eigenständig archivieren.

Auch bei emotional aufgeladenen Beschwerden stoßen Sprachmodelle an natürliche Grenzen. Kulanzentscheidungen erfordern menschliches Ermessen und Verhandlungsgeschick, das keine Maschine rechtssicher abbilden kann. Der strukturierte Übergang an menschliche Fachkräfte ist hier der einzig verlässliche Weg. Wie dieser Prozess technisch sauber aufgesetzt wird, beschreibt der Leitfaden zur Eskalation an den Menschen.

Support ist keine Anlageberatung.

Eine der schärfsten Trennlinien im Finanzsektor verläuft zwischen allgemeinem Support und erlaubnispflichtiger Anlageberatung. Nach § 2 Absatz 8 Satz 1 Nr. 10 des Wertpapierhandelsgesetzes (WpHG) sowie den europäischen MiFID-II-Richtlinien liegt eine Anlageberatung vor, sobald eine persönliche Empfehlung zu Geschäften mit bestimmten Finanzinstrumenten abgegeben wird, die sich auf die persönlichen Umstände der Kundin oder des Kunden stützt.

Für generative KI birgt dies ein erhebliches Risiko: Fragt ein Nutzer im Support-Chat nach einer geeigneten Geldanlage für Ersparnisse und formuliert das Sprachmodell eine scheinbar hilfreiche Empfehlung für einen konkreten ETF oder Aktienfonds, befindet sich das Institut rechtlich bereits im Bereich der Anlageberatung. Wurden dabei weder Geeignetheitsprüfung noch regulatorische Informationspflichten eingehalten, drohen empfindliche aufsichtsrechtliche Sanktionen.

• Erlaubt im Support: Erläuterung von Kennzahlen, Bereitstellung von Basisinformationsblättern (KIDs), Nennung von Ordergebühren und Ausführungswegen.
• Verboten für Support-KI: Aussagen zur künftigen Wertentwicklung, Empfehlungen zum Kauf oder Verkauf bestimmter Wertpapiere sowie Abfragen zur individuellen Risikobereitschaft zwecks Produktfindung.

Support-Agenten müssen durch klare Systemgrenzen so instruiert werden, dass sie bei beratungsnahen Formulierungen sofort intervenieren. Statt eine Einschätzung abzugeben, verweist das System sachlich auf die offiziellen Produktunterlagen oder bietet einen Termin mit zertifizierten Beraterinnen und Beratern an.

Verlässliches Wissen. Keine KI-Halluzinationen.

Falschaussagen eines Kundenservice-Bots sind im E-Commerce ärgerlich, im Finanzsektor sind sie ein Compliance-Verstoß. Sogenannte Halluzinationen, bei denen Sprachmodelle plausible, aber sachlich falsche Antworten aus frei assoziierten Trainingsdaten generieren, lassen sich nur durch eine strikt deterministische Wissensarchitektur verhindern.

Der Standard für Finanzinstitute ist der Einsatz von Retrieval-Augmented Generation (RAG). Das Sprachmodell agiert dabei nicht als freier Texter, sondern ausschließlich als intelligenter Vermittler: Vor jeder Antwort durchsucht das System eine kuratierte interne Wissensbasis, extrahiert die relevanten Textstellen und formuliert daraus eine präzise Auskunft. Findet sich in den hinterlegten Dokumenten keine eindeutige Antwort, verweigert das System das Raten und initiiert die Übergabe an das Team.

Ein unverzichtbarer Bestandteil ist die lückenlose Quellentransparenz. Jede Aussage des Agenten muss für die Kundschaft und im Audit-Log transparent mit dem zugrundeliegenden Dokument verknüpft sein, etwa dem jeweiligen Abschnitt der AGB oder des Preisverzeichnisses. Wie Teams diesen Kontrollmechanismus technisch absichern, vertieft der Beitrag darüber, wie sich KI-Halluzinationen im Support verhindern lassen.

Nahtlose Übergabe. Vom Agenten zum Team.

Ein verlässliches KI-System im Finanzbereich zeichnet sich nicht dadurch aus, dass es jede Frage beantwortet, sondern dass es seine eigenen Grenzen kennt. Das Ziel ist keine Vollautomatisierung um jeden Preis, sondern eine hybride Architektur: Der Agent filtert Routineanfragen ab, strukturiert eingehende Daten vor und übergibt komplexe oder regulatorisch sensible Fälle ohne Medienbruch an das Support-Team.

Kommt es zum Hand-off, dürfen Kundinnen und Kunden nicht in eine separate Warteschleife geschoben werden oder ihr Anliegen erneut schildern müssen. Der gesamte bisherige Gesprächsverlauf, inklusive der vom Bot identifizierten Absicht und relevanter Kontextdaten, muss direkt im Ticketsystem oder im geteilten Posteingang der Support-Mitarbeitenden bereitstehen.

• DSGVO-konformes Routing: Verarbeitung und Speicherung der Konversationen auf Servern innerhalb der Europäischen Union.
• Kein Modelltraining: Vertraglicher Ausschluss jeglicher Nutzung von Kundendaten zum Training externer Basismodelle.
• Vollständiger Kontexttransfer: Übergabe des Chatverlaufs an menschliche Agenten zur nahtlosen Weiterbearbeitung.

Plattformen wie ComLayer zeigen, wie eine solche Architektur in der Praxis funktioniert: Das System wird vollständig in europäischen Rechenzentren betrieben und beantwortet Kundenfragen ausschließlich aus verifizierten Wissensquellen mit exakter Quellenangabe. Kann eine Frage nicht zweifelsfrei aus den Dokumenten belegt werden oder betrifft sie sensible Themen wie Betrug oder Beratung, übergibt die KI den Vorgang sofort mit vorformuliertem Entwurf an den geteilten Posteingang des Teams. So bleiben Compliance, Datenschutz und Servicequalität jederzeit kontrollierbar.

Häufig gestellte Fragen