AI we wsparciu finansowym: co wolno, a czego nie

Najważniejsze wnioski

• Agenci AI świetnie nadają się do informacji o statusie i pomocy przy formularzach: w szwajcarskim banku cyfrowym Yuh chatbot obsługuje około 45 % wszystkich zgłoszeń.
• Artykuł 22 RODO zakazuje decyzji opartych wyłącznie na automatycznym przetwarzaniu, które wywołują skutki prawne, na przykład odmowy kredytu.
• BaFin ostrzega przed dyskryminacją algorytmiczną i wymaga rygorystycznego zarządzania danymi w systemach wysokiego ryzyka.
• Reklamacje i podejrzenia oszustwa muszą trafiać do zespołu ludzkiego, żeby szybko obniżyć napięcie.
• AI we wsparciu nie może prowadzić doradztwa inwestycyjnego i musi trzymać się wyłącznie dokumentów zatwierdzonych wcześniej przez firmę.

Status i formularze. To AI może od razu.

Wykorzystanie sztucznej inteligencji w obsłudze klienta u dostawców usług finansowych rzadko rozbija się o technologię, a znacznie częściej o niejasne kompetencje regulacyjne. Banki, ubezpieczyciele i fintechy działają w otoczeniu, w którym błędna informacja natychmiast rodzi ryzyko odpowiedzialności albo ryzyko nadzorcze. Istnieje jednak szeroki obszar zgłoszeń, który można zautomatyzować bez wątpliwości prawnych i bez zgody człowieka: samo przekazywanie informacji.

Należą do niego powtarzalne pytania o godziny otwarcia, opłaty za prowadzenie rachunku, lokalizacje oddziałów albo czas trwania zwykłego przelewu. Również nawigacja do dokumentów dobrze pasuje do agentów AI, na przykład do formularzy zwolnień, zmian adresu czy pełnomocnictw. Dopóki system jedynie cytuje i objaśnia istniejące warunki, publiczne albo ustalone umownie, nie powstaje żaden obowiązek doradczy.

Praktyka pokazuje, jak duża jest ta dźwignia. Badanie Wyższej Szkoły Zawodowej w Lucernie (HSLU) dotyczące obsługi klienta w 61 szwajcarskich bankach opisuje na przykładzie banku cyfrowego Yuh, że jego chatbot obsługuje dziś około 45 % wszystkich zgłoszeń, według Yuh szczególnie niezawodnie przy standardowych sprawach dotyczących funkcji, cen i tematów ogólnych¹. Dla zespołów wsparcia oznacza to znaczne odciążenie od zadań rutynowych, o ile AI zgodna z RODO sięga po czyste źródła wiedzy.

Twarda granica. Artykuł 22 RODO.

Prawna granica automatyzacji zaczyna się tam, gdzie informacja staje się decyzją. Art. 22 ust. 1 ogólnego rozporządzenia o ochronie danych (RODO) formułuje jednoznaczny zakaz: osoba, której dane dotyczą, ma prawo nie podlegać decyzji opierającej się wyłącznie na zautomatyzowanym przetwarzaniu, jeżeli wywołuje ona wobec niej skutki prawne albo w podobny sposób istotnie na nią wpływa.

Dla instytucji finansowych oznacza to w praktyce ścisły zakaz samodzielnego działania AI w procesach krytycznych. Agent AI nie może samodzielnie odrzucić wniosku kredytowego, odmówić likwidacji szkody ani jednostronnie wypowiedzieć rachunku bieżącego. Nawet jeśli modele ryzyka sugerują w tle odmowę, ostateczna decyzja prawna musi pozostać możliwa do zweryfikowania przez człowieka albo być podejmowana wprost przez pracowników.

• Skutek prawny: umowa nie dochodzi do skutku, zostaje wypowiedziana albo świadczenia zostają ostatecznie odmówione. Tu obowiązuje zakaz procesów wyłącznie zautomatyzowanych z art. 22 ust. 1 RODO.
• Istotny wpływ: ograniczenia finansowe, takie jak obniżenie limitu kredytowego albo blokada funkcji rachunku, wymagają bez wyjątku ludzkich mechanizmów kontroli.
• Prawa osób, których dane dotyczą: zgodnie z art. 22 ust. 3 RODO instytucje muszą zapewnić, że klienci mogą żądać interwencji człowieka, przedstawić własne stanowisko i zakwestionować decyzję.

Wyjątki z art. 22 ust. 2 RODO działają tylko wtedy, gdy zautomatyzowana decyzja jest niezbędna do zawarcia lub wykonania umowy, opiera się na przepisach prawa albo następuje na podstawie wyraźnej zgody. Nawet wtedy obowiązkowe pozostają środki towarzyszące, takie jak prawo do ręcznej weryfikacji.

Uczciwość i uprzedzenia. Wymagania BaFin.

Poza ochroną danych nadzór finansowy stawia surowe wymagania wobec ładu operacyjnego. Federalny Urząd Nadzoru Finansowego (BaFin) podkreśla, że ogólne wymogi organizacyjne i wymogi zarządzania ryzykiem z § 25a ustawy Kreditwesengesetz (KWG) oraz z § 23 ustawy Versicherungsaufsichtsgesetz (VAG) obowiązują bez ograniczeń również dla algorytmów i systemów AI². Instytucje muszą w każdej chwili umieć wykazać, w jaki sposób systemy zautomatyzowane dochodzą do swoich wyników.

Centralne ryzyko leży w nieuświadomionych zniekształceniach danych treningowych i kontekstowych. Jeśli dane historyczne zostaną przejęte bezrefleksyjnie, rośnie groźba pośredniej albo bezpośredniej dyskryminacji grup chronionych w rozumieniu ustawy Allgemeines Gleichbehandlungsgesetz (AGG), na przykład ze względu na wiek, płeć albo pochodzenie etniczne. Jeśli system AI systematycznie ocenia zgłoszenia inaczej w zależności od wzorca językowego albo miejsca zamieszkania, nadzór interweniuje.

• Klasyfikacja ryzyka: europejskie rozporządzenie o AI zalicza do systemów wysokiego ryzyka systemy AI służące do oceny zdolności kredytowej albo do oceny ryzyka w ubezpieczeniach na życie i zdrowotnych.
• Zarządzanie danymi: dane treningowe i dane wiedzy muszą być reprezentatywne, wolne od błędów i pozbawione niedopuszczalnych cech dyskryminujących.
• Obowiązki informacyjne: chatboty wsparcia obejmują jasne obowiązki oznaczania, między innymi te, które artykuł 50 rozporządzenia o AI przewiduje dla systemów wchodzących w interakcję z ludźmi.

Dla obsługi klienta wynika z tego jasna zasada: agent AI nie może proponować na czacie dynamicznych warunków opartych na nieprzejrzystym scoringu klientów. Musi dostarczać wszystkim identyczne, możliwe do prześledzenia fakty, zaczerpnięte z tych samych zweryfikowanych dokumentów.

Reklamacje i podejrzenia. Kiedy przejmuje człowiek.

W codzienności finansowej są sytuacje, w których automatyzacja jest nie tylko nietrafiona, lecz wręcz niedbała. Dotyczy to przede wszystkim incydentów bezpieczeństwa, podejrzeń oszustwa i formalnych reklamacji do nadzoru. W takich chwilach kilka minut czasu reakcji często rozstrzyga między szkodą finansową a upomnieniem organu.

Gdy klientka zgłasza przypadek phishingu, nieuprawnione obciążenia albo utratę danych logowania, żadna AI nie powinna prowadzić czasochłonnych pętli dialogu. Wtedy działają procedury awaryjne: blokada kart i dostępów oraz natychmiastowe przekazanie do wyspecjalizowanych zespołów antyfraudowych. To samo dotyczy podejrzeń w rozumieniu ustawy Geldwäschegesetz (GwG). Jeśli osoba ze wsparcia rozpozna podejrzane wzorce transakcji, mogą powstać obowiązki zgłoszeniowe według § 43 GwG. AI nie może takich procesów ani oceniać, ani samodzielnie archiwizować.

Również przy reklamacjach naładowanych emocjami modele językowe napotykają naturalną granicę. Gesty handlowe wymagają ludzkiego wyczucia i umiejętności negocjacyjnych, których żadna maszyna nie odtworzy z pewnością prawną. Uporządkowane przejście do specjalistów jest tu jedyną niezawodną drogą. Jak technicznie czysto ustawić ten proces, opisuje przewodnik o przekazaniu do człowieka.

Wsparcie to nie doradztwo inwestycyjne.

Jedna z najostrzejszych linii podziału w sektorze finansowym przebiega między ogólnym wsparciem a doradztwem inwestycyjnym, które wymaga zezwolenia. Zgodnie z § 2 ust. 8 zdanie 1 nr 10 ustawy Wertpapierhandelsgesetz (WpHG) oraz europejskimi dyrektywami MiFID II doradztwo inwestycyjne występuje wtedy, gdy zostaje wydana osobista rekomendacja dotycząca transakcji na określonych instrumentach finansowych, oparta na osobistej sytuacji klienta.

Dla generatywnej AI kryje to poważne ryzyko: jeśli ktoś zapyta na czacie wsparcia o odpowiednią lokatę dla oszczędności, a model językowy sformułuje pozornie pomocną rekomendację konkretnego funduszu ETF albo funduszu akcyjnego, instytucja znajduje się prawnie już w obszarze doradztwa inwestycyjnego. Jeżeli nie dochowano ani oceny odpowiedniości, ani regulacyjnych obowiązków informacyjnych, grożą dotkliwe sankcje nadzorcze.

• Dozwolone we wsparciu: objaśnianie wskaźników, udostępnianie dokumentów zawierających kluczowe informacje (KID), podawanie opłat za zlecenia i miejsc wykonania.
• Zabronione dla AI we wsparciu: wypowiedzi o przyszłych wynikach, rekomendacje kupna albo sprzedaży określonych papierów wartościowych oraz pytania o indywidualną skłonność do ryzyka w celu dobrania produktu.

Agentów wsparcia trzeba wyposażyć w jasne granice systemowe, tak aby reagowali w chwili, gdy sformułowanie zbliża się do doradztwa. Zamiast wydawać ocenę, system rzeczowo odsyła do oficjalnej dokumentacji produktu albo proponuje spotkanie z certyfikowanymi doradcami.

Wiarygodna wiedza. Bez halucynacji AI.

Fałszywe wypowiedzi bota obsługi klienta są uciążliwe w handlu elektronicznym, a w sektorze finansowym stanowią naruszenie zgodności. Tak zwane halucynacje, w których modele językowe generują wiarygodnie brzmiące, lecz rzeczowo błędne odpowiedzi z luźno skojarzonych danych treningowych, da się wykluczyć tylko dzięki ściśle deterministycznej architekturze wiedzy.

Standardem instytucji finansowych jest generowanie wspomagane wyszukiwaniem (RAG). Model językowy nie występuje wtedy jako swobodny autor, lecz wyłącznie jako inteligentny pośrednik: przed każdą odpowiedzią system przeszukuje zadbaną wewnętrzną bazę wiedzy, wydobywa istotne fragmenty i formułuje z nich precyzyjną informację. Jeśli w zapisanych dokumentach nie ma jednoznacznej odpowiedzi, system odmawia zgadywania i uruchamia przekazanie do zespołu.

Nieodzownym elementem jest pełna przejrzystość źródeł. Każda wypowiedź agenta musi być przejrzyście powiązana z dokumentem, który ją uzasadnia, zarówno dla klientów, jak i w dzienniku audytu, na przykład z odpowiednim punktem regulaminu albo tabeli opłat. Jak zespoły technicznie zabezpieczają ten mechanizm kontroli, pogłębia artykuł o tym, jak zapobiegać halucynacjom AI we wsparciu.

Płynne przekazanie. Od agenta do zespołu.

Wiarygodny system AI w finansach wyróżnia się nie tym, że odpowiada na każde pytanie, lecz tym, że zna własne granice. Celem nie jest pełna automatyzacja za wszelką cenę, lecz architektura hybrydowa: agent odfiltrowuje zgłoszenia rutynowe, wstępnie porządkuje napływające dane i przekazuje zespołowi wsparcia sprawy złożone albo wrażliwe regulacyjnie, bez zmiany kanału.

Gdy dochodzi do przekazania, klienci nie mogą trafiać do osobnej kolejki ani opisywać swojej sprawy od nowa. Cały dotychczasowy przebieg rozmowy, łącznie z rozpoznanym przez bota zamiarem i istotnymi danymi kontekstowymi, musi być dostępny wprost w systemie zgłoszeń albo we wspólnej skrzynce zespołu wsparcia.

• Kierowanie zgodne z RODO: przetwarzanie i przechowywanie rozmów na serwerach w Unii Europejskiej.
• Brak trenowania modeli: umowne wykluczenie jakiegokolwiek wykorzystania danych klientów do trenowania zewnętrznych modeli bazowych.
• Pełne przeniesienie kontekstu: przekazanie historii czatu ludzkim agentom, aby praca toczyła się dalej bez tarcia.

Platformy takie jak ComLayer pokazują, jak taka architektura działa w praktyce: system jest prowadzony w całości w europejskich centrach danych i odpowiada na pytania klientów wyłącznie ze zweryfikowanych źródeł wiedzy, z dokładnym wskazaniem źródła. Jeśli pytania nie da się bez wątpliwości udokumentować na podstawie dokumentów albo dotyczy ono spraw wrażliwych, takich jak oszustwo czy doradztwo, AI natychmiast przekazuje sprawę wraz z gotową wersją roboczą do wspólnej skrzynki zespołu. Dzięki temu zgodność, ochrona danych i jakość obsługi pozostają przez cały czas pod kontrolą.

Często zadawane pytania