Kto odpowiada, gdy AI źle doradzi w obsłudze klienta?

Najważniejsze wnioski

• OLG Hamm, wyrok z 12 maja 2026, sygn. 4 UKl 3/25: prowadzący serwis odpowiada za fałszywe wypowiedzi chatbota, nawet przy poprawnie wprowadzonych danych
• Air Canada musiała zapłacić 812,02 dolara kanadyjskiego, bo chatbot obiecał taryfę żałobną z mocą wsteczną, której regulamin nie przewidywał. Argument, że bot działa samodzielnie, nie obronił się.
• Art. 50 ust. 1 rozporządzenia o AI wymaga od 2 sierpnia 2026, aby ludzie rozpoznawali, że rozmawiają z systemem AI, a nie z człowiekiem.
• Naruszenia art. 50 rozporządzenia o AI mogą być karane kwotą do 15 milionów euro albo 3 procent światowego rocznego obrotu.
• Zatwierdzenie jest skuteczne tylko wtedy, gdy osoba sprawdzająca ma czas i źródło. Skłonność do ufania automatom odbiera wartość potwierdzaniu w ciemno.

Trzy rodzaje błędów. Trzy różne skutki.

Nie każdy błąd AI jest taki sam. W praktyce da się wyróżnić trzy rodzaje, a rodzaj decyduje o tym, jak drogi okaże się błąd i na ile sprawdzania zasługuje. Rodzaj pierwszy: wymyślona cecha produktu. Wyższy Sąd Krajowy w Hamm (OLG Hamm) rozstrzygał sprawę chatbota kliniki, który przedstawiał dwoje lekarzy pozwanej spółki jako specjalistów chirurgii plastycznej i estetycznej oraz jako specjalistów medycyny estetycznej. Takie tytuły specjalisty w tej postaci nie istnieją albo nie są przez tych lekarzy używane. Sąd uznał odpowiedzi za niedozwolone praktyki handlowe przedsiębiorstwa w rozumieniu § 5 Abs. 1, Abs. 2 Nr. 3 UWG (wyrok z 12 maja 2026, sygn. 4 UKl 3/25)¹.

Rodzaj drugi: błędna informacja o terminach albo cenach. Sąd Krajowy w Kilonii (LG Kiel) rozstrzygał sprawę serwisu informacji gospodarczej, którego zautomatyzowana analiza błędnie podała, że powódka zostanie wykreślona z powodu braku majątku. Fałszywa informacja naruszyła dobra osobiste przedsiębiorstwa i uzasadniła roszczenie o zaniechanie wobec prowadzącego serwis (LG Kiel, wyrok z 29 lutego 2024, sygn. 6 O 151/23)². Rodzaj trzeci: obietnica, której nikt nie jest w stanie pokryć. Chatbot Air Canada zasugerował klientowi, że taryfę żałobną można zgłosić później, czego rzeczywisty regulamin nie przewidywał. Civil Resolution Tribunal w Kolumbii Brytyjskiej zasądził od przewoźnika 650,88 dolara kanadyjskiego odszkodowania oraz 36,14 dolara odsetek i 125 dolarów kosztów postępowania, łącznie 812,02 dolara kanadyjskiego³.

Dlaczego to rozróżnienie się liczy: sama informacja może być fałszywa i mimo to nikogo nie wiązać. Obietnica natomiast wiąże cię natychmiast, bo na zewnątrz działa jak oświadczenie twojej firmy. Właśnie dlatego trzy rodzaje błędów wymagają różnej intensywności sprawdzania. Wymyślona cecha to przede wszystkim ryzyko wprowadzenia w błąd i ryzyko konkurencyjne. Błędna informacja o terminie albo cenie przekłada się na stosunki umowne. Obietnica bez pokrycia jest przypadkiem najdroższym, bo trzeba ją spełnić od razu.

• Wymyślona cecha: ryzyko wprowadzenia w błąd i ryzyko konkurencyjne, jak w sprawie nieużywanych tytułów specjalisty przed OLG Hamm¹.
• Błędna informacja o terminach albo cenach: wkracza w istniejące stosunki umowne i może naruszyć cudze prawa, jak w sprawie z Kilonii².
• Obietnica bez pokrycia: wiąże firmę natychmiast, jak obietnica taryfy ze strony chatbota Air Canada³.

Dla twojej codziennej pracy we wsparciu oznacza to: im bliżej odpowiedzi do ceny, terminu albo wiążącej obietnicy, tym wyższy poziom zatwierdzania. Cztery poziomy znajdziesz niżej.

Zasada: bot pracuje dla ciebie.

Żaden z trzech sądów nie pociągnął do odpowiedzialności samej AI. To nie przypadek. System AI nie jest osobą prawną i nie może być podmiotem praw ani obowiązków. Odpowiedzialność zawsze sprowadza się do tego, kto prowadzi system na własny rachunek. Dokładnie tak, niezależnie od siebie, ujęły to trzy rozstrzygnięcia z dwóch porządków prawnych: dwa w Niemczech i jedno w Kanadzie.

OLG Hamm potraktował odpowiedzi chatbota jako praktyki handlowe samej pozwanej. Spółka podniosła, że błędnych odpowiedzi nie da się jej przypisać jako własnej praktyki handlowej. Sąd tego nie podzielił: nawet gdyby pozwana kazała zaprogramować bota wyłącznie na poprawnych zbiorach danych, ponosiłaby odpowiedzialność za fałszywe informacje. Chatbot nie jest też osobą trzecią w rozumieniu ustawy, dlatego odwołanie się do przesłanek obowiązku zapewnienia bezpieczeństwa było wyłączone¹.

LG Kiel oparł się na wcześniejszej decyzji biznesowej: kto świadomie posługuje się własnym oprogramowaniem, żeby wytwarzać informacje, odpowiada jako bezpośredni naruszyciel za w pełni zautomatyzowany wynik. Sąd napisał dosłownie, że pozwana nie może zasłaniać się nieuczestniczeniem w tym automatycznym procesie, skoro świadomie posłużyła się sztuczną inteligencją².

A trybunał w Kolumbii Brytyjskiej odrzucił argument, że chatbot jest odrębnym podmiotem prawa, odpowiedzialnym za własne działania. W rozstrzygnięciu czytamy, że chatbot ma wprawdzie element interaktywny, ale nadal pozostaje tylko częścią strony Air Canada i że nie ma różnicy, czy informacja pochodzi ze strony statycznej, czy od chatbota³.

Co z tego jest tekstem ustawy, a co wykładnią? Tekst ustawy brzmi: § 280 Abs. 1 BGB: jeżeli dłużnik narusza obowiązek wynikający ze stosunku zobowiązaniowego, wierzyciel może żądać naprawienia wynikłej stąd szkody. Nie dotyczy to sytuacji, w której dłużnik za naruszenie nie odpowiada⁴. Ta norma to typowa umowna podstawa roszczenia, gdy błędna informacja ze wsparcia szkodzi klientom. To, że informacja AI jest przypisywana prowadzącemu system jako jego własne oświadczenie, jest natomiast wykładnią wyprowadzoną z powołanych orzeczeń, a nie dosłownym tekstem ustawy. I uwaga na wstępie: ten artykuł nie jest poradą prawną, lecz orientacją dla codziennej pracy we wsparciu.

Oznaczanie. Obowiązek od sierpnia 2026.

Od 2 sierpnia 2026 obowiązuje w UE wymóg przejrzystości, który wiele zespołów wsparcia zauważa późno. Artykuł 50 ustęp 1 rozporządzenia o AI wymaga, aby systemy AI przeznaczone do bezpośredniej interakcji z osobami fizycznymi były zaprojektowane tak, aby osoby te były informowane, że mają do czynienia z systemem AI. Obowiązek nie ma zastosowania, gdy jest to oczywiste z okoliczności dla osoby dostatecznie poinformowanej, uważnej i rozsądnej⁵. Data rozpoczęcia stosowania wynika z artykułu 113 rozporządzenia⁶.

IHK Szlezwik-Holsztyn daje przy tym praktyczną wskazówkę: informacja powinna pojawiać się od razu na początku komunikacji, a nie dopiero w regulaminie albo w polityce prywatności. Jako możliwe sformułowania IHK podaje zdania w rodzaju: komunikujesz się z systemem AI. Albo: ten chatbot odpowiada na twoje zapytanie z pomocą sztucznej inteligencji⁶.

Naruszenia artykułu 50 mogą być karane grzywną do 15 milionów euro albo, w przypadku przedsiębiorstw, do trzech procent światowego rocznego obrotu. Miarodajna jest kwota wyższa, a w przypadku MŚP niższa⁷⁶.

• Informacja na początku rozmowy, nie w regulaminie⁶.
• Wyjątek tylko wtedy, gdy udział AI jest oczywisty dla osób korzystających⁵.
• Grzywny do 15 milionów euro albo trzy procent światowego rocznego obrotu, obowiązuje kwota wyższa⁶.

W praktyce znaczy to: informacja o oznaczeniu należy do samego okna czatu, widoczna przy pierwszym kontakcie. Wzmianka w stopce strony nie wystarczy. Oznaczanie zresztą nie chroni przed odpowiedzialnością za fałszywe treści. Spełnia własny obowiązek i tworzy jasność co do tego, czyim oświadczeniem jest odpowiedź: twoim.

Bez zapisu nie ma obrony.

Gdy zdarzy się błąd, nie rozstrzyga pytanie, czy się zdarzył. Rozstrzyga to, czy potrafisz go odtworzyć. Dopiero zapis rozmowy, wskazanego źródła i przekazania pozwala sprawdzić, co AI odpowiedziała, kiedy i na jakiej podstawie. Bez tego zapisu w sporze opierasz się na twierdzeniach, a twierdzenia nie są obroną.

Trzy rzeczy muszą pozostać możliwe do odtworzenia. Po pierwsze sama rozmowa: jakie pytanie padło, jaka odpowiedź została udzielona i kiedy. Po drugie źródło: z jakiego artykułu wiedzy albo dokumentu AI odpowiedziała, albo czy źródła w ogóle nie było. Po trzecie przekazanie: kiedy i dlaczego system przekazał sprawę człowiekowi, albo właśnie tego nie zrobił, choć powinien.

Do tego dochodzi samo zatwierdzenie. IHK zaleca dokumentowanie, kto sprawdził treści i kto odpowiada za końcowe zatwierdzenie⁶. Przenieś to na wsparcie: przy każdej odpowiedzi zatwierdzonej przez człowieka powinno być jasne, kto sprawdzał i na jakich źródłach. W sporze to właśnie różnica między procesem możliwym do odtworzenia a luką.

• Zapisuj całą rozmowę: pytanie, odpowiedź, moment.
• Zapisuj razem z nią wskazane źródło: który artykuł wiedzy, który dokument, albo brak źródła.
• Dokumentuj przekazania: kiedy, dlaczego, do kogo.
• Dokumentuj zatwierdzenia: kto sprawdził i dopuścił⁶.

Słowo o okresach przechowywania: jak długo musisz trzymać rozmowy i zapisy, zależy od twoich obowiązków ustawowych i umownych, na przykład z zakresu ochrony danych i prawa handlowego. Świadomie nie podajemy tu konkretnego terminu, bo właściwy czas zależy od przypadku. Ureguluj to świadomie, na piśmie, i uzgodnij z osobą odpowiedzialną za ochronę danych. Za krótkie przechowywanie kosztuje cię obronę, za długie kosztuje cię po stronie ochrony danych.

Baza wiedzy jest dźwignią odpowiedzialności.

Najczęstszym źródłem błędu nie jest model. Jest nim wiedza nieaktualna albo sprzeczna. Agent AI, który odpowiada z bazy wiedzy, jest tyle wart, ile artykuły, pliki PDF i strony, które mu dajesz. Cena z 2023 roku w pliku PDF, którego nikt nie zaktualizował, jest dla AI tak samo ważnym źródłem jak twoja aktualna strona z cennikiem. Błąd nie powstaje więc w modelu, lecz w twoim utrzymaniu.

Właśnie dlatego wskazanie źródła jest drugą co do ważności dźwignią. Każda odpowiedź, która nazywa swoje źródło, czyni błędy możliwymi do znalezienia: twój zespół od razu widzi, który artykuł wygenerował fałszywą wypowiedź, i może go poprawić. Szkoda pozostaje ograniczona do odpowiedzi zasilonych z tego jednego źródła. Odpowiedzi bez źródła są natomiast niemożliwe do sprawdzenia i to właśnie ich nie powinieneś w ogóle dopuszczać.

Lekcja Air Canada pokazuje, czego wskazanie źródła nie uratuje. Air Canada argumentowała, że poprawny regulamin był do przeczytania na stronie. Trybunał to odrzucił: dla Air Canada było oczywiste, że firma odpowiada za wszystkie informacje na swojej stronie, niezależnie od tego, czy pochodzą ze strony statycznej, czy od chatbota³. W przekładzie: poprawny odnośnik obok fałszywej odpowiedzi cię nie chroni. Zgadzać się musi sama odpowiedź.

• Wyznacz odpowiedzialnych: kto utrzymuje ceny, terminy i warunki umowne w bazie wiedzy.
• Wersjonuj artykuły krytyczne: utrzymuj możliwość odtworzenia zmian w cenach, terminach i umowach.
• Aktywnie usuwaj nieaktualne źródła: stary plik PDF w bazie wiedzy to fałszywa informacja z opóźnionym zapłonem.
• Sprawdzaj sprzeczności: jeśli dwa artykuły odpowiadają inaczej na ten sam temat, AI wybierze jeden z nich, a nie ten właściwy.

Proces utrzymania nie wymaga dużej organizacji. Wymaga osób odpowiedzialnych, rytmu i ustalonych priorytetów. Artykuły krytyczne to wszystkie te, które dotyczą ceny, terminu, umowy albo obietnicy. Te trafiają na początek twojej listy kontrolnej, nie na koniec.

Cztery poziomy zatwierdzania na co dzień.

Ze wszystkiego, co powiedziano do tej pory, wynika proste pytanie przy każdej odpowiedzi wsparcia: ile sprawdzania potrzebuje ta treść, zanim wyjdzie. Odpowiedź da się ująć w cztery poziomy. Nie są normą prawną, lecz praktycznym przełożeniem sytuacji odpowiedzialności na codzienność.

1. 01Poziom 1: odpowiedź w pełni automatyczna ze źródłem. Do tematów niekrytycznych, w których źródło daje odpowiedź jednoznacznie: pytania nawigacyjne, ogólne informacje o produkcie, odesłania do dokumentów. AI odpowiada wprost, ze wskazaniem źródła.
2. 02Poziom 2: wersja robocza od AI, człowiek sprawdza i wysyła. Do tematów o średnim ryzyku: AI przedstawia wersję roboczą ze źródłem, człowiek czyta, poprawia i wysyła. Nic nie wychodzi automatycznie.
3. 03Poziom 3: zawsze człowiek przy cenie, terminie, umowie i każdej obietnicy. Te odpowiedzi nigdy nie wychodzą w pełni automatycznie. Redaguje je albo sprawdza i zatwierdza człowiek, mając źródło przed oczami.
4. 04Poziom 4: przekazanie do zespołu, gdy źródło nie wystarcza. Jeśli AI nie znajdzie wiarygodnego źródła, nie odpowiada, lecz przekazuje sprawę człowiekowi. To nie porażka, lecz poziom najbezpieczniejszy.

Przypisanie typowych tematów wygląda tak: status zamówienia, pobranie faktury i dostęp do konta należą do poziomu 1, dopóki źródło jest jednoznaczne. Zwroty i anulowania należą do poziomu 2 albo 3, zależnie od tego, czy w grę wchodzą terminy. Ceny, terminy wypowiedzenia, warunki umowne i każda forma obietnicy, rabatu, gestu handlowego czy warunku szczególnego należą do poziomu 3. A wszystko, na co baza wiedzy nie odpowiada jednoznacznie, należy do poziomu 4.

Słowo ostrzeżenia o skłonności do ufania automatom. Instytut Alexandra von Humboldta do spraw Internetu i Społeczeństwa wskazuje, że ludzie skłonni są zbyt mocno ufać wstępnym decyzjom maszyn, co znane jest jako skłonność do ufania automatom⁸. Przeniesione na wsparcie znaczy to: kliknięcie w zatwierdź, bez przeczytania źródła, nie jest sprawdzeniem. Jest potwierdzeniem. Różnica jest dokładnie tą, która liczy się w sporze.

Dlatego osoba sprawdzająca potrzebuje dwóch rzeczy: czasu i źródła przed oczami. Wersja robocza bez wskazania źródła nie jest do sprawdzenia, a osoba bez czasu nie jest kontrolą. Jeśli twoje procesy zatwierdzania są zbudowane tak, że sprawdzanie idzie szybciej niż czytanie, to nikt naprawdę nie sprawdza. Zaplanuj ten czas, inaczej zatwierdzenie nic nie znaczy.

Przykład z własnej konfiguracji.

Na koniec przykład z własnego warsztatu, nie reklama. Platforma ComLayer to wsparcie z AI z widgetem, Centrum pomocy, wspólną skrzynką i agentem AI, który odpowiada wyłącznie z wiedzy własnej firmy. Agent odpowiada na pytania tylko wtedy, gdy zapisana wiedza daje odpowiedź, i podpiera każdą odpowiedź źródłem. Jeśli wiedza nie wystarcza, nie zgaduje, lecz przekazuje sprawę człowiekowi.

Jak to odwzorowuje się na czterech poziomach zatwierdzania: poziom 1 to automatyczna odpowiedź ze wskazaniem źródła, taka, jaką agent dostarcza standardowo. Poziom 2 to wersja robocza od AI we wspólnej skrzynce: do otwartych pytań gotowa jest propozycja odpowiedzi ze źródłem, twój zespół czyta, poprawia i wysyła. Poziomy 3 i 4 to reguły procesu po twojej stronie: pytania o cenę, termin i umowę ustawiasz w swoim obszarze roboczym tak, aby zawsze szły przez wersję roboczą, a przekazanie przy braku źródła jest technicznym zabezpieczeniem, które odwzorowuje poziom 4.

Czego również ComLayer nie zrobi: nie zdejmie z prowadzącego serwis sprawdzenia treści. Żadne narzędzie nie zdecyduje za ciebie, czy twój artykuł o cenach jest aktualny albo czy obietnica ma pokrycie. To pozostaje twoją odpowiedzialnością i właśnie dlatego zapis, wskazanie źródła i poziomy zatwierdzania są tak ważne. Jak technicznie zapobiegać halucynacjom, opisuje zapobieganie halucynacjom we wsparciu; stronę ochrony danych omawia AI zgodna z RODO w obsłudze klienta.

Częste pytania