Chi risponde quando l'IA sbaglia nel supporto clienti?

Punti chiave

• OLG Hamm, sentenza del 12 maggio 2026, causa 4 UKl 3/25: chi gestisce il sistema risponde delle affermazioni false del chatbot, anche con dati inseriti correttamente
• Air Canada ha dovuto pagare 812,02 dollari canadesi perché il chatbot aveva promesso una tariffa lutto richiedibile a posteriori, che la politica non prevedeva. L'argomento secondo cui il bot fosse autonomo non ha retto.
• L'art. 50, par. 1, del regolamento sull'IA richiede, dal 2 agosto 2026, che le persone riconoscano quando parlano con un sistema di IA e non con un essere umano.
• Le violazioni dell'art. 50 del regolamento sull'IA possono essere sanzionate fino a 15 milioni di euro o al 3 per cento del fatturato annuo mondiale.
• Un'approvazione è efficace solo se chi verifica ha tempo e ha la fonte. Il bias di automazione rende priva di valore la conferma alla cieca.

Tre tipi di errore. Tre conseguenze diverse.

Non tutti gli errori dell'IA sono uguali. Nella pratica se ne distinguono tre tipi, e il tipo decide quanto costa l'errore e quanta verifica merita. Il primo tipo: una caratteristica di prodotto inventata. La Corte d'appello di Hamm (OLG Hamm) doveva decidere sul chatbot di una clinica che presentava i due medici della società convenuta come specialisti in chirurgia plastica ed estetica e come specialisti in medicina estetica. Quei titoli di specializzazione non esistono in questa forma oppure non sono portati dai medici. Il giudice ha qualificato le risposte come pratiche commerciali illecite dell'impresa ai sensi del § 5 Abs. 1, Abs. 2 Nr. 3 UWG (sentenza del 12 maggio 2026, causa 4 UKl 3/25)¹.

Il secondo tipo: un'informazione errata su termini o prezzi. Il Tribunale di Kiel (LG Kiel) doveva decidere su un servizio di informazioni economiche la cui analisi automatizzata aveva comunicato per errore che l'attrice sarebbe stata cancellata per mancanza di patrimonio. L'informazione falsa ledeva il diritto della personalità dell'impresa e fondava un'azione inibitoria contro chi gestiva il servizio (LG Kiel, sentenza del 29 febbraio 2024, causa 6 O 151/23)². Il terzo tipo: una promessa che nessuno può coprire. Il chatbot di Air Canada ha prospettato a un cliente la possibilità di richiedere la tariffa lutto in un secondo momento, cosa che la politica reale non prevedeva. Il Civil Resolution Tribunal della Columbia Britannica ha condannato la compagnia al pagamento di 650,88 dollari canadesi di risarcimento, oltre a 36,14 dollari di interessi e 125 dollari di spese, per un totale di 812,02 dollari canadesi³.

Perché la distinzione conta: una semplice informazione può essere falsa e non vincolare comunque nessuno. Una promessa, invece, ti vincola subito, perché verso l'esterno vale come dichiarazione della tua impresa. Proprio per questo i tre tipi di errore richiedono intensità di verifica diverse. Una caratteristica inventata è soprattutto un rischio di concorrenza e di inganno. Un'informazione errata su un termine o un prezzo si ripercuote sui rapporti contrattuali. Una promessa non coperta è il caso più costoso, perché va onorata subito.

• Caratteristica inventata: rischio di inganno e di concorrenza, come nel caso dei titoli di specializzazione non portati davanti all'OLG Hamm¹.
• Informazione errata su termini o prezzi: incide su rapporti contrattuali esistenti e può ledere diritti altrui, come nel caso di Kiel².
• Promessa non coperta: vincola l'impresa immediatamente, come la promessa tariffaria del chatbot di Air Canada³.

Per il tuo lavoro quotidiano nel supporto significa: più una risposta si avvicina a un prezzo, a un termine o a un impegno vincolante, più alto è il livello di approvazione. I quattro livelli sono più sotto.

Il principio: il bot lavora per te.

Nessuno dei tre giudici ha chiamato in causa l'IA stessa. Non è un caso. Un sistema di IA non è una persona giuridica e non può essere titolare né di diritti né di doveri. La responsabilità ricade sempre su chi gestisce il sistema sotto la propria responsabilità. Proprio così l'hanno vista, in modo indipendente, tre decisioni provenienti da due ordinamenti, due in Germania e una in Canada.

L'OLG Hamm ha trattato le risposte del chatbot come pratiche commerciali della convenuta stessa. L'impresa aveva obiettato che le risposte errate non le fossero imputabili come pratica commerciale propria. Il giudice non l'ha seguita: anche se la convenuta avesse fatto programmare il bot esclusivamente con dati corretti, risponderebbe delle indicazioni false. Il chatbot non è nemmeno un terzo ai sensi della legge, ragione per cui era precluso il richiamo ai presupposti di un obbligo di sicurezza¹.

Il LG Kiel si è fondato sulla decisione imprenditoriale a monte: chi si serve volontariamente del proprio software per produrre informazioni risponde come disturbatore diretto dell'output interamente automatizzato. Il giudice ha scritto testualmente che la convenuta non poteva trincerarsi dietro il non aver preso parte a quel processo automatico, perché si era consapevolmente servita di un'intelligenza artificiale².

E il tribunale della Columbia Britannica ha respinto l'argomento secondo cui il chatbot sarebbe un soggetto di diritto separato, responsabile dei propri atti. Nella decisione si legge che un chatbot ha bensì una componente interattiva, ma resta pur sempre solo una parte del sito di Air Canada, e che non fa differenza se l'informazione provenga da una pagina statica o da un chatbot³.

Che cosa di tutto questo è testo di legge e che cosa interpretazione? Il testo di legge dice: § 280 Abs. 1 BGB: se il debitore viola un obbligo derivante dal rapporto obbligatorio, il creditore può chiedere il risarcimento del danno che ne deriva. Ciò non vale se il debitore non risponde della violazione⁴. Questa norma è il tipico fondamento contrattuale della pretesa quando un'informazione errata del supporto danneggia la clientela. Che un'informazione dell'IA venga imputata a chi la gestisce come dichiarazione propria è invece interpretazione ricavata dalle decisioni citate, non testo di legge letterale. E un avviso preliminare: questo articolo non è consulenza legale, ma un orientamento per il lavoro quotidiano nel supporto.

Informativa. Obbligatoria da agosto 2026.

Dal 2 agosto 2026 vale nell'UE un obbligo di trasparenza che molti team di supporto mettono a fuoco tardi. L'articolo 50, paragrafo 1, del regolamento sull'IA richiede che i sistemi di IA destinati a interagire direttamente con persone fisiche siano progettati in modo che tali persone siano informate del fatto che stanno interagendo con un sistema di IA. L'obbligo non vale quando ciò risulta evidente dalle circostanze per una persona ragionevolmente informata, attenta e avveduta⁵. La data di applicazione discende dall'articolo 113 del regolamento⁶.

La IHK dello Schleswig-Holstein dà in proposito un'indicazione pratica: l'avviso dovrebbe comparire subito all'inizio della comunicazione e non soltanto nelle condizioni generali o nell'informativa sulla privacy. Come formulazioni possibili la IHK cita frasi come: stai comunicando con un sistema di IA. Oppure: questo chatbot risponde alla tua richiesta con l'aiuto dell'intelligenza artificiale⁶.

Le violazioni dell'articolo 50 possono essere sanzionate con multe fino a 15 milioni di euro oppure, per le imprese, fino al tre per cento del fatturato annuo mondiale. Vale l'importo più alto; nel caso delle PMI, quello più basso⁷⁶.

• L'avviso all'inizio della conversazione, non nelle condizioni generali⁶.
• Eccezione solo quando il coinvolgimento dell'IA è evidente per chi usa il servizio⁵.
• Multe fino a 15 milioni di euro o al tre per cento del fatturato annuo mondiale, vale l'importo più alto⁶.

In pratica significa: l'avviso va nella finestra di chat stessa, visibile al primo contatto. Un avviso nel piè di pagina del sito non basta. L'informativa, del resto, non protegge dalla responsabilità per contenuti falsi. Assolve un obbligo proprio e chiarisce di chi sia la dichiarazione che costituisce la risposta: tua.

Senza registro nessuna difesa.

Quando accade un errore, non è decisiva la domanda se sia accaduto. Decisivo è se puoi ricostruirlo. Solo con un registro della conversazione, della fonte citata e del passaggio puoi verificare che cosa ha risposto l'IA, quando e su quale base. Senza quel registro, in una controversia ti reggi su affermazioni, e le affermazioni non sono una difesa.

Tre cose devono restare ricostruibili. Primo, la conversazione stessa: quale domanda è stata posta, quale risposta data, quando. Secondo, la fonte: da quale articolo di conoscenza o documento ha risposto l'IA, oppure non c'era alcuna fonte. Terzo, il passaggio: quando e perché il sistema ha passato il caso a una persona, oppure se proprio non lo ha fatto pur dovendo.

A ciò si aggiunge l'approvazione stessa. La IHK raccomanda di documentare chi ha verificato i contenuti e chi si assume l'approvazione finale⁶. Trasferiscilo al supporto: per ogni risposta approvata da una persona dovrebbe essere chiaro chi ha verificato e su quali fonti. In una controversia è questa la differenza fra un processo ricostruibile e una lacuna.

• Registra la conversazione per intero: domanda, risposta, momento.
• Salva insieme la fonte citata: quale articolo di conoscenza, quale documento, oppure nessuna fonte.
• Documenta i passaggi: quando, perché, a chi.
• Documenta le approvazioni: chi ha verificato e dato il via libera⁶.

Una parola sui tempi di conservazione: per quanto tempo devi tenere conversazioni e registri dipende dai tuoi obblighi di legge e contrattuali, per esempio in materia di protezione dei dati e di diritto commerciale. Qui non indichiamo di proposito alcun termine preciso, perché la durata giusta dipende dal caso. Regolala in modo consapevole, per iscritto, e concordala con chi è responsabile della protezione dei dati. Conservare troppo poco ti costa la difesa, conservare troppo a lungo ti costa sul fronte della protezione dei dati.

La base di conoscenza è la leva della responsabilità.

La fonte di errore più frequente non è il modello. È una conoscenza superata o contraddittoria. Un agente IA che risponde da una base di conoscenza vale quanto valgono gli articoli, i PDF e le pagine che gli dai. Un prezzo del 2023 in un PDF che nessuno ha aggiornato è per l'IA una fonte valida quanto la tua pagina prezzi attuale. L'errore non nasce quindi nel modello, ma nella tua manutenzione.

Proprio per questo la citazione della fonte è la seconda leva per importanza. Ogni risposta che nomina la propria fonte rende gli errori individuabili: il tuo team vede subito quale articolo ha prodotto l'affermazione falsa e può correggerlo. Il danno resta limitato alle risposte alimentate da quell'unica fonte. Le risposte senza fonte, invece, non sono verificabili, e sono proprio quelle che non dovresti nemmeno permettere.

La lezione di Air Canada mostra che cosa la citazione della fonte non può salvare. Air Canada ha sostenuto che la politica corretta era consultabile sul sito. Il tribunale l'ha respinto: era evidente per Air Canada che l'impresa risponde di tutte le informazioni presenti sul proprio sito, provengano da una pagina statica o da un chatbot³. Tradotto: un link corretto accanto a una risposta sbagliata non ti protegge. Deve essere giusta la risposta stessa.

• Indica i responsabili: chi cura prezzi, termini e condizioni contrattuali nella base di conoscenza.
• Versiona gli articoli critici: mantieni ricostruibili le modifiche a prezzi, termini e contratti.
• Rimuovi attivamente le fonti superate: un vecchio PDF nella base di conoscenza è un'informazione falsa a scoppio ritardato.
• Verifica le contraddizioni: se due articoli rispondono in modo diverso allo stesso tema, l'IA ne sceglie uno, non quello giusto.

Un processo di manutenzione non ha bisogno di una grande organizzazione. Ha bisogno di responsabili, di un ritmo e di una priorità. Gli articoli critici sono tutti quelli che riguardano un prezzo, un termine, un contratto o una promessa. Quelli vanno in cima alla tua lista di verifica, non in fondo.

Quattro livelli di approvazione per il lavoro quotidiano.

Da tutto quanto detto finora discende una domanda semplice per ogni risposta del supporto: quanta verifica serve a questo contenuto prima che esca? La risposta si lascia riassumere in quattro livelli. Non sono una regola di diritto, ma una traduzione pratica della situazione di responsabilità nel lavoro quotidiano.

1. 01Livello 1: risposta interamente automatica con fonte. Per temi non critici in cui la fonte dà la risposta in modo inequivocabile: domande di navigazione, informazioni generali sul prodotto, rinvii a documenti. L'IA risponde direttamente, citando la fonte.
2. 02Livello 2: bozza dell'IA, una persona verifica e invia. Per temi a rischio medio: l'IA propone una bozza con fonte, una persona la legge, la adatta e la invia. Nulla esce in automatico.
3. 03Livello 3: sempre una persona per prezzo, termine, contratto e ogni promessa. Queste risposte non escono mai in modo interamente automatico. Vengono redatte, oppure verificate e approvate, da una persona, con la fonte davanti agli occhi.
4. 04Livello 4: passaggio al team quando la fonte non basta. Se l'IA non trova una fonte affidabile, non risponde ma passa a una persona. Non è un fallimento, è il livello più sicuro.

L'assegnazione dei temi tipici è questa: stato dell'ordine, download della fattura e accesso all'account stanno al livello 1, finché la fonte è inequivocabile. Resi e disdette stanno al livello 2 o 3, a seconda che siano in gioco dei termini. Prezzi, termini di disdetta, condizioni contrattuali e ogni forma di promessa, sconto, gesto commerciale o condizione particolare stanno al livello 3. E tutto ciò a cui la base di conoscenza non risponde in modo inequivocabile sta al livello 4.

Una parola di avvertimento sul bias di automazione. L'Istituto Alexander von Humboldt per Internet e società segnala che le persone tendono a fidarsi troppo delle decisioni preliminari delle macchine, fenomeno noto come bias di automazione⁸. Trasferito al supporto significa: un clic su approva, senza aver letto la fonte, non è una verifica. È una conferma. La differenza è esattamente quella che conta in una controversia.

Per questo chi verifica ha bisogno di due cose: tempo e la fonte davanti agli occhi. Una bozza senza citazione della fonte non è verificabile, una persona senza tempo non è un controllo. Se i tuoi processi di approvazione sono costruiti in modo che verificare sia più rapido che leggere, allora nessuno verifica davvero. Metti in conto il tempo, altrimenti l'approvazione non vale nulla.

Un esempio dalla nostra configurazione.

Per chiudere, un esempio dalla nostra officina, non una promozione. ComLayer è una piattaforma di supporto con IA con widget, Centro assistenza, Inbox condivisa e un agente IA che risponde esclusivamente a partire dalla conoscenza della tua azienda. L'agente risponde alle domande solo se la conoscenza depositata offre la risposta, e sostiene ogni risposta con la fonte. Se la conoscenza non basta, non tira a indovinare ma passa a una persona.

Come questo si riflette nei quattro livelli di approvazione: il livello 1 è la risposta automatica con citazione della fonte, come l'agente la fornisce di norma. Il livello 2 è la bozza dell'IA nella Inbox condivisa: per le domande aperte è pronta una bozza di risposta con fonte, il tuo team la legge, la adatta e la invia. I livelli 3 e 4 sono regole di processo dalla tua parte: le questioni di prezzo, termine e contratto le imposti nel tuo workspace in modo che passino sempre dalla bozza, e il passaggio in assenza di fonte è il meccanismo tecnico che realizza il livello 4.

Quello che nemmeno ComLayer può fare: togliere a chi lo gestisce la verifica dei contenuti. Nessuno strumento può decidere al posto tuo se il tuo articolo sui prezzi è aggiornato o se una promessa è coperta. Questo resta responsabilità tua, ed è proprio per questo che registro, citazione della fonte e livelli di approvazione contano così tanto. Come si evitano tecnicamente le allucinazioni è spiegato in evitare le allucinazioni nel supporto; il lato della protezione dei dati è trattato in IA conforme al GDPR nel servizio clienti.

Domande frequenti