IA nel supporto finanziario: cosa è permesso e cosa no

Punti chiave

• Gli agenti IA sono ideali per le informazioni di stato e l'aiuto sui moduli: nella banca digitale svizzera Yuh il chatbot copre circa il 45 % di tutte le richieste.
• L'articolo 22 del GDPR vieta le decisioni esclusivamente automatizzate con effetti giuridici, per esempio il rifiuto di un credito.
• La BaFin mette in guardia dalla discriminazione algoritmica e richiede una governance dei dati rigorosa per i sistemi ad alto rischio.
• I reclami e i sospetti di frode devono passare al team umano, perché la tensione si abbassi in fretta.
• L'IA nel supporto non può prestare consulenza in materia di investimenti e deve restare rigorosamente entro i documenti approvati in anticipo dall'azienda.

Stato e moduli. Quello che l'IA può fare subito.

L'impiego dell'intelligenza artificiale nell'assistenza clienti degli operatori finanziari raramente fallisce per la tecnologia: fallisce per competenze regolamentari poco chiare. Banche, assicurazioni e fintech operano in un contesto in cui una risposta sbagliata genera subito un rischio di responsabilità o di vigilanza. Esiste però un ampio insieme di richieste che si può automatizzare senza problemi giuridici e senza approvazione umana: la pura trasmissione di informazioni.

Rientrano qui le domande ricorrenti su orari, spese di tenuta conto, sedi delle filiali o durata di un bonifico ordinario. Anche la navigazione verso i documenti si presta bene agli agenti IA, per esempio i moduli per le esenzioni, i cambi di indirizzo o le deleghe. Finché il sistema si limita a citare e spiegare condizioni esistenti, pubbliche o stabilite per contratto, non scatta alcun obbligo di consulenza.

La pratica mostra quanto sia grande questa leva. Un'indagine della Scuola universitaria professionale di Lucerna (HSLU) sull'assistenza clienti di 61 banche svizzere descrive, con l'esempio della banca digitale Yuh, che il suo chatbot copre oggi circa il 45 % di tutte le richieste, secondo Yuh in modo particolarmente affidabile sui temi standard relativi a funzioni, prezzi e argomenti generali¹. Per i team di supporto significa un alleggerimento notevole dalle attività di routine, a condizione che un'IA conforme al GDPR attinga a fonti di conoscenza pulite.

Il confine netto. L'articolo 22 del GDPR.

Il confine giuridico dell'automazione comincia dove l'informazione diventa decisione. L'art. 22, par. 1, del Regolamento generale sulla protezione dei dati (GDPR) formula un divieto inequivocabile: l'interessato ha il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona.

Per gli istituti finanziari questo comporta in pratica un divieto rigoroso dell'esecuzione autonoma da parte dell'IA nei procedimenti critici. Un agente IA non può respingere da solo una domanda di credito, né rifiutare la liquidazione di un sinistro, né chiudere unilateralmente un conto corrente. Anche quando i modelli di rischio suggeriscono un rifiuto sullo sfondo, la decisione giuridica finale deve restare verificabile da una persona o essere presa direttamente dal personale.

• Effetto giuridico: un contratto non si conclude, viene disdetto oppure le prestazioni vengono negate in via definitiva. Qui vale il divieto dei processi esclusivamente automatizzati dell'art. 22, par. 1, GDPR.
• Incidenza significativa: le limitazioni finanziarie, come la riduzione di una linea di credito o il blocco di funzioni del conto, richiedono senza eccezioni meccanismi di controllo umani.
• Diritti degli interessati: secondo l'art. 22, par. 3, GDPR gli istituti devono garantire che la clientela possa ottenere l'intervento di una persona, esprimere la propria opinione e contestare la decisione.

Le eccezioni dell'art. 22, par. 2, GDPR valgono soltanto se la decisione automatizzata è necessaria per la conclusione o l'esecuzione di un contratto, è autorizzata dal diritto oppure si basa sul consenso esplicito. Anche allora restano obbligatorie le garanzie di accompagnamento, come il diritto a un riesame manuale.

Equità e bias. Quello che chiede la BaFin.

Oltre alla protezione dei dati, la vigilanza finanziaria pone requisiti severi alla governance operativa. L'Autorità federale di vigilanza finanziaria (BaFin) sottolinea che i requisiti generali di organizzazione e di gestione del rischio del § 25a della Kreditwesengesetz (KWG) e del § 23 della Versicherungsaufsichtsgesetz (VAG) valgono senza limitazioni per gli algoritmi e i sistemi di IA². Gli istituti devono poter dimostrare in ogni momento come i sistemi automatizzati arrivano ai loro risultati.

Un rischio centrale sta nelle distorsioni inconsapevoli (bias) all'interno dei dati di addestramento e di contesto. Se i dati storici vengono ripresi senza vaglio critico, cresce il pericolo di una discriminazione diretta o indiretta di gruppi protetti ai sensi dell'Allgemeines Gleichbehandlungsgesetz (AGG), per esempio per età, sesso od origine etnica. Se un sistema di IA valuta le richieste in modo sistematicamente diverso a seconda del registro linguistico o del luogo di residenza, la vigilanza interviene.

• Classificazione del rischio: il regolamento europeo sull'IA classifica come sistemi ad alto rischio i sistemi di IA destinati a valutare il merito creditizio o alla valutazione del rischio nelle assicurazioni vita e malattia.
• Governance dei dati: i dati di addestramento e di conoscenza devono essere rappresentativi, privi di errori e privi di caratteristiche discriminatorie non ammesse.
• Obblighi di trasparenza: per i chatbot di supporto valgono obblighi di segnalazione chiari, tra cui quelli che l'articolo 50 del regolamento sull'IA prevede per i sistemi che interagiscono con le persone.

Per l'assistenza clienti ne discende una regola chiara: un agente IA non può proporre in chat condizioni dinamiche sulla base di uno scoring opaco della clientela. Deve fornire a tutte le persone fatti identici e tracciabili, tratti dagli stessi documenti verificati.

Reclami e sospetti. Quando subentra la persona.

Ci sono situazioni nella quotidianità finanziaria in cui automatizzare non è soltanto inadeguato, ma negligente. Riguarda soprattutto gli incidenti di sicurezza, i sospetti di frode e i reclami formali all'autorità. In quei momenti, pochi minuti di tempo di reazione decidono spesso tra un danno economico e un richiamo della vigilanza.

Quando una cliente segnala un caso di phishing, addebiti non autorizzati o la perdita delle credenziali di accesso, nessuna IA deve avviare lunghi giri di dialogo. Qui scattano i protocolli di emergenza: blocco di carte e accessi e inoltro immediato a team specializzati nelle frodi. Lo stesso vale per i sospetti ai sensi della Geldwäschegesetz (GwG). Se una persona del supporto riconosce schemi di transazione sospetti, possono scattare obblighi di segnalazione ai sensi del § 43 GwG. Un'IA non può né valutare né archiviare da sola tali processi.

Anche sui reclami carichi di emotività i modelli linguistici incontrano un limite naturale. I gesti commerciali richiedono discernimento umano e capacità di trattativa, che nessuna macchina può riprodurre con certezza giuridica. Il passaggio strutturato a specialisti umani è qui l'unica via affidabile. Come impostare tecnicamente questo processo lo descrive la guida al passaggio a una persona.

Il supporto non è consulenza in materia di investimenti.

Una delle linee di separazione più nette del settore finanziario corre tra il supporto generale e la consulenza in materia di investimenti, soggetta ad autorizzazione. Secondo il § 2, comma 8, frase 1, numero 10 della Wertpapierhandelsgesetz (WpHG) e le direttive europee MiFID II, si ha consulenza in materia di investimenti non appena viene data una raccomandazione personale su operazioni relative a determinati strumenti finanziari, fondata sulla situazione personale della cliente o del cliente.

Per l'IA generativa questo comporta un rischio notevole: se una persona chiede nella chat di supporto un investimento adatto ai propri risparmi e il modello linguistico formula una raccomandazione apparentemente utile su un ETF o su un fondo azionario preciso, l'istituto si trova giuridicamente già nel campo della consulenza in materia di investimenti. Se non sono state rispettate né la valutazione di adeguatezza né gli obblighi informativi regolamentari, sono da attendersi sanzioni severe della vigilanza.

• Consentito nel supporto: spiegare indicatori, mettere a disposizione i documenti contenenti le informazioni chiave (KID), indicare le commissioni di ordine e le sedi di esecuzione.
• Vietato all'IA di supporto: affermazioni sul rendimento futuro, raccomandazioni di acquisto o vendita di titoli precisi e domande sulla propensione al rischio individuale per individuare un prodotto.

Gli agenti di supporto vanno istruiti con confini di sistema chiari, in modo da intervenire non appena la formulazione si avvicina alla consulenza. Invece di dare una valutazione, il sistema rinvia in modo fattuale alla documentazione ufficiale del prodotto oppure propone un appuntamento con consulenti certificati.

Conoscenza affidabile. Nessuna allucinazione dell'IA.

Le affermazioni false di un bot di assistenza sono fastidiose nel commercio elettronico; nel settore finanziario sono una violazione della compliance. Le cosiddette allucinazioni, in cui i modelli linguistici generano risposte plausibili ma di fatto sbagliate a partire da dati di addestramento associati liberamente, si evitano soltanto con un'architettura della conoscenza rigorosamente deterministica.

Lo standard per gli istituti finanziari è la generazione aumentata dal recupero (RAG). Il modello linguistico non agisce da redattore libero, ma unicamente da intermediario intelligente: prima di ogni risposta il sistema percorre una base di conoscenza interna e curata, ne estrae i passaggi rilevanti e ne formula un'informazione precisa. Se nei documenti archiviati non c'è una risposta univoca, il sistema rifiuta di indovinare e avvia il passaggio al team.

Un elemento irrinunciabile è la trasparenza completa delle fonti. Ogni affermazione dell'agente deve essere collegata in modo trasparente al documento che la sostiene, per la clientela e nel registro di audit, per esempio alla sezione corrispondente delle condizioni generali o del listino prezzi. Come i team mettono tecnicamente in sicurezza questo meccanismo di controllo lo approfondisce l'articolo su come evitare le allucinazioni dell'IA nel supporto.

Un passaggio senza attriti. Dall'agente al team.

Un sistema di IA affidabile in ambito finanziario non si distingue perché risponde a ogni domanda, ma perché conosce i propri limiti. L'obiettivo non è l'automazione totale a ogni costo, bensì un'architettura ibrida: l'agente filtra le richieste di routine, struttura in anticipo i dati in entrata e passa al team di supporto i casi complessi o sensibili sul piano regolamentare, senza cambio di mezzo.

Quando avviene il passaggio, la clientela non deve finire in una coda separata né dover esporre di nuovo la propria richiesta. L'intero scambio fino a quel momento, comprese l'intenzione riconosciuta dal bot e i dati di contesto rilevanti, deve essere disponibile direttamente nel sistema di ticket o nella Inbox condivisa del team di supporto.

• Instradamento conforme al GDPR: trattamento e conservazione delle conversazioni su server all'interno dell'Unione europea.
• Nessun addestramento dei modelli: esclusione contrattuale di qualsiasi uso dei dati dei clienti per addestrare modelli di base esterni.
• Trasferimento completo del contesto: consegna della cronologia della chat agli agenti umani per proseguire senza attriti.

Piattaforme come ComLayer mostrano come funziona nella pratica un'architettura di questo tipo: il sistema è gestito interamente in data center europei e risponde alle domande della clientela esclusivamente da fonti di conoscenza verificate, con l'indicazione esatta della fonte. Se una domanda non può essere documentata senza dubbi a partire dai documenti, oppure se tocca temi sensibili come la frode o la consulenza, l'IA passa subito il caso, con una bozza già pronta, alla Inbox condivisa del team. Compliance, protezione dei dati e qualità del servizio restano così controllabili in ogni momento.

Domande frequenti