IA en el soporte financiero: qué está permitido y qué no

Conclusiones clave

• Los agentes de IA encajan muy bien en las consultas de estado y la ayuda con formularios: en el banco digital suizo Yuh, el chatbot cubre alrededor del 45 % de todas las consultas.
• El artículo 22 del RGPD prohíbe las decisiones exclusivamente automatizadas con efectos jurídicos, por ejemplo el rechazo de un crédito.
• La BaFin advierte del riesgo de discriminación algorítmica y exige una gobernanza de datos estricta en los sistemas de alto riesgo.
• Las reclamaciones y las sospechas de fraude deben pasar al equipo humano para poder rebajar la tensión con rapidez.
• La IA en el soporte no puede prestar asesoramiento de inversión y ha de ceñirse estrictamente a documentos aprobados de antemano por la empresa.

Consultas de estado y formularios. Lo que la IA puede hacer ya.

El uso de la inteligencia artificial en la atención al cliente de las entidades financieras rara vez fracasa por la tecnología, sino por unas competencias regulatorias poco claras. Bancos, aseguradoras y fintechs operan en un entorno en el que una respuesta equivocada genera de inmediato riesgos de responsabilidad o de supervisión. Aun así, existe un amplio conjunto de consultas que puede automatizarse sin reparos jurídicos y sin aprobación humana: la mera transmisión de información.

Ahí entran las preguntas recurrentes sobre horarios, comisiones de mantenimiento, ubicación de oficinas o la duración de una transferencia ordinaria. También la navegación hacia documentos, como los formularios de exención, los cambios de domicilio o los poderes de representación, encaja perfectamente con un agente de IA. Mientras el sistema se limite a citar y explicar condiciones existentes, públicas o pactadas por contrato, no entra en juego ninguna obligación de asesoramiento.

La práctica muestra la magnitud de esta palanca. Un estudio de la Universidad de Ciencias Aplicadas de Lucerna (HSLU) sobre la atención al cliente de 61 bancos suizos describe, con el ejemplo del banco digital Yuh, que su chatbot cubre hoy alrededor del 45 % de todas las consultas, según Yuh de forma especialmente fiable en asuntos estándar sobre funciones, precios y temas generales¹. Para los equipos de soporte eso supone un alivio considerable de las tareas rutinarias, siempre que una IA conforme al RGPD acceda a fuentes de conocimiento limpias.

El límite duro. El artículo 22 del RGPD.

El límite jurídico de la automatización empieza donde la información se convierte en decisión. El art. 22(1) del Reglamento General de Protección de Datos (RGPD) formula una prohibición inequívoca: toda persona tiene derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos sobre ella o la afecte significativamente de modo similar.

Para las entidades financieras esto supone en la práctica una prohibición estricta de la ejecución autónoma por IA en los procesos críticos. Un agente de IA no puede rechazar por su cuenta una solicitud de crédito, ni negar la indemnización de un siniestro, ni cancelar unilateralmente una cuenta corriente. Aunque los modelos de riesgo sugieran un rechazo en segundo plano, la decisión jurídica final debe seguir siendo revisable por una persona o tomarse directamente por el personal.

• Efecto jurídico: un contrato no llega a celebrarse, se resuelve o se deniegan prestaciones de forma definitiva. Aquí se aplica la prohibición de los procesos exclusivamente automatizados del art. 22(1) RGPD.
• Afectación significativa: las restricciones financieras, como la reducción de una línea de crédito o el bloqueo de funciones de la cuenta, exigen sin excepción mecanismos de control humano.
• Derechos de las personas: conforme al art. 22(3) RGPD, las entidades deben garantizar que la clientela pueda obtener la intervención de una persona, expresar su punto de vista e impugnar la decisión.

Las excepciones del art. 22(2) RGPD solo se aplican cuando la decisión automatizada es necesaria para la celebración o la ejecución de un contrato, está autorizada por el Derecho o se basa en un consentimiento explícito. Incluso entonces siguen siendo obligatorias las salvaguardias acompañantes, como el derecho a una revisión manual.

Equidad y sesgo. Lo que exige la BaFin.

Más allá de la protección de datos, la supervisión financiera impone requisitos estrictos a la gobernanza operativa. La Autoridad Federal de Supervisión Financiera (BaFin) subraya que los requisitos generales de organización y de gestión de riesgos del § 25a de la Kreditwesengesetz (KWG) y del § 23 de la Versicherungsaufsichtsgesetz (VAG) se aplican sin restricciones a los algoritmos y a los sistemas de IA². Las entidades deben poder demostrar en todo momento cómo llegan los sistemas automatizados a sus resultados.

Un riesgo central está en los sesgos inconscientes dentro de los datos de entrenamiento y de contexto. Si se asumen datos históricos sin criterio, aparece el peligro de una discriminación directa o indirecta de grupos protegidos según la Allgemeines Gleichbehandlungsgesetz (AGG), por ejemplo por edad, sexo u origen étnico. Si un sistema de IA valora las consultas de forma sistemáticamente distinta según el patrón lingüístico o el lugar de residencia, la supervisión interviene.

• Clasificación de riesgo: el Reglamento europeo de IA clasifica como sistemas de alto riesgo los sistemas de IA destinados a evaluar la solvencia o a la evaluación de riesgos en los seguros de vida y de salud.
• Gobernanza de datos: los datos de entrenamiento y de conocimiento deben mantenerse representativos, sin errores y libres de rasgos discriminatorios inadmisibles.
• Obligaciones de transparencia: para los chatbots de soporte rigen deberes claros de identificación, entre ellos los que fija el artículo 50 del Reglamento de IA para los sistemas que interactúan con personas.

Para la atención al cliente se deriva de ahí una regla clara: un agente de IA no puede ofrecer condiciones dinámicas en el chat sobre la base de una puntuación opaca de la clientela. Tiene que entregar a todo el mundo hechos idénticos y trazables, extraídos de los mismos documentos verificados.

Reclamaciones y sospechas. Cuándo toma el relevo la persona.

Hay situaciones en el día a día financiero en las que automatizar no solo es inadecuado, sino negligente. Afecta sobre todo a los incidentes de seguridad, las sospechas de fraude y las reclamaciones formales ante el supervisor. En esos momentos, unos minutos de tiempo de reacción deciden a menudo entre un daño económico y una reprimenda de la autoridad.

Cuando una clienta comunica un caso de phishing, cargos no autorizados o la pérdida de sus credenciales de acceso, ninguna IA debe entrar en bucles de diálogo que consuman tiempo. Aquí se activan los protocolos de emergencia: bloqueo de tarjetas y accesos y traslado inmediato a equipos especializados en fraude. Lo mismo vale para las sospechas conforme a la Geldwäschegesetz (GwG). Si una persona del equipo de soporte detecta patrones de transacción sospechosos, pueden activarse deberes de comunicación según el § 43 GwG. Una IA no puede valorar ni archivar por su cuenta esos procesos.

También en las reclamaciones cargadas de emoción los modelos de lenguaje chocan con un límite natural. Las decisiones de buena voluntad exigen criterio humano y capacidad de negociación, algo que ninguna máquina puede reproducir con seguridad jurídica. La transición estructurada hacia personas especializadas es aquí el único camino fiable. Cómo se monta ese proceso de forma técnicamente limpia lo describe la guía sobre el traspaso a una persona.

El soporte no es asesoramiento de inversión.

Una de las líneas divisorias más nítidas del sector financiero separa el soporte general del asesoramiento de inversión, que requiere autorización. Según el § 2, apartado 8, frase 1, número 10 de la Wertpapierhandelsgesetz (WpHG) y las directivas europeas MiFID II, hay asesoramiento de inversión en cuanto se emite una recomendación personal sobre operaciones con instrumentos financieros concretos que se apoya en las circunstancias personales de la clientela.

Para la IA generativa esto encierra un riesgo considerable: si una persona pregunta en el chat de soporte por una forma adecuada de invertir sus ahorros y el modelo de lenguaje formula una recomendación aparentemente útil sobre un ETF o un fondo de renta variable concreto, la entidad se sitúa jurídicamente ya en el terreno del asesoramiento de inversión. Si no se han respetado ni la evaluación de idoneidad ni los deberes regulatorios de información, cabe esperar sanciones supervisoras severas.

• Permitido en el soporte: explicar indicadores, facilitar los documentos de datos fundamentales (KID), indicar comisiones de orden y centros de ejecución.
• Prohibido para la IA de soporte: afirmaciones sobre la rentabilidad futura, recomendaciones de compra o venta de valores concretos y preguntas sobre la tolerancia al riesgo individual para encontrar un producto.

Los agentes de soporte deben instruirse con límites de sistema claros, de modo que intervengan en cuanto la formulación se acerque al asesoramiento. En lugar de dar una valoración, el sistema remite de forma objetiva a la documentación oficial del producto u ofrece una cita con personal asesor certificado.

Conocimiento fiable. Sin alucinaciones de la IA.

Las afirmaciones falsas de un bot de atención al cliente resultan molestas en el comercio electrónico; en el sector financiero son un incumplimiento de cumplimiento normativo. Las llamadas alucinaciones, en las que los modelos de lenguaje generan respuestas plausibles pero objetivamente falsas a partir de datos de entrenamiento asociados libremente, solo se evitan con una arquitectura de conocimiento estrictamente determinista.

El estándar para las entidades financieras es la generación aumentada por recuperación (RAG). El modelo de lenguaje no actúa como redactor libre, sino exclusivamente como intermediario inteligente: antes de cada respuesta, el sistema recorre una base de conocimiento interna y curada, extrae los pasajes relevantes y formula con ellos una información precisa. Si en los documentos guardados no hay una respuesta inequívoca, el sistema se niega a adivinar e inicia el traspaso al equipo.

Un elemento irrenunciable es la transparencia total de las fuentes. Cada afirmación del agente debe estar vinculada de forma transparente con el documento que la sustenta, tanto para la clientela como en el registro de auditoría, por ejemplo con el apartado correspondiente de las condiciones generales o del catálogo de precios. Cómo aseguran técnicamente los equipos ese mecanismo de control lo profundiza el artículo sobre cómo evitar las alucinaciones de la IA en el soporte.

Un traspaso sin costuras. Del agente al equipo.

Un sistema de IA fiable en el ámbito financiero no destaca por responder a todas las preguntas, sino por conocer sus propios límites. El objetivo no es la automatización total a cualquier precio, sino una arquitectura híbrida: el agente filtra las consultas rutinarias, estructura de antemano los datos entrantes y traspasa al equipo de soporte los casos complejos o sensibles desde el punto de vista regulatorio, sin ruptura de medio.

Cuando llega el traspaso, la clientela no debe acabar en una cola aparte ni tener que explicar de nuevo su asunto. Todo el historial de la conversación, incluida la intención detectada por el bot y los datos de contexto relevantes, tiene que estar disponible directamente en el sistema de tickets o en la bandeja de entrada compartida del equipo de soporte.

• Enrutado conforme al RGPD: tratamiento y almacenamiento de las conversaciones en servidores dentro de la Unión Europea.
• Sin entrenamiento de modelos: exclusión contractual de cualquier uso de los datos de la clientela para entrenar modelos base externos.
• Transferencia completa del contexto: traspaso del historial de chat a los agentes humanos para continuar sin fricción.

Plataformas como ComLayer muestran cómo funciona en la práctica una arquitectura así: el sistema se opera íntegramente en centros de datos europeos y responde a las preguntas de la clientela exclusivamente desde fuentes de conocimiento verificadas, con una cita exacta de la fuente. Si una pregunta no puede acreditarse sin dudas a partir de los documentos, o si toca temas sensibles como el fraude o el asesoramiento, la IA traspasa el caso de inmediato, con un borrador ya redactado, a la bandeja de entrada compartida del equipo. Así el cumplimiento, la protección de datos y la calidad del servicio siguen siendo controlables en todo momento.

Preguntas frecuentes