IA no suporte financeiro: o que é permitido e o que não é

Conclusões principais

• Os agentes de IA são ideais para informações de estado e ajuda com formulários: no banco digital suíço Yuh, o chatbot cobre cerca de 45 % de todos os pedidos.
• O artigo 22 do RGPD proíbe decisões exclusivamente automatizadas com efeitos jurídicos, por exemplo a recusa de um crédito.
• A BaFin alerta para a discriminação algorítmica e exige uma governação de dados rigorosa nos sistemas de risco elevado.
• As reclamações e as suspeitas de fraude têm de passar para a equipa humana, para que a tensão baixe depressa.
• A IA no suporte não pode prestar consultoria para investimento e tem de ficar estritamente dentro dos documentos aprovados previamente pela empresa.

Estado e formulários. O que a IA pode fazer já.

O uso da inteligência artificial no apoio ao cliente das entidades financeiras raramente falha por causa da tecnologia, mas sim por competências regulamentares pouco claras. Bancos, seguradoras e fintechs trabalham num contexto em que uma resposta errada gera de imediato risco de responsabilidade ou de supervisão. Ainda assim, existe um vasto conjunto de pedidos que pode ser automatizado sem reservas jurídicas e sem aprovação humana: a simples transmissão de informação.

Aí entram as perguntas recorrentes sobre horários, comissões de manutenção de conta, localização de balcões ou a duração de uma transferência normal. A navegação para documentos também se adequa bem aos agentes de IA, por exemplo formulários de isenção, alterações de morada ou procurações. Enquanto o sistema se limitar a citar e explicar condições existentes, públicas ou fixadas por contrato, não surge qualquer dever de aconselhamento.

A prática mostra a dimensão desta alavanca. Um estudo da Escola Superior de Lucerna (HSLU) sobre o apoio ao cliente de 61 bancos suíços descreve, com o exemplo do banco digital Yuh, que o seu chatbot cobre hoje cerca de 45 % de todos os pedidos, segundo a Yuh de forma especialmente fiável em assuntos padrão sobre funções, preços e temas gerais¹. Para as equipas de suporte isso significa um alívio considerável das tarefas de rotina, desde que uma IA conforme ao RGPD recorra a fontes de conhecimento limpas.

O limite duro. O artigo 22 do RGPD.

O limite jurídico da automatização começa onde a informação passa a decisão. O art. 22(1) do Regulamento Geral sobre a Proteção de Dados (RGPD) formula uma proibição inequívoca: o titular dos dados tem o direito de não ficar sujeito a uma decisão tomada exclusivamente com base no tratamento automatizado que produza efeitos jurídicos na sua esfera ou que o afete significativamente de forma semelhante.

Para as instituições financeiras isto significa, na prática, uma proibição estrita da execução autónoma pela IA em procedimentos críticos. Um agente de IA não pode recusar sozinho um pedido de crédito, nem negar a regularização de um sinistro, nem encerrar unilateralmente uma conta à ordem. Mesmo quando os modelos de risco sugerem uma recusa em segundo plano, a decisão jurídica final tem de continuar verificável por uma pessoa ou ser tomada diretamente por colaboradores.

• Efeito jurídico: um contrato não chega a ser celebrado, é resolvido ou as prestações são recusadas em definitivo. É aqui que se aplica a proibição dos processos exclusivamente automatizados do art. 22(1) RGPD.
• Afetação significativa: as restrições financeiras, como a redução de uma linha de crédito ou o bloqueio de funções da conta, exigem sempre mecanismos de controlo humanos.
• Direitos dos titulares dos dados: nos termos do art. 22(3) RGPD, as instituições têm de assegurar que os clientes possam obter a intervenção de uma pessoa, apresentar o seu ponto de vista e contestar a decisão.

As exceções do art. 22(2) RGPD só se aplicam quando a decisão automatizada é necessária para a celebração ou a execução de um contrato, se baseia em disposições legais ou assenta em consentimento explícito. Mesmo então continuam obrigatórias as salvaguardas de acompanhamento, como o direito a uma revisão manual.

Equidade e enviesamento. As exigências da BaFin.

Para além da proteção de dados, a supervisão financeira impõe exigências rigorosas à governação operacional. A Autoridade Federal de Supervisão Financeira (BaFin) sublinha que os requisitos gerais de organização e de gestão de risco do § 25a da Kreditwesengesetz (KWG) e do § 23 da Versicherungsaufsichtsgesetz (VAG) se aplicam sem restrições aos algoritmos e aos sistemas de IA². As instituições têm de conseguir demonstrar a qualquer momento como é que os sistemas automatizados chegam aos seus resultados.

Um risco central está nos enviesamentos inconscientes dentro dos dados de treino e de contexto. Se os dados históricos forem assumidos sem sentido crítico, cresce o perigo de uma discriminação direta ou indireta de grupos protegidos ao abrigo da Allgemeines Gleichbehandlungsgesetz (AGG), por exemplo em razão da idade, do sexo ou da origem étnica. Se um sistema de IA avaliar os pedidos de forma sistematicamente diferente consoante o padrão de linguagem ou o local de residência, a supervisão intervém.

• Classificação de risco: o regulamento europeu da IA classifica como sistemas de risco elevado os sistemas de IA destinados a avaliar a solvabilidade ou à avaliação de riscos nos seguros de vida e de saúde.
• Governação de dados: os dados de treino e de conhecimento têm de ser representativos, isentos de erros e livres de características discriminatórias inadmissíveis.
• Deveres de transparência: aos chatbots de suporte aplicam-se deveres de identificação claros, entre eles os que o artigo 50 do regulamento da IA prevê para os sistemas que interagem com pessoas.

Para o apoio ao cliente decorre daqui uma regra clara: um agente de IA não pode oferecer no chat condições dinâmicas com base numa pontuação opaca dos clientes. Tem de entregar a toda a gente factos idênticos e rastreáveis, retirados dos mesmos documentos verificados.

Reclamações e suspeitas. Quando a pessoa assume.

Há situações do dia a dia financeiro em que automatizar não é apenas desadequado, mas negligente. Isso vale sobretudo para os incidentes de segurança, as suspeitas de fraude e as reclamações formais junto do supervisor. Nesses momentos, alguns minutos de tempo de reação decidem muitas vezes entre um dano financeiro e uma repreensão da autoridade.

Quando uma cliente comunica um caso de phishing, débitos não autorizados ou a perda das credenciais de acesso, nenhuma IA deve conduzir ciclos de diálogo demorados. Aqui entram os protocolos de emergência: bloqueio de cartões e de acessos e encaminhamento imediato para equipas especializadas em fraude. O mesmo vale para as suspeitas ao abrigo da Geldwäschegesetz (GwG). Se uma pessoa do suporte identificar padrões de transação suspeitos, podem ser desencadeados deveres de comunicação nos termos do § 43 GwG. Uma IA não pode avaliar nem arquivar por si própria esses processos.

Também nas reclamações carregadas de emoção os modelos de linguagem encontram um limite natural. Os gestos comerciais exigem discernimento humano e capacidade de negociação que nenhuma máquina consegue reproduzir com segurança jurídica. A passagem estruturada para especialistas humanos é aqui o único caminho fiável. A forma de montar esse processo de modo tecnicamente limpo é descrita no guia sobre a transferência para uma pessoa.

Suporte não é consultoria para investimento.

Uma das linhas divisórias mais nítidas do setor financeiro separa o suporte geral da consultoria para investimento, que carece de autorização. Nos termos do § 2, n.o 8, frase 1, número 10 da Wertpapierhandelsgesetz (WpHG) e das diretivas europeias MiFID II, existe consultoria para investimento assim que é dada uma recomendação pessoal sobre operações com determinados instrumentos financeiros, apoiada nas circunstâncias pessoais do cliente.

Para a IA generativa isto encerra um risco considerável: se alguém perguntar no chat de suporte por uma aplicação adequada para as suas poupanças e o modelo de linguagem formular uma recomendação aparentemente útil sobre um ETF ou um fundo de ações concreto, a instituição encontra-se juridicamente já no campo da consultoria para investimento. Se não foram cumpridas nem a avaliação da adequação nem os deveres regulamentares de informação, são de esperar sanções severas da supervisão.

• Permitido no suporte: explicar indicadores, disponibilizar os documentos de informação fundamental (KID), indicar comissões de ordem e locais de execução.
• Proibido à IA de suporte: afirmações sobre a rendibilidade futura, recomendações de compra ou venda de títulos concretos e perguntas sobre a tolerância individual ao risco para encontrar um produto.

Os agentes de suporte têm de ser instruídos com limites de sistema claros, de modo a intervirem assim que a formulação se aproxima do aconselhamento. Em vez de dar uma apreciação, o sistema remete de forma objetiva para a documentação oficial do produto ou propõe uma marcação com consultores certificados.

Conhecimento fiável. Sem alucinações da IA.

As afirmações falsas de um bot de apoio ao cliente são incómodas no comércio eletrónico; no setor financeiro são uma violação de conformidade. As chamadas alucinações, em que os modelos de linguagem geram respostas plausíveis mas factualmente erradas a partir de dados de treino associados livremente, só se evitam com uma arquitetura de conhecimento estritamente determinista.

O padrão das instituições financeiras é a geração aumentada por recuperação (RAG). O modelo de linguagem não atua como redator livre, mas apenas como intermediário inteligente: antes de cada resposta, o sistema percorre uma base de conhecimento interna e tratada, extrai as passagens relevantes e formula com elas uma informação precisa. Se nos documentos guardados não houver uma resposta inequívoca, o sistema recusa adivinhar e inicia a transferência para a equipa.

Um elemento indispensável é a transparência total das fontes. Cada afirmação do agente tem de estar ligada de forma transparente ao documento que a sustenta, para os clientes e no registo de auditoria, por exemplo à secção correspondente das condições gerais ou da tabela de preços. Como é que as equipas asseguram tecnicamente este mecanismo de controlo é aprofundado no artigo sobre como evitar as alucinações da IA no suporte.

Uma transferência sem falhas. Do agente para a equipa.

Um sistema de IA fiável na área financeira não se distingue por responder a todas as perguntas, mas por conhecer os seus próprios limites. O objetivo não é a automatização total a qualquer preço, mas uma arquitetura híbrida: o agente filtra os pedidos de rotina, estrutura previamente os dados que chegam e passa à equipa de suporte os casos complexos ou sensíveis do ponto de vista regulamentar, sem quebra de meio.

Quando acontece a passagem, os clientes não podem ser empurrados para uma fila separada nem ter de expor de novo o seu assunto. Todo o percurso da conversa até aí, incluindo a intenção identificada pelo bot e os dados de contexto relevantes, tem de estar disponível diretamente no sistema de tickets ou na caixa de entrada partilhada da equipa de suporte.

• Encaminhamento conforme ao RGPD: tratamento e armazenamento das conversas em servidores dentro da União Europeia.
• Sem treino de modelos: exclusão contratual de qualquer utilização dos dados dos clientes para treinar modelos de base externos.
• Transferência completa do contexto: entrega do histórico do chat aos agentes humanos para prosseguir sem atrito.

Plataformas como a ComLayer mostram como uma arquitetura destas funciona na prática: o sistema é operado inteiramente em centros de dados europeus e responde às perguntas dos clientes exclusivamente a partir de fontes de conhecimento verificadas, com indicação exata da fonte. Se uma pergunta não puder ser documentada sem dúvidas a partir dos documentos, ou se tocar temas sensíveis como a fraude ou o aconselhamento, a IA transfere de imediato o caso, com um rascunho já redigido, para a caixa de entrada partilhada da equipa. Assim a conformidade, a proteção de dados e a qualidade do serviço mantêm-se controláveis a todo o momento.

Perguntas frequentes