Óscar Barba
Cofundador e CTO da Coinscrap Finance
O papel das fintechs na introdução de algoritmos explicáveis
As main banks’ suppliers, we understand that the opacity of Artificial Intelligence models can generate mistrust and concern among decision-makers in the sector. Risk managers need to comprehend how AI works and what factors influence its outcomes to assess and mitigate associated risks.
A aplicabilidade é fundamental para garantir que as decisões baseadas em modelos de IA sejam justas, éticas e confiáveis. Os bancos devem poder justificar e explicar como as decisões são tomadas e quais informações são usadas para chegar a elas. Isso é especialmente importante quando as decisões podem ter um impacto significativo nos direitos individuais e na segurança financeira das pessoas..
Breve história da IA explicável: conceito e surgimento de uma nova área de estudo
O termo foi cunhado pela Defense Advanced Research Projects Agency (DARPA) em 2016. Segundo explicam em seu site:
“Os novos sistemas de aprendizagem de máquina terão a capacidade de explicar sua justificativa, caracterizar suas forças e fraquezas e transmitir uma compreensão de como se comportarão no futuro. A estratégia para alcançar esse objetivo é desenvolver técnicas de aprendizado de máquina que produzam modelos mais explicáveis.Esses modelos serão combinados com técnicas de interface humano-computador de última geração capazes de traduzir modelos em diálogos de explicação compreensíveis e úteis para o usuário final.”
Além disso, conforme estabelecido no regulamento europeu GDPR (UE, 2016):
“A existência de tomada de decisões automatizada deve conter informações significativas sobre a lógica envolvida, bem como a importância e as consequências previstas desse processamento para o interessado.”
Com essa norma protege os dados do usuário o direito a receber informações significativas sobre a lógica aplicada na tomada de decisões automatizada. Para tal, os cientistas de dados devem conceber modelos exactos e ser capazes de explicar as previsões dos algoritmos de uma forma simples.
Benefícios da aplicabilidade da IA na gestão de riscos bancários
Ao adotar essa tecnologia, os bancos podem impulsionar a inovação e o avanço tecnológico na indústria e alcançar uma gestão de riscos mais eficaz e rentável. Vamos a ver agora quais são exatamente os benefícios-chave para as instituições financeiras:
1. Maior compreensão e confiança no processo
A aplicabilidade da IA proporciona às equipas de gestão de riscos uma compreensão mais profunda de como as decisões são tomadas e quais fatores as influenciam. Isso lhes permite ter uma visão mais clara dos riscos associados e tomar decisões informadas para minimizá-los.
Além disso, a aplicabilidade também ajuda a gerar confiança tanto dentro da organização quanto entre reguladores e clientes.
2. Aumento da inclusão financeira da população
Os modelos de IA podem ser afetados por preconceitos e discriminação, o que pode levar a decisões injustas. A IA explicável permite às equipes de gestão de riscos identificar e abordar esses preconceitos de forma mais eficaz.
Ao compreender quais dados e variáveis influenciam as decisões, as equipes podem ajustar e melhorar os modelos para garantir uma maior equidade e aumentar o número de pessoas bancarizadas , excluídas do sistema sem motivo.
3. Melhoria na tomada de decisões e gestão de riscos
A aplicabilidade da IA fornece ao departamento de risco uma visão mais profunda dos fatores que influenciam as decisões e os resultados. Isso permite tomar decisões informadas e melhorar sua gestão global.
Ao compreender como diferentes dados e variáveis afetam os resultados, as equipes podem ajustar suas estratégias e políticas para otimizar seu desempenho.
4. Cumprimento das regulamentações em vigor a cada momento
A IA explicável é essencial para cumprir os requisitos normativos e legais na indústria bancária. Os reguladores estão exigindo cada vez mais transparência e aplicabilidade nos modelos de IA usados pelos bancos.
Ao implementar modelos de IA explicáveis, as entidades já podem demonstrar um cumprimento normativo impecável, evitando penalidades e multas.
5. Melhoria da experiência do cliente e aumento da satisfação
O uso dessas técnicas também aumenta o engajamento dos usuários bancários. Compreender o processo de tomada de decisões e saber quais fatores as influenciam permite aos clientes ter mais informações sobre os produtos e serviços que contrataram.
Isso cria confiança e transparência na relação banco-usuário, melhorando a satisfação com o serviço e fortalecendo a lealdade à marca.
Você também pode estar procurando como os produtos financeiros estão sendo aprimorados por meio da IA
Implementação da aplicabilidade da IA no setor bancário
Depois desta lista de vantagens, está a pensar introduzir a inteligência artificial explicável (XAI) na sua instituição bancária?
Se a resposta for sim, aqui estão alguns passos-chave para começar.
Primeiramente , é crucial estabelecer um quadro de governança de IA que defina os padrões e diretrizes para o desenvolvimento, implementação e monitoramento de modelos de IA na gestão de riscos bancários. Esse quadro deve incluir políticas e procedimentos claros para garantir a transparência e aplicabilidade dos modelos de IA.
Além disso , devemos ter em mente que existem diversas técnicas e ferramentas disponíveis para melhorar a aplicabilidade dos modelos de IA na gestão de riscos bancários. Algumas dessas técnicas incluem o uso de valores de Shapley e análise de sensibilidade para entender a contribuição de diferentes variáveis nas decisões tomadas pelos modelos de IA.
Também é importante capacitar a equipe nos conceitos e técnicas de aplicabilidade da IA. As equipes de gestão de riscos devem entender como os modelos de IA funcionam, quais fatores influenciam suas decisões e como interpretar os resultados. Isso lhes permitirá tomar decisões informadas e explicar os resultados de forma eficaz a outras partes interessadas.
Não esqueçamos que a implementação de modelos de IA explicáveis na gestão de riscos bancários é um processo contínuo. As equipes responsáveis devem monitorar e avaliar regularmente a precisão dos modelos de IA.
Isso lhes permite identificar áreas de melhoria e ajustar os modelos conforme necessário para garantir uma gestão eficaz.
Sobre o autor
Óscar Barba é cofundador e CTO da Coinscrap Finance. Ele é um especialista Scrum Manager com mais de 6 anos de experiência na coleta e análise semântica de dados no setor financeiro, classificação de transações bancárias, deep learning aplicado em sistemas de análise de sentimento do mercado de ações e medição da pegada de carbono associada aos dados transacionais.
Com vasta experiência no setor bancário e de seguros, Óscar está finalizando seu Doutorado em Tecnologia da Informação Atualmente está concluindo seu doutorado em Tecnologias da Informação no campo da Inteligência Artificial. É Engenheiro e Mestre em Engenharia da Computação pela Universidade de Vigo, Mestre em Comércio Eletrônico pela Universidade de Salamanca, Certificado Scrum Manager e Gerenciamento de Projetos pelo CNTG, Certificado em Arquitetura SOA e Serviços Web pela Universidade de Salamanca. Recentemente obteve a certificação ITIL Fundamentals, um reconhecimento das boas práticas na gestão de serviços de TI.
