O ESUN Bank firma parceria com a IBM para desenvolver uma estrutura de governança de IA para o setor bancário.

Banco E.SUN está em parceria com Consultoria da IBM desenvolver regras de governança de IA claras e abrangentes aplicável ao uso de inteligência artificial em instituições bancárias. Esta iniciativa reflete uma transformação mais ampla em todo o setor financeiro, onde a IA é cada vez mais utilizada para detecção de fraudes, avaliação de crédito e automação do atendimento ao cliente.

Os bancos enfrentam desafios críticos de governança em relação à IA: como os modelos de IA devem ser testados antes de entrarem em operação? Quem assume a responsabilidade por erros? E como as instituições podem demonstrar imparcialidade e segurança aos reguladores?

Para enfrentar esses desafios, a colaboração gerou um Estrutura de governança de IA adaptada para operações bancárias. Juntamente com essa estrutura, um Livro branco sobre governança de IA Este documento descreve como as empresas financeiras podem implementar controles internos em torno de sistemas de IA, adaptando-os. normas globais como a Lei de IA da UE e a ISO/IEC 42001 especificamente para conformidade com serviços financeiros.

A estrutura fornece orientações detalhadas sobre:

• Avaliação do modelo pré-implantação e procedimentos de teste
• Monitoramento contínuo e avaliação de desempenho de modelos de IA em produção
• Protocolos de governança de dados e revisão de riscos Adaptado à sensibilidade dos dados bancários.

O E.SUN Bank pretende que esta estrutura permita às instituições Implantar tecnologias de IA, mantendo estruturas de governança robustas e supervisão regulatória. Muitos bancos atualmente operam com ferramentas de IA limitadas, e a próxima fase envolve a expansão dessas soluções para funções essenciais, como empréstimos e pagamentos, dentro dos limites regulatórios.

A necessidade imperativa dos bancos de gerenciar os riscos da IA

A confiança é a base do setor bancário, e Os reguladores exigem uma tomada de decisão transparente e auditável.Os modelos de IA são frequentemente considerados "caixas-pretas" devido aos seus processos de decisão opacos, o que cria desafios quando usados ​​para aprovações de crédito ou detecção de fraudes. Os órgãos reguladores em todo o mundo têm intensificado a fiscalização desses riscos.

O Lei de IA da União EuropeiaA lei, promulgada em 2024, impõe requisitos rigorosos para sistemas de IA de alto risco no setor financeiro, incluindo avaliações de risco obrigatórias, documentação de dados de treinamento e monitoramento contínuo após a implantação.

De forma similar, ISO/IEC 42001Publicada em 2023, a norma estabelece diretrizes para a criação de sistemas abrangentes de gestão de IA. Essa norma enfatiza a governança, a supervisão e a gestão eficaz de dados em escala organizacional, em vez de se concentrar em modelos isolados.

A colaboração do E.SUN Bank com a IBM incorpora esses parâmetros regulatórios e do setor para demonstrar a implementação prática nos fluxos de trabalho bancários do dia a dia.

De programas piloto à implantação empresarial

Embora o aprendizado de máquina tenha historicamente apoiado a análise de riscos e fraudes, as novas tecnologias de IA estão se expandindo para a automação do atendimento ao cliente e o gerenciamento de documentos. Esse espectro de aplicações ampliado exige... estruturas robustas de governança e gestão de riscos.

A estrutura desenvolvida impõe uma abordagem de ciclo de vida: aprovação do modelo antes do lançamento, juntamente com monitoramento contínuo por equipes multidisciplinares que incluem desenvolvedores, responsáveis ​​pela conformidade e gestores de risco. O white paper que acompanha este documento oferece uma classificação detalhada de sistemas de IA com base nos níveis de risco e prescreve níveis de supervisão personalizados.

Crescente governança da IA ​​nos serviços financeiros

Essa iniciativa do E.SUN Bank está alinhada a uma tendência global de incorporar a governança como pré-requisito para a escalabilidade da IA ​​no setor bancário. De acordo com um Relatório da NVIDIA de 2024Aproximadamente 91% das empresas de serviços financeiros estão avaliando ou utilizando ativamente a IA, principalmente para detecção de fraudes e avaliação de riscos.

Uma pesquisa da Deloitte destaca que mais de 70% das instituições financeiras planejam aumentar os investimentos em IA, com foco principalmente no monitoramento de conformidade e na análise de riscos operacionais. Simultaneamente, órgãos reguladores em diversas regiões emitiram alertas, instando a uma análise mais rigorosa dos sistemas automatizados de tomada de decisão que impactam os processos de crédito e combate à fraude.

Essas pressões levaram os bancos a aprimorar seus sistemas de controle interno, desviando a atenção da precisão dos modelos para incluir a procedência dos dados e a análise comportamental contínua das soluções de IA.

Por que uma governança forte é fundamental para a adoção da IA

O ritmo de expansão do uso de IA pelos bancos está intimamente ligado à clareza da governança. Sem estruturas bem definidas, muitas instituições hesitam em ir além de projetos-piloto. A estrutura desenvolvida pelo E.SUN Bank e pela IBM oferece um roteiro claro para escalar a IA de forma responsável, em conformidade com as exigências regulatórias.

Conforme declarado pela IBM em seu anúncio, a estrutura auxilia as empresas financeiras, permitindo que elas... Gerenciar os riscos da IA ​​de forma eficaz à medida que a adoção cresce..

Esse foco na governança marca uma mudança na IA empresarial — das prioridades iniciais em tecnologia e desempenho para a ênfase na gestão sustentável e contínua, alinhada à tolerância ao risco operacional e à conformidade.

Crédito da foto: Markus Spiske

Artigos relacionados:

• A Manulife integra agentes de IA aos principais fluxos de trabalho financeiros.
• Descubra mais sobre IA e big data com líderes do setor em Exposição de IA e Big Data, realizado em Amsterdã, Califórnia e Londres. Este evento faz parte da TechEx e acontece simultaneamente com outras importantes conferências de tecnologia. Saiba mais aqui.

O AI News é alimentado por TechForge MediaExplore outros eventos e webinars sobre tecnologia empresarial que estão por vir. aqui.