O Departamento do Tesouro dos EUA divulga guia abrangente sobre riscos de IA para instituições financeiras, visando aprimorar a segurança.

O Tesouro dos EUA lançou uma coleção de documentos principais Adaptadas para o setor de serviços financeiros dos EUA. Estas descrevem um abordagem estruturada para gestão de riscos em IA tanto em operações quanto em políticas (ver a subseção) 'Recursos e Downloads' (próximo ao final da página vinculada). Fundamental para isso é o Estrutura de Gestão de Riscos de IA para Serviços Financeiros da CRI (FS AI RMF), acompanhado de um detalhado GuiaEssa estrutura é resultado da colaboração entre mais de 100 instituições financeiras, reguladores e especialistas técnicos, com o objetivo de ajudar as empresas a identificar, avaliar, gerenciar e governar os riscos relacionados à IA, promovendo, ao mesmo tempo, a adoção responsável da IA.

Gestão de riscos de IA específica do setor é crucial porque as estruturas de governança tradicionais não abordam completamente questões como viés algorítmico, transparência limitada na tomada de decisões em IA, vulnerabilidades de segurança cibernética, e interdependências complexas entre sistemas e dados. Particularmente, os grandes modelos de linguagem (LLMs) suscitam preocupações devido à sua saída imprevisível e dependente do contexto.

Embora as regulamentações existentes e as estruturas gerais de risco de IA, como a Estrutura de Gestão de Riscos de IA do NIST Embora ofereçam orientações amplas, carecem do detalhamento necessário para instituições financeiras com desafios específicos do setor e expectativas regulatórias. O FS AI RMF amplia o NIST com controles práticos e aconselhamento personalizado para a implementação.

Componentes principais do FS AI RMF

A estrutura integra a governança de IA aos processos existentes de governança, risco e conformidade (GRC) em instituições financeiras. Ela inclui:

• Questionário do estágio de adoção de IA: Avalia o nível atual de maturidade em IA de uma organização.
• Matriz de risco e controle: Define declarações de risco e objetivos de controle alinhados às etapas de adoção.
• Guia: Instruções detalhadas para aplicar a estrutura.
• Guia de referência para objetivos de controle: Fornece exemplos de controles e evidências para demonstrar a conformidade.

A estrutura define 230 objetivos de controle agrupadas em quatro funções adaptadas do NIST: governar, mapa, medir, e gerenciarCada função contém categorias e subcategorias que descrevem elementos eficazes de gestão de riscos em IA.

Avaliando os estágios de maturidade da IA

O questionário de adoção ajuda as empresas a identificar o seu estado de implementação de IA, que pode variar bastante:

• Etapa inicial: Pouca ou nenhuma implementação operacional de IA, estando a maioria das operações em fase de avaliação.
• Estágio mínimo: Uso limitado de IA em aplicações de baixo risco ou isoladas.
• Estágio em evolução: Implantação de sistemas de IA mais complexos que afetam dados sensíveis ou envolvem serviços externos.
• Estágio incorporado: A IA desempenha um papel significativo nos principais processos e decisões de negócios.

Classificar as empresas dessa forma permite que elas concentrem os controles relevantes para seu nível de maturidade — instituições em estágio inicial não precisam de controles completos imediatamente, mas à medida que o uso de IA se aprofunda, a estrutura adiciona mais salvaguardas para lidar com o aumento do risco.

Controles de risco e governança

Os objetivos de controle abrangem domínios de governança e operacionais, tais como:

• Gestão da qualidade dos dados
• Monitoramento de imparcialidade e viés
• Controles de segurança cibernética
• Transparência dos processos de decisão da IA
• resiliência operacional

O Guia Oferece controles de amostra e exemplos de evidências para apoiar a conformidade, mas cada instituição deve adaptar os controles para se adequarem ao seu contexto específico.

Além disso, a estrutura recomenda planos dedicados de resposta a incidentes de IA e manter um repositório centralizado de incidentes de IA Monitorar falhas, auxiliar na detecção e aprimorar a governança continuamente.

Princípios para uma IA confiável

O FS AI RMF abrange princípios fundamentais, incluindo: validade, confiabilidade, segurança, proteção, responsabilidade, transparência, explicabilidade, proteção da privacidade e imparcialidade.Essas diretrizes orientam a avaliação ao longo de todo o ciclo de vida da IA ​​para garantir que os resultados sejam confiáveis, os sistemas resilientes a ameaças cibernéticas e as decisões explicáveis ​​— especialmente quando houver impacto regulatório ou para o cliente.

Orientações estratégicas para líderes

Para executivos de instituições financeiras em todo o mundo, o FS AI RMF fornece um roteiro para incorporar a governança de IA aos processos de gestão de riscos existentes. Ele enfatiza a forte coordenação entre equipes de tecnologia, gestores de risco, especialistas em compliance e unidades de negócios para governar a IA de forma eficaz.

Adotar IA sem uma governança robusta acarreta riscos de interrupção operacional, penalidades regulatórias e danos à reputação. Por outro lado, empresas que implementam estruturas de governança claras e em constante evolução aumentam a confiança na implantação de IA.

O Guia define a gestão de riscos de IA como uma prática dinâmica, que evolui juntamente com o avanço das tecnologias de IA e as mudanças nos cenários regulatórios. As instituições devem atualizar continuamente sua governança e avaliações de risco.

Ponto principal: A adoção da IA ​​e a governança de riscos devem avançar em conjunto. O FS AI RMF fornece uma linguagem e estrutura comuns Gerir de forma responsável os riscos em constante evolução da IA.

(Fonte da imagem: “Livros de Direito” por seychelles88 está licenciado sob CC BY-NC-SA 2.0.)

Tem interesse em aprender com os líderes do setor de IA e Big Data?

Confira o Exposição de IA e Big Data eventos realizados em Amsterdã, Califórnia e Londres. Esta conferência abrangente faz parte de TechEx e realizada em conjunto com outras importantes feiras de tecnologia. Para obter detalhes completos, clique aqui. aqui.

O AI News é alimentado por TechForge MediaExplore os próximos eventos e webinars sobre tecnologia empresarial. aqui.