Como proteger sistemas de IA de forma eficaz diante dos desafios de cibersegurança atuais e futuros.

Um e-book intitulado O estudo “AI Quantum Resilience”, publicado pela Utimaco, revela que riscos de segurança São considerados o principal obstáculo à adoção eficaz da IA ​​utilizando dados organizacionais.

O valor da IA ​​depende muito de quantidade e qualidade dos dados Uma organização acumula. No entanto, as organizações enfrentam desafios significativos. riscos de segurança Ao construir modelos de IA e treiná-los com dados sensíveis, esses riscos vão além de ameaças comumente destacadas, como o roubo de propriedade intelectual durante os processos de inferência de IA (por exemplo, engenharia reversa).

Os autores do e-book enfatizam que as organizações devem gerenciar as ameaças à segurança em todas as fases de desenvolvimento e implementação da IA. Eles também destacam a necessidade de as empresas adaptarem proativamente seus protocolos de segurança, especialmente considerando que ferramentas de descriptografia baseadas em computação quântica podem em breve estar acessíveis a agentes maliciosos.

A Utimaco identifica três principais áreas de ameaça:

• Dados de treinamento manipulação por adversários Isso degrada sutilmente o desempenho do modelo, mas é difícil de detectar.
• Extração ou cópia de modelo Isso viola os direitos de propriedade intelectual e prejudica a vantagem competitiva.
• Exposição de dados sensíveis Utilizado durante as fases de treinamento ou inferência do modelo.

De acordo com o relatório, Prevê-se que a criptografia de chave pública atual se torne vulnerável na próxima década. Devido aos avanços na computação quântica, grupos maliciosos já estão coletando dados criptografados com a intenção de descriptografá-los quando sistemas quânticos poderosos surgirem. Isso cria uma necessidade urgente de proteção. conjuntos de dados com sensibilidade de longo prazo, incluindo dados de treinamento de IA, registros financeiros e propriedade intelectual.

Transição para criptografia resistente à computação quântica terá um impacto significativo nos protocolos de criptografia, gerenciamento de chaves, interoperabilidade do sistema e desempenho geral. A Utimaco estima que essa migração levará vários anos.

A "criptoagilidade" — a capacidade de alterar algoritmos criptográficos sem redesenhar sistemas inteiros — é recomendada como uma abordagem estratégica. Essa abordagem geralmente envolve criptografia híbrida, combinando métodos de criptografia estabelecidos com novos padrões pós-quânticos, como os propostos por NIST.

Os autores também alertam que a criptografia por si só não consegue abordar todo o espectro de riscos de segurança da IA. Eles defendem a implementação de dispositivos de confiança baseados em hardware Isolar chaves criptográficas e operações sensíveis de ambientes de TI convencionais.

Para os ciclos de vida de desenvolvimento de IA, as medidas de segurança devem abranger as etapas de ingestão de dados, treinamento, implantação e inferência. As chaves de hardware usadas para criptografar dados e assinar digitalmente modelos de IA podem ser criadas e armazenadas com segurança dentro de limites à prova de adulteração. Isso permite a verificação de integridade do modelo antes da implantação, enquanto os dados sensíveis processados ​​durante a inferência permanecem protegidos.

Enclaves de hardware especializados isolam as cargas de trabalho de IA, impedindo que até mesmo administradores de sistema com privilégios elevados acessem os dados durante o processamento. Esses módulos seguros podem verificar o estado de confiança do enclave por meio de um processo chamado atestado externo, estabelecendo uma base sólida 'cadeia de confiança' desde o hardware físico até o nível de aplicação.

O gerenciamento de chaves baseado em hardware também gera registros à prova de adulteração. rastreamento de acesso e operações criptográficas para ajudar as organizações a cumprir regulamentações como a Lei de IA da UE.

Embora muitas vulnerabilidades dos sistemas de IA já sejam conhecidas e, por vezes, exploradas, A ameaça emergente da decriptografia quântica é menos imediata, mas tem sérias implicações a longo prazo. Para segurança de dados e projeto de infraestrutura. A Utimaco recomenda:

• Reforçar os controles de segurança em todo o ciclo de vida de desenvolvimento e implementação de IA.
• Implementando 'criptoagilidade' para permitir uma transição tranquila para os padrões criptográficos pós-quânticos.
• Adoção de mecanismos de confiança baseados em hardware sempre que estiverem envolvidos dados críticos ou ativos de propriedade intelectual.

Fonte da imagem: “Micrografia eletrônica de varredura de uma célula HeLa apoptótica”, dos Institutos Nacionais de Saúde (NIH), licenciada sob CC BY-NC 2.0.

Tem interesse em aprender mais sobre IA e big data com líderes do setor? Explore o Exposição de IA e Big Data, realizado em Amsterdã, Califórnia e Londres. Este evento abrangente faz parte de TechEx e realizada em conjunto com outras importantes conferências de tecnologia. Visite o site deles para mais informações. Mais detalhes.

Notícias de IA são trazidas a você por TechForge MediaPara conferir outros eventos e webinars sobre tecnologia empresarial que estão por vir, clique aqui. aqui.