Cómo proteger eficazmente los sistemas de IA ante los desafíos actuales y futuros de la ciberseguridad.

Un libro electrónico titulado “AI Quantum Resilience”, publicado por Utimaco, revela que riesgos de seguridad Se consideran el principal obstáculo para la adopción efectiva de la IA mediante el uso de datos organizacionales.

El valor de la IA depende en gran medida de la cantidad y calidad de los datos Una organización acumula. Sin embargo, las organizaciones se enfrentan a desafíos significativos. riesgos de seguridad al crear modelos de IA y entrenarlos con datos confidenciales. Estos riesgos van más allá de las amenazas comúnmente mencionadas, como el robo de propiedad intelectual durante los procesos de inferencia de IA (por ejemplo, ingeniería de mensajes).

Los autores del libro electrónico hacen hincapié en que las organizaciones deben gestionar las amenazas a la seguridad en todas las fases del desarrollo y la implementación de la IA. También señalan la necesidad de que las empresas adapten de forma proactiva sus protocolos de seguridad, especialmente teniendo en cuenta que las herramientas de descifrado basadas en computación cuántica pronto podrían ser accesibles a agentes malintencionados.

Utimaco identifica tres áreas principales de amenaza:

• datos de entrenamiento manipulación por parte de los adversarios que degrada sutilmente el rendimiento del modelo, pero que es difícil de detectar.
• Extracción o copia del modelo que viola los derechos de propiedad intelectual y socava la ventaja competitiva.
• Exposición de datos sensibles Se utiliza durante las fases de entrenamiento o inferencia del modelo.

Según el informe, Se prevé que la criptografía de clave pública actual se vuelva vulnerable en la próxima década. Debido a los avances en la computación cuántica, grupos maliciosos ya están recopilando datos cifrados con la intención de descifrarlos una vez que surjan sistemas cuánticos potentes. Esto crea una necesidad urgente de proteger conjuntos de datos con sensibilidad a largo plazo, incluyendo datos de entrenamiento de IA, registros financieros y propiedad intelectual.

Transición a la criptografía resistente a la computación cuántica Esto tendrá un impacto significativo en los protocolos de cifrado, la gestión de claves, la interoperabilidad del sistema y el rendimiento general. Utimaco estima que esta migración llevará varios años.

La "criptoagilidad" —la capacidad de cambiar los algoritmos criptográficos sin rediseñar sistemas completos— se recomienda como enfoque estratégico. Este enfoque a menudo implica criptografía híbrida, combinando métodos de cifrado establecidos con nuevos estándares post-cuánticos, como los propuestos por NIST.

Los autores también advierten que la criptografía por sí sola no puede abordar todo el espectro de riesgos de seguridad de la IA. Abogan por implementar dispositivos de confianza basados ​​en hardware aislar las claves criptográficas y las operaciones sensibles de los entornos informáticos convencionales.

En los ciclos de vida del desarrollo de la IA, las medidas de seguridad deben abarcar las etapas de ingesta de datos, entrenamiento, implementación e inferencia. Las claves de hardware utilizadas para cifrar datos y firmar digitalmente modelos de IA se pueden crear y almacenar de forma segura dentro de límites a prueba de manipulaciones. Esto permite la verificación de integridad del modelo antes de la implementación, mientras que los datos confidenciales procesados ​​durante la inferencia permanecen protegidos.

Los enclaves de hardware especializados aíslan las cargas de trabajo de IA, impidiendo incluso que los administradores de sistemas privilegiados accedan a los datos durante el procesamiento. Estos módulos seguros pueden verificar el estado de confianza del enclave a través de un proceso llamado certificación externa, estableciendo una sólida 'cadena de confianza' desde el hardware físico hasta el nivel de aplicación.

La gestión de claves basada en hardware también genera registros a prueba de manipulaciones. seguimiento del acceso y las operaciones criptográficas para ayudar a las organizaciones a cumplir con regulaciones como la Ley de IA de la UE.

Aunque muchas vulnerabilidades de los sistemas de IA ya son conocidas y a veces explotadas, La amenaza emergente del descifrado cuántico es menos inmediata, pero tiene graves implicaciones a largo plazo. para la seguridad de los datos y el diseño de la infraestructura. Utimaco recomienda:

• Reforzar los controles de seguridad a lo largo de todo el ciclo de vida del desarrollo y la implementación de la IA.
• Implementación de la 'criptoagilidad' para facilitar una transición fluida a los estándares criptográficos post-cuánticos.
• Adopción de mecanismos de confianza basados ​​en hardware siempre que estén en juego datos críticos o activos de propiedad intelectual.

Fuente de la imagen: “Micrografía electrónica de barrido de una célula HeLa apoptótica” de los Institutos Nacionales de Salud (NIH), con licencia de CC BY-NC 2.0.

¿Te interesa aprender más sobre IA y big data de la mano de líderes del sector? Explora el Exposición de IA y Big Data, celebrado en Ámsterdam, California y Londres. Este evento integral forma parte de TechEx y se celebra conjuntamente con otras conferencias tecnológicas de primer nivel. Visite su sitio web para obtener más información. más detalles.

Noticias de IA es presentada por Medios de TechForgePara obtener más información sobre próximos eventos y seminarios web de tecnología empresarial, haga clic aquí. aquí.