如何在当前和未来的网络安全挑战中有效保护人工智能系统

一本名为……的电子书 Utimaco 出版的《人工智能量子韧性》一书揭示了： 安全风险 被认为是利用组织数据有效采用人工智能的主要障碍。

人工智能的价值高度依赖于…… 数据的数量和质量 组织会积累财富。然而，组织面临着诸多挑战。 安全风险 在构建人工智能模型并使用敏感数据进行训练时，这些风险不仅限于人工智能推理过程中常见的知识产权盗窃等威胁（例如，快速工程）。

该电子书的作者强调，组织必须在人工智能开发和部署的各个阶段管理安全威胁。 他们还指出，各公司有必要主动调整其安全协议，尤其考虑到恶意行为者可能很快就会获得量子计算支持的解密工具。

Utimaco 指出了三大主要威胁领域：

• 训练数据 敌对势力的操纵 这会悄然降低模型性能，但很难察觉。
• 模型提取或复制 这侵犯了知识产权，损害了竞争优势。
• 敏感数据泄露 用于模型训练或推理阶段。

根据该报告， 当前的公钥密码技术预计将在未来十年内变得脆弱不堪。 由于量子计算技术的进步，恶意组织已经开始收集加密数据，企图在强大的量子系统出现后对其进行解密。这使得保护工作变得尤为迫切。 具有长期敏感性的数据集包括人工智能训练数据、财务记录和知识产权。

向抗量子密码学过渡 这将对加密协议、密钥管理、系统互操作性和整体性能产生重大影响。Utimaco 预计此次迁移将耗时数年。

“加密敏捷性”（即在不重新设计整个系统的情况下更改加密算法的能力）被推荐为一种战略方法。 这种方法通常涉及 混合密码学结合已有的加密方法和新的后量子标准，例如由……提出的标准 美国国家标准与技术研究院。

作者还提醒说，仅靠密码学无法解决人工智能安全风险的全部问题。他们提倡部署…… 基于硬件的信任设备 将加密密钥和敏感操作与传统 IT 环境隔离。

对于人工智能开发生命周期，安全措施应涵盖数据摄取、训练、部署和推理阶段。 用于加密数据和对人工智能模型进行数字签名的硬件密钥可以安全地创建并存储在防篡改的边界内。这使得验证成为可能。 模型完整性 在部署之前，推理过程中处理的敏感数据仍受到保护。

专用硬件隔离区可隔离 AI 工作负载，即使是拥有特权的系统管理员也无法在处理过程中访问数据。这些安全模块可以通过一种称为“验证”的过程来验证隔离区的可信状态。 外部认证建立稳健的 “信任链” 从物理硬件到应用层。

基于硬件的密钥管理还会生成防篡改日志。 跟踪访问和加密操作，以帮助组织遵守相关法规，例如： 欧盟人工智能法案。

尽管许多人工智能系统漏洞已被发现，并且有时会被利用， 量子解密带来的威胁虽然并不迫在眉睫，但却具有严重的长期影响。 关于数据安全和基础设施设计，Utimaco 建议：

• 加强安全控制 贯穿人工智能开发和部署的整个生命周期。
• 实施“加密敏捷性” 实现向后量子密码标准的平稳过渡。
• 采用基于硬件的信任机制 凡涉及关键数据或知识产权资产的场合。

图片来源：“凋亡 HeLa 细胞的扫描电子显微镜照片”，由美国国立卫生研究院 (NIH) 提供，并根据以下许可协议获得许可： CC BY-NC 2.0。

想向行业领袖学习更多关于人工智能和大数据方面的知识吗？ 探索 人工智能与大数据博览会该综合性活动在阿姆斯特丹、加利福尼亚和伦敦举行。它是以下活动的一部分： TechEx 并与其他顶级科技会议同期举办。访问他们的网站了解更多信息。 更多详情。

AI 新闻由以下机构为您呈现 TechForge Media如需了解更多即将举行的企业技术活动和网络研讨会，请点击 这里。