美国财政部发布面向金融机构的综合性人工智能风险指南，以加强安全性

美国财政部 已发布一系列 关键文件 专为美国金融服务行业量身定制。这些概述了…… 人工智能风险管理的结构化方法 在运营和政策方面（参见小标题） “资源和下载” （在链接页面的底部附近）。其核心是 CRI金融服务人工智能风险管理框架（FS AI RMF）并附有详细的 指南该框架是 100 多家金融机构、监管机构和技术专家合作的成果，旨在帮助企业识别、评估、管理和治理人工智能相关风险，同时促进负责任的人工智能应用。

特定行业的AI风险管理 这一点至关重要，因为传统的治理框架无法完全解决诸如此类的问题。 算法偏差， 人工智能决策透明度有限， 网络安全漏洞， 和 复杂的相互依存关系 系统与数据之间存在着问题。特别是大型语言模型（LLM），由于其输出结果不可预测且依赖于上下文，因此引发了诸多担忧。

尽管现有的法规和通用人工智能风险框架，例如 NIST人工智能风险管理框架 虽然提供了广泛的指导，但它们缺乏金融机构在应对特定行业挑战和监管预期时所需的细化细节。FS AI RMF 对 NIST 进行了扩展。 实际控制 以及量身定制的实施建议。

FS AI RMF 的核心组件

该框架将人工智能治理与金融机构现有的治理、风险和合规 (GRC) 流程相结合。其特点包括：

• 人工智能采用阶段问卷： 评估组织当前的人工智能成熟度。
• 风险与控制矩阵： 根据采用阶段，制定风险声明和控制目标。
• 指南： 框架应用的详细说明。
• 控制目标参考指南： 提供控制措施示例和证据以证明合规性。

该框架定义了 230个控制目标 根据 NIST 的数据，分为四个功能组： 治理， 地图， 措施， 和 管理每个功能都包含描述有效人工智能风险管理要素的类别和子类别。

评估人工智能成熟度阶段

采用情况调查问卷可以帮助企业确定其人工智能部署状态，而不同企业之间的部署状态可能差异很大：

• 初期： 人工智能尚未进行实际部署，大多仍在考虑之中。
• 最低阶段： 人工智能的应用应仅限于低风险或孤立应用场景。
• 演进阶段： 部署更复杂的人工智能系统，这些系统会影响敏感数据或涉及外部服务。
• 嵌入式舞台： 人工智能在核心业务流程和决策中发挥着重要作用。

通过这种方式对公司进行分类，可以使其专注于与其成熟度相关的控制措施——早期机构不需要立即实施全面的控制措施，但随着人工智能应用的深入，该框架会增加进一步的保障措施来应对不断增加的风险。

风险控制和治理

控制目标涵盖治理和运营领域，例如：

• 数据质量管理
• 公平性和偏见监测
• 网络安全控制
• 人工智能决策过程的透明度
• 运营韧性

这 指南 提供样本控制措施和证据示例以支持合规性，但每个机构都必须根据自身独特的情况调整控制措施。

此外，该框架还建议 专门的人工智能事件响应计划 并保持 集中式人工智能事件存储库 持续跟踪故障、协助检测并改进治理。

可信赖人工智能的原则

FS AI RMF 包含以下基本原则： 有效性、可靠性、安全性、保障性、问责制、透明度、可解释性、隐私保护和公平性这些指导原则贯穿人工智能的整个生命周期进行评估，以确保输出可靠、系统能够抵御网络威胁，并且决策可解释——尤其是在出现监管或客户影响时。

领导者的战略指导

对于全球金融机构的高管而言，《金融服务人工智能风险管理框架》（FS AI RMF）提供了一份将人工智能治理融入现有风险管理流程的路线图。它强调技术团队、风险官、合规专家和业务部门之间需要密切协调，以有效治理人工智能。

缺乏健全治理机制而贸然采用人工智能，会带来运营中断、监管处罚和声誉损害的风险。相反，实施清晰且不断完善的治理框架的企业，将增强人们对人工智能部署的信心。

该指南将人工智能风险管理视为一种动态实践，它随着人工智能技术的进步和监管环境的变化而不断发展。各机构必须持续更新其治理和风险评估。

要点： 人工智能的应用和风险治理应齐头并进。《金融服务人工智能风险管理框架》（FS AI RMF）提供了一项…… 通用语言和结构 负责任地管理人工智能不断演变的风险。

（图片来源：“法律书籍”，作者 seychelles88，根据 CC BY-NC-SA 2.0 许可协议发布。）

有兴趣向人工智能和大数据行业的领军人物学习吗？

请查看 人工智能与大数据博览会 本次综合性会议是以下活动的一部分，这些活动分别在阿姆斯特丹、加利福尼亚和伦敦举行： TechEx 并与其他顶级科技展会同期举办。欲了解详情，请点击 这里。

AI News 由 AI 提供支持 TechForge Media探索即将举行的企业技术活动和网络研讨会 这里。