ESUN银行与IBM合作，为银行业开发人工智能治理框架

东方之光银行 正在与……合作 IBM咨询 发展 清晰全面的AI治理规则 适用于银行机构内部人工智能的应用。这项举措体现了 金融领域的更广泛转型人工智能正越来越多地被用于欺诈检测、信用评分和客户服务自动化。

银行在人工智能领域面临着严峻的治理挑战：人工智能模型上线前应该如何测试？谁来承担错误责任？以及机构如何向监管机构证明其公平性和安全性？

为了应对这些挑战，合作已经取得了一项成果。 专为银行业务量身定制的人工智能治理框架除了这个框架之外，还有一个 人工智能治理白皮书 概述了金融公司如何围绕人工智能系统实施内部控制，并进行相应调整。 全球标准，例如欧盟人工智能法案和 ISO/IEC 42001 专门针对金融服务合规。

该框架就以下方面提供了详细指导：

• 部署前模型评估 以及测试程序
• 持续监测和绩效评估 生产环境中的人工智能模型
• 数据治理和风险审查协议 针对银行数据敏感性量身定制

易顺银行希望通过这一框架使各机构能够…… 在部署人工智能技术的同时，保持健全的治理结构和监管监督。许多银行目前使用的AI工具有限，下一阶段需要在监管框架内将这些解决方案扩展到贷款和支付等核心功能中。

银行管理人工智能风险势在必行

信任是银行业的基础， 监管机构要求决策透明、可审计。由于人工智能模型的决策过程不透明，它们经常被视为“黑箱”，这给信贷审批或欺诈检测等应用带来了挑战。全球监管机构已加强对这些风险的审查。

这 欧盟人工智能法案该法案于 2024 年颁布，对金融领域的高风险人工智能系统提出了严格的要求，包括强制性风险评估、训练数据记录和持续的部署后监控。

相似地， ISO/IEC 42001该标准于2023年发布，为创建全面的人工智能管理系统制定了指导方针。该标准强调组织层面的治理、监督和有效的数据管理，而非关注孤立的模型。

东方之星银行与 IBM 的合作，将这些监管和行业基准纳入考量，以展示在日常银行工作流程中的实际应用。

从试点项目到企业部署

虽然机器学习历来主要用于风险和欺诈分析，但更新的人工智能技术正在扩展到客户服务自动化和文档管理领域。这种更广泛的应用范围需要…… 健全的治理和风险管理框架。

该框架采用生命周期方法：模型在发布前需经过审批，并由包括开发人员、合规官和风险管理人员在内的多学科团队进行持续监控。随附的白皮书基于风险等级对人工智能系统进行了深入分类，并提出了相应的监管级别建议。

金融服务业人工智能治理的不断发展

东方之星银行的这项举措与全球趋势相符，即把公司治理作为银行业人工智能规模化发展的先决条件。根据一项研究， 2024 年 NVIDIA 报告约 91% 的金融服务公司正在评估或积极利用人工智能，主要用于欺诈检测和风险评估。

德勤的研究表明，超过70%的金融机构计划加大对人工智能的投资，重点关注合规监控和运营风险分析。与此同时，多个地区的监管机构已发出警告，敦促对影响信贷和反欺诈流程的自动化决策系统进行更严格的审查。

这些压力促使银行加强内部控制系统，将关注点从模型准确性转移到数据来源和人工智能解决方案的持续行为分析。

为什么强有力的治理是人工智能普及的关键

银行扩大人工智能应用的速度与治理清晰度密切相关。缺乏结构化的框架，许多机构在试点项目之外难以推进人工智能的全面应用。E.SUN银行和IBM的框架提供了一个清晰的路线图，帮助银行在遵守监管规定的同时，负责任地扩展人工智能应用。

正如IBM在公告中所述，该框架通过使金融公司能够……来支持它们。 随着人工智能应用的普及，有效管理人工智能风险。

对治理的关注标志着企业人工智能的转变——从早期优先考虑技术和性能，转向强调与运营风险承受能力和合规性相一致的可持续、持续管理。

图片来源： 马库斯·斯皮斯克

相关文章：

• 宏利金融将人工智能代理融入核心金融工作流程
• 向行业领袖了解更多人工智能和大数据方面的知识 人工智能与大数据博览会该活动在阿姆斯特丹、加利福尼亚和伦敦举行。它是TechEx的一部分，并与其他重要的技术会议同期举办。 点击此处了解更多信息。

AI News 由 AI 提供支持 TechForge Media探索其他即将举行的企业技术活动和网络研讨会 这里。