人工智能治理如何保护企业利润率和业务价值

为了保护企业利润率，企业领导者必须投资于 健全的人工智能治理 安全地管理人工智能基础设施。随着人工智能从实验性技术过渡到关键任务基础设施，各组织在安全性、透明度和运营弹性方面面临着前所未有的挑战。

📊 企业软件的演进：从产品到基础设施

在评估企业软件采用情况时，一个反复出现的模式决定了技术在不同行业的成熟过程。正如 Rob Thomas，高级副总裁兼首席商务官 (CCO) 所说…… IBM正如最近概述的那样，软件通常会从独立产品发展成为平台，然后再从平台发展成为…… 基础架构彻底改变管理规则。

在产品开发的初期阶段，严格的公司控制往往给人以极大的优势。封闭的开发环境能够快速迭代，并严格把控最终用户体验。它们将财务价值集中于单一公司实体内部，这种方法在产品开发的早期阶段能够有效运作。

然而，IBM 的分析强调，当一项技术固化为基础层时，人们的预期会发生彻底改变。一旦其他机构框架、外部市场和广泛的运营系统都依赖于该软件，现有的标准就必须适应新的现实。

在基础设施层面，拥抱开放不再是一种意识形态立场，而成为一种…… 高度实用性。

🔐 人工智能跨越基础设施门槛

人工智能目前正跨越企业架构堆栈中的这一门槛。模型正越来越多地直接嵌入到组织保护网络安全、编写源代码、执行自动化决策和创造商业价值的方式中。 人工智能与其说是一种实验性工具，不如说是一种核心运营基础设施。

Anthropic公司近期对其Claude Mythos模型进行的有限预览，使企业高管在风险管理方面更加清晰地认识到这一现实。Anthropic公司报告称，该特定模型 能够发现和利用软件漏洞 达到了少数人类专家的水平。

从IBM的角度来看，这一发展迫使技术主管们直面迫在眉睫的结构性漏洞。托马斯指出，如果自主模型具备编写漏洞利用程序并影响整体安全环境的能力， 将这些系统的理解集中在少数几家技术供应商手中，会带来严重的运营风险。

随着模型达到基础设施级别，IBM认为主要问题不再仅仅是这些机器学习应用程序能够执行什么操作。优先事项变成了 这些系统是如何构建、管理、检查和积极改进的 长时间。

⚙️封闭式人工智能系统的隐性成本

随着底层框架的复杂性和企业重要性不断提升，维护封闭的开发流程变得极其困难。没有任何一家供应商能够成功预见所有运营需求、对抗性攻击途径或系统故障模式。

实施不透明的人工智能结构会给现有的网络架构带来很大的阻力。 将封闭的专有模型与已建立的企业级向量数据库或高度敏感的内部数据湖连接起来，常常会造成严重的故障排除瓶颈。当出现异常输出或幻觉率激增时，团队缺乏必要的内部可见性来诊断错误是源于检索增强生成流程还是基础模型权重。

• 整合挑战： 传统本地架构与高度封闭的云模型相结合，会给日常运营带来严重的延迟。
• 数据治理摩擦： 当企业数据治理协议严格禁止将敏感客户信息发送到外部服务器时，持续的数据清理会造成巨大的运营阻力。
• 成本上升： 与持续调用锁定模型相关的API所带来的计算成本飙升，侵蚀了这些自主系统本应提升的利润率。
• 资源利用效率低下： 信息不透明导致网络工程师无法准确估算硬件部署规模，从而迫使他们签订成本高昂的过度配置协议。

🌐 为什么开源人工智能对运营韧性至关重要

限制对功能强大的应用程序的访问是一种可以理解的人类本能，它与谨慎非常相似。然而，正如托马斯指出的那样，在大规模基础设施规模下， 安全通常通过严格的外部审查来提高，而不是通过严格的隐瞒来提高。

这体现了开源软件开发的一个永恒教训：开源代码并不能消除企业风险。相反，IBM 认为它能积极地改变企业管理风险的方式。

开放的基础架构允许更广泛的研究人员、企业开发人员和安全防御人员检查架构、发现潜在弱点、测试基础假设，并在真实条件下强化软件。

如果更多的人能够质疑、检验其逻辑并为其持续改进做出贡献，那么被认为非常重要的技术往往会保持更安全的状态。

💼 开放基础设施驱动商业价值

托马斯指出了关于开源技术的一个由来已久的误解：即开源技术必然会使企业创新商品化。在实际应用中， 开放的基础设施通常会将市场竞争推向技术堆栈的更高层。 开放系统能够转移金融价值，而不是摧毁它。

随着通用数字基础架构的成熟，商业价值正向以下方面转移：

• 复杂实施
• 系统编排
• 持续可靠性
• 信任机制
• 特定领域专业知识

IBM的立场是： 从长远来看，商业上的赢家不是那些拥有基础技术层的人，而是那些懂得如何最有效地应用基础技术层的组织。

我们已经看到，这种模式在以往几代企业工具、云基础设施和操作系统中都得到了充分体现。开放的基础架构历来都能扩大开发者的参与度，加速迭代改进，并催生出基于这些基础层构建的全新、更大的市场。

🚀 行业领袖拥抱开放式人工智能基础设施

企业领导者越来越意识到开源对于基础设施现代化和新兴人工智能能力的重要性。IBM预测，人工智能极有可能遵循这一历史发展轨迹。

放眼整个供应商生态系统，领先的超大规模数据中心运营商正在调整其业务策略以适应这一现实。他们不再陷入纯粹的军备竞赛，竞相打造最大的专有黑盒， 利润丰厚的系统集成商正大力关注编排工具。 这样一来，企业就可以根据具体的工作负载需求来更换底层开源模型。

这种方法完全规避了供应商锁定带来的限制，使公司能够将要求不高的内部查询路由到规模更小、效率更高的开放模型，从而将昂贵的计算资源用于复杂的面向客户的自主逻辑。通过将应用层与特定的基础模型解耦， 技术主管可以保持运营灵活性并保护公司利润。

🔍企业人工智能的未来需要透明的治理

另一个支持开放模式的务实理由围绕着产品开发的影响。IBM 强调，对底层代码的访问权限受限，自然会导致运营视角狭隘。相比之下， 谁能直接参与，就会直接影响最终构建的应用类型。

提供广泛的访问权限，使政府、各类机构、初创企业和不同领域的研究人员能够积极影响技术的发展方向及其商业应用领域。这种包容性的方法既能推动功能性创新，又能同时构建结构适应性和必要的公众认可度。

正如托马斯所论证的那样，一旦 自主人工智能 承担核心企业基础设施的角色，依靠不透明性已不能再作为系统安全的组织原则。

最可靠的安全软件蓝图已经配对 开放的基金会，接受广泛的外部审查，积极进行代码维护，并实行严格的内部治理。

如果这些自主工作流程真的成为全球商业的基础，那么透明度就不再是一个可以随意讨论的话题了。据IBM称， 这是任何现代企业架构的绝对、不可协商的设计要求。