为什么苹果和其他科技巨头都在打造功能有限的人工智能代理：策略解析

下一代人工智能助手正在苹果生态系统内以及高通等领先芯片制造商的研发中涌现。然而，早期报告显示，这些系统在设计时存在一些缺陷。 内置限制和安全控制 保护用户。

根据 汤姆的指南这些人工智能助手的早期版本展现出诸多功能，包括浏览应用程序、执行预订以及管理跨多个服务的任务。在内部测试中，一个智能体系统成功完成了诸如预订服务和在应用程序内发布内容等任务。在一个测试场景中，该系统顺利完成了应用程序的工作流程，并在最终到达支付页面前完成了操作。 请求用户确认。

人机交互架构

这 “人机交互”模型 该系统能够在保留最终审批权的同时，预先准备操作。苹果公司人工智能开发相关的研究探索了各种方法，以确保系统在执行未经用户明确授权的操作之前暂停。

这种方法与银行应用程序中现有的安全协议类似，这些协议已经要求对金融转账进行确认。现在，同样的原则正在被推广到 跨多个服务和平台的AI驱动行动。

访问限制和控制机制

关键的控制层包括限制人工智能的访问权限。企业不再授予系统对应用程序和数据的无限制访问权限，而是建立明确的边界，包括：

• ✓ 定义人工智能可以与哪些应用程序交互
• ✓ 指定何时可以触发操作
• ✓ 限制自主决策能力

实际上，这意味着人工智能系统可能能够起草采购订单或准备预订，但是 未经明确批准，无法完成交易。未经明确授权，该系统无法在所有服务中自由运行。

支付安全集成

在支付相关功能方面，人工智能系统预计将与遵循严格安全协议的合作伙伴进行集成。据报道， 支付服务提供商正在整合，以提供安全的身份验证。 尽管这些保障措施仍在积极开发中，但它们会在交易完成前发挥作用。现有系统可作为额外的监督层，能够设定交易限额或要求进行补充验证。

以消费者为中心的AI治理

尽管围绕人工智能治理的大部分讨论都集中在企业应用领域——包括网络安全和大规模自动化——但消费领域面临着独特的挑战。企业必须设计出能够有效服务于日常用户的控制机制，其中应包含以下内容：

• ► 清晰、直观的审批流程
• ► 内置隐私保护
• ► 透明的操作通知

平衡自主：风险管理

随着人工智能系统获得更强的独立执行能力， 相关风险成比例增加错误可能导致经济损失或数据泄露，因此强有力的安全保障措施至关重要。

通过在多个干预点实施控制措施（包括用户审批阶段和基础设施限制），各公司正在积极努力降低这些风险。

图片来源： 李俊成

参见： 2026年欧盟人工智能法案下智能体人工智能的治理挑战

想向行业领袖学习更多关于人工智能和大数据方面的知识吗？请查看以下内容： 人工智能与大数据博览会 此次综合性活动将在阿姆斯特丹、加利福尼亚和伦敦举行。该活动是……的一部分 TechEx 并与其他领先的技术盛会同期举办。点击 这里 了解更多信息。

AI News 由 AI 提供支持 TechForge Media探索其他即将举行的企业技术活动和网络研讨会 这里。