Por que a Apple e outras gigantes da tecnologia estão criando agentes de IA com recursos limitados: a estratégia explicada.

Assistentes de IA de última geração estão sendo desenvolvidos dentro do ecossistema da Apple e por fabricantes de chips líderes como a Qualcomm. No entanto, os primeiros relatos indicam que esses sistemas estão sendo projetados com limitações e controles de segurança integrados Para proteger os usuários.

De acordo com Tom's GuideAs primeiras versões desses assistentes de IA demonstram capacidades como navegar em aplicativos, realizar reservas e gerenciar tarefas em diversos serviços. Em testes beta privados, um sistema de agentes concluiu com sucesso tarefas como reservar serviços e publicar conteúdo em aplicativos. Durante um cenário de teste, o sistema navegou pelo fluxo de trabalho de um aplicativo e chegou à tela de pagamento antes de... Solicitando confirmação do usuário.

Arquitetura com participação humana

O Modelo "humano no circuito" Permite que o sistema prepare ações, reservando a aprovação final para o usuário. Pesquisas relacionadas ao desenvolvimento de IA da Apple exploraram metodologias para garantir que os sistemas pausem antes de executar ações que os usuários não autorizaram explicitamente.

Essa abordagem espelha os protocolos de segurança existentes em aplicativos bancários, que já exigem confirmação para transferências financeiras. O mesmo princípio está sendo agora estendido para Ações orientadas por IA em diversos serviços e plataformas..

Restrições de acesso e mecanismos de controle

Uma camada crítica de controle envolve a restrição das permissões de acesso da IA. Em vez de conceder aos sistemas acesso irrestrito a aplicativos e dados, as organizações estão estabelecendo limites claros, incluindo:

• ✓ Definir com quais aplicativos a IA pode interagir.
• ✓ Especificar quando as ações podem ser acionadas.
• ✓ Limitar as capacidades de tomada de decisão autônoma

Na prática, isso significa que os sistemas de IA podem ser capazes de elaborar compras ou preparar reservas, mas Não é possível finalizar transações sem aprovação explícita.O sistema não pode operar livremente em todos os serviços, a menos que seja concedida permissão específica.

Integração de segurança de pagamento

Em funções relacionadas a pagamentos, espera-se que os sistemas de IA se integrem a parceiros que mantenham protocolos de segurança rigorosos. De acordo com relatos, Os serviços de provedores de pagamento estão sendo integrados para fornecer autenticação segura. antes da conclusão da transação, embora essas salvaguardas permaneçam em desenvolvimento ativo. Esses sistemas existentes funcionam como uma camada adicional de supervisão, capaz de definir limites de transação ou exigir verificação suplementar.

Governança de IA centrada no consumidor

Embora grande parte do discurso em torno da governança da IA ​​tenha se concentrado em aplicações empresariais — incluindo cibersegurança e automação em larga escala —, o setor de consumo apresenta desafios distintos. As empresas devem projetar mecanismos de controle que funcionem efetivamente para os usuários do dia a dia, incorporando:

• ► Processos de aprovação claros e intuitivos
• ► Proteções de privacidade integradas
• ► Notificações de ação transparentes

Autonomia equilibrada: gerenciando riscos

À medida que os sistemas de IA adquirem capacidades aprimoradas para executar ações de forma independente, os riscos associados aumentam proporcionalmenteErros podem resultar em perdas financeiras ou exposição de dados, tornando medidas de segurança robustas essenciais.

Ao implementar controles em múltiplos pontos de intervenção — incluindo etapas de aprovação do usuário e limitações de infraestrutura — as empresas estão trabalhando ativamente para mitigar esses riscos.

Crédito da foto: Junseong Lee

Veja também: Desafios de governança da IA ​​agente sob a Lei de IA da UE em 2026

Quer aprender mais sobre IA e big data com líderes do setor? Confira Exposição de IA e Big Data que acontecerá em Amsterdã, Califórnia e Londres. O evento abrangente faz parte de TechEx e em conjunto com outros importantes eventos de tecnologia. Clique. aqui Para obter mais informações.

O AI News é alimentado por TechForge MediaExplore outros eventos e webinars sobre tecnologia empresarial que estão por vir. aqui.