Pourquoi Apple et les géants de la tech créent des agents d'IA limités : la stratégie expliquée

Les assistants IA de nouvelle génération sont développés au sein de l'écosystème Apple et par des fabricants de puces de premier plan comme Qualcomm. Cependant, les premiers rapports indiquent que ces systèmes sont conçus avec limitations intégrées et contrôles de sécurité pour protéger les utilisateurs.

Selon Le guide de TomLes premières versions de ces assistants IA démontrent des capacités telles que la navigation dans les applications, la réalisation de réservations et la gestion de tâches sur différents services. Lors de tests bêta privés, un système d'agent a accompli avec succès des tâches comme la réservation de services et la publication de contenu dans des applications. Au cours d'un scénario de test, le système a navigué dans le flux de travail d'une application et a atteint un écran de paiement avant demande de confirmation de l'utilisateur.

Architecture avec l'humain dans la boucle

Le modèle « l'humain dans la boucle » Ce système permet de préparer des actions tout en réservant l'approbation finale à l'utilisateur. Les recherches menées dans le cadre du développement de l'IA chez Apple ont exploré des méthodologies visant à garantir que les systèmes fassent une pause avant d'exécuter des actions non explicitement autorisées par l'utilisateur.

Cette approche s'inspire des protocoles de sécurité existants dans les applications bancaires, qui exigent déjà une confirmation pour les transferts financiers. Le même principe est désormais étendu à Actions pilotées par l'IA sur plusieurs services et plateformes.

Restrictions d'accès et mécanismes de contrôle

Un niveau de contrôle essentiel consiste à restreindre les autorisations d'accès à l'IA. Plutôt que d'accorder aux systèmes un accès illimité aux applications et aux données, les organisations établissent des limites claires, notamment :

• ✓ Définir les applications avec lesquelles l'IA peut interagir.
• ✓ Spécifier quand les actions peuvent être déclenchées
• ✓ Limiter les capacités de prise de décision autonome

Concrètement, cela signifie que les systèmes d'IA peuvent être capables de rédiger des bons d'achat ou de préparer des réservations, mais ne peut finaliser les transactions sans approbation expliciteLe système ne peut pas fonctionner librement sur tous les services sans autorisation spécifique.

Intégration de la sécurité des paiements

Dans le domaine des paiements, les systèmes d'IA devraient s'intégrer aux partenariats avec des acteurs respectant des protocoles de sécurité rigoureux. Selon certaines sources, Les services des fournisseurs de paiement sont en cours d'intégration afin de garantir une authentification sécurisée. Avant la finalisation de la transaction, bien que ces mesures de protection soient encore en cours de développement, ces systèmes existants constituent une couche de contrôle supplémentaire, permettant de fixer des limites de transaction ou d'exiger une vérification complémentaire.

Gouvernance de l'IA axée sur le consommateur

Si la plupart des débats autour de la gouvernance de l'IA se sont concentrés sur les applications d'entreprise (notamment la cybersécurité et l'automatisation à grande échelle), le secteur grand public présente des défis spécifiques. Les entreprises doivent concevoir des mécanismes de contrôle efficaces pour les utilisateurs au quotidien, intégrant :

• ► Des processus d'approbation clairs et intuitifs
• ► Protections intégrées de la vie privée
• ► Notifications d'action transparentes

Autonomie équilibrée : gérer les risques

À mesure que les systèmes d'IA acquièrent des capacités accrues pour exécuter des actions de manière indépendante, les risques associés augmentent proportionnellementLes erreurs peuvent entraîner des pertes financières ou une divulgation de données, ce qui rend les mesures de protection robustes essentielles.

En mettant en œuvre des contrôles à de multiples points d'intervention — y compris les étapes d'approbation des utilisateurs et les limitations de l'infrastructure —, les entreprises s'efforcent activement d'atténuer ces risques.

Crédit photo : Junseong Lee

Voir aussi : Les défis de gouvernance d'Agentic AI au regard de la loi européenne sur l'IA en 2026

Vous souhaitez en savoir plus sur l'IA et le big data auprès des leaders du secteur ? Consultez Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. Cet événement d'envergure fait partie de TechEx et organisés en même temps que d'autres événements technologiques de premier plan. Cliquez ici pour plus d'informations.

AI News est alimenté par TechForge MediaDécouvrez d'autres événements et webinaires à venir sur les technologies d'entreprise. ici.