Explication des défis liés à la gouvernance de l'IA physique et des systèmes autonomes

Gouvernance autour IA physique L'intégration de systèmes d'IA autonomes dans les robots, les capteurs et les équipements industriels complexifie la tâche. La question cruciale ne se limite plus à la capacité des agents d'IA à accomplir des tâches ; elle englobe également la manière dont leurs actions sont testées, surveillées et interrompues lors de leurs interactions avec les systèmes du monde réel.

📊 Croissance de la robotique industrielle

La robotique industrielle constitue une base solide pour cette discussion. Fédération internationale de robotique a rapporté que 542 000 robots industriels ont été installées dans le monde en 2024, soit plus du double du niveau annuel enregistré dix ans auparavant. Les projections indiquent que les installations atteindront 575 000 unités en 2025 et surpasser 700 000 unités d'ici 2028.

Les études de marché appliquent l'appellation « IA physique » à un éventail croissant de systèmes, notamment la robotique, l'informatique de périphérie et les machines autonomes. Grand View Research Le marché mondial de l'IA physique a été estimé à 81,64 milliards de dollars américains en 2025, prévoyant une croissance à 960,38 milliards de dollars américains d'ici 2033, bien que la catégorisation dépende de la façon dont les fournisseurs définissent l'intelligence dans les systèmes physiques.

🔄 Du rendu du modèle à l'action physique

Le défi de la gouvernance diffère fondamentalement de l'automatisation purement logicielle, car les systèmes physiques fonctionnent autour de lieux de travail, d'infrastructures et d'utilisateurs humains. Ils sont connectés à des équipements qui nécessitent des limites de sécurité clairement définies. La sortie d'un modèle peut se traduire par le mouvement d'un robot, une instruction machine ou une prise de décision basée sur des capteurs. limites de sécurité et voies d'escalade élément essentiel de la conception du système.

🤖 L'innovation robotique de Google DeepMind

Les travaux de Google DeepMind en robotique illustrent comment les modèles d'IA sont adaptés à cet environnement. L'entreprise a introduit Robotique Gemini et Gémeaux Robotique-ER En mars 2025, ces modèles ont été décrits comme étant basés sur Gemini 2.0 pour la robotique et l'IA incarnée. Gemini Robotics fonctionne comme un modèle vision-langage-action conçu pour contrôler directement les robots, tandis que Gemini Robotics-ER se concentre sur le raisonnement incarné, notamment la compréhension spatiale et la planification des tâches.

Un robot utilisant ce type de modèle doit identifier les objets, comprendre les instructions et planifier les séquences de mouvements. Il doit également évaluer la précision de l'exécution des tâches, ce qui crée un problème de contrôle englobant à la fois… comportement du modèle et limites du système mécanique.

Dans ses documents de lancement, Google DeepMind a indiqué que Gemini Robotics pouvait suivre des instructions en langage naturel et effectuer des tâches de manipulation en plusieurs étapes. Par exemple : plier du papier, emballer des objets dans des sacs et manipuler des objets non vus pendant la formation.

⚙️ Exigences techniques au-delà de la compréhension linguistique

Les exigences techniques de l'IA physique vont au-delà de la compréhension du langage et incluent la perception visuelle, le raisonnement spatial, la planification des tâches et la détection du succès. En robotique, détection de succès Ceci est essentiel car les systèmes doivent déterminer si les tâches sont terminées, nécessitent de nouvelles tentatives ou doivent être arrêtées.

Google DeepMind Gemini Robotics-ER 1.6Présenté en avril 2026, ce modèle illustre comment ces fonctions sont intégrées dans les nouveaux modèles. L'entreprise le décrit comme prenant en charge la logique spatiale, la planification des tâches et la détection des succès, avec la capacité de raisonner sur les étapes intermédiaires et de décider de poursuivre ou de réessayer.

La documentation pour développeurs de Google indique que Gemini Robotics-ER 1.6 est disponible en version préliminaire via l'API Gemini. Ce modèle vision-langage apporte les capacités d'agentivité de Gemini à la robotique, notamment l'interprétation visuelle, le raisonnement spatial et la planification à partir de commandes en langage naturel.

🛡️ Contrôles de sécurité dans la conception des systèmes

La complexité de la gouvernance augmente lorsque les systèmes peuvent appeler des outils, générer du code ou déclencher des actions. Les contrôles doivent définir :

• Quelles données le système peut-il accéder ?
• Quels outils peut-il utiliser ?
• Quelles actions nécessitent une approbation humaine ?
• Comment l'activité est consignée pour examen

Étude de McKinsey sur la confiance dans l'IA en 2026 met en lumière ce problème dans l'IA d'entreprise en général, constatant que seulement environ un tiers des organisations Des niveaux de maturité de trois ou plus ont été signalés en matière de stratégie, de gouvernance et de gouvernance de l'IA agentielle, même si les systèmes d'IA assument des fonctions plus autonomes.

En robotique, la sécurité englobe le comportement physique des machines. Google DeepMind décrit la sécurité des robots comme un problème à plusieurs niveaux, couvrant :

L'entreprise a introduit ASIMOV, un ensemble de données destiné à évaluer la sécurité sémantique en robotique et en IA incarnée, conçu pour tester si les systèmes peuvent comprendre les instructions relatives à la sécurité et éviter les comportements dangereux dans des environnements physiques.

📋 Cadres et normes de gouvernance

La gestion des commandes utilisées pour les agents logiciels devient plus complexe lorsque les systèmes se connectent à des robots, des capteurs ou des équipements industriels. Ces commandes incluent notamment : droits d'accès, pistes d'audit, comportements de refus, voies d'escalade et tests.

Les cadres de gouvernance tels que Cadre de gestion des risques liés à l'IA du NIST et ISO/CEI 42001 Mettre en place des structures de gestion des risques et des responsabilités liés à l'IA tout au long du cycle de vie des systèmes. Dans le domaine de l'IA physique, ces contrôles doivent prendre en compte le comportement des modèles, les machines connectées et les environnements d'exploitation.

🤝 Partenariats et collaborations avec l'industrie

Google DeepMind a noué des partenariats avec des entreprises de robotique dans le cadre de son développement d'IA incarnée. En mars 2025, l'entreprise a annoncé des partenariats avec Apptronik sur les robots humanoïdes utilisant Gemini 2.0, liste Agile Robots, Agility Robotics, Boston Dynamics et Enchanted Tools parmi les testeurs de confiance de Gemini Robotics-ER.

La mise à jour de 2026 faisait référence à un travail avec Boston Dynamics impliquant des tâches robotiques telles que la lecture d'instruments — des cas d'utilisation dépendant de la compréhension visuelle, de la planification des tâches et d'une évaluation fiable des conditions physiques.

🏭 Applications concrètes

L'IA physique s'applique à inspection industrielle, fabrication, logistique, installations et entrepôtsCes contextes exigent que les systèmes interprètent les conditions du monde réel et agissent dans des limites définies. La question de la gouvernance porte sur la manière dont ces limites sont établies avant que les systèmes autonomes ne soient autorisés à prendre ou à exécuter des décisions.

(Photo par Mitchell Luo)

Voir aussi : La gouvernance des agents d'IA devient un enjeu majeur, les régulateurs pointant du doigt les lacunes en matière de contrôle.

Vous souhaitez en savoir plus sur l'IA et le big data auprès des leaders du secteur ? Consultez Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. Cet événement d'envergure fait partie de TechEx et se déroule en même temps que d'autres événements technologiques de premier plan, cliquez ici pour plus d'informations.

AI News est alimenté par TechForge MediaDécouvrez d'autres événements et webinaires à venir sur les technologies d'entreprise. ici.