Wie autonome KI-Systeme die Governance in physischen Umgebungen auf die Probe stellen

Autonome KI-Systeme beginnen, sich von Softwareumgebungen zu lösen und in andere Bereiche vorzudringen. Lagerhäuser, Liefernetzwerke und öffentliche PlätzeDiese Entwicklung lenkt die Aufmerksamkeit auf die Frage, ob die aktuellen KI-Regeln auch Systeme abdecken, die in physischen Umgebungen operieren.

Die meisten bestehenden KI-Governance-Rahmenwerke konzentrieren sich auf Online-Schäden und Modellausgaben, einschließlich Verzerrungen, Fehlinformationen und schädlichen Inhalten. Verkörperte KI-Systeme bergen Risiken in der physischen Umgebung, wo Ausfälle Infrastruktur, Eigentum oder die Sicherheit von Menschen beeinträchtigen können.

📋 Singapurs neuer Rahmen für KI-Governance

Singapurs Infocomm Media Development Authority veröffentlichte Version 1.5 des Modell-KI-Governance-Frameworks für agentenbasierte KI Am 20. Mai. Das Rahmenwerk bietet Leitlinien für Organisationen, die KI-Agenten einsetzen, welche in der Lage sind, über mehrere Schritte hinweg zu planen, Entscheidungen zu treffen und Maßnahmen zu ergreifen, um benutzerdefinierte Ziele zu erreichen.

Das Framework besagt, dass Agenten mit Tools, externen Systemen und anderen Agenten interagieren können, darunter Systeme, die Datenbanken aktualisieren, Dateien schreiben, Geräte steuern oder Transaktionen durchführen. Es nennt Zugriffskontrollen, Überwachung und menschliche Genehmigung als Governance-Maßnahmen für die Bereitstellung.

🤖 KI dringt in physische Systeme ein

Auf einem KI-Gipfel in Singapur letzte Woche konzentrierten sich die Diskussionen über Robotik und verkörperte KI auf Betriebssicherheitsprobleme Wird häufiger mit der Luftfahrt, industriellen Systemen und der Überwachung kritischer Infrastrukturen in Verbindung gebracht als mit der herkömmlichen Softwareregulierung.

Die Referenten diskutierten auch darüber, ob autonome Systeme in unvorhersehbaren realen Umgebungen über längere Zeiträume sicher und zuverlässig funktionieren können.

Dr. Ya-Qin Zhang, Gründungsdekan des Instituts für KI-Industrieforschung an der Tsinghua-Universität, sagte Verkörperte KI-Systeme verstärken die Risiken, die bereits mit autonomer Software verbunden sind.Er sagte, dass Ausfälle direkte Auswirkungen auf Transportsysteme, Drohnen, Logistiknetzwerke und kritische Infrastrukturen haben können.

„Jedes Risiko im digitalen Bereich wird im physischen Bereich verstärkt, und der physische Bereich wird eine physische Konsequenz haben“, sagte Zhang gegenüber MLex am Rande des Gipfels.

Er fügte hinzu, dass Fahrzeuge, Drohnen, intelligente Stromnetze und andere Infrastrukturen könnte sich als problematisch erweisen, wenn KI-Systeme immer tiefer in physische Abläufe integriert werden.

Die Redner erörterten Zuverlässigkeit, Betriebsüberwachung und Qualitätssicherung nach der Implementierung als wichtige Aspekte der Unternehmensführung. Die Diskussionen auf dem Gipfeltreffen wiesen auf Folgendes hin: Bereitstellungsbasierte Governance-Modelle Es basiert auf Simulation, Telemetrie und iterativen Tests, nicht nur auf einer einmaligen Zertifizierung.

📊 Überwachung wird zum Bereitstellungsproblem

Grab, das im Singapurer Stadtteil Punggol autonome Fahrzeuge und Lieferroboter testet, erklärte, die Einsatzsteuerung hänge stark von … ab. Simulation, Tests und kontinuierliche ÜberwachungDie

„Wir führen viele Simulationen und Tests auf geschlossenen und offenen Strecken durch, um sicherzustellen, dass unsere Roboter zuverlässig sind“, sagte Suthen Thomas Paradatheth, Chief Technology Officer von Grab, während einer der Podiumsdiskussionen auf dem Gipfeltreffen.

„Bevor wir auf Hunderte von Robotern skalieren, stellen wir sicher, dass wir das Problem zuerst in Simulationen und mit einigen wenigen Robotern lösen“, fügte er hinzu.

Grab wies außerdem auf Überwachungssysteme hin, die die Leistung von Robotern verfolgen und unerwartete Ausfälle nach dem Einsatz erkennen sollen. „Es gibt eine ganze Reihe von Problemen, die auftreten könnten“, sagte Paradatheth.

👥 Mehr Akteure übernehmen Verantwortung

MLex berichtete, dass verkörperte KI-Systeme mehrere Parteien in den Bereichen Entwicklung, Fertigung und Einsatz einbeziehen können. Dazu gehören KI-Entwickler, Roboterhersteller, Halbleiterlieferanten und InfrastrukturbetreiberDie

MLex stellte außerdem fest, dass Die Verantwortungszuweisung kann schwieriger sein. wenn sich Systeme nach der Bereitstellung durch Software-Updates, Telemetrie und Betriebsdaten kontinuierlich anpassen.

Laut IMDA bleiben Organisationen und Menschen für die Handlungen ihrer Agenten verantwortlich, selbst wenn diese autonom agieren. Das Rahmenwerk fordert Folgendes: klare Verantwortlichkeiten entlang der gesamten Wertschöpfungskette der agentenbasierten KIvon Modell- und Plattformanbietern über Implementierer und Tool-Anbieter bis hin zu Endbenutzern.

Applied Materials erklärte, der großflächige Einsatz von Robotern hänge auch von der Wirtschaftlichkeit der Halbleiterindustrie und der Systemintegration ab. Om Nalamasu, Chief Technology Officer des Unternehmens, sagte, Robotersysteme würden von besseren Sensoren, Energieeffizienz, fortschrittlichen Gehäusetechnologien und Computerarchitekturen abhängen.

🌏 Regionale Ansätze zur KI-Robotik

🇨🇳 China: Zhao Yuli, Chief Strategy Officer des chinesischen Robotik-Startups Galbot, sagte, Peking priorisiere Einsatzumfang und industrielle Kommerzialisierung durch staatlich geförderte Testumgebungen, Industriepartnerschaften und langfristige Finanzierungsinitiativen.

Galbot hat in China humanoide Robotersysteme im Einzelhandel, in Lagerhäusern und in der Pharmaindustrie eingesetzt, darunter auch autonome Geschäfte, die rund um die Uhr geöffnet sind. Zhao erklärte, dass halbstrukturierte Industrieumgebungen wahrscheinlich ein vielversprechender Ansatz für die frühe Kommerzialisierung sein werden, da sie besser kontrollierbare Betriebsbedingungen bieten.

🇯🇵 Japan: Japan legt mehr Wert auf Normsetzung, Robotik-Datensätze und SicherheitsgovernanceProfessor Yutaka Matsuo von der Graduate School of Engineering der Universität Tokio verwies auf ein Projekt der „AI Association“, das darauf abzielt, 100.000 Stunden an Robotikdaten zu sammeln, um robotische Grundlagenmodelle zu unterstützen.

Matsuo erwähnte außerdem das japanische Institut für KI-Sicherheit und den Hiroshima-KI-Prozess als Teil umfassenderer Bemühungen zur Entwicklung von Governance-Standards für verkörperte KI-Systeme mit Singapur und anderen asiatischen Ländern.

🔒 Singapur führt Agentenkontrollen ein

Singapurs Rahmenwerk legt fest vier Governance-Bereiche für agentenbasierte KI:

Das Rahmenwerk besagt Die menschliche Aufsicht muss an agentenbasierte Systeme angepasst werden. Da eine kontinuierliche Überprüfung aller Arbeitsabläufe in großem Umfang unpraktikabel wird, empfiehlt es die menschliche Genehmigung an wichtigen Kontrollpunkten, einschließlich folgenreicher Aktionen, irreversibler Maßnahmen und abweichendem Verhalten.

Die IMDA identifiziert auch Automatisierungsverzerrung und Alarmmüdigkeit als Risiken, wenn Menschen fähige Mitarbeiter beaufsichtigen. Es empfiehlt, die Aufsicht anhand von Indikatoren wie der Häufigkeit menschlicher Eingriffe und Reaktionszeiten zu überprüfen und ein automatisiertes Echtzeit-Monitoring einzusetzen, um unerwartetes Verhalten zu erkennen.

Das Rahmenwerk besagt, dass Nutzern mitgeteilt werden sollte, welche Aktionen ein Agent ausführen kann, auf welche Daten er zugreifen kann und welche Verantwortlichkeiten beim Nutzer verbleiben. Es empfiehlt außerdem Schulungen für Mitarbeiter zur Mensch-Agent-Interaktion, zur Überwachung und zu den fachlichen Kompetenzen, die zur Bewertung der Agentenergebnisse erforderlich sind.

🏦 Unternehmen testen KI in regulierten Arbeitsabläufen

JPMorgan Paul Uren, Leiter des Investmentbankings der Bank für den asiatisch-pazifischen Raum, erklärte, dass die Bank KI-Tools in ihrem globalen Investmentbanking-Geschäft einsetzt. ReutersDie Bank erklärte, die Tools würden Bankern helfen, auf mehr Informationen zuzugreifen und diese mit internen Systemen zu verknüpfen. Sie würden außerdem zur Erstellung von Inhalten und zur Unterstützung der Kundenbindung eingesetzt.

JPMorgan-CEO Jamie Dimon sagte Bloomberg News dass die Bank mehr KI-Spezialisten und weniger traditionelle Banker einstellen würde. Reuters berichteten, dass globale Banken ihre Investitionen in KI erhöhen, ihre Belegschaften umgestalten und die Aufgabenbereiche verändern.

Die Bank gehört außerdem zu den ausgewählten Organisationen, denen Anthropic die Nutzung gestattet. Mythos-Cybersicherheitsmodell Im Rahmen einer kontrollierten Initiative namens Project Glasswing. Laut Anthropic kann Mythos alte Sicherheitslücken in Browsern, Infrastruktur und Software aufspüren.

Reuters Laut Quellen und Aussagen von Führungskräften des Unternehmens haben auch Goldman Sachs, Citigroup, Bank of America und Morgan Stanley Zugriff auf Mythos oder testen es.

🏭 Roboter halten Einzug in die industrielle Nutzung

In Japan, Ein Drittel der Unternehmen nutzt bereits KI-gestützte Roboter oder erwägt deren Einsatz., laut einem Reuters Die Umfrage wurde vom Nikkei Research vom 1. bis 15. Mai durchgeführt. Im Rahmen der Umfrage wurden 492 Unternehmen kontaktiert, von denen 220 unter der Bedingung der Anonymität antworteten.

Hersteller von Transportausrüstung Die aktivste Gruppe in der Umfrage waren Unternehmen aus dem Großhandel: 80 % von ihnen nutzten bereits KI-Roboter oder erwogen deren Einsatz. Im Vergleich dazu gaben 94 % der Befragten aus dem Großhandel an, keine Pläne für den Einsatz von KI-Robotern zu haben.

Unter den Unternehmen, die KI-Roboter einsetzen, deren Einsatz planen oder den Einsatz erwägen:

• 71 % ausgewählte Fertigung als Anwendungsfall
• 19% ausgewählte gefährliche Aufgaben
• 11% ausgewählte kundenorientierte Dienstleistungen

Die japanische Regierung erwartet, dass KI-Roboter dazu beitragen werden, den chronischen Arbeitskräftemangel des Landes zu beheben und seine Position im Bereich der Industrierobotik zu stärken. Japan ist Heimat zahlreicher Robotikunternehmen, darunter … Fanuc, Yaskawa Electric und Kawasaki Heavy Industriessteht jedoch im Bereich der KI-gestützten Robotik im Wettbewerb mit China und den Vereinigten Staaten.

🛒 Einzelhandelsagenten erweitern ihr Angebot über die Suche hinaus

Walmart hat Pläne zur Nutzung agentenbasierter KI in den Bereichen Einkauf, Mitarbeiter, Lieferanten und Entwickler vorgestellt.

Im Juli 2025 kündigte der Einzelhändler Pläne für vier KI-gestützte „Superagenten“ Die Agenten wurden für Kunden, Ladenangestellte, Lieferanten und Verkäufer sowie Softwareentwickler entwickelt. Walmart erklärte, diese Agenten würden zum zentralen Anlaufpunkt für KI-Interaktionen zwischen diesen Gruppen werden.

Eines der Werkzeuge, Sparkyist bereits als KI-gestützter Einkaufsassistent in der Walmart-App verfügbar. Hari Vasudev, US-Technologiechef von Walmart, erklärte, die erweiterte Version werde Artikel nachbestellen und Veranstaltungen planen können. Zudem werde sie mithilfe von Computer Vision Rezepte vorschlagen, die auf dem Inhalt des Kühlschranks des Kunden basieren.

Das Unternehmen wollte sich nicht dazu äußern, ob die Agenten Arbeitsplätze ersetzen würden. Dave Glick, Senior Vice President für Enterprise Business Systems, sagte, die Tools würden neue Arbeitsplätze schaffen, ohne weitere Details zu nennen.

(Foto von Growtika)