Warum Apple und andere Tech-Giganten KI-Agenten mit begrenzten Funktionen entwickeln: Die Strategie erklärt

KI-Assistenten der nächsten Generation werden innerhalb des Apple-Ökosystems und von führenden Chipherstellern wie Qualcomm entwickelt. Erste Berichte deuten jedoch darauf hin, dass diese Systeme mit KI-gestützten Technologien konzipiert werden. eingebaute Beschränkungen und Sicherheitsvorkehrungen zum Schutz der Nutzer.

Entsprechend Toms LeitfadenFrühe Versionen dieser KI-Assistenten demonstrieren Fähigkeiten wie die Navigation in Anwendungen, die Durchführung von Buchungen und die Verwaltung von Aufgaben über verschiedene Dienste hinweg. In einem privaten Betatest erledigte ein agentenbasiertes System erfolgreich Aufgaben wie die Buchung von Dienstleistungen und das Veröffentlichen von Inhalten in Apps. In einem Testszenario navigierte das System durch einen App-Workflow und erreichte einen Zahlungsbildschirm, bevor… Benutzerbestätigung anfordernDie

Architektur mit Mensch-in-the-Loop

Der "Mensch-im-Kreislauf"-Modell Dies ermöglicht es dem System, Aktionen vorzubereiten, wobei die endgültige Genehmigung dem Nutzer vorbehalten bleibt. Die Forschung im Zusammenhang mit Apples KI-Entwicklung hat Methoden untersucht, um sicherzustellen, dass Systeme vor der Ausführung von Aktionen, die Nutzer nicht explizit autorisiert haben, innehalten.

Dieser Ansatz spiegelt bestehende Sicherheitsprotokolle in Bankanwendungen wider, die bereits eine Bestätigung für Finanztransfers vorschreiben. Dasselbe Prinzip wird nun auf weitere Bereiche ausgeweitet. KI-gesteuerte Aktionen über mehrere Dienste und Plattformen hinwegDie

Zugriffsbeschränkungen und Kontrollmechanismen

Eine entscheidende Kontrollebene besteht in der Beschränkung der Zugriffsrechte von KI. Anstatt Systemen uneingeschränkten Zugriff auf Anwendungen und Daten zu gewähren, legen Organisationen klare Grenzen fest, darunter:

• ✓ Festlegen, mit welchen Anwendungen die KI interagieren kann
• ✓ Festlegen, wann Aktionen ausgelöst werden können
• ✓ Einschränkung der autonomen Entscheidungsfähigkeit

In der Praxis bedeutet dies, dass KI-Systeme in der Lage sein könnten, Kaufverträge zu erstellen oder Buchungen vorzubereiten, aber Transaktionen können ohne ausdrückliche Genehmigung nicht abgeschlossen werden.Das System kann nicht uneingeschränkt über alle Dienste hinweg funktionieren, sofern nicht ausdrücklich eine entsprechende Genehmigung erteilt wird.

Integration der Zahlungssicherheit

Im Zahlungsverkehr sollen KI-Systeme mit Partnern zusammenarbeiten, die strenge Sicherheitsprotokolle einhalten. Berichten zufolge Die Dienste von Zahlungsanbietern werden integriert, um eine sichere Authentifizierung zu gewährleisten. Vor Abschluss der Transaktion werden diese Sicherheitsvorkehrungen zwar noch aktiv weiterentwickelt, fungieren aber als zusätzliche Kontrollinstanz, die Transaktionslimits festlegen oder zusätzliche Überprüfungen anordnen kann.

Verbraucherorientierte KI-Governance

Während sich ein Großteil der Diskussion um KI-Governance auf Unternehmensanwendungen – einschließlich Cybersicherheit und großflächiger Automatisierung – konzentriert hat, stellt der Verbrauchersektor besondere Herausforderungen dar. Unternehmen müssen Kontrollmechanismen entwickeln, die für alltägliche Nutzer effektiv funktionieren und Folgendes berücksichtigen:

• ► Klare, intuitive Genehmigungsprozesse
• ► Eingebaute Datenschutzfunktionen
• ► Transparente Aktionsbenachrichtigungen

Ausgewogene Autonomie: Risikomanagement

Da KI-Systeme immer bessere Fähigkeiten zur selbstständigen Ausführung von Aktionen erlangen, die damit verbundenen Risiken steigen proportional anFehler können zu finanziellen Verlusten oder Datenlecks führen, weshalb robuste Sicherheitsvorkehrungen unerlässlich sind.

Durch die Implementierung von Kontrollmechanismen an mehreren Interventionspunkten – einschließlich der Genehmigungsphasen durch die Benutzer und der Begrenzung der Infrastruktur – arbeiten die Unternehmen aktiv daran, diese Risiken zu mindern.

Bildnachweis: Junseong Lee

Siehe auch: Herausforderungen der Governance von Agentic AI im Rahmen des EU-KI-Gesetzes im Jahr 2026

Möchten Sie mehr über KI und Big Data von Branchenführern erfahren? Dann schauen Sie hier vorbei KI- und Big-Data-Expo Die umfassende Veranstaltung findet in Amsterdam, Kalifornien und London statt und ist Teil von TechEx und findet zeitgleich mit anderen führenden Technologieveranstaltungen statt. Klicken Sie hier. Hier für weitere Informationen.

AI News wird bereitgestellt von TechForge MediaEntdecken Sie weitere bevorstehende Veranstaltungen und Webinare im Bereich Unternehmenstechnologie. HierDie