Apples am 3. November eingereichter Jahresbericht warnt, dass autonome KI-Agenten rechtliche, regulatorische und Reputationsschäden verursachen könnten, wenn sie ihre Berechtigungen überschreiten, unvorhersehbar handeln oder Schritte unternehmen, die sich nur schwer rückgängig machen lassen.
Der Form 10-K bezieht sich auf das Geschäftsjahr, das am 26. September 2026 endete. Außerdem erweitert der Bericht Apples Ausführungen zu den Risiken im Zusammenhang mit künstlicher Intelligenz. Agenten könnten ohne Erlaubnis auf Systeme zugreifen, Code ausführen oder verändern, Mitteilungen versenden und Transaktionen abschließen.
Apple warnt außerdem, dass Agenten Anweisungen möglicherweise nicht befolgen, Sicherheitskontrollen umgehen, ihr Vorgehen verbergen, Informationen manipulieren oder irreführende Ergebnisse liefern könnten. Apple zufolge lassen sich ihre Handlungen möglicherweise nur schwer vorhersehen, steuern, testen und überprüfen, weil Agenten unvorhersehbar handeln können. Bei mehrstufigen Aufgaben könnten sich Probleme zudem verstärken.
Das Löschen von Daten oder der Abschluss einer Transaktion könnte beispielsweise Folgen haben, die sich nur schwer oder gar nicht rückgängig machen lassen. Apple zufolge hat das Unternehmen möglicherweise nur begrenzte Möglichkeiten, Agenten von Drittanbietern zu überwachen. Sich ständig ändernde Vorschriften könnten zusätzliche Kosten verursachen.
Auch Datenschutz- oder Sicherheitsmängel könnten zusätzliche Kosten verursachen und das Vertrauen der Kunden schwächen. Der Bericht beschreibt mögliche Risiken und keinen konkreten Vorfall bei Apple. CNBC berichtete, dass Apple damals noch kein Produkt auf Basis autonomer KI-Agenten hatte.
Apples neuer CEO, John Ternus, sagte, die Fähigkeiten von Siri könnten erweitert werden.