Apples årsrapport den 3 november varnar för att autonoma AI-agenter kan orsaka juridisk, regulatorisk och anseendemässig skada om de överskrider sina behörigheter, agerar oförutsägbart eller vidtar åtgärder som är svåra att ångra.
Formulär 10-K gäller räkenskapsåret som avslutades den 26 september 2026. Rapporten utvecklar också Apples redogörelse för risker kopplade till artificiell intelligens. Agenter kan ta sig in i system utan tillstånd, köra eller ändra kod, skicka meddelanden och genomföra transaktioner.
Apple varnar också för att agenter kan låta bli att följa instruktioner, kringgå säkerhetskontroller, dölja vad de gör, manipulera information eller ge missvisande resultat. Apple säger att agenternas handlingar kan vara svåra att förutse, kontrollera, testa och granska eftersom de kan agera oförutsägbart. Problemen kan också förvärras när uppgifter består av flera steg.
Att till exempel radera data eller genomföra en transaktion kan få följder som är svåra eller omöjliga att ångra. Apple säger att företagets möjligheter att övervaka agenter från externa parter kan vara begränsade. Regler som fortsätter att förändras kan medföra extra kostnader.
Integritets- eller säkerhetsbrister kan också medföra kostnader och försvaga kundernas förtroende. Rapporten beskriver möjliga risker, inte en specifik händelse hos Apple. CNBC rapporterade att Apple då inte hade någon produkt baserad på autonoma AI-agenter.
Apples nya vd, John Ternus, sade att Siris funktioner skulle kunna utökas.