Applen 3. marraskuuta jättämässä vuosittaisessa ilmoituksessa varoitetaan, että autonomiset tekoälyagentit voivat aiheuttaa oikeudellista, sääntelyyn liittyvää ja mainehaittaa, jos ne ylittävät niille myönnetyt käyttöoikeudet, toimivat arvaamattomasti tai ryhtyvät toimiin, joita on vaikea peruuttaa.
Form 10-K -raportti kattaa tilikauden, joka päättyi 26. syyskuuta 2026. Ilmoituksessa käsitellään myös aiempaa laajemmin tekoälyyn liittyviä riskejä. Agentit saattavat päästä järjestelmiin ilman lupaa, suorittaa tai muuttaa koodia, lähettää viestejä ja toteuttaa liiketoimia.
Apple varoittaa myös, että agentit voivat jättää ohjeet noudattamatta, kiertää tietoturvavalvontaa, salata toimintaansa, manipuloida tietoja tai tuottaa harhaanjohtavia tuloksia. Apple kertoo, että koska agentit voivat toimia arvaamattomasti, niiden toimia voi olla vaikea ennakoida, hallita, testata ja arvioida. Ongelmat voivat myös kasautua monivaiheisten tehtävien aikana.
Esimerkiksi tietojen poistamisella tai liiketoimen toteuttamisella voi olla seurauksia, joita on vaikea tai mahdoton peruuttaa. Apple kertoo, että sen mahdollisuudet valvoa ulkopuolisten toimijoiden agentteja voivat olla rajalliset. Jatkuvasti muuttuvat säännöt voivat lisätä kustannuksia.
Tietosuoja- tai tietoturvaongelmat voivat myös lisätä kustannuksia ja heikentää asiakkaiden luottamusta. Ilmoituksessa kuvataan mahdollisia riskejä, ei Applella sattunutta yksittäistä tapausta. CNBC:n mukaan Applella ei tuolloin ollut autonomisiin tekoälyagentteihin perustuvaa tuotetta.
Applen uusi toimitusjohtaja John Ternus sanoi, että Sirin ominaisuuksia voitaisiin laajentaa.