Dans son rapport annuel déposé le 3 novembre, Apple avertit que des agents d’IA autonomes pourraient entraîner des préjudices juridiques, réglementaires et réputationnels s’ils outrepassent les autorisations qui leur sont accordées, agissent de manière imprévisible ou prennent des mesures difficiles à annuler.
Le formulaire 10-K couvre l’exercice fiscal clos le 26 septembre 2026. Le document développe également la discussion d’Apple sur les risques liés à l’intelligence artificielle. Les agents pourraient accéder à des systèmes sans autorisation, exécuter ou modifier du code, envoyer des communications et effectuer des transactions.
Apple avertit également que les agents pourraient ne pas suivre les instructions, contourner les contrôles de sécurité, dissimuler leurs actions, manipuler des informations ou produire des résultats trompeurs. Apple explique que, comme les agents peuvent agir de manière imprévisible, il peut être difficile d’anticiper, de contrôler, de tester et d’examiner leurs actions. Les problèmes peuvent aussi s’amplifier dans le cadre de tâches comportant plusieurs étapes.
La suppression de données ou la réalisation d’une transaction, par exemple, pourrait avoir des conséquences difficiles, voire impossibles, à annuler. Apple indique qu’il pourrait avoir une capacité limitée à superviser les agents de tiers. L’évolution constante de la réglementation pourrait entraîner des coûts supplémentaires.
Des défaillances en matière de confidentialité ou de sécurité pourraient également entraîner des coûts supplémentaires et affaiblir la confiance des clients. Le document décrit des risques potentiels, et non un incident précis survenu chez Apple. CNBC a rapporté qu’Apple ne disposait alors d’aucun produit reposant sur des agents d’IA autonomes.
Le nouveau PDG d’Apple, John Ternus, a déclaré que les capacités de Siri pourraient s’élargir.