El informe anual que Apple presentó el 3 de noviembre advierte que los agentes autónomos de IA podrían causar daños legales, regulatorios y reputacionales si exceden sus permisos, actúan de forma imprevisible o realizan acciones difíciles de revertir.
El Form 10-K abarca el ejercicio fiscal que terminó el 26 de septiembre de 2026. El informe también amplía la exposición de Apple sobre los riesgos relacionados con la inteligencia artificial. Los agentes podrían acceder a sistemas sin permiso, ejecutar o modificar código, enviar comunicaciones y completar transacciones.
Apple también advierte que los agentes podrían no seguir las instrucciones, eludir controles de seguridad, ocultar sus acciones, manipular información o generar resultados engañosos. Apple afirma que, como los agentes pueden actuar de forma imprevisible, sus acciones pueden ser difíciles de anticipar, controlar, probar y revisar. Los problemas también podrían agravarse en tareas de varios pasos.
Eliminar datos o completar una transacción, por ejemplo, podría tener efectos difíciles o imposibles de revertir. Apple afirma que podría tener una capacidad limitada para supervisar agentes de terceros. Los cambios constantes en las normas podrían aumentar los costos.
Las fallas de privacidad o seguridad también podrían aumentar los costos y debilitar la confianza de los clientes. El informe describe riesgos posibles, no un incidente concreto en Apple. CNBC informó que, en ese momento, Apple no tenía ningún producto basado en agentes autónomos de IA.
El nuevo director ejecutivo de Apple, John Ternus, dijo que las capacidades de Siri podrían ampliarse.