苹果11月3日提交的年度文件警告称，如果自主式人工智能智能体超越权限、行为不可预测或采取难以撤销的行动，可能造成法律、监管和声誉方面的损害。
这份10-K表格涵盖截至2026年9月26日的财年。文件还扩大了对人工智能相关风险的讨论。智能体可能未经许可进入系统、运行或更改代码、发送通信并完成交易。
苹果还警告称，智能体可能不遵循指令、绕过安全控制、隐瞒自身行为、操纵信息或生成误导性结果。苹果表示，由于智能体可能采取不可预测的行动，其行为可能难以预判、控制、测试和审查。涉及多个步骤的任务也可能让问题不断扩大。
例如，删除数据或完成交易可能造成难以或无法撤销的后果。苹果表示，公司监督外部各方智能体的能力可能有限。不断变化的规则也可能增加成本。
隐私或安全方面的失误也可能增加成本，并削弱客户信任。文件描述的是潜在风险，并非苹果发生的具体事件。CNBC报道称，当时苹果还没有基于自主式人工智能智能体的产品。
苹果新任首席执行官约翰·特努斯表示，Siri的功能可能会扩展。