谷歌称,该公司发现攻击者利用人工智能框架分析软件补丁、查找漏洞、编写利用漏洞的方法,并在无需人工协助的情况下发动攻击;这是其威胁研究人员观察到的首次全自动漏洞发现与利用活动。
在11月16日发布的一份报告中,谷歌威胁情报小组表示,他们在一台暴露于互联网的测试服务器上发现了这个名为“exploit_agent”的系统。该框架被设置为比较软件代码在打补丁前后的变化、寻找这些变化揭示的漏洞、编写利用漏洞的代码,并自动运行代码。谷歌称,该系统结合了多个大型语言模型,包括商业模型和在本地运行的模型。
这台服务器还存有从目标组织获取的数据,以及用于执行多种任务的脚本,例如搜索其计算机系统、猜测密码和安装 Webshell。攻击者可以利用 Webshell 持续访问他们侵入的系统。谷歌表示,服务器上的线索表明,操作者对法国的媒体、娱乐和教育网站感兴趣。
但谷歌没有点名任何特定组织,也没有公开指出该框架成功利用了某个具体漏洞。谷歌的报告还介绍了其他在入侵活动中使用的代理工具,其中包括针对一家美国航空航天组织以及亚洲多家组织的活动。该公司警告,自动化可能压缩防御人员部署补丁的时间。
谷歌还指出,这些工具可能留下可供防御人员检测的痕迹。这些发现表明,人工智能在网络攻击中的应用显著增加。不过,公开证据无法证明 exploit_agent 本身导致了任何特定的安全事件。