Google zufolge entdeckte das Unternehmen Angreifer, die ein KI-Framework nutzten, um Software-Patches zu untersuchen, Schwachstellen zu finden, Möglichkeiten zu entwickeln, diese auszunutzen, und die Angriffe ohne menschliche Hilfe auszuführen – die erste vollständig automatisierte Aktivität zur Suche nach Schwachstellen und deren Ausnutzung, die Googles Bedrohungsforscher beobachtet haben.
In einem am 16. November veröffentlichten Bericht erklärte die Google Threat Intelligence Group, sie habe das System namens „exploit_agent“ auf einem öffentlich zugänglichen Testserver entdeckt. Das Framework war darauf ausgelegt, Softwarecode vor und nach Patches zu vergleichen, anhand der Änderungen nach Schwachstellen zu suchen, Code zu schreiben, um diese auszunutzen, und ihn automatisch auszuführen. Google zufolge kombinierte das System mehrere große Sprachmodelle, darunter kommerzielle Modelle und lokal ausgeführte Modelle.
Auf dem Server befanden sich außerdem Daten, die von gezielt angegriffenen Organisationen entwendet worden waren, sowie Skripte für Aufgaben wie die Suche in deren Computersystemen, das Erraten von Passwörtern und die Installation von Webshells. Webshells sind Werkzeuge, mit denen Angreifer den Zugriff auf Systeme aufrechterhalten können, in die sie eingedrungen sind. Google zufolge deuteten Hinweise auf dem Server darauf hin, dass ein Betreiber an französischen Websites aus den Bereichen Medien, Unterhaltung und Bildung interessiert war.
Google nannte jedoch weder eine bestimmte Gruppe noch identifizierte das Unternehmen öffentlich eine konkrete Schwachstelle, die das Framework erfolgreich ausgenutzt hatte. Der Bericht von Google beschrieb auch andere Tools, die als Agenten agieren und bei Eindringversuchen eingesetzt wurden, darunter Aktivitäten gegen eine US-amerikanische Luft- und Raumfahrtorganisation sowie Organisationen in Asien. Das Unternehmen warnte, dass Automatisierung die Zeit verkürzen könne, die Verteidigern zum Einspielen von Patches bleibt.
Zugleich wies Google darauf hin, dass diese Tools Spuren hinterlassen können, die Verteidiger erkennen können. Die Erkenntnisse markieren einen deutlichen Anstieg des Einsatzes von KI bei Cyberangriffen. Öffentliche Belege zeigen jedoch nicht, dass exploit_agent selbst für einen bestimmten Sicherheitsvorfall verantwortlich war.