Google affirme avoir découvert des attaquants utilisant un framework d’IA pour étudier des correctifs logiciels, repérer des failles, créer des moyens de les exploiter et lancer ces attaques sans intervention humaine, dans la première activité de recherche et d’exploitation de failles entièrement automatisée observée par ses chercheurs en sécurité.
Dans un rapport publié le 16 novembre, Google Threat Intelligence Group a indiqué avoir découvert le système, appelé « exploit_agent », sur un serveur de test exposé. Le framework était configuré pour comparer le code logiciel avant et après l’application de correctifs, rechercher les failles révélées par les modifications, écrire du code permettant de les exploiter et l’exécuter automatiquement. Google a indiqué que le système combinait plusieurs grands modèles de langage, dont des modèles commerciaux et d’autres exécutés localement.
Le serveur contenait également des données dérobées à des organisations ciblées et des scripts conçus pour des tâches telles que fouiller leurs systèmes informatiques, deviner des mots de passe et installer des webshells. Les webshells sont des outils que les attaquants peuvent utiliser pour conserver l’accès à des systèmes dans lesquels ils ont réussi à pénétrer. Google a indiqué que des indices présents sur le serveur laissaient penser que l’opérateur s’intéressait à des sites web français dans les secteurs des médias, du divertissement et de l’éducation.
Google n’a toutefois nommé aucun groupe en particulier ni identifié publiquement de faille précise que le framework aurait réussi à exploiter. Le rapport de Google décrivait également d’autres outils fonctionnant comme des agents et utilisés lors d’intrusions, notamment des activités ciblant une organisation américaine du secteur aérospatial ainsi que des organisations en Asie. L’entreprise a averti que l’automatisation pouvait réduire le temps dont disposent les défenseurs pour appliquer les correctifs.
Google a également souligné que ces outils pouvaient laisser des traces détectables par les défenseurs. Ces découvertes marquent une nette progression de l’utilisation de l’IA dans les cyberattaques. Toutefois, les éléments accessibles au public ne permettent pas d’établir qu’exploit_agent lui-même soit à l’origine d’une compromission particulière.