Amazon affirme que des agents d’IA autonomes utilisés par un acteur soupçonné d’avoir des liens avec la Chine ont découvert une faille jusque-là inconnue dans MONAI Label et obtenu les privilèges les plus élevés sur un serveur universitaire, avec la possibilité d’y écrire des fichiers, en environ 11 minutes.
Cette application open source aide les chercheurs à annoter des images médicales. Le framework Cairn, utilisé lors de l’opération, coordonne des agents d’IA qui poursuivent des objectifs avec peu d’intervention humaine. Amazon a déclaré avoir découvert la campagne après avoir trouvé un serveur Cairn accessible publiquement, qui exposait les prompts de l’opérateur et l’activité des agents.
Les données indiquaient que des universités d’Asie de l’Est, hors de Chine continentale, avaient été ciblées pendant environ 48 heures en septembre. Les agents ont cartographié la manière dont d’autres logiciels pouvaient interagir avec MONAI Label et ont découvert une faille dans sa fonctionnalité de téléversement de fichiers, qui leur permettait d’écrire des fichiers en dehors de l’emplacement de stockage prévu. Lors d’une session ultérieure, ils ont utilisé la faille pour déposer sur le serveur un programme Python qui établissait une connexion permettant l’exécution de commandes à distance.
Ils ont exécuté le programme et obtenu les privilèges les plus élevés sur le serveur. Amazon estime, avec un degré de confiance modéré, que l’acteur avait des liens avec la Chine, en s’appuyant sur la langue des prompts, les horodatages et le choix des cibles. Les responsables du projet ont été avertis et ont publié un avis de sécurité.
À la date de publication, le 20 novembre, le correctif avait été intégré au code du projet, mais aucune version corrigée du logiciel n’avait encore été publiée. Il a été conseillé aux administrateurs de restreindre l’accès réseau et les autorisations, tout en vérifiant si les systèmes exposés présentaient des signes de compromission.