Amazon zufolge entdeckten autonome KI-Agenten, die von einem mutmaßlich mit China verbundenen Akteur eingesetzt wurden, eine zuvor unbekannte Schwachstelle in MONAI Label und erlangten binnen etwa 11 Minuten die höchsten Berechtigungen auf einem Universitätsserver, sodass sie Dateien schreiben konnten.
Die Open-Source-Anwendung hilft Forschenden dabei, medizinische Bilder zu beschriften. Cairn, das bei dem Angriff eingesetzte Framework, koordiniert KI-Agenten, die mit wenig menschlicher Steuerung Ziele verfolgen. Amazon zufolge wurde das Unternehmen auf die Kampagne aufmerksam, nachdem es einen öffentlich zugänglichen Cairn-Server entdeckt hatte, der die Prompts des Betreibers und die Aktivitäten der Agenten offenlegte.
Die Aufzeichnungen zeigten, dass im Laufe von etwa 48 Stunden im September Universitäten in Ostasien außerhalb Festlandchinas angegriffen wurden. Die Agenten untersuchten, wie andere Software mit MONAI Label interagieren konnte, und entdeckten eine Schwachstelle in der Datei-Upload-Funktion, durch die sie Dateien außerhalb des vorgesehenen Speicherbereichs schreiben konnten. Bei einer späteren Sitzung nutzten sie die Schwachstelle, um ein Python-Programm auf dem Server abzulegen, das eine Verbindung für Fernbefehle herstellte.
Sie führten das Programm aus und erlangten die höchsten Berechtigungen auf dem Server. Amazon schätzt mit mittlerer Sicherheit, dass der Akteur Verbindungen zu China hatte. Dafür sprechen die Sprache der Prompts, die Zeitstempel und die Auswahl der Ziele. Die Projektverantwortlichen wurden benachrichtigt und veröffentlichten eine Sicherheitswarnung.
Stand der Berichterstattung vom 20. November war die Fehlerbehebung zwar in den Projektcode aufgenommen worden, eine aktualisierte Softwareversion jedoch noch nicht veröffentlicht. Administratoren wurde empfohlen, den Netzwerkzugriff und die Berechtigungen einzuschränken und exponierte Systeme auf Anzeichen einer Kompromittierung zu überprüfen.