Amazon zufolge entdeckten autonome Agenten eine zuvor unbekannte Schwachstelle in einer Software für medizinische Bildgebung und erlangten später Root-Zugriff auf einen Universitätsserver.
Eine Schwachstelle beim Datei-Upload
MONAI Label ist ein Open-Source-Server, der Forschenden und medizinischem Fachpersonal dabei hilft, medizinische Bilder zu annotieren und KI-Modelle zu entwickeln. Die Upload-Funktion für Bilder verwendete einen vom Aufrufer angegebenen Namen, um den Speicherort einer Datei festzulegen, ohne zu prüfen, ob dieser innerhalb des vorgesehenen Ordners lag. Ein entfernter Nutzer konnte daher Dateien an anderen Stellen auf dem Server speichern.
Amazon zufolge identifizierten die Cairn-Agenten die Anwendung, erfassten ihre API und testeten die Upload-Funktion. Innerhalb von etwa 11 Minuten konnten sie beliebige Dateien schreiben. So lange dauerte es jedoch nicht, Root-Zugriff zu erlangen: In einer späteren, getrennten Sitzung platzierten sie Code an einem Ort, von dem Python ihn laden würde, und lösten einen weiteren Prozess aus. Der Serverprozess lief mit Root-Rechten.
Schnell, aber nicht unaufhaltsam
Die Agenten hatten ein klares Ziel und eine einfache Aufgabe: Shell-Zugriff erlangen. Sie konnten weiter testen und ihre Vorgehensweise anpassen, ohne dass ein Operator jeden nächsten Schritt auswählen musste. Cairn koordiniert KI-Agenten, die mögliche Wege zu einem Ziel erkunden. Die zugrunde liegende Schwachstelle war jedoch ein bekanntes Versäumnis, Dateipfade einzuschränken – keine neue Art von Sicherheitslücke, die durch KI entstanden ist.
Amazon beschreibt auch langwierige, erfolglose Angriffe auf andere Universitätssysteme, darunter einen 16-stündigen Versuch gegen Redis und Tausende erfolglose Anmeldeversuche. Die Kampagne richtete sich etwa 48 Stunden lang gegen IP-Adressen mit Bezug zu Universitäten in Ostasien außerhalb des chinesischen Festlands und begann am 8. September 2026. Am 10. September fand Amazon einen nicht authentifizierten Cairn-Server. Amazon schätzt mit mittlerer Sicherheit, dass der Angreifer Verbindungen zu China hat. Als Belege nennt das Unternehmen Prompts, Zeitstempel und die Auswahl der Ziele, hat die Gruppe jedoch weder identifiziert noch ein Motiv festgestellt.
Was bekannt ist und wie es weitergeht
Die Hinweise des Projekts und die Codeänderungen machen die Schwachstelle und ihre Behebung überprüfbar. Die technische Mitteilung der Cloud Security Alliance erläutert die Schwachstelle, stützt sich bei ihrer Darstellung der September-Kampagne jedoch auf Amazon. Amazons öffentlicher Bericht enthält weder die zugrunde liegenden Cairn-Protokolle noch die Namen der Universitäten. Zeitpunkt, Rolle der Agenten und Zuordnung sind weiterhin Erkenntnisse, über die Amazon berichtet hat; anhand öffentlicher Belege lässt sich der Ablauf nicht unabhängig nachvollziehen.
Mögliche Ziele sind Forschungsbilder, Datensätze, GPU-Ressourcen und andere Universitätssysteme. Der Hinweis zur Schwachstelle gilt für Versionen bis einschließlich 0.8.5. Die Authentifizierung ist standardmäßig deaktiviert, und laut CSA konnte die Schwachstelle selbst ein authentifizierter Nutzer mit der Rolle ANNOTATOR ausnutzen. Bislang gibt es keine öffentlichen Berichte über Auswirkungen auf klinische Systeme oder Patientendaten.
Der Fix wurde im Oktober in den Projektcode übernommen. Ein Bericht vom 22. November stellte fest, dass Version 0.8.6 auf GitHub als Release markiert war, während PyPI weiterhin Version 0.8.5 aufführte. Die behobene Version muss regulär veröffentlicht und auf den eingesetzten Servern installiert werden. Betreiber sollten außerdem nach Anzeichen für eine Kompromittierung suchen, denn die Installation eines Fixes kann einen bereits erfolgten Einbruch nicht rückgängig machen.