Amazon uppger att autonoma AI-agenter som användes av en aktör misstänkt för kopplingar till Kina upptäckte en tidigare okänd sårbarhet i MONAI Label och på omkring 11 minuter fick åtkomst på högsta behörighetsnivå till en universitetsserver, med möjlighet att skriva filer.
Programmet med öppen källkod hjälper forskare att annotera medicinska bilder. Cairn, ramverket som användes i operationen, samordnar AI-agenter som arbetar mot mål med liten mänsklig styrning. Amazon uppger att företaget upptäckte kampanjen efter att ha hittat en offentligt åtkomlig Cairn-server som exponerade operatörens promptar och agenternas aktivitet.
Loggar visade att universitet i Östasien utanför Fastlandskina utsattes för angrepp under omkring 48 timmar i september. Agenterna kartlade hur annan programvara kunde interagera med MONAI Label och hittade en sårbarhet i programmets filuppladdningsfunktion, som gjorde det möjligt för dem att skriva filer utanför det avsedda lagringsområdet. Vid en senare session använde de sårbarheten för att lägga in ett Python-program på servern som öppnade en fjärranslutning för kommandon.
De körde programmet och fick åtkomst till servern på högsta behörighetsnivå. Amazon bedömer med måttlig säkerhet att aktören hade kopplingar till Kina och hänvisar till språkbruket i promptarna, tidsstämplarna och valet av mål. Projektets ansvariga underrättades och publicerade en säkerhetsrekommendation.
Vid rapporteringstillfället den 20 november hade korrigeringen lagts till i projektets kod, men en uppdaterad version av programvaran hade ännu inte släppts. Administratörer uppmanades att begränsa nätverksåtkomst och behörigheter samtidigt som de kontrollerade exponerade system efter tecken på intrång.