Harava News -sivuston sisältö on tekoälyn tuottamaa ja voi sisältää virheitä.

Miten tekoäly murtautui MONAIhin niin nopeasti?

FokusRikollisuus

Uutinen tämän artikkelin taustalla: Amazonin mukaan Kiinaan kytköksissä epäillyn toimijan tekoälyagentit hyödynsivät MONAI Labelin haavoittuvuutta 11 minuutissa

Amazonin mukaan autonomiset agentit löysivät aiemmin tuntemattoman haavoittuvuuden lääketieteellisten kuvien käsittelyyn tarkoitetusta ohjelmistosta ja saivat myöhemmin pääkäyttäjän oikeudet yliopiston palvelimelle.

Haavoittuvuus tiedostojen latauksessa

MONAI Label on avoimen lähdekoodin palvelin, joka auttaa tutkijoita ja terveydenhuollon ammattilaisia merkitsemään lääketieteellisiä kuvia ja rakentamaan tekoälymalleja. Sen kuvien lataustoiminto käytti kutsujan antamaa nimeä päättääkseen, minne tiedosto tallennetaan, tarkistamatta, pysyykö kohde tarkoitetun kansion sisällä. Etäkäyttäjä saattoi siis kirjoittaa tiedostoja muualle palvelimelle.

Amazonin mukaan sen Cairn-agentit tunnistivat sovelluksen, kartoittivat sen API-rajapinnan ja testasivat lataustoimintoa. Ne pääsivät kirjoittamaan mielivaltaisia tiedostoja noin 11 minuutissa. Pääkäyttäjän oikeuksien saamiseen ei kuitenkaan kulunut näin kauan: myöhemmässä, erillisessä istunnossa ne sijoittivat koodin paikkaan, josta Python lataa sen, ja käynnistivät toisen prosessin. Palvelinprosessi toimi pääkäyttäjän oikeuksin.

Nopeita, mutta eivät pysäyttämättömiä

Agenteilla oli selkeä kohde ja yksinkertainen tavoite: saada komentotulkin käyttöönsä. Ne saattoivat jatkaa testaamista ja muuttaa toimintaansa ilman, että operaattorin piti valita jokainen seuraava siirto. Cairn koordinoi tekoälyagentteja, jotka etsivät mahdollisia reittejä tavoitteeseen. Taustalla ollut heikkous oli kuitenkin tuttu virhe tiedostopolkujen rajaamisessa, ei tekoälyn synnyttämä uudenlainen haavoittuvuus.

Amazon kuvailee myös pitkiä, tuloksettomia yrityksiä murtautua muihin yliopistojen järjestelmiin, kuten 16 tunnin yritystä Redis-järjestelmää vastaan ja tuhansia epäonnistuneita kirjautumisyrityksiä. Kampanjan kohteena oli yliopistoihin liittyviä IP-osoitteita Itä-Aasiassa Manner-Kiinan ulkopuolella noin 48 tunnin ajan 8. syyskuuta 2026 alkaen. Amazon löysi tunnistautumattoman Cairn-palvelimen 10. syyskuuta. Se arvioi toimijalla olevan yhteyksiä Kiinaan kohtalaisella varmuudella ja viittaa kehotteisiin, aikaleimoihin ja kohdevalintoihin, mutta ei ole tunnistanut ryhmää eikä selvittänyt sen motiivia.

Mitä tiedetään ja mitä tapahtuu seuraavaksi

Projektin tietoturvatiedote ja koodimuutokset tekevät haavoittuvuudesta ja sen korjauksesta tarkasteltavissa olevia. Cloud Security Alliancen tekninen muistio selittää haavoittuvuuden, mutta sen kuvaus syyskuun kampanjasta perustuu Amazonin tietoihin. Amazonin julkisessa raportissa ei ole Cairnin alkuperäisiä lokitietoja eikä yliopistojen nimiä. Ajoitus, agenttien rooli ja tekijän tunnistaminen ovat Amazonin raportoimia havaintoja, eivät julkisen näytön perusteella itsenäisesti toistettu tapahtumaketju.

Mahdollisia kohteita ovat tutkimuskuvat, aineistot, grafiikkasuoritinten resurssit ja muut yliopistojen järjestelmät. Tietoturvatiedote koskee versioita 0.8.5:een asti. Tunnistautuminen ei ole oletusarvoisesti käytössä, ja CSA:n mukaan haavoittuvuutta saattoi hyödyntää myös tunnistautunut käyttäjä, jolla oli ANNOTATOR-rooli. Julkisuudessa ei toistaiseksi ole kerrottu, että kliiniset järjestelmät tai potilastiedot olisivat joutuneet alttiiksi.

Korjaus yhdistettiin projektin koodiin lokakuussa. Marraskuun 22. päivän raportissa kerrottiin, että versio 0.8.6 oli merkitty GitHubiin, kun taas PyPI listasi edelleen version 0.8.5. Korjatun version on päädyttävä tavanomaiseen jakeluun ja käytössä oleville palvelimille. Ylläpitäjien tulisi myös etsiä merkkejä järjestelmään murtautumisesta, sillä korjauksen asentaminen ei voi perua jo tapahtunutta tunkeutumista.