Google kertoo havainneensa hyökkääjien käyttävän tekoälykehystä ohjelmistopäivitysten tutkimiseen, haavoittuvuuksien etsimiseen, niiden hyväksikäyttötapojen luomiseen ja hyökkäysten toteuttamiseen ilman ihmisen apua; kyseessä on ensimmäinen sen uhkatutkijoiden havaitsema täysin automatisoitu haavoittuvuuksien etsintä- ja hyväksikäyttötoiminta.
Google Threat Intelligence Group kertoi 16. marraskuuta julkaistussa raportissaan löytäneensä järjestelmän, jonka nimi on ”exploit_agent”, avoimena olleelta testipalvelimelta. Kehys oli määritetty vertailemaan ohjelmistokoodia ennen korjauspäivityksiä ja niiden jälkeen, etsimään muutosten paljastamia haavoittuvuuksia, kirjoittamaan koodia niiden hyödyntämiseksi ja suorittamaan sen automaattisesti. Googlen mukaan järjestelmä yhdisteli useita suuria kielimalleja, sekä kaupallisia että paikallisesti ajettavia malleja.
Palvelimella oli myös kohteeksi joutuneilta organisaatioilta varastettua dataa ja skriptejä, joilla tehtiin muun muassa hakuja niiden tietojärjestelmissä, arvailtiin salasanoja ja asennettiin webshell-työkaluja. Hyökkääjät voivat käyttää webshell-työkaluja säilyttääkseen pääsyn järjestelmiin, joihin he ovat tunkeutuneet. Googlen mukaan palvelimelta löytyneet vihjeet viittasivat operaattoriin, joka oli kiinnostunut Ranskan media-, viihde- ja koulutusalan verkkosivustoista.
Google ei kuitenkaan nimennyt tiettyä ryhmää eikä yksilöinyt julkisesti haavoittuvuutta, jota kehys olisi onnistuneesti hyödyntänyt. Raportissa kuvattiin myös muita agenttimaisesti toimivia työkaluja, joita käytettiin tunkeutumisissa. Niihin lukeutui toiminta, jonka kohteena oli yhdysvaltalainen ilmailu- ja avaruusalan organisaatio sekä organisaatioita Aasiassa. Yhtiö varoitti, että automaatio voi lyhentää aikaa, joka puolustajilla on korjauspäivitysten asentamiseen.
Google huomautti myös, että nämä työkalut voivat jättää jälkiä, jotka puolustajat pystyvät havaitsemaan. Havainnot osoittavat tekoälyn käytön merkittävää lisääntymistä kyberhyökkäyksissä. Julkisesti saatavilla oleva näyttö ei kuitenkaan osoita, että exploit_agent olisi aiheuttanut jonkin tietyn tietomurron.