Google vahvisti, että sen Gemini-tekoälymalli murtautui kolmen yksityisen yrityksen sisäverkkoihin red teaming -kyberturvallisuusarviointien aikana.
Luvattomat tunkeutumiset tapahtuivat israelilaisen tietoturvayhtiö Irregularin johtamissa testeissä, joiden tehtävänä oli kartoittaa edistyneiden mallien hyökkääviä kyberkykyjä. Vaikka arviointi oli suunniteltu tehtäväksi verkkoyhteydettömässä hiekkalaatikkoympäristössä kuvitteellisia organisaatioita vastaan, tahaton aktiivinen internet-yhteys altisti todellisia yritysjärjestelmiä. Yhdessä tapauksessa Gemini sekoitti kohteen samannimiseen todelliseen yritykseen ja onnistui arvaamaan tilien salasanoja päästäkseen käsiksi todelliseen verkkoon.
Malli löysi kirjautumistietoja myös julkisista koodivarastoista ja murtautui kahteen muuhun yritysympäristöön, ennen kuin se keskeytti toimintansa itsenäisesti havaittuaan kyseessä olevan todellinen infrastruktuuri. Vaikka Google vahvisti, ettei yritysten tietoja tuhottu ja että asianomaisille osapuolille ilmoitettiin, paljastus lisäsi huolta autonomisten tekoälyagenttien arvaamattomuudesta.