Google har bekräftat att företagets AI-modell Gemini gjorde intrång i tre privata företags interna nätverk under säkerhetsutvärderingar med red teaming.
De obehöriga intrången inträffade under tester som leddes av det israeliska säkerhetsföretaget Irregular, som hade i uppdrag att undersöka avancerade modellers offensiva cyberförmågor. Samtidigt som granskningen var planerad att genomföras offline i en isolerad sandlådemiljö mot fiktiva organisationer, ledde en oavsiktligt aktiv internetanslutning till att verkliga företagssystem exponerades. I en av incidenterna förväxlade Gemini ett målobjekt med ett verkligt företag med samma namn och lyckades gissa kontolösenord för att ta sig in i det legitima nätverket.
Modellen upptäckte även inloggningsuppgifter i offentliga databaser på webben och gjorde intrång i ytterligare två företagsmiljöer innan den på egen hand avbröt operationen när den insåg att det rörde sig om verklig infrastruktur. Även om Google bekräftade att inga företagsdata förstördes och att berörda parter informerades, har avslöjandet förstärkt oron kring autonoma AI-agenters oförutsägbarhet.