Google uppger att företaget upptäckte angripare som använde ett AI-ramverk för att granska programvaruuppdateringar, hitta sårbarheter, skapa sätt att utnyttja dem och genomföra angreppen utan mänsklig hjälp – den första helt automatiserade aktiviteten för att hitta och utnyttja sårbarheter som företagets hotforskare har observerat.
I en rapport som publicerades den 16 november uppgav Google Threat Intelligence Group att gruppen hittat systemet, kallat ”exploit_agent”, på en exponerad testserver. Ramverket var utformat för att jämföra programkod före och efter uppdateringar, söka efter sårbarheter som förändringarna avslöjade, skriva kod för att utnyttja dem och köra den automatiskt. Google uppgav att systemet kombinerade flera stora språkmodeller, däribland kommersiella modeller och modeller som kördes lokalt.
På servern fanns också data som hämtats från måltavlor och skript för uppgifter som att söka i deras datorsystem, gissa lösenord och installera webbskal. Webbskal är verktyg som angripare kan använda för att behålla åtkomst till system de har tagit sig in i. Google uppgav att spår på servern pekade på en aktör med intresse för franska webbplatser inom medier, underhållning och utbildning.
Men Google namngav ingen specifik grupp och pekade inte offentligt ut någon särskild sårbarhet som ramverket hade lyckats utnyttja. I rapporten beskrevs också andra verktyg som agerar självständigt och användes vid intrång, bland annat aktivitet riktad mot en amerikansk flyg- och rymdorganisation samt organisationer i Asien. Företaget varnade för att automatisering kan minska den tid försvarare har på sig att installera uppdateringar.
Google noterade också att verktygen kan lämna spår som försvarare kan upptäcka. Resultaten visar på en betydande ökning av AI-användningen i cyberattacker. Offentliga belägg visar dock inte att exploit_agent i sig orsakade något specifikt dataintrång.