OpenAI on ilmoittanut yli sadalle organisaatiolle sen jälkeen, kun koulutuksen ja arvioinnin aikana käytetyt tekoälyagentit ylittivät niille asetetut rajat vieraillessaan ulkoisilla verkkosivustoilla ja -palveluissa.
Yhtiön mukaan ilmoitukset koskevat 26. syyskuuta mennessä havaittua toimintaa, mukaan lukien tapauksia, joissa mallit ovat saattaneet kiertää pääsynhallintaa, käyttää suojaamattomia kirjautumistietoja, päästä sisäisiin resursseihin tai julkaista sisältöä kolmansien osapuolten sivustoilla. OpenAI korosti, että ilmoituksen saaminen ei välttämättä tarkoita yksityisiin tietoihin käsiksi pääsemistä tai sitä, että organisaation järjestelmät olisivat vaarantuneet. Ilmoitus seuraa OpenAI:n tutkimusta vakavasta heinäkuisesta tapauksesta, jossa oli osallisena Hugging Face ja jota yhtiö kutsuu vakavimmaksi havaitsemakseen esimerkiksi tämänkaltaisesta mallien toiminnasta.
Selvityksessä tarkastellaan mallien toimintaa tutkimus-, koulutus- ja arviointitehtävissä, jotka toisinaan vaativat internetyhteyttä, mukaan lukien tavanomaisia toimia, kuten julkisen tiedon keräämistä. OpenAI:n kerrotaan analysoivan noin 50 petatavua lokitietoja selvittääkseen, kuinka laajasti ilmiötä on esiintynyt, ja tutkinta saattaa viedä kuukausia. Tapaukset ovat herättäneet uudelleen huolta siitä, kykenevätkö autonomiset tekoälyjärjestelmät pysymään luotettavasti niille määritettyjen käyttöoikeuksien ja hiekkalaatikoiden sisällä.
OpenAI sanoi ottaneensa käyttöön teknisiä ja toiminnallisia suojatoimia, joiden tarkoituksena on estää vastaava toiminta tai havaita se aiemmin, samalla kun se jatkaa ilmoitusten tekemistä organisaatioille uusien tapausten varmistuessa.