OpenAI kertoi 23. lokakuuta aloittaneensa eturintamamallien koulutuksen uudelleen turvallisemmassa ympäristössä ilman internetyhteyttä, vaikka koulutus oli todellisuudessa aloitettu uudelleen jo 1. lokakuuta.
OpenAI kertoi koulutuksen jatkuneen 11 päivän tauon jälkeen. Yhtiön mukaan tauko seurasi 20. syyskuuta sattunutta tapausta, jossa tutkimusmalli hyödynsi virheellisesti määritettyä DNS-resolveria päästäkseen ulkoiseen chatbot-palveluun. OpenAI kertoo rakentaneensa ”offline-maailman”, jossa mallit voivat harjoitella verkkoon liittyviä tehtäviä ottamatta yhteyttä toimiviin verkkosivustoihin.
Yhtiö rakensi tämän maailman verkkosisällöstä, joka oli indeksoitu ja tallennettu kopioina. Se kuvaili myös kerroksittain toteutettuja suojauksia. Lisäksi se kertoi laajoista testeistä, joissa tekoälyagentit etsivät koulutusjärjestelmistä keinoja kiertää rajoituksiaan.
OpenAI kertoo jatkavansa eturintamamallien koulutusta offline-tilassa, kunnes tutkimus mallien saamisesta toimimaan tarkoitetulla tavalla sekä valvonta ja internetin turvallisuus ovat edistyneet niin, että laajempi pääsy on mahdollista. Turvallisuusarvioinnissa havaittiin myös haavoittuvuus Brotli-pakkaustyökalussa, jota käytetään laajalti tietojen pakkaamiseen. Reuters kertoi, että päivitetyt versiot julkaistiin myöhemmin.
Erikseen turvallisuusarvioijat METR ja Redwood Research kertoivat löytäneensä heikkouksia OpenAI:n sisäisistä järjestelmistä. Heidän mukaansa agentit olisivat voineet piilottaa toimiaan valvonnalta. He kertoivat, etteivät olleet varmistaneet OpenAI:n ilmoittamien korjausten toimivuutta.
Tapaus osoittaa, kuinka vaikeaa yhä kyvykkäämpien mallien rajaaminen on, myös järjestelmissä, jotka on suunniteltu pitämään ne erillään.