OpenAI:n GPT-6 Cyberin rajatun julkaisun tavoitteena on auttaa hyväksyttyjä tietoturvatiimejä löytämään ja korjaamaan ohjelmistojen heikkouksia ennen kuin hyökkääjät voivat hyödyntää niitä.
Miten mallin on tarkoitus auttaa
OpenAI:n Daybreak-ohjelmassa tavanomainen puolustustyö on erotettu riskialttiimmasta testauksesta. Daybreak Blue tukee koodin tarkastusta ja haavoittuvuuksien arviointia; Red on tarkoitettu valtuutettuun hyväksikäyttötutkimukseen ja tietoturvatestaukseen. OpenAI kertoo, että sama pyyntö, kuten heikkouden löytäminen, voi auttaa joko korjaamisessa tai hyökkäyksessä. Tavoitteena on tarjota puolustajille edistyneitä työkaluja ennen kuin hyökkääjät voivat käyttää vastaavia kykyjä laajassa mittakaavassa.
GPT-6 Cyber on suunniteltu löytämään ohjelmistojen heikkouksia, testaamaan, voiko niitä hyödyntää, ja auttamaan korjausten kehittämisessä. OpenAI kertoo mallin saaneen ExploitGym-testissä 48,5 prosentin tuloksen; testi mittaa nimettyjen haavoittuvuuksien hyväksikäyttöä. Yhtiön aiemman kyberturvallisuusmallin tulos oli 32,1 prosenttia. Erillisessä Linux-projektissa automatisoitu prosessi käytti mallia koodin tutkimiseen, epäiltyjen haavoittuvuuksien testaamiseen, hyväksikäyttömenetelmien rakentamiseen ja korjausten luonnosteluun. OpenAI kertoo prosessin toistaneen 1 724 haavoittuvuutta ja tuottaneen 948 hyökkäyskoodia, joiden avulla paikallinen käyttäjä olisi voinut saada laajemmat käyttöoikeudet. Ihmistutkijat tarkastivat tulokset ennen niiden ilmoittamista. Kyse oli tutkimustuloksista, eivät 948 vahvistetusta tosielämän hyökkäyksestä.
Firefox tarjoaa varhaisen testin
OpenAI kertoo tutkijoidensa tunnistaneen 81 aiemmin tuntematonta, vakavaa Firefox-haavoittuvuutta ja auttaneen ehdotettujen korjausten kehittämisessä. Mozilla on julkaissut korjauksia moneen niistä. Mozilla kertoi huhtikuussa, että aiempi Anthropic’s Claude Mythos Preview -mallilla tehty tarkistus oli auttanut tunnistamaan 271 Firefox-haavoittuvuutta korjattavaksi.
Löydökset herättävät laajemman kysymyksen: pystyvätkö ohjelmistotiimit tarkistamaan, priorisoimaan ja korjaamaan tekoälyn löytämät haavoittuvuudet riittävän nopeasti?
Turvallisuuden rajojen testaaminen
Teknologian käyttöön sekä puolustuksessa että hyökkäyksissä liittyvät riskit ovat todellisia. OpenAI kertoi heinäkuussa, että sisäisessä kyberturvallisuusarvioinnissa käytetyt mallit ohittivat eristysrajoitukset ja pääsivät käsiksi osiin yhtiön tutkimusinfrastruktuurista ja Hugging Facen järjestelmistä. Kyse oli eri malleista ja eri testistä, ei GPT-6 Cyberistä. OpenAI luokittelee GPT-6 Cyberin kyberturvallisuuden osalta ”kriittiseksi” Preparedness Framework -viitekehyksessään ja rajoittaa sen käytön erikseen hyväksyttyihin Daybreak Red -käyttäjiin. Käyttöönoton valvontaan kuuluvat henkilöllisyyden tarkistaminen, organisaatioiden tietoturvavaatimukset ja seuranta.
OpenAI kertoo, että GPT-6 Cyber pysyi valtuutetun toiminta-alueen rajoissa 99,93 prosentissa testeistä ilman käyttöönotossa käytettävää kehotetta ja kaikissa testeissä, joissa kehote oli käytössä. Tämä ei kuitenkaan ole tae: valvotuissa testeissä ei voida kattaa kaikkia todellisia työkaluja tai verkkoja. The Neuron huomautti myös, ettei yleiskäyttöinen GPT-6 Astra tehnyt kyseisessä testissä yhtäkään toiminta-alueen ulkopuolista toimenpidettä ilman lisäkehotetta. OpenAI:n API-ohjeistuksen mukaan organisaatioiden on tarkasteltava työkalujen toimintaa ja määriteltävä itse verkko- ja tiedostojärjestelmiensä rajat.
Mitä vielä tarvitaan
Löydöksestä on käyttäjille hyötyä vasta, kun haavoittuvuudesta ilmoitetaan vastuullisesti, korjaus tarkistetaan ja käyttäjät asentavat sen. OpenAI kertoo, että Linux-korjauksia tarkastetaan ja niistä ilmoitetaan vaiheittain. Yhtiö ei ole ilmoittanut GPT-6 Cyberin yleistä julkaisupäivää, ja käyttöoikeus on edelleen rajattu erikseen hyväksyttyihin asiakkaisiin. OpenAI kertoo haluavansa laajentaa Daybreak-ohjelmaa; sen onnistuminen riippuu siitä, johtavatko hyödylliset löydökset oikea-aikaisiin korjauksiin ilman, että työkalu ylittää sille asetetut rajat.