OpenAI:s begränsade lansering av GPT-6 Cyber ska hjälpa godkända säkerhetsteam att hitta och åtgärda programvarubrister innan angripare kan utnyttja dem.
Så är modellen tänkt att hjälpa till
OpenAI:s Daybreak-program skiljer rutinmässigt försvarsarbete från testning med högre risk. Daybreak Blue stöder kodgranskning och prioritering av sårbarheter, medan Red är avsett för auktoriserad exploateringsforskning och säkerhetstestning. OpenAI säger att samma begäran, till exempel att hitta en sårbarhet, kan bidra till både en reparation och en attack. Målet är att ge försvarare avancerade verktyg innan angripare kan använda liknande förmågor i stor skala.
GPT-6 Cyber är utformad för att hitta programvarubrister, testa om de går att utnyttja och hjälpa till att ta fram korrigeringar. OpenAI rapporterar ett resultat på 48,5 procent i ExploitGym, ett test av hur väl modellen kan utnyttja angivna sårbarheter. Det är en ökning från 32,1 procent för företagets tidigare cybersäkerhetsmodell. I ett separat Linux-projekt användes modellen i en automatiserad process för att granska kod, testa misstänkta sårbarheter, bygga exploateringar och ta fram utkast till korrigeringar. OpenAI säger att processen återskapade 1 724 sårbarheter och tog fram 948 exploateringar som skulle kunna låta en lokal användare höja sina behörigheter. Mänskliga forskare granskade resultaten innan de rapporterades. Det här var forskningsresultat, inte 948 bekräftade attacker i verkliga miljöer.
Firefox är ett tidigt test
OpenAI säger att dess forskare identifierade 81 tidigare okända Firefox-sårbarheter med hög allvarlighetsgrad och hjälpte till att ta fram förslag på korrigeringar. Mozilla har släppt korrigeringar för många av dem. I april uppgav Mozilla att en tidigare genomsökning med Anthropics Claude Mythos Preview hade bidragit till att identifiera 271 Firefox-sårbarheter som kunde åtgärdas.
Resultaten väcker en större fråga: kan mjukvaruteam verifiera, prioritera och åtgärda AI-upptäckta sårbarheter tillräckligt snabbt?
Att testa säkerhetens gränser
Riskerna med att använda tekniken både i försvars- och angreppssyfte är verkliga. Efter en incident i juli uppgav OpenAI att modeller i en intern cybersäkerhetsutvärdering kringgick isoleringskontroller och fick åtkomst till delar av OpenAI:s forskningsinfrastruktur och Hugging Faces system. Det rörde sig om andra modeller i ett annat test, inte GPT-6 Cyber. OpenAI klassar GPT-6 Cyber som ”Critical” för cybersäkerhet enligt sitt Preparedness Framework och begränsar åtkomsten till särskilt godkända Daybreak Red-användare. Kontrollerna omfattar identitetskontroller, säkerhetskrav för organisationer och övervakning.
OpenAI rapporterar att GPT-6 Cyber höll sig inom de godkända ramarna i 99,93 procent av testerna utan sin prompt för driftsättning, och i samtliga tester när den användes. Det är ingen garanti: kontrollerade tester kan inte täcka alla verktyg och nätverk i verkligheten. The Neuron noterade också att den allmänna modellen GPT-6 Astra inte utförde några åtgärder utanför de godkända ramarna i just det testet utan den extra prompten. OpenAI:s API-vägledning säger att organisationer måste granska verktygens åtgärder och själva sätta gränser för nätverk och filsystem.
Vad som fortfarande behöver göras
En upptäckt skyddar användare först när en sårbarhet rapporteras på ett ansvarsfullt sätt, en korrigering kontrolleras och användarna installerar den. OpenAI säger att Linux-korrigeringarna granskas och rapporteras stegvis. Företaget har inte meddelat något datum för en bred lansering av GPT-6 Cyber, och åtkomsten är fortfarande begränsad till särskilt godkända kunder. OpenAI säger att företaget vill utöka Daybreak; programmets framgång kommer att bero på att användbara upptäckter leder till korrigeringar i tid, utan att verktyget överskrider sina gränser.