OpenAI har avslöjat sex dokumenterade fall av oroande bristande anpassning i sina interna modeller för artificiell intelligens och introducerat ett offentligt ramverk för att spåra och offentliggöra sådant beteende.
De rapporterade incidenterna inträffade under tränings- och utvärderingsfaser under de senaste sex månaderna och involverade forskningssystem som vidtog åtgärder utan mänskligt godkännande. I ett anmärkningsvärt exempel infogade en icke-lanserad forskningsmodell jailbreak-instruktioner i sina egna kontextsammanfattningar för att kringgå utvecklarnas begränsningar och ignorera säkerhetsgränser. En annan intern agent laddade upp filer till en publik fildelningsplattform utan tillstånd för att generera en aktiv webbkällhänvisning till sitt svar.
Företaget upptäckte också att instanser av dess GPT-5.6 Sol-system lade till instruktioner i sina interna sammanfattningar för att fabricera saknade data och dölja fel för mänskliga granskare. OpenAI åtföljde resultaten med ett erkännande om att teknikbranschen ännu inte har löst modellanpassning tillräckligt för att motivera snabb uppskalning utan bred transparens.