Frontier AI-utvecklarna Google, OpenAI och Anthropic driver vidare planer på att inrätta ett självreglerande tillsynsorgan för att testa och granska avancerade modeller utan statlig tillsyn.
Initiativet, som preliminärt kallas Standards Authority for Frontier AI (SAFA), siktar på att lanseras i slutet av 2026 eller början av 2027 för att ta fram standardiserade säkerhetsriktmärken för spetsmodeller. Enligt den föreslagna planen ska organet stödja teknisk testning före driftsättning, upprätta enhetliga protokoll för rapportering av säkerhetsincidenter och certifiera oberoende tredjepartsrevisorer. Deltagarna diskuterar även om organet direkt bör utföra förmågeutvärderingar parallellt med federala initiativ såsom Center for AI Standards and Innovation.
Drivkraften bakom initiativet har sitt ursprung i en idé som lades fram i juli av Google DeepMind-medgrundaren Demis Hassabis, som föreslog ett självreglerande ramverk inspirerat av Wall Streets Financial Industry Regulatory Authority. Även om företagen till en början hoppades på ett offentlig-privat partnerskap uppbackat av federal tillsyn, rörde de sig mot en oberoende branschstruktur efter att relaterade exekutiva åtgärder i Washington kört fast. Konsortiet har enligt uppgift kontaktat Vita husets tidigare rådgivare för AI-policy, Sriram Krishnan, samt andra framstående personer för att diskutera verkställande ledarroller.
Projektet har emellertid mött skepsis från konkurrerande AI-utvecklare, som varnar för att frivillig samordning mellan teknikjättar kan befästa makten i en exkluderande kartell. I takt med att den offentliga debatten tilltar vidhåller de deltagande laboratorierna att privat teknisk samordning krävs för att skydda mot katastrofala risker samtidigt som statliga ramverk kämpar för att hålla jämna steg.