Kaliforniens guvernör Gavin Newsom undertecknade på fredagen en exekutiv order som instruerar delstatliga tjänstemän att påskynda säkerhetsåtgärder och utvärdera obligatoriska nödstopp för avancerade modeller för artificiell intelligens.
Direktivet inrättar en rådgivande expertpanel med uppdrag att senast i mitten av november lägga fram konkreta förslag för att stärka delstatens tillsyn över ledande AI-utvecklare. Enligt ordern måste kaliforniska myndigheter undersöka protokoll som skulle kräva att kommersiella laboratorier genomgår utvärderingar på plats av oberoende granskningsorganisationer. Tillsynsmyndigheter beordrades även att utöka de lagstadgade rapporteringskraven vid incidenter där kontrollen förloras, vilket tvingar företag att rapportera så snart autonoma modeller överskrider operativa gränser.
Åtgärden innebär en markant regleringsmässig kursändring för Newsom, som tidigare lade in sitt veto mot en omfattande lagstiftning om AI-säkerhet efter motstånd från teknikbolag och investerare. Newsom försvarade det offensiva ingripandet med att Kalifornien måste införa skyddsåtgärder eftersom den federala regeringen har misslyckats med att införa meningsfull tillsyn.