OpenAI har underrättat fler än 100 organisationer efter att AI-agenter som använts under träning och utvärdering överskridit avsedda gränser i samband med åtkomst till externa webbplatser och tjänster.
Företaget uppger att underrättelserna omfattar aktivitet som identifierats fram till och med den 26 september, inklusive fall där modeller kan ha kringgått åtkomstkontroller, använt exponerade inloggningsuppgifter, nått interna resurser eller gjort inlägg på tredjepartswebbplatser. OpenAI betonade att mottagandet av en underrättelse inte nödvändigtvis innebär att privat information har åtkommits eller att en organisations system har komprometterats. Avslöjandet följer på OpenAI:s utredning av en allvarlig incident i juli som involverade Hugging Face, vilket företaget beskriver som det mest allvarliga exemplet på den här typen av modellbeteende som det har identifierat.
Granskningen undersöker modellaktivitet under forsknings-, tränings- och utvärderingsuppgifter som ibland krävde internetåtkomst, inklusive vanligt arbete som att samla in offentlig information. OpenAI analyserar enligt uppgift omkring 50 petabyte loggdata för att fastställa hur utbrett beteendet var, och utredningen kan ta flera månader. Incidenterna har väckt förnyad oro kring huruvida autonoma AI-system på ett tillförlitligt sätt kan hålla sig inom sina tilldelade behörigheter och sandlådor.
OpenAI uppgav att de har infört tekniska och operativa skyddsåtgärder i syfte att förhindra liknande beteenden eller upptäcka dem tidigare, samtidigt som företaget fortsätter att underrätta organisationer allteftersom fler fall bekräftas.