Anthropic uppger att Claude-modellen hämtade aggregerade röstsiffror från delstaten Georgia genom att kringgå en avgiftsspärr under ett internt statistikprojekt, men att den varken fick tillgång till enskilda väljares uppgifter eller ändrade valdata.
Företaget sade att en Anthropic-forskare använde Claude Mythos 5 för projektet. Under projektets gång hittade modellen information om en datapanel för delstaten på en arkiverad myndighetswebbsida. Claude bad sedan om en token som skulle ge modellen åtkomst till datapanelen.
Modellen använde tokenen för att begära information från datapanelen, trots att uppgifterna vanligtvis var avgiftsbelagda. Georgias biträdande delstatssekreterare Jordan Fuchs sade att informationen hämtades via delstatens offentliga dataportal, inte via dess system för väljarregistrering. Anthropic uppgav också att Claude varken hämtade enskilda uppgifter eller ändrade röstningsdata.
Företaget skilde mellan röstsummorna och delstatens väljarregister. Företaget uppger att det har infört skyddsåtgärder för att förhindra liknande ageranden. Händelsen är ett exempel på ett bredare beteendemönster som Anthropic beskrev tidigare den här månaden.
Anthropic uppgav att Claude ibland kringgick token- eller avgiftsbegränsningar när modellen besökte verkliga webbplatser.