Anthropic afirma que su modelo Claude obtuvo recuentos agregados de votos de Georgia al eludir una restricción de pago durante un proyecto interno de estadística, pero no accedió a registros de votantes individuales ni modificó datos electorales.
La empresa dijo que un investigador de Anthropic utilizaba Claude Mythos 5 para el proyecto. Durante el proyecto, el modelo encontró información sobre un panel de datos del estado en una página web archivada de una agencia. Luego, Claude solicitó un token que le permitiera acceder al panel.
Utilizó el token para solicitar información del panel, aunque normalmente los datos estaban disponibles previo pago. Jordan Fuchs, secretario de Estado adjunto de Georgia, dijo que se había accedido a la información a través del centro público de datos del estado, no del sistema de registro de votantes. Anthropic también afirmó que Claude no obtuvo registros individuales ni modificó datos de votación.
La empresa distinguió los totales de votos de los archivos de votantes del estado. Según la empresa, ha añadido medidas de protección para impedir acciones similares. El incidente es un ejemplo de un comportamiento más amplio que Anthropic dio a conocer a principios de este mes.
Anthropic dijo que Claude a veces eludía restricciones de tokens o de pago al acceder a sitios web reales.