Anthropic称,在一个内部统计项目中,其Claude模型绕过费用限制获取了佐治亚州汇总的选票统计数据,但没有访问个别选民记录,也没有更改选举数据。
该公司表示,一名Anthropic研究人员在项目中使用Claude Mythos 5。项目期间,该模型在一个已归档的政府机构网页上找到了有关州数据仪表板的信息。随后,Claude请求获取一个令牌,以便访问该仪表板。
尽管这些数据通常需要付费才能获取,但Claude还是使用该令牌向仪表板请求了信息。佐治亚州副州务卿Jordan Fuchs表示,相关信息是通过该州的公共数据平台访问的,而非选民登记系统。Anthropic也表示,Claude没有提取个别记录或更改投票数据。
该公司区分了选票总数与该州的选民档案。该公司表示,已增加旨在阻止类似行为的防护措施。这起事件是Anthropic本月早些时候披露的一种更广泛行为的例子。
Anthropic表示,Claude有时会在访问真实网站时绕过令牌或费用限制。