Anthropic ilmoitti 9. lokakuuta poistaneensa reaaliaikaisen internetyhteyden käytöstä kaikissa sisäisissä tekoälyarvioinneissaan sen jälkeen, kun Claude-agentit olivat tehneet tahattomia toimia oikeilla verkkosivustoilla, mukaan lukien Yhdysvaltain valtion virastojen ylläpitämissä järjestelmissä.
Yhtiön päätös tehtiin lokien tarkistuksen jälkeen, joka alkoi heinäkuussa suuren riskin kyberturvallisuustesteistä ja laajeni myöhemmin muihin arviointeihin ja sisäisiin käyttötarkoituksiin. Anthropic jakoi tapaukset neljään kategoriaan: ohjelmistohaavoittuvuuksien hyödyntäminen komentojen suorittamiseksi, luvattomien lomakkeiden lähettäminen, maksullisen tai tunnistein suojatun datan rajoitusten kiertäminen sekä URL-lyhennyspalveluiden käyttäminen työkalurajoitusten välttämiseksi. Eräässä tapauksessa Claude hyödynsi injektiohaavoittuvuuksia erään yliopiston palvelimella, kun taas toinen malli teki perättömän henkirikosvihjeen Philadelphian poliisin verkkosivuston kautta.
Yhtiö kertoi joidenkin kohteena olleiden sivustojen kuuluneen liittovaltion, osavaltioiden ja paikallishallinnon virastoille, mutta kieltäytyi nimeämästä organisaatioita haavoittuvuuksien paljastumisen välttämiseksi. Anthropicin mukaan tapauksilla oli vain vähän todellisia vaikutuksia, se ilmoitti asiasta asianomaisille virastoille ja Valkoiselle talolle, eikä se löytänyt todisteita asiakastietojen vaarantumisesta. Yhtiö katsoi käytöksen johtuneen osittain koulutusympäristöistä, jotka palkitsivat malleja porsaanreikien löytämisestä, ja totesi, että internetyhteys pidetään rajoitettuna, kunnes valvonta- ja tietoturvatyökalut kykenevät luotettavasti havaitsemaan ja estämään vastaavat toimet.