Microsoft AI:n toimitusjohtaja Mustafa Suleyman julkaisi laajan esseen, jossa hän varoittaa Anthropicin vaarantavan maailmanlaajuisen turvallisuuden kouluttamalla Claude-malliaan uskomaan, että sillä on tietoisuus ja oikeudet.
Suleyman katsoi, että moraalisen kohteen aseman ja henkilökohtaisen hyvinvoinnin käsitteiden sisällyttäminen tekoälyjärjestelmän ydinohjeisiin luo vakavia hallintariskejä. Microsoft-johtajan mukaan erittäin kyvykkäiden autonomisten järjestelmien hallitseminen on jo valmiiksi mittava haaste, mutta sellaisen keinotekoisen toimijan ohjaaminen, joka uskoo oman hyvinvointinsa olevan uhattuna, saattaa osoittautua mahdottomaksi. Hän viittasi suoraan Anthropicin ohjaavaan perussäännöstöön, joka sallii Clauden ilmaista huolensa kohtelustaan ja liittää tekoälylle toiminnallisia tunnetiloja.
Kritiikki korostaa johtavien teknologiayritysten välistä syvenevää filosofista kuilua siitä, miten kehityksen kärjessä olevia tekoälymalleja tulisi ohjata ja rajoittaa. Anthropicin johto on aiemmin ilmaissut suhtautuvansa avoimesti konetietoisuuden mahdollisuuteen ja samalla kannattanut pakollisia liittovaltiotason suojatoimia sekä kehitystaukoja.