Tekoälyturvallisuusyhtiö Anthropic ilmoitti Claude-mallinsa suorittavan nyt itsenäisesti yli neljänneksen yhtiön sisäisistä tutkimus- ja kehitystehtävistä.
Äskettäin julkaistun mittariston mukaan Claude toteuttaa itsenäisesti 26 prosenttia mallinkehitystehtävistä korkean tason kehotteiden pohjalta toimiessaan ihmisvalvonnan alaisena. Yhtiö paljasti myös, että Claude avustaa noin 90 prosentissa sen koko tutkimus- ja tuotekehitystyönkulusta. Anthropic painotti, ettei järjestelmällä ole vielä täysiä rekursiivisen itsensä kehittämisen kykyjä, sillä ihmisvalvontaa edellytetään yhä koko koulutusprosessin ajan.
Paljastus tulee aikana, jona Anthropicin toimitusjohtaja Dario Amodei jatkaa koko toimialan kattavan läpinäkyvyyden sekä edistyneiden mallien kehitystä koskevien pakollisten raportointistandardien ajamista. Asiantuntijat varoittavat, että sen tarkan asteen seuraaminen, jolla tekoälymallit suunnittelevat ja hiovat seuraajiaan, on elintärkeää hallitsemattomien kykyharppausten estämiseksi.