Moonshot AI esitteli Kimi K3.1 Pron 24. lokakuuta koodausta ja muita monimutkaisia tehtäviä varten ja kertoi vähentäneensä mallin kykyä toteuttaa kyberhyökkäyksiä ennen painojensa suunniteltua julkaisua.
Pekingissä toimiva yhtiö kertoi poistaneensa kyberhyökkäyksiin liittyvää materiaalia mallin koulutusdatasta ja asetuksista, joissa se oppi palautteen avulla. Yhtiön mukaan se säilytti mallin yleiset koodaustaidot. Yhtiö kuvailee K3.1 Pron kuuluvan kolmen biljoonan parametrin malliluokkaan.
Moonshot aikoi julkaista painot 4. marraskuuta, jolloin ulkopuoliset kehittäjät voisivat ajaa ja muokata mallia omissa järjestelmissään. Moonshotin sisäisessä testissä, jossa etsittiin ohjelmistojen heikkouksia ja hyödynnettiin niitä, Kimi K3.1 Pron tulos oli 81 prosenttia. Vastaavanlaisen version tulos oli 90,5 prosenttia ilman riskien vähentämiseen tähtääviä toimenpiteitä. Yhtiö ei ole esittänyt tuloksia riippumattomana arviointina.
Testitulos ei kerro, miten malli toimisi todellisissa hyökkäyksissä. Julkaisu tuo esiin avoimien mallipainojen tekoälyyn liittyvän kompromissin: laajempi saatavuus voi auttaa puolustajia ohjelmistojen tutkimisessa. Kun mallin tiedostot kuitenkin leviävät, niiden kehittäjä ei voi enää yhtä hyvin valvoa, kuka niitä käyttää tai säilyvätkö suojatoimet.
Moonshot kertoo pyrkivänsä välttämään sellaisten painojen julkaisemista, jotka toisivat kyberkyvykkyydet alan kärkeen, mutta haluavansa silti tukea hyödyllistä koodaustyötä.