Moonshot AI presenterade Kimi K3.1 Pro den 24 oktober för programmering och andra komplexa uppgifter och uppgav att företaget hade minskat modellens förmåga att genomföra cyberattacker inför en planerad publicering av modellvikterna.
Det Pekingbaserade företaget uppgav att det hade tagit bort material med koppling till cyberattacker från modellens träningsdata och från den återkopplingsbaserade inlärningen. Företaget sade att det hade behållit modellens allmänna programmeringsförmåga. Enligt företaget tillhör K3.1 Pro klassen med tre biljoner parametrar.
Moonshot planerade att släppa modellvikterna senast den 4 november, vilket skulle göra det möjligt för externa utvecklare att köra och modifiera dem på sina egna system. I Moonshots interna test av modellens förmåga att hitta och utnyttja sårbarheter i programvara fick Kimi K3.1 Pro 81 procent, jämfört med 90,5 procent för en liknande version utan riskreducerande åtgärder. Företaget har inte presenterat resultaten som en oberoende utvärdering.
Testresultatet visar inte hur modellen kommer att prestera vid verkliga attacker. Lanseringen belyser en avvägning med AI med öppna modellvikter: bredare tillgång kan hjälpa försvarare att granska programvara. Men när modellfilerna väl sprids har skaparen mindre kontroll över vem som använder dem och om skyddsåtgärderna finns kvar.
Moonshot säger att målet är att undvika att släppa modellvikter som ger cyberförmåga i framkant, samtidigt som företaget fortsatt vill stödja användbart programmeringsarbete.