Moonshot AI presentó Kimi K3.1 Pro el 24 de octubre para programación y otras tareas complejas, y afirmó que había reducido la capacidad del modelo para realizar ciberataques antes de la publicación prevista de sus pesos.
La empresa, con sede en Pekín, afirmó que eliminó material relacionado con la ciberseguridad tanto de los datos de entrenamiento del modelo como de los ajustes en los que aprendió mediante retroalimentación. Añadió que mantuvo sus capacidades generales de programación. La empresa describe K3.1 Pro como un modelo de la clase de los tres billones de parámetros.
Moonshot tenía previsto publicar los pesos antes del 4 de noviembre, lo que permitiría a desarrolladores externos ejecutarlos y modificarlos en sus propios sistemas. En una prueba interna de detección y explotación de vulnerabilidades de software, K3.1 Pro obtuvo una puntuación del 81 %, frente al 90,5 % de una versión similar sin las medidas de reducción de riesgos. La empresa no ha presentado los resultados como una evaluación independiente.
La puntuación de la prueba no muestra cómo se comportará el modelo en ataques reales. El lanzamiento pone de relieve una disyuntiva en la IA de pesos abiertos: un acceso más amplio puede ayudar a los defensores a examinar el software. Sin embargo, una vez que los archivos del modelo se difunden, quien los creó tiene menos control sobre quién los usa o sobre si se mantienen las salvaguardas.
Moonshot afirma que su objetivo es evitar publicar pesos que sitúen las capacidades cibernéticas a la vanguardia y, al mismo tiempo, seguir facilitando tareas útiles de programación.