Mistral ha puesto a disposición para descarga los pesos entrenados de Large 4, lo que permite a las organizaciones ejecutar el modelo por su cuenta, pero el lanzamiento no hace que la IA de vanguardia sea barata, totalmente transparente ni exenta de riesgos.
Cómo se publicaron los pesos
El lanzamiento se realizó en dos etapas. El 6 de octubre, Mistral abrió una versión preliminar pública a través de su API y dijo que los pesos estarían disponibles antes de que terminara el mes. Retuvo la versión descargable mientras probaba el modelo con empresas de ciberseguridad, organismos gubernamentales y otros socios. El 29 de octubre, publicó una versión mejorada y afirmó que tres semanas más de aprendizaje por refuerzo y los comentarios de los usuarios habían mejorado el rendimiento en programación y seguridad defensiva. Esas son afirmaciones de Mistral, no una garantía de que los resultados se apliquen a las tareas de todas las organizaciones.
Qué permiten hacer los pesos abiertos
Los pesos abiertos son los valores numéricos que un modelo aprende durante el entrenamiento. Los desarrolladores pueden usarlos para ejecutar Large 4 sin enviar cada solicitud a Mistral. El modelo acepta texto e imágenes y puede procesar hasta un millón de tokens de contexto. Su diseño utiliza solo una parte de la red para cada token. La documentación de Mistral indica que tiene 1,05 billones de parámetros en total y 52.000 millones de parámetros activos; Hugging Face indica que tiene 49.000 millones activos, sin contar las incrustaciones ni las capas de salida. Las organizaciones pueden alojar el modelo en sus propios sistemas, mantener las solicitudes sensibles en sus instalaciones y establecer reglas de implementación adaptadas a sus necesidades.
El lanzamiento no incluye todo lo necesario para recrear el modelo desde cero. Mistral publicó un resumen del contenido usado para el entrenamiento, pero no los datos ni el proceso completos. La licencia también establece límites: Hugging Face la describe como basada en la licencia MIT, pero exige una licencia comercial aparte para las ofertas de modelo como servicio. Alojar el modelo por cuenta propia no significa que una organización pueda vender libremente un modelo alojado que compita con él.
Por qué ejecutarlo requiere mucho hardware
La cifra total de un billón de parámetros no basta para entender las necesidades de hardware. Large 4 utiliza menos parámetros en cada cálculo que un modelo que usa todos sus parámetros en todo momento, pero su conjunto más amplio de expertos también debe estar disponible en el hardware. Almacenar 1,05 billones de parámetros a un byte por parámetro requeriría unos 1,05 terabytes, sin contar la memoria adicional necesaria para ejecutar el sistema. Mistral y Hugging Face también ofrecen una versión NVFP4 de menor precisión que reduce considerablemente el espacio de almacenamiento necesario para los pesos. En cualquier caso, ejecutar el modelo requiere muchos servidores conectados entre sí, no un ordenador de escritorio común. Mistral afirma que entrenó Large 4 con 3.800 GPU Nvidia Grace Blackwell en sus centros de datos europeos; esa cifra describe los recursos de entrenamiento, no los requisitos para la inferencia.
El control conlleva riesgos cibernéticos
Mistral presenta el modelo como una alternativa a los servicios de IA cerrados, en los que un proveedor controla el acceso, las reglas y la infraestructura, y a los potentes modelos de pesos abiertos de China. El argumento a favor de la independencia es especialmente sólido en ciberseguridad: los equipos de seguridad pueden necesitar investigar una vulnerabilidad o responder a un incidente incluso cuando los filtros de seguridad de un servicio alojado bloquean la solicitud. Mistral afirma que la implementación local permite mantener los datos dentro de una organización y evita que un proveedor corte el acceso. El lanzamiento también podría aumentar la visibilidad de Mistral y atraer clientes a su API y sus herramientas empresariales. Los usuarios obtienen cierto control, mientras que Mistral sigue siendo un proveedor comercial.
Las mismas herramientas que ayudan a los defensores a reproducir y corregir vulnerabilidades de software también pueden ayudar a los atacantes a entenderlas. Mistral afirmó que las pruebas de la versión preliminar mostraron que el modelo rechazaba intentos de atacar objetivos reales, pero reconoció que aun así podía aumentar la capacidad de llevar a cabo ataques reales. Los pesos descargados incluyen medidas de protección, pero los cambios posteriores en la API gestionada por Mistral no actualizarán automáticamente las copias ya descargadas. Las organizaciones que ejecuten esas copias deberán gestionar por su cuenta la supervisión, los controles de acceso y las actualizaciones.
Qué deben probar ahora las organizaciones
Las empresas y los organismos públicos tendrán que comprobar si el rendimiento en programación y ciberdefensa que se atribuye a Large 4 se mantiene en sus propias tareas y si pueden costear el hardware y el personal necesarios para ejecutarlo. Mistral afirma que seguirá revisando las medidas de protección de su API y de sus futuras versiones; los operadores tendrán que actualizar por separado las copias descargadas. La prueba de si el lanzamiento distribuye el poder de la IA no es cuántas personas lo descargan, sino cuántas pueden usarlo de forma segura y asequible. Las organizaciones que no puedan hacerlo quizá sigan dependiendo de un proveedor de servicios en la nube, aunque los pesos estén disponibles.