El lanzamiento limitado de GPT-6 Cyber por parte de OpenAI busca ayudar a equipos de seguridad autorizados a encontrar y corregir fallos de software antes de que los atacantes puedan aprovecharlos.
Cómo se supone que ayudará el modelo
El programa Daybreak de OpenAI separa el trabajo defensivo rutinario de las pruebas de mayor riesgo. Daybreak Blue permite revisar código y clasificar vulnerabilidades; Red está destinado a la investigación autorizada de exploits y a las pruebas de seguridad. OpenAI afirma que una misma solicitud, como encontrar un fallo, podría servir tanto para repararlo como para llevar a cabo un ataque. Su objetivo es proporcionar herramientas avanzadas a los defensores antes de que los atacantes puedan utilizar capacidades similares a gran escala.
GPT-6 Cyber está diseñado para encontrar fallos de software, comprobar si se pueden explotar y ayudar a desarrollar correcciones. OpenAI informa de una puntuación del 48,5 % en ExploitGym, una prueba para explotar fallos específicos, frente al 32,1 % de su modelo de ciberseguridad anterior. En otro proyecto sobre Linux, un proceso automatizado utilizó el modelo para examinar código, probar posibles fallos, crear exploits y redactar parches. OpenAI afirma que reprodujo 1.724 vulnerabilidades y produjo 948 exploits que podrían permitir que un usuario local obtuviera privilegios más elevados. Investigadores humanos revisaron los resultados antes de notificarlos. Se trató de resultados de investigación, no de 948 ataques confirmados en el mundo real.
Firefox ofrece una primera prueba
OpenAI afirma que sus investigadores identificaron 81 fallos de Firefox de gravedad alta que no se conocían previamente y ayudaron a proponer correcciones. Mozilla ha publicado correcciones para muchos de ellos. En abril, Mozilla dijo que un análisis anterior con Claude Mythos Preview, de Anthropic, había ayudado a identificar 271 vulnerabilidades de Firefox para las que se prepararon correcciones.
Estos hallazgos plantean una pregunta más amplia: ¿pueden los equipos de software verificar, priorizar y corregir las vulnerabilidades descubiertas por la IA con suficiente rapidez?
Poner a prueba los límites de la seguridad
Los riesgos de utilizar esta tecnología tanto para la defensa como para el ataque son reales. En un incidente ocurrido en julio, OpenAI dijo que unos modelos sometidos a una evaluación interna de ciberseguridad eludieron los controles de aislamiento y accedieron a partes de su infraestructura de investigación y de los sistemas de Hugging Face. Eran modelos distintos, evaluados en otra prueba, no GPT-6 Cyber. OpenAI clasifica GPT-6 Cyber como «Crítico» en materia de ciberseguridad según su Preparedness Framework y limita el acceso a usuarios de Daybreak Red aprobados por separado. Sus controles incluyen verificaciones de identidad, requisitos de seguridad para las organizaciones y supervisión.
OpenAI informa de que GPT-6 Cyber se mantuvo dentro del alcance autorizado en el 99,93 % de las pruebas sin la instrucción de despliegue, y en todas las pruebas cuando esta se incluyó. Eso no constituye una garantía: las pruebas controladas no pueden abarcar todas las herramientas ni todas las redes reales. The Neuron también señaló que GPT-6 Astra, de propósito general, no realizó acciones fuera del alcance autorizado en esa prueba concreta, incluso sin la instrucción adicional. Las directrices de la API de OpenAI indican que las organizaciones deben revisar las acciones de las herramientas y establecer sus propios límites para la red y el sistema de archivos.
Qué falta por hacer
Un descubrimiento solo protege a los usuarios cuando el fallo se comunica de forma responsable, se verifica una corrección y los usuarios la instalan. OpenAI afirma que los parches para Linux se están revisando y notificando por etapas. No ha anunciado una fecha de lanzamiento general para GPT-6 Cyber, y el acceso sigue limitado a clientes aprobados por separado. OpenAI afirma que quiere ampliar Daybreak; su éxito dependerá de que los hallazgos útiles se conviertan en correcciones oportunas sin que la herramienta sobrepase sus límites.