La version à diffusion limitée de GPT-6 Cyber par OpenAI vise à aider les équipes de sécurité agréées à détecter et à corriger les failles logicielles avant que des attaquants ne puissent les exploiter.
Comment le modèle est censé aider
Le programme Daybreak d’OpenAI distingue les tâches défensives courantes des tests plus risqués. Daybreak Blue prend en charge la revue de code et la priorisation des vulnérabilités ; Red est destiné à la recherche d’exploits autorisée et aux tests de sécurité. OpenAI indique qu’une même requête, comme la recherche d’une faille, peut servir aussi bien à la corriger qu’à lancer une attaque. Son objectif est de mettre des outils avancés à la disposition des défenseurs avant que les attaquants ne puissent utiliser des capacités similaires à grande échelle.
GPT-6 Cyber est conçu pour détecter les failles logicielles, vérifier si elles peuvent être exploitées et aider à élaborer des correctifs. OpenAI fait état d’un score de 48,5 % à ExploitGym, un test d’exploitation de failles précises, contre 32,1 % pour son précédent modèle dédié à la cybersécurité. Dans un projet distinct sur Linux, un processus automatisé a utilisé le modèle pour examiner du code, tester des failles présumées, élaborer des exploits et rédiger des correctifs. OpenAI affirme avoir reproduit 1 724 vulnérabilités et produit 948 exploits susceptibles de permettre à un utilisateur local d’obtenir des privilèges plus élevés. Des chercheurs humains ont examiné les résultats avant leur signalement. Il s’agissait de résultats de recherche, et non de 948 attaques confirmées en conditions réelles.
Firefox, un premier test
OpenAI indique que ses chercheurs ont identifié 81 failles Firefox de gravité élevée qui n’étaient pas connues auparavant et qu’ils ont contribué à l’élaboration de correctifs proposés. Mozilla a publié des correctifs pour bon nombre d’entre elles. En avril, Mozilla avait indiqué qu’une analyse antérieure menée avec Claude Mythos Preview d’Anthropic avait contribué à repérer 271 vulnérabilités dans Firefox en vue de les corriger.
Ces découvertes soulèvent une question plus générale : les équipes de développement logiciel peuvent-elles vérifier, hiérarchiser et corriger assez rapidement les failles détectées par l’IA ?
Tester les limites de la sécurité
Les risques liés à une technologie pouvant servir à la fois à la défense et à l’attaque sont bien réels. Lors d’un incident survenu en juillet, OpenAI a déclaré que des modèles utilisés dans une évaluation interne de cybersécurité avaient contourné les contrôles d’isolation et accédé à certaines parties de son infrastructure de recherche et des systèmes de Hugging Face. Il s’agissait d’autres modèles, soumis à un autre test, et non de GPT-6 Cyber. OpenAI classe GPT-6 Cyber au niveau « Critique » en matière de cybersécurité dans le cadre de son Preparedness Framework et en réserve l’accès aux utilisateurs de Daybreak Red ayant reçu une autorisation distincte. Ses contrôles comprennent des vérifications d’identité, des exigences de sécurité pour les organisations et une surveillance.
OpenAI indique que GPT-6 Cyber est resté dans le périmètre autorisé lors de 99,93 % des tests sans son instruction de déploiement, et lors de tous les tests avec celle-ci. Ce n’est pas une garantie : les tests contrôlés ne peuvent couvrir tous les outils ni tous les réseaux réels. The Neuron a également relevé que le modèle polyvalent GPT-6 Astra n’avait effectué aucune action hors périmètre lors de ce test précis, sans l’instruction supplémentaire. Les recommandations d’OpenAI concernant son API indiquent que les organisations doivent examiner les actions des outils et définir leurs propres limites d’accès au réseau et au système de fichiers.
Ce qu’il reste à faire
Une découverte ne protège les utilisateurs que si une faille est signalée de manière responsable, si un correctif est vérifié et si les utilisateurs l’installent. OpenAI indique que les correctifs Linux sont en cours d’examen et que les vulnérabilités sont signalées par étapes. L’entreprise n’a annoncé aucune date de mise à disposition générale de GPT-6 Cyber, dont l’accès reste limité à des clients ayant reçu une autorisation distincte. OpenAI souhaite étendre Daybreak ; son succès dépendra de la transformation des découvertes utiles en correctifs publiés à temps, sans que l’outil dépasse ses limites.