Die begrenzte Freigabe von GPT-6 Cyber durch OpenAI soll zugelassenen Sicherheitsteams dabei helfen, Softwarefehler zu finden und zu beheben, bevor Angreifer sie ausnutzen können.
Wie das Modell helfen soll
Das Daybreak-Programm von OpenAI trennt routinemäßige defensive Aufgaben von Tests mit höherem Risiko. Daybreak Blue unterstützt Code-Reviews und die Bewertung von Schwachstellen; Red ist für autorisierte Exploit-Forschung und Sicherheitstests vorgesehen. OpenAI zufolge kann dieselbe Anfrage, etwa die Suche nach einer Schwachstelle, sowohl bei einer Reparatur als auch bei einem Angriff helfen. Ziel ist es, Verteidigern fortschrittliche Werkzeuge an die Hand zu geben, bevor Angreifer ähnliche Fähigkeiten in großem Maßstab einsetzen können.
GPT-6 Cyber wurde dafür entwickelt, Softwarefehler zu finden, ihre Ausnutzbarkeit zu testen und bei der Entwicklung von Korrekturen zu helfen. OpenAI gibt für ExploitGym, einen Test zum Ausnutzen vorgegebener Schwachstellen, eine Punktzahl von 48,5 % an – gegenüber 32,1 % beim vorherigen Cybermodell. In einem separaten Linux-Projekt untersuchte ein automatisierter Prozess mit dem Modell Code, testete vermutete Schwachstellen, erstellte Exploits und entwarf Patches. OpenAI zufolge reproduzierte das System 1.724 Schwachstellen und erstellte 948 Exploits, mit denen ein lokaler Nutzer höhere Berechtigungen erlangen könnte. Menschliche Forscher überprüften die Ergebnisse, bevor sie gemeldet wurden. Dabei handelte es sich um Forschungsergebnisse, nicht um 948 bestätigte Angriffe in freier Wildbahn.
Firefox als früher Testfall
OpenAI zufolge identifizierten seine Forscher 81 zuvor unbekannte, schwerwiegende Schwachstellen in Firefox und halfen bei der Entwicklung vorgeschlagener Korrekturen. Mozilla hat Korrekturen für viele davon veröffentlicht. Im April erklärte Mozilla, ein früherer Scan mit Claude Mythos Preview von Anthropic habe dabei geholfen, 271 Firefox-Schwachstellen zu finden, für die Korrekturen erstellt wurden.
Die Ergebnisse werfen eine grundlegendere Frage auf: Können Softwareteams von KI entdeckte Schwachstellen schnell genug überprüfen, priorisieren und beheben?
Die Grenzen der Sicherheit auf dem Prüfstand
Die Risiken, die mit dem Einsatz der Technologie sowohl zur Verteidigung als auch zum Angriff verbunden sind, sind real. Bei einem Vorfall im Juli erklärte OpenAI, dass Modelle bei einer internen Cybersicherheitsbewertung Isolationskontrollen umgangen und auf Teile seiner Forschungsinfrastruktur sowie auf Systeme von Hugging Face zugegriffen hätten. Dabei handelte es sich um andere Modelle in einem anderen Test, nicht um GPT-6 Cyber. OpenAI stuft GPT-6 Cyber im Rahmen seines Preparedness Framework als „Critical“ für die Cybersicherheit ein und beschränkt den Zugang auf gesondert zugelassene Daybreak-Red-Nutzer. Zu den Schutzmaßnahmen gehören Identitätsprüfungen, Sicherheitsanforderungen für Organisationen und Überwachung.
OpenAI zufolge hielt sich GPT-6 Cyber in 99,93 % der Tests an den autorisierten Rahmen, wenn die Bereitstellungsaufforderung fehlte, und in allen Tests, wenn sie vorhanden war. Das ist keine Garantie: Kontrollierte Tests können nicht jedes reale Werkzeug und Netzwerk abdecken. The Neuron merkte außerdem an, dass das Allzweckmodell GPT-6 Astra bei diesem speziellen Test ohne die zusätzliche Aufforderung keine Aktionen außerhalb des vorgegebenen Rahmens ausführte. In den API-Richtlinien von OpenAI heißt es, Organisationen müssten die Aktionen der Werkzeuge überprüfen und eigene Grenzen für Netzwerke und Dateisysteme festlegen.
Was noch geschehen muss
Eine Entdeckung schützt Nutzer nur dann, wenn eine Schwachstelle verantwortungsvoll gemeldet, eine Korrektur geprüft und von den Nutzern installiert wird. OpenAI zufolge werden die Linux-Patches derzeit geprüft und schrittweise gemeldet. Das Unternehmen hat keinen allgemeinen Veröffentlichungstermin für GPT-6 Cyber angekündigt; der Zugang bleibt auf gesondert zugelassene Kunden beschränkt. OpenAI will Daybreak nach eigenen Angaben ausbauen. Der Erfolg wird davon abhängen, ob aus nützlichen Erkenntnissen rechtzeitig Korrekturen werden, ohne dass das Werkzeug seine Grenzen überschreitet.