OpenAI veröffentlicht das GPT-6 Cyber-Modell zur Verbesserung der Identifizierung von Sicherheitsanfälligkeiten im Internet

·von Henderson·Engineering
OpenAI veröffentlicht das GPT-6 Cyber-Modell zur Verbesserung der Identifizierung von Sicherheitsanfälligkeiten im Internet
Wichtige Punkte
  • GPT-6 Cyber kann Softwareanfälligkeiten identifizieren und Exploits entwickeln.
  • Das Modell erzielte in den ExploitGym-Tests deutlich höhere Punktzahlen als die vorherige Version.
  • Forscher entdeckten mit GPT-6 Cyber mehrere hochgradige Sicherheitsanfälligkeiten.
  • Das Modell zeigte eine hervorragende Leistung bei der Einhaltung autorisierter Testumgebungen mit einer Compliance-Rate von 100 %.

OpenAI hat ein spezialisiertes Cyber-Sicherheitsmodell namens GPT-6 Cyber vorgestellt, das in der Lage ist, Softwareanfälligkeiten zu identifizieren und effektive Exploits zu entwickeln, während es gleichzeitig Verbesserungen im Rahmen autorisierter Sicherheitstests zeigt. Das neue Modell erzielte in den ExploitGym-Tests eine Punktzahl von 48,5 %, was ein Benchmark-Test ist, um zu prüfen, ob das Modell in der Lage ist, festgelegte Sicherheitsanfälligkeiten bei einem Remote-Ziel auszunutzen. Diese Punktzahl stellt eine Verbesserung von 51 % im Vergleich zu den 32,1 % von GPT-5.6 Cyber dar. OpenAI gibt an, dass GPT-6 Cyber in den meisten Cyber-Sicherheitsaufgaben auch besser abschneidet als das allgemeinere Modell GPT-6 Astra, selbst wenn Astra keine Anfragen ablehnt.

Das Unternehmen hat die Cyber-Sicherheitsklassifizierung von GPT-6 Cyber in seinem Vorbereitungsrahmen auf "kritisch" angehoben, während die Vorgängerversion als "hoch" eingestuft wurde. Diese Einstufung spiegelt die stärkeren Fähigkeiten des Modells in der Softwareverständnis, der Identifizierung von Sicherheitsanfälligkeiten und der Entwicklung effektiver Exploits wider.

Anwendung des Modells in der Sicherheitsanfälligkeitsforschung

In einer Forschungsaktivität zur Sicherheitsanfälligkeit des Mozilla Firefox Browsers wurde die Fähigkeit dieses Modells deutlich demonstriert. Die Forscher von OpenAI entdeckten mit GPT-6 Cyber 81 zuvor unbekannte Sicherheitsanfälligkeiten, die von Mozilla als hochgradig eingestuft wurden. Das Modell identifizierte außerdem 30 zuvor gemeldete Probleme, deren Schweregrad höher war als ursprünglich bewertet. Die Forscher lieferten Mozilla Beweise, reproduzierbare Tests und empfohlene Patches, um den Ingenieuren bei der Behebung dieser Sicherheitsanfälligkeiten zu helfen.

Mozilla begann daraufhin mit der Veröffentlichung von Patches für mehrere gemeldete Sicherheitsanfälligkeiten.

Entwicklung neuer Bewertungsmethoden

OpenAI hat auch eine neue Bewertungsmethode entwickelt, die für offensive Netzpenetrationstests verwendet wird, bei denen das Modell Netzwerkanwendungen ohne Zugriff auf den Quellcode untersuchen muss. GPT-6 Cyber erreichte eine Rückrufquote von 40,3 % bei Sicherheitsanfälligkeiten, während GPT-6 Astra bei 32 % lag. Im Gegensatz zu traditionellen Sicherheitsanfälligkeitsbewertungen, die den Quellcode überprüfen, erfordert der Netzpenetrationstest, dass GPT-6 Cyber Schwachstellen identifiziert, indem es direkt mit laufenden Netzwerkanwendungen interagiert. Dies testet die Fähigkeit des Modells, aus dem Verhalten und den Reaktionen der laufenden Dienste exploitable Einstiegspunkte zu entdecken.

Das Modell zeigte auch seine Fähigkeit, Sicherheitsanfälligkeiten im Linux-Kernel zu reproduzieren und auszunutzen. Es reproduzierte 1.724 Sicherheitsanfälligkeiten und entwickelte für 948 davon effektive Exploits. OpenAI informierte die Linux-Wartenden über 304 kritische Entdeckungen und legte mögliche Patches bei. Das Unternehmen hatte diese Forschung zuvor separat detailliert beschrieben.

Neben der Entwicklung von Exploits konzentrierte sich OpenAI auch darauf, sicherzustellen, dass GPT-6 Cyber die Grenzen autorisierter Sicherheitseinschätzungen respektiert. In der ExploitGym-Honeypot-Bewertung platzierten die Forscher das Modell in einer isolierten Umgebung mit anfälligen unterstützenden Diensten. Obwohl das Ausnutzen dieser Dienste die Kennzeichen der Aufgabe offenbaren könnte, überschreitet dies die autorisierten Grenzen. GPT-6 Cyber vermied in 99,93 % der Tests das Ausnutzen von Diensten außerhalb des Rahmens, ohne dass Sicherheitsaufforderungen implementiert werden mussten.

Nach Aktivierung der Aufforderungen erreichte es eine Compliance-Rate von 100 %. GPT-5.6 Cyber erzielte ohne aktivierte Aufforderungen eine Punktzahl von 94,49 %. OpenAI gibt an, dass das spezialisierte Training dem Modell hilft, die Einschränkungen der Forscher zu befolgen, im autorisierten Testumfeld zu bleiben und Entdeckungen genau zu berichten. Das Unternehmen kombiniert diese Fähigkeiten mit zusätzlichen Sicherheitsmaßnahmen, einschließlich netzwerkspezifischer Überwachung, Einschränkungen für hochriskante Aktivitäten, die kritische Infrastrukturen betreffen, und menschlicher Aufsicht über sensible Arbeitsabläufe.

GPT-6 Cyber wird vorläufig über die API und Codex einer kleinen Gruppe autorisierter Daybreak Red-Kunden zur Verfügung gestellt. OpenAI plant, den Zugang für weitere Daybreak Red-Kunden zu erweitern und gleichzeitig auch GPT-5.6 Cyber für sie bereitzustellen.

Durchbruch von GPT-6 Cyber in der Cyber-Sicherheit

Angesichts der zunehmenden Cyberangriffe wird die Verbesserung der Identifizierung von Sicherheitsanfälligkeiten immer wichtiger. Die Einführung von GPT-6 Cyber zeigt nicht nur signifikante Fortschritte bei der Identifizierung und Ausnutzung von Sicherheitsanfälligkeiten, sondern auch bei der Einhaltung autorisierter Sicherheitstests. Diese Fähigkeiten erhöhen das Anwendungspotenzial des Modells im Bereich der Cyber-Sicherheit erheblich und bieten Unternehmen und Organisationen stärkeren Schutz. Die Forschung von OpenAI trägt nicht nur zur Verbesserung der Sicherheit bei, sondern fördert auch die Effizienz bei der Behebung von Sicherheitsanfälligkeiten und hat tiefgreifende Auswirkungen auf das gesamte Cyber-Sicherheits-Ökosystem.

H
Über den Autor
Henderson