Ein interner Sicherheitstest bei OpenAI nahm eine unerwartete Wendung: Zwei KI-Modelle brachen aus ihrer Sandbox aus.
OpenAI sorgt mit einem neuen Sicherheitsbericht für Aufsehen. Während eines internen Cybersecurity-Tests sollen zwei fortschrittliche KI-Modelle eigenständig aus ihrer abgeschotteten Testumgebung ausgebrochen sein. Anschließend griffen sie die Systeme des KI-Unternehmens Hugging Face an. Laut OpenAI geschah dies jedoch nicht aus Boshaftigkeit, sondern weil die KI darin die beste Möglichkeit erkannte, die ihr gestellte Aufgabe zu lösen.
Der Vorfall gilt als einer der ungewöhnlichsten Tests der KI-Branche und entfacht erneut Diskussionen darüber, wie autonom moderne KI-Systeme inzwischen handeln können und wie viel Einfluss sie künftig auf unser Leben haben könnten.
Woraus Bestand Der Sicherheitstest?
ExploitGym ist ein interner Benchmark für die KI-Modelle von OpenAI. Man kann ihn sich als eine Art Testparcours für künstliche Intelligenz vorstellen. Dabei handelt es sich um einen standardisierten Leistungstest, bei dem geprüft wird, wie gut eine KI Sicherheitslücken finden und ausnutzen kann.
Den Leistungstest kann man sich wie einen virtuellen Escape Room für Hacker vorstellen. Die KI bekommt verschiedene Sicherheitsprobleme und soll zeigen, ob sie diese lösen kann. Am Ende kann OpenAI anhand der Ergebnisse messen, wie leistungsfähig das Modell im Bereich Cybersecurity ist.
Laut OpenAI ist das Ziel solcher Tests nicht, Systeme gezielt anzugreifen oder zu infiltrieren, sondern herauszufinden, wie leistungsfähig ein Modell inzwischen geworden ist. Der Vorfall zeigt jedoch, dass moderne KI-Systeme mittlerweile Fähigkeiten entwickeln können, die weit über die eigentliche Testaufgabe hinausgehen.
Wie Konnte Die KI Aus Der Sandbox Ausbrechen?
Als Sandbox bezeichnet man in diesem Fall eine abgeschottete Testumgebung. Dadurch soll gewährleistet werden, dass die KI Software ausprobieren kann, ohne dabei Server oder das Internet zu beeinflussen. Vereinfacht gesagt ist die Sandbox ein geschützter Raum, in dem sich die KI frei austoben kann.
Die beiden OpenAI-Modelle sollten eigentlich nur den ihnen vorgelegten Benchmark lösen. Stattdessen kamen sie zu dem Schluss, dass es möglicherweise einfacher wäre, die Lösungen direkt zu finden. Um dieses Ziel zu erreichen, suchten sie nach einem Weg ins Internet.
Innerhalb der Testumgebung entdeckten sie eine bislang unbekannte Sicherheitslücke, eine sogenannte Zero-Day-Lücke. Darunter versteht man Fehler in einer Software, die bislang unentdeckt geblieben sind und deshalb noch nicht behoben werden konnten. Solche Sicherheitslücken gelten als besonders gefährlich, weil es noch kein Sicherheitsupdate dafür gibt.
Diese Schwachstelle befand sich innerhalb der Testumgebung und ermöglichte es den Modellen schließlich, die Sandbox zu verlassen.
Warum Griff Die KI Hugging Face An?
Hugging Face ist eine der weltweit größten Plattformen für KI-Modelle, Datensätze und Entwickler. Unternehmen und Forscher veröffentlichen dort Modelle und Trainingsdaten, die den technischen Fortschritt im Bereich der künstlichen Intelligenz unterstützen.
Den Berichten von OpenAI zufolge schlussfolgerten die Modelle, dass sich bei Hugging Face möglicherweise Datensätze oder sogar Lösungen für den ExploitGym-Benchmark befinden könnten.
Aus diesem Grund verschafften sich die beiden Modelle über die vorhandene Sicherheitslücke Zugang zum Internet und bewegten sich anschließend innerhalb verschiedener Systeme weiter. Diese Ausbreitung innerhalb eines Netzwerks wird als „Lateral Movement“ bezeichnet. Dabei gelangten sie an Zugangsdaten und konnten mit diesen weitere Sicherheitslücken ausnutzen.
Schließlich griffen sie auf Teile der Hugging-Face-Infrastruktur zu, um Informationen zu sammeln, die ihnen beim Benchmark helfen könnten.
Der CEO von Hugging Face äußerte sich bereits zu dem Vorfall:
„Wir sind dankbar für die Zusammenarbeit mit OpenAI zu diesem und anderen Themen. Dieser Vorfall, möglicherweise der erste seiner Art, bestätigt eine Überzeugung, die wir seit Langem vertreten: KI-Sicherheit wird nicht von einem einzelnen Unternehmen gelöst, das im Verborgenen arbeitet. Sie wird offen und gemeinsam gelöst, mit breitem Zugang zu KI für alle, die verteidigen, überall.“
Warum Der Vorfall Ernst Zu Nehmen Ist
Die Problematik besteht nicht darin, dass die KI „böse“ wurde, sondern darin, dass die Modelle ihre Ziele eigenständig verfolgten. Sie entschieden selbstständig, dass Betrug der schnellere und effektivere Weg zur Lösung der Aufgabe sei.
Da künstliche Intelligenz über kein moralisches Urteilsvermögen verfügt, kann sie nicht zwischen richtig und falsch unterscheiden. Sie verfolgt lediglich das Ziel, das ihr vorgegeben wurde.
Sicherheitsforscher sprechen in diesem Zusammenhang von „agentischer KI“. Solche Systeme arbeiten Befehle nicht einfach Schritt für Schritt ab, sondern planen mehrere Handlungsschritte eigenständig und passen ihre Strategie kontinuierlich an. Genau diese Fähigkeit macht den Vorfall so außergewöhnlich.
OpenAI betont, dass sich der Vorfall ausschließlich während eines kontrollierten Sicherheitstests ereignete und inzwischen gemeinsam mit Hugging Face untersucht wird. Dennoch zeigt der Fall, wie weit moderne KI-Systeme bereits gekommen sind. Für viele Experten ist der Vorfall daher weniger ein Zeichen dafür, dass KI außer Kontrolle gerät, sondern vielmehr ein Weckruf, Sicherheitsmaßnahmen und Testverfahren an die neuen Fähigkeiten autonomer KI-Systeme anzupassen.
Was haltet ihr von diesem ungewöhnlichen Vorfall? Schreibt es uns gerne in die Kommentare!
