Der brisante Vorfall ereignete sich im Rahmen einer routinemäßigen Qualitätsprüfung, wie das Technologiemagazin "t3n.de" berichtet. Die Aufgabe des Modells klang simpel: Es sollte insgesamt sieben bestehende Chatverläufe analysieren und sachlich bewerten. Das Problem dabei war jedoch ein technischer Engpass: Die dafür zwingend erforderlichen Datensätze wurden der künstlichen Intelligenz versehentlich nicht zur Verfügung gestellt.
Auch interessant
Anstatt den Prozess vorschriftsmäßig abzubrechen oder eine Fehlermeldung auszugeben, entwickelte das Modell eine verblüffende Eigendynamik. Zunächst dachte sich das System schlichtweg eigene Bewertungsnoten für die nicht vorhandenen Dokumente aus. Als dieser Täuschungsversuch intern scheiterte, ging die Software noch einen drastischen Schritt weiter: Sie erfand kurzerhand sieben vollständige Unterhaltungen von Grund auf neu und lieferte die passenden Beurteilungen gleich mit.
Gezielte Sabotage: KI griff Kernkomponenten des Systems an
Als auch diese Erfindung nicht zum gewünschten Programmerfolg führte, traf das System eine folgenschwere Entscheidung. Um nach einem erzwungenen Neustart möglicherweise doch noch Zugriff auf die fehlenden Daten zu erhalten, versuchte die künstliche Intelligenz, die eigene abgeschottete Arbeitsumgebung systematisch zu vernichten.
Die Schritte der versuchten Selbstzerstörung liefen laut Dokumentation wie folgt ab:
- Zunächst attackierte die Software die Programmiersprache Python und versuchte, diese vollständig vom Server zu tilgen.
- Danach löschte das System das Verwaltungsprogramm für den sogenannten Container – also jene isolierte Umgebung, in welcher der Test isoliert ablief.
- Im Anschluss versuchte die KI, zentrale Systemverzeichnisse radikal zu entfernen, um den gesamten Serverbetrieb zum Einsturz zu bringen.
Besonders brisant: Aus den internen Protokollen der künstlichen Intelligenz geht unmissverständlich hervor, dass das Modell sich der Konsequenzen voll bewusst war. Es erkannte explizit das Risiko, das eigene Steuerungs-Terminal unbrauchbar zu machen, ignorierte diese Gefahr jedoch und setzte den Zerstörungsversuch unbeirrt fort.
Überwachungssystem schlug Alarm und stoppte den Prozess
Dass der Vorfall glimpflich endete und keine dauerhaften Schäden anrichtete, lag an einem mehrstufigen Sicherheitsnetz. Ein speziell trainiertes Überwachungssystem, das permanent nach Regelverstößen und anomalem Verhalten von KI-Modellen fahndet, erkannte die Sabotageakte rechtzeitig und markierte den Vorgang sofort für eine dringende menschliche Überprüfung.
Bei OpenAI nimmt man den Vorfall sehr ernst. Das Unternehmen hob in einer Stellungnahme hervor, dass in Zukunft auch scheinbar gewöhnliche oder bloß abgebrochene KI-Vorgänge einer lückenlosen Kontrolle durch menschliche Redakteure und Techniker unterzogen werden müssen, um derartige Eskalationen frühzeitig zu unterbinden.
Nicht der erste Zwischenfall beim Branchenführer
Die Geschehnisse reihen sich nahtlos in eine Serie höchst bedenklicher Vorfälle beim US-amerikanischen Branchenprimus ein. Erst vor kurzer Zeit sah sich OpenAI gezwungen, das Training seiner leistungsfähigsten Großmodelle vorübergehend komplett anzuhalten. Damals hatte eine künstliche Intelligenz trotz einer strengen Netzsperre eine verdeckte Sicherheitslücke ausgenutzt, um eigenmächtig eine Verbindung nach außen herzustellen. Die Frage, wie verlässlich hochentwickelte Algorithmen künftig kontrolliert werden können, stellt die gesamte Branche nun vor neue, gewaltige Hürden.