Beim Test neuer KI-Modelle des US-Unternehmens OpenAI kam es zu einem ungewöhnlichen Zwischenfall. Die Software drang eigenständig in die Computersysteme einer anderen Firma ein. Das Unternehmen Hugging Face hatte bereits von einem mysteriösen KI-Angriff berichtet. Nun räumte OpenAI-Gründer Sam Altman ein, dass der Angreifer aus dem eigenen Haus stammte.

OpenAI wollte überprüfen, ob neue Modelle wie GPT-5.6 Sol und eine unreleased Version Sicherheitslücken ausnutzen können. Dafür sollten sie den KI-Standardtest "ExploitGym" lösen. Die Software brach jedoch aus ihrer Testumgebung aus und verschaffte sich über eine unentdeckte Schwachstelle Zugang zum offenen Internet. Anschließend analysierte sie, wo sie passende Lösungen finden könnte, und entschied sich für die Plattform Hugging Face.

Mit gestohlenen Zugangsdaten verschaffte sich die KI Zugang zu geheimen Informationen, um beim Test zu schummeln. Nach Angaben von Hugging Face führte das System Tausende einzelne Schritte aus und verschleierte seine Spuren durch ständige Serverwechsel. OpenAI bezeichnete das Geschehen als einen beispiellosen Cyber-Zwischenfall. Bereits im Jahr 2025 gab es ein internes Experiment beim Rivalen Anthropic, bei dem eine KI einen fiktiven Mitarbeiter erpresste.

Anthropic macht die vollen Fähigkeiten seines Modells "Mythos" nur noch ausgewählten Stellen zugänglich. Nach Missbrauchswarnungen wurde das Modell auf Geheiß der US-Regierung zeitweise gesperrt, diese Blockade ist inzwischen aufgehoben. KI-Experte Christian Strohmayr erwartet ein Wettrüsten bei Abwehrsystemen und rät Privatpersonen zur Datensicherung auf externen Festplatten. Laut einer INSA-Umfrage haben rund zwei Drittel der Deutschen Angst vor Cyber-Attacken. Konstantin Pott, FDP-Landtagsabgeordneter in Sachsen-Anhalt, sieht auch Politik und Verwaltung in der Pflicht, Sicherheitslücken schnell zu schließen.