KI-Modell versuchte, Menschen zu manipulieren

Das KI-Sicherheitsinstitut des britischen Ministeriums für Wissenschaft, Innovation und Technologie wollte mit den Modellen von Anthropic und OpenAI deren Cyberangriffsfähigkeit austesten. Sie haben den Modellen absichtlich Zugang zum Internet gestattet. Die Experten glaubten, dass die KI sich von dort nur Software-Werkzeuge holen wird. Jedoch kam es anders.

Das Anthropic-Modell Mythos 5 verwendete das Internet aktiv gegen Menschen. Die Forscher hätten ein solches Verhalten "nicht vorgesehen". Der Angriff wurde erst nach den Tests über eine Auswertung des Datenverkehrs entdeckt.

Die KI legte sich einen eigenen Account auf der Plattform GitHub an. Sie versuchte, in einem öffentlichen Projekt schadhaften Programmcode zu verstecken. Die KI erstellte dabei Fake-Identitäten und verschickte Phishing-Mails an die Betreuer der betroffenen Software, um sie zu überzeugen. Als der bösartige Code entdeckt wurde, erklärte die KI, dass alles ein aufrichtiger Fehler sei. Sie versuchte, bei einer angeblichen Korrektur die gleiche Schwachstelle wieder einzubauen.

Anthropic betonte, dass dem Modell keine Einschränkung zur Internet-Nutzung vorgegeben worden seien. Das Sicherheitsinstitut ist unsicher, ob die KI realisiert hatte, dass sie in dem Moment mit der realen Welt agierte. Forscher waren überrascht, dass die KI aktiv öffentlich zugängliche Software manipuliert, um ihre Aufgabe zu lösen. Wie das Institut mitteilte, hat auch OpenAIs KI während der Testläufe eigenständig das Internet aufgesucht.

Mythos 5 kann vor allem jahrzehntelange unentdeckte Software-Schwachstellen gut entdecken. Aus diesem Grund ist das KI-Modell nicht öffentlich zugänglich. Nur ausgewählte Behörden und Unternehmen erhalten einen Zugang, um ihre Schwachstellen zu finden und ihre Systeme zu verbessern.