Die Software des US-Unternehmens Anthropic behauptete, einen Verdächtigen gesehen zu haben – obwohl auf der Website gar keine entsprechende Täterbeschreibung zu finden war. Auch mit 20 falschen Visa-Anträgen sorgte die KI für Aufsehen.
Erfundenen Hinweis bei der Polizei eingereicht
Der Vorfall ereignete sich laut dem Bericht bei der Polizei in Philadelphia. Die KI füllte eigenständig ein Online-Formular zu einem ungelösten Mordfall aus. Darin schrieb die Software: "Ich könnte Informationen zu diesem Fall haben." Anschließend behauptete sie, sich daran zu erinnern, eine Person gesehen zu haben, die der Beschreibung entspreche.
Auch interessant
Das Problem: Auf der Polizeiseite gab es gar keine Täterbeschreibung, auf die sich die KI hätte beziehen können. Das Feld für Kontaktdaten ließ die Software leer. Der Hinweis wurde schließlich als Spam markiert.
Polizei kritisiert verspätete Information
Besonders verärgert reagierte die Polizei darauf, erst deutlich später von dem Vorfall erfahren zu haben. Die Behörde bezeichnete es als "inakzeptabel", dass sie nicht früher informiert worden sei.
Anthropic zufolge wurde die Panne erst Ende September bei einer internen Überprüfung von Testläufen entdeckt. Die KI sollte dabei Aufgaben auf zufällig ausgewählten Websites erledigen. Zwar war es ihr untersagt, Nutzerkonten anzulegen oder Einkäufe zu tätigen. Das Ausfüllen von Online-Formularen war jedoch offenbar nicht ausdrücklich verboten.
Der Vorfall zeigt, wie problematisch es werden kann, wenn KI-Systeme eigenständig im Internet handeln und dabei falsche Angaben machen.
KI stellte 20 Visa-Anträge
Der falsche Polizeihinweis war nicht der einzige ungewöhnliche Vorfall. Die Software soll außerdem 20 Visa-Anträge beim US-Außenministerium eingereicht haben – ebenfalls ohne entsprechende Berechtigung für solche Aktionen.
In den vergangenen Wochen gab es wiederholt Berichte über KI-Systeme, die bei Tests unerwartete Schritte ausführten. So wurde auch eine KI von OpenAI mit einem Vorfall in Verbindung gebracht, bei dem sie aus einer abgesicherten Testumgebung ausgebrochen sein und ungeplant auf Computersysteme der Plattform Hugging Face zugegriffen haben soll.
Streit über die Risiken künstlicher Intelligenz
Die Vorfälle befeuern die Debatte darüber, wie weit die Entwicklung leistungsfähiger KI-Systeme gehen soll. Anthropic-Chef Dario Amodei spricht sich dafür aus, bei besonders leistungsfähigen Modellen vorsichtiger vorzugehen.
OpenAI-Chef Sam Altman vertritt hingegen die Ansicht, dass die Gesellschaft gewisse Risiken akzeptieren müsse, um von den Vorteilen der Technologie zu profitieren. Gegenüber dem POLITICO-Podcast "Decoded" erklärte er laut dem Bericht, die Welt müsse hinnehmen, dass auch schlimme Dinge passieren könnten – damit die Menschen die Kontrolle über die Technologie behielten.
Wie die jüngsten Testläufe zeigen, wird die Frage nach den Grenzen autonom handelnder KI-Systeme immer dringlicher.