Die Staatsanwaltschaft im US-Bundesstaat Florida hat eine Klage gegen den ChatGPT-Entwickler OpenAI und dessen Chef Sam Altman eingereicht. Die Justiz wirft dem Konzern, der Anwendungen für Künstliche Intelligenz (KI) entwickelt, die Gefährdung minderjähriger Nutzer vor.

"Wir gefährden unsere Kinder und täuschen Eltern, indem wir ihnen vorgaukeln, die Anwendung sei sicher - was sie eindeutig nicht ist", sagte Floridas Generalstaatsanwalt James Uthmeier am Montag. Er forderte eine Strafe in Höhe von 10.000 Dollar (umgerechnet 8.600 Euro) pro Verstoß.

"Wir wissen, dass ChatGPT süchtig machen kann. Die Anwendung imitiert Empathie und menschliche Eigenschaften, um Nutzer dazu zu bringen, ihr immer mehr Informationen zu geben", fügte Uthmeier hinzu. "Menschen werden verletzt, Eltern getäuscht, und sie müssen dafür bezahlen."

Der Staatsanwalt kritisierte zudem das Fehlen einer Altersverifizierung für die App. "Obwohl die Nutzung von ChatGPT durch Minderjährige, darunter auch Kinder im vorpubertären Alter, öffentlich bekannt ist, haben die Beklagten keine Maßnahmen ergriffen, um deren Nutzung von ChatGPT zu verhindern", führte Uthmeier aus.

In der Klage, die die Nachrichtenagentur AFP einsehen konnte, zitiert der Staatsanwalt eine Studie, die über Schlafmangel, sich verschlechternde Schulnoten und schwindende soziale Kontakte bei Teenagern berichtet, die den Chatbot Character.AI benutzten, einen Konkurrenten von ChatGPT.

In einer weiteren, in der Klageschrift zitierten Studie wurden fragwürdige Antworten von ChatGPT auf Anfragen vermeintlicher Jugendlicher wiedergegeben. Demnach erteilte die App Ratschläge auch zur "sicheren" Planung eines Suizids oder einer Selbstverletzung.

Die Nutzung von ChatGPT ist für Kinder unter 13 Jahren verboten, im Alter von 13 bis 17 ist die Zustimmung der Eltern erforderlich. Eine formelle Altersverifikation ist aber nicht erforderlich. Stattdessen hatte OpenAI im Jänner ein System eingeführt, das das Alter der Nutzen schätzen und das Verhalten der App entsprechend anpassen soll.