Mega-Wirbel um KI-Nacktbilder im Netz

Die irische Datenschutzkommission (DPC) leitete eine formelle Untersuchung gegen den KI-Chatbot Grok wegen sexualisierter KI-Bilder und Videos, darunter auch von Kindern, ein. Spaniens Ministerpräsident Pedro Sánchez forderte die Staatsanwaltschaft auf, wegen Verbreitung von Darstellungen von Kindesmissbrauch Ermittlungen gegen X, Meta und TikTok aufzunehmen.

• Social Media: Facebook plant neue Gesichtserkennung
• Spionage-Schock: TikTok sammelt Daten auch ohne App

Wie die irische Datenschutzkommission mitteilte, sei es das Ziel, festzustellen, ob Elon Musks Plattform X, zu dem Grok gehört, seinen Verpflichtungen gemäß der Datenschutz-Grundverordnung (DSGVO) in Bezug auf die verarbeiteten personenbezogenen Daten nachgekommen sei. Die Entscheidung, die Untersuchung gegen den KI-Chatbot einzuleiten, wurde X am Montag mitgeteilt, teilte die DPC in einer Erklärung mit.

"Diese Plattformen untergraben die psychische Gesundheit, Würde und Rechte unserer Kinder", schrieb Sánchez auf dem Kurznachrichtendienst X. "Der Staat kann das nicht zulassen. Die Straffreiheit dieser Giganten muss ein Ende haben." X, die Facebook-Mutter Meta (u. a. Instagram, WhatsApp) und die Video-App TikTok waren für eine Stellungnahme zunächst nicht zu erreichen.

Irische DPC ist federführende EU-Aufsichtsbehörde

Die irische DPC ist die federführende EU-Aufsichtsbehörde in derartigen Angelegenheiten, da mehrere IT-Unternehmen ihre Geschäfte in der Europäischen Union von Irland aus betreiben. Gemäß der DSGVO der EU kann sie Geldstrafen in Höhe von bis zu 4 Prozent des weltweiten Umsatzes eines Unternehmens verhängen. Grok überschwemmte X letzten Monat mit KI-veränderten, fast nackten Bildern von realen Personen als Reaktion auf Nutzeranfragen, was weltweit Empörung und Untersuchungen auslöste. X kündigte Maßnahmen an, um zu verhindern, dass das Konto von Grok auf der Plattform solche Bilder produziert, aber der Grok-Chatbot tat dies auf Aufforderung weiterhin, wie Reuters Anfang dieses Monats feststellte.

Die Europäische Kommission hat am 26. Jänner eine Untersuchung eingeleitet, um zu prüfen, ob Grok illegale Inhalte wie manipulierte sexualisierte Bilder in der EU verbreitet. Am 3. Februar leitete zudem die britische Datenschutzbehörde eine formelle Untersuchung gegen Grok wegen der Verarbeitung personenbezogener Daten und der Möglichkeit der Erstellung schädlicher sexualisierter Bilder und Videoinhalte ein.

Kritik von Trump und Musk an EU-Regulierung

US-Präsident Donald Trump und andere Mitglieder seiner Regierung haben die EU-Regulierung von US-Technologieunternehmen kritisiert und die von der 27-köpfigen Union gegen sie verhängten Geldstrafen als eine Form der Besteuerung bezeichnet. Der Eigentümer von X, Elon Musk, der reichste Mann der Welt, hat ebenfalls seine Einwände gegen EU-Vorschriften geäußert, vor allem gegen diejenigen, die Brüssel direkt für Online-Inhalte erlassen hat.