Elon Musks KI-Chatbot Grok sorgt immer wieder für negative Schlagzeilen. Dieser kann nun sexualisierte Bilder von Personen erstellen. Zu den Opfern gehört auch Prinzessin Kate.
Derzeit ermittelt die britische Regulierungsbehörde Ofcom gegen Elon Musk (54). Der Grund: Sein KI-Chatbot Grok kann mithilfe des "spicy mode" reale Fotos verändern und Personen in freizügigen Posen darstellen. Unter den unzähligen Opfern ist auch Prinzessin Kate (43), so das US-amerikanische News-Magazin "Newsweek".
- Beschimpft seinen Vater: Harry fordert Geld & Fonds von Charles: "Bin keine Bank"
- Geteilter Thron? Royal-Experte rechnet mit Kate-Hammer
- Charles und Harry vor neuem Eklat
Die britische Zeitung "Daily Mail" bestätigt den Vorfall. Die Prinzessin von Wales gehört zu den Tausenden Betroffenen, deren Bilder ohne ihre Erlaubnis verfälscht wurden.
Kinder auch betroffen
Seit November 2023 ist der KI-Chatbot Grok auf X (ehemals Twitter) verfügbar und wurde von Elon Musks Unternehmen xAI entwickelt. Mit der neuen Funktion "spicy mode" können Nutzer Fotos so bearbeiten, dass die betroffene Person im Bikini oder in anderen anzüglichen Posen zu sehen ist.
Laut "BBC"-Reportern kann die KI genutzt werden, um Frauen digital zu entkleiden. Noch gefährlicher: Der Chatbot macht auch keinen Halt vor Kindern.
"Wir sind uns der ernsthaften Bedenken bewusst"
Gegenüber "Newsweek" erklärt ein Ofcom-Sprecher: "Wir sind uns der ernsthaften Bedenken hinsichtlich einer Funktion auf Grok auf X bewusst, die unbekleidete Darstellungen von Personen und sexualisierte Bilder von Kindern verbreitet."
Die Behörde kontaktierte sofort xAI, um zu erfahren, welche Vorkehrungen zum Schutz britischer Nutzer unternommen wurden. Je nach Antwort wird eine schnelle Bewertung vorgenommen, ob eine formelle Untersuchung notwendig ist.
Am 4. Januar meldete sich das Sicherheitsteam von Grok: "Wir ergreifen Maßnahmen gegen illegale Inhalte auf X, einschließlich Material über sexuellen Kindesmissbrauch, indem wir es entfernen, Konten dauerhaft sperren und mit lokalen Regierungen und Strafverfolgungsbehörden zusammenarbeiten." Nutzer, die mithilfe von Grok illegale Inhalte erstellt haben, werden dieselben Konsequenzen erleiden, als hätten sie die Inhalte gepostet."
