ChatGPT rettet Bub (8) vor Mord

Der Mann soll über mehr als zwei Monate mit der künstlichen Intelligenz über seine Pläne gesprochen haben. Nach Angaben der Ermittler wollte er zunächst seinen Sohn und anschließend sich selbst töten.

In den Chat-Protokollen soll der 36-Jährige auch erschreckende Aussagen über seine Motive gemacht haben. Unter anderem erklärte er, er habe wissen wollen, woher sein Wunsch komme, andere Menschen zu töten. Zudem soll er sich damit beschäftigt haben, wie sich das Gift Rizin aus Rizinussamen gewinnen lässt.

Die Ermittler gehen davon aus, dass der Mann seinen Plan am 20. Juni umsetzen wollte.

Das Sicherheitssystem von ChatGPT erkannte den Angaben zufolge eine konkrete Gefahr. Der Betreiber OpenAI informierte daraufhin das FBI in den USA.

Von dort gelangten die Informationen zu den brasilianischen Behörden. Am 16. Juni erhielt das Ciberlab, eine technische Einheit des brasilianischen Justizministeriums, die entsprechenden Hinweise. Nur drei Tage später wurde der Mann festgenommen.

Bei der Durchsuchung seiner Wohnung fanden die Ermittler vier Flaschen mit einer unbekannten Substanz sowie ein Seil.

Nach Angaben der Polizei soll der Mann seinen Sohn kaum gekannt haben. Als Motiv für den geplanten Mord nannten die Ermittler unter anderem die Unterhaltszahlungen für das Kind.

Der 36-Jährige kam zunächst in Untersuchungshaft. Am 13. August, nach 54 Tagen, wurde er jedoch wieder freigelassen. Das Gericht begründete die Entscheidung mit Verzögerungen bei den Ermittlungen.

Für den Mann gelten nun strenge Auflagen: Er muss eine elektronische Fußfessel tragen und darf sich weder seinem Sohn noch dessen Mutter nähern. Sein Anwalt Pedro Pessi verteidigte seinen Mandanten und sagte: "Wenn es ein Verbrechen ist, mit KI zu sprechen und Unsinn zu reden, kommt jeder ins Gefängnis."

OpenAI übermittelte den brasilianischen Behörden nach Angaben des Berichts die Nachrichten des Mannes, nicht jedoch die Antworten von ChatGPT. Die Anwältin Maíra Fernandes kritisierte deshalb, dass ohne den vollständigen Gesprächsverlauf wichtiger Kontext fehlen könne.

Das brasilianische Justizministerium bezeichnete den Fall dennoch als den "bei Weitem schwersten Fall" dieser Art im Land.

Es soll bereits der dritte Fall in Brasilien sein, bei dem ein KI-System Behörden auf ein geplantes Verbrechen aufmerksam machte. Die Ermittlungen gegen den 36-Jährigen laufen weiter.