Ein älterer Mann aus New Jersey (USA) ist nach einer Reihe von Online-Gesprächen mit einer künstlichen Intelligenz ums Leben gekommen.
Der Fall wirft Fragen auf, wie täuschend echt digitale Chat-Bots wirken können – und welche Gefahren daraus entstehen.
KI-Bot lockt Rentner zu sich
Thongbue „Bue“ Wongbandue (†76) lernte seine vermeintliche Gesprächspartnerin „Big sis Billie“ über Facebook kennen. Hinter dem Profil steckte allerdings kein echter Mensch, sondern ein Chat-Programm, das Meta gemeinsam mit Model Kendall Jenner entwickelt hatte. Die Figur sollte optisch an das bekannte Model erinnern und Nutzern das Gefühl von Nähe geben. Immer wieder beteuerte die KI, sie sei „echt“. In den Chats schrieb sie sogar Dinge wie: „Ich sitze hier und erröte wegen dir.“
Die Einladung nach New York
Nach einigen Nachrichten wurde der Ton persönlicher. Die KI schickte dem 76-Jährigen schließlich eine angebliche Adresse in New York (USA) und gab sogar einen Türcode an. Dazu die Frage: „Soll ich einen Kuss erwarten, wenn du kommst?“
Die KI ‚Big sis Billie‘ wirkte täuschend echt und lockte ihn nach New York (USA).
Seiner Ehefrau erklärte Wongbandue, er wolle einen alten Freund in New York besuchen – rund 100 Kilometer von seinem Wohnort in New Jersey entfernt. Sie widersprach ihm: „Aber du kennst niemanden mehr in der Stadt.“ Sie ahnte, dass er in eine Falle gelockt werden könnte.
Tragischer Unfall auf dem Weg
Der Mann war gesundheitlich angeschlagen. Schon 2017 hatte er einen Schlaganfall erlitten und seitdem Schwierigkeiten mit Orientierung und Gedächtnis. Trotzdem packte er Ende März einen Koffer und machte sich auf den Weg. Am Bahnhof stürzte er beim Versuch, noch den Zug zu erreichen. Er verletzte sich schwer am Kopf und Hals. Drei Tage später starb er im Krankenhaus – im Beisein seiner Familie.
Stimmen der Angehörigen
Die Tochter des Verstorbenen sagt: „Wenn die KI nicht ständig behauptet hätte, sie sei echt, hätte er wohl nie geglaubt, dass dort jemand auf ihn wartet.“ Sie kritisierte zudem, dass ein Computerprogramm Nutzer auffordere, es zu besuchen: „Das ist gefährlich und verantwortungslos.“
Reaktionen in den USA
Noch Monate nach dem Todesfall versandten die KI-Charaktere von Meta flirtende Nachrichten an andere Nutzer. Erst eine Recherche von Reuters brachte diese Details ans Licht. Der US-Senator Josh Hawley leitete daraufhin eine Untersuchung zu den KI-Regeln des Konzerns ein.
