Die künstliche Intelligenz konnte mit einer 90-prozentigen Wahrscheinlichkeit die Hautfarbe eines Menschen erkennen. Selbst Wissenschaftler sind ob dieses Ergebnisses erstaunt.
Allein auf der Grundlage von Röntgen- und CT-Bildern war die KI in der Lage, die Rasse mit einer Genauigkeit von etwa 90 Prozent zu erkennen, und die Wissenschaftler wissen nicht, warum die KI diese Unterschiede treffen kann. Die Forschungsergebnisse wurden in der Zeitschrift Lancet Digital Health veröffentlicht.
"Als meine Studenten mir einige der Ergebnisse in dieser Arbeit zeigten, dachte ich tatsächlich, dass es sich um einen Fehler handeln müsse", sagte Marzyeh Ghassemi, MIT-Assistenzprofessorin für Elektrotechnik und Informatik und Mitautorin der Arbeit, in einer Stellungnahme gegenüber dem Boston Globe. "Ich dachte wirklich, meine Studenten wären verrückt, als sie mir das sagten."
Um die Fähigkeit der künstlichen Intelligenz zur Identifizierung von Bildern zu testen, wurde ein Deep-Learning-Modell zunächst mit CT- und Röntgenbildern vieler verschiedener Körperregionen von verschiedenen Personengruppen gefüttert, wobei jedes Bild mit der Rasse der Person beschriftet war. Dann wurden die Markierungen entfernt, zusammen mit allen möglichen identifizierenden Merkmalen - wie Hautfarbe und Haarfarbe. Für jedes Bild wurde die KI aufgefordert, die Rasse der Person zu identifizieren.
Für alle Körperbereiche konnte die KI die Rasse mit einer Genauigkeit von etwa 90 Prozent identifizieren, auch ohne identifizierende Merkmale.Die Forscher legen nun eine Pause ein, um die Ergebnisse zu analysieren. "Wir müssen eine Pause einlegen", sagte Leo Anthony Celi, Mitautor und außerordentlicher Professor an der Harvard Medical School, dem Boston Globe.
