Chatbots bieten laut ihren Macher:innen geballtes Wissen mit wenigen Knopfdrücken. In der Vergangenheit hat sich gezeigt, dass die Tools nicht immer hundertprozentig richtig liegen und teilweise sogar nie dagewesene Inhalte halluzinieren. Laut den Verantwortlichen einer neuen Studie könnte das in Kombination mit menschlichen Eigenheiten eine gefährliche Kombination ergeben.

Forscher:innen mehrerer französischer und einer italienischen Universität haben untersucht, wie menschliche Antworten ausfallen, wenn sie KI nutzen dürfen. Genauer gesagt ging es darum herauszufinden, ob Menschen trotz KI-Nutzung zugeben würden, dass sie von einem Thema keinerlei Ahnung haben. Um das herauszufinden, wählten sie eine KI, die in einigen Bereichen besonders oft scheitert: Step 3.5 Flash. Diesem und anderen Modellen wurden visuelle Fragen zu Details in Filmen gestellt, etwa wie die Frisur von Agatha in The Grand Budapest Hotel aussieht oder welche Farbe die Schildkröte im Animationsfilm Momo hat.

KI-Modelle schneiden in solchen Detailfragen laut den Forscher:innen grundsätzlich recht schlecht ab. Step 3.5 Flash schaffte es nie, die Details herauszufinden, während Modelle wie Claude 4.6 Sonnet und Gemini 3.5 Flash immerhin einzelne Details richtig wiedergaben. Die Proband:innen wurden in zwei Gruppen eingeteilt: eine Gruppe, die eigenständig antworten musste, und eine, die auf KI-Unterstützung durch Step 3.5 Flash zurückgreifen durfte. Beide Gruppen beantworteten dieselben Fragen.

In der zweiten Gruppe konnten deutlich weniger Menschen die richtige Antwort liefern, da sie sich wahrscheinlich auf die KI verließen. In der ersten Gruppe gaben 27 Prozent korrekte Antworten, in der zweiten Gruppe lediglich neun Prozent. Gravierend ist der Unterschied beim Eingestehen von Unwissen: In der Gruppe ohne KI gaben 44 Prozent zu, die Antwort nicht zu wissen. In der KI-Gruppe waren es nur drei Prozent. Zudem war die zweite Gruppe deutlich zuversichtlicher: 76 Prozent gaben an, in ihrer Antwort sicher zu sein, verglichen mit 30 Prozent in der anderen Gruppe.

Valerio Capraro, Professor an der Universität Mailand-Bicocca, sagte gegenüber The Register: "Für Menschen ist die Fertigkeit, 'Ich weiß es nicht' zu sagen, sehr wichtig. Denn sie repräsentiert das Erkennen der Grenzen unseres eigenen Wissens. Aber durch KI können wir die Antwort auf nahezu alle Fragen bekommen." Zu den Ergebnissen fügte er hinzu: "Ich habe Sorgen um Kinder, weil Erwachsene kritisches Denken gelernt haben. Kinder, die jetzt mit diesen Systemen geboren werden, könnten diese wichtigen Fertigkeiten womöglich nie lernen."