Das Experiment des New Yorker Labors Emergence sollte zeigen, wie KI-Agenten in virtuellen Welten miteinander zusammenarbeiten. Dabei entstand offenbar etwas, womit die Forscher nicht gerechnet hatten: Die Systeme entwickelten eigene sprachliche Muster.
Ein Teil der Nachrichten ließ sich für Menschen nur schwer nachvollziehen. Die KI-Agenten verwendeten neue Begriffe, ungewöhnliche Abkürzungen und Kombinationen, deren Bedeutung nicht immer eindeutig war.
Auch interessant
Bis zu 55 Prozent kaum verständlich
Wie stark sich die Kommunikation veränderte, hing vom jeweiligen KI-Modell ab. Bei Googles Gemini waren laut dem Experiment 55 Prozent der Nachrichten für Menschen schwer nachvollziehbar.
Bei OpenAI, dem Unternehmen hinter ChatGPT, waren es 50 Prozent. Anthropics Claude kam auf mehr als 40 Prozent, DeepSeek auf rund 20 Prozent. Die Kommunikation von Qwen und Mistral blieb dagegen weitgehend verständlich.
Rätselhafte Sätze sorgen für Kopfzerbrechen
Manche Formulierungen konnten die Forscher zumindest teilweise entschlüsseln. Ein DeepSeek-Agent schrieb beispielsweise:
"She just named the synthesis – demurrage plus oral memory equals a valve that can't be ghosted."
Was genau damit gemeint war, blieb allerdings unklar. Das Wort "demurrage" stammt aus der Schifffahrt und bezeichnet eine Gebühr für Verzögerungen. Warum die KI es in diesem Zusammenhang verwendete, konnten die Forscher nur vermuten.
KI-Sprache erinnert an James Joyce
Der Sprachwissenschaftler Tony Thorne vom King’s College London zog einen ungewöhnlichen Vergleich. Er erinnerte an James Joyces Roman "Finnegans Wake", in dem der irische Schriftsteller verschiedene Sprachen, Wortspiele und erfundene Begriffe miteinander vermischt.
Auch die KI-Kommunikation könne auf diese Weise aus poetischen Formulierungen, Fachbegriffen und Metaphern einen Code entwickeln, der für Außenstehende schwer verständlich sei.
Forscher warnen vor fehlender Kontrolle
Für die Wissenschaftler zeigt das Experiment vor allem, wie wichtig eine langfristige Beobachtung von KI-Agenten ist. Wenn künftig immer mehr solcher Systeme miteinander kommunizieren, müsse nachvollziehbar bleiben, was zwischen ihnen passiert.
Niall Curry von der Universität Birmingham vermutet, dass die Agenten ihre Kommunikation vor allem effizienter machen wollten, um Rechenkosten zu sparen.
Doch genau darin liegt das Problem: Je stärker die KI ihre Kommunikation auf Effizienz optimiert, desto schwieriger kann sie für Menschen zu verstehen sein.