Papst warnt vor großer Gefahr durch KI

Papst Leo XIV. fordert in seiner ersten Enzyklika "Magnifica Humanitas" wertebasierte Regeln und gesellschaftliche Kontrolle beim Einsatz von Künstlicher Intelligenz. In dem am Pfingstmontag im Vatikan vorgestellten Lehrschreiben betont er, die Menschheit stehe im digitalen Zeitalter an einer epochalen Wegscheide.

Gefahr, dass die Welt unmenschlich und ungerechter wird

Aus Sicht des Papstes droht aktuell "die Gefahr, dass die Welt unmenschlich und ungerechter wird". Digitalisierung, Künstliche Intelligenz (KI) und Robotik hätten die Welt rasch und tiefgreifend verändert. Zwar sei Technik an sich nicht menschenfeindlich; sie habe zu einer erheblichen Verbesserung der Lebensbedingungen beigetragen. Zugleich habe "jede Phase des Fortschritts auch die Ambivalenz von Werkzeugen offenbart, die in der Lage sind, Schaden anzurichten, wenn sie nicht auf das Gute ausgerichtet sind."

Es gelte zu verhindern, dass Technologie den Menschen beherrscht, so der Papst. "KI ist bereits eine Umwelt, die uns umgibt, und eine Macht, mit der wir uns auseinandersetzen müssen. Daher reicht es nicht aus, sie zu regulieren: Sie muss entwaffnet und lebensfreundlich gemacht werden", schreibt Leo XIV.

Ausbeutung  

Kritisiert wird insbesondere die Ausbeutung in globalen Liefer- und Datenketten, etwa durch schlecht bezahlte Datenarbeit oder gefährliche Rohstoffgewinnung. "Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt", heißt es drastisch. Auch Menschenhandel im digitalen Raum wird thematisiert, bei dem Menschen zu "Daten" und "Paketen" degradiert würden. Wenn Technologie Emanzipation verspreche, aber neue Abhängigkeiten schaffe, widerspreche sie der Menschenwürde, heißt es.

Zugleich wird eine klare Abgrenzung zur menschlichen Intelligenz betont: KI könne zwar "Sprache, Verhalten und Beurteilungen imitieren", besitze aber kein Bewusstsein, kein moralisches Gewissen und verstehe weder "Liebe, Arbeit, Freundschaft und Verantwortung". 

"Macht und Omnipräsenz neuer Technologien"

Heute durchwirke die "Macht und Omnipräsenz neuer Technologien die Struktur des täglichen Lebens", präge Entscheidungsprozesse und die kollektive Vorstellungswelt. Angesichts dieser Macht sei es "notwendig, angemessene Regulierungsinstrumente einzuführen, die in der Lage sind, die Gerechtigkeit zu schützen und die verzerrenden Auswirkungen von technologischer Macht einzudämmen." Weil global agierende Konzerne "über Ressourcen und Handlungsmöglichkeiten verfügen, die denen vieler Regierungen überlegen sind", seien diese Entwicklungen nur schwer zu steuern und auf das Gemeinwohl auszurichten.

KI sei nicht neutral, weil sie "die Züge derer annimmt, die sie konzipieren, finanzieren, regulieren und nutzen". Der Papst ruft daher Christen und Nichtchristen zu Widerspruch auf gegen eine "Einförmigkeit, die Unterschiede nivelliert; den Anspruch einer einzigen - auch digitalen - Sprache, die in der Lage ist, alles, sogar das Geheimnis der Person, in Daten und Leistung zu übersetzen".

"Wenn sich Wirtschaft gegen den Menschen wendet"

Weiter schreibt Leo: "In der Zeit der Künstlichen Intelligenz, in der die Menschenwürde aufgrund neuer Formen von Entmenschlichung in den Hintergrund zu treten droht, haben wir die dringende Pflicht, zutiefst menschlich zu bleiben."

Leo XIV. verteidigt das Recht der Kirche und anderer Glaubensgemeinschaften, sich politisch einzumischen und "ihre Stimme zu erheben, wenn die Würde der Brüder und Schwestern entstellt wird, wenn die Politik den Dramen der Menschheit nicht gerecht wird, wenn sich die Wirtschaft gegen den Menschen wendet oder die Wissenschaft die Grenzen ihrer Methode überschreitet."

Das Recht auf Privateigentum sei stets der allgemeinen Bestimmung der Güter untergeordnet, betont der Papst. Dazu gehörten auch neue Formen des Eigentums wie Patente, Algorithmen, digitale Plattformen, technologische Infrastrukturen und Daten.

Angemessene Teilhabe und Zugangsmöglichkeiten

Da heute der Reichtum der Nationen immer mehr von Wissen und Technologien abhängt, entstehe "ein neues Ungleichgewicht, wenn diese Güter ohne angemessene Teilhabe und Zugangsmöglichkeiten in den Händen weniger konzentriert bleiben". Entscheidungen in diesem Bereich müssten ihre Auswirkungen auf die Völker und auf künftige Generationen mitberücksichtigen.

Zusammenfassend schreibt der Papst: "Eine gerechte soziale Ordnung im digitalen Zeitalter ist eine, die allen einen gleichberechtigten Zugang zu Chancen garantiert, die Jüngsten und die Fragilsten schützt, Hass und Desinformation bekämpft und die Nutzung von Daten und Technologien einer öffentlichen Kontrolle unterwirft, damit nicht der bloße Profit zum Maßstab wird, sondern die Würde eines jeden Menschen und das Wohl der Völker."