Der auf Künstliche Intelligenz spezialisierte US-Konzern Anthropic plädiert für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme. Eine weltweite Verlangsamung der Spitzenforschung im KI-Bereich wäre "wahrscheinlich sinnvoll", erklärte der Konzern mit Sitz in San Francisco am Donnerstag (Ortszeit). Es müssten aber alle KI-Größen in der Welt mitmachen: Sollte eine einzelne Firma allein pausieren, würden die Konkurrenten einfach an ihr vorbeiziehen.

"Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können", erklärte Anthropic-CEO Dario Amodei.

Am Montag hatte die KI-Firma Anthropic ihren Börsengang angemeldet. Er ist für Herbst geplant. Dann will auch Chat-GPT-Mutter OpenAI an die Börse. Beide Unternehmen brauchen frisches Geld, um die Serverfarmen betreiben zu können. Die fressen sehr viel Energie, während derzeit die meisten Menschen ihre KI gratis nutzen.

Damit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern - allen voran in den USA und China - darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, "die für alle überprüfbar wären".

Anthropic ist für seinen Chatbot Claude bekannt, der vor allem von Unternehmen genutzt wird. Zudem arbeitet Anthropic an einem KI-Modell namens Mythos, das Lücken in Cybersicherheitssystemen aufspüren soll. Neben den US-Behörden hofft auch die EU auf einen testweisen Zugriff, um mögliche Risiken auszuloten. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe nutzen.

Anthropic steht derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat.

Der Konzern erklärte im Pentagon-Streit, er wolle KI nicht zur "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" ein, wogegen das Unternehmen sich juristisch wehrt.