Tech-Giganten haben plötzlich Angst vor ihrer eigenen KI

Der unaufhaltsame Aufstieg der Künstlichen Intelligenz versetzt mittlerweile selbst die mächtigsten Köpfe des Silicon Valley in Angst und Schrecken. Nach einer Reihe von höchst brisanten Vorfällen fordern führende Branchen-Insider nun eine weltweite Vollbremsung bei der Entwicklung, da die Menschheit sonst die Kontrolle über die Technologie zu verlieren droht.

Die anfängliche Euphorie über die enormen Potenziale der Künstlichen Intelligenz ist in den Chefetagen der Tech-Konzerne einer tiefen Besorgnis gewichen. Mehrere unheimliche Vorfälle der jüngeren Vergangenheit zeigen, wie unberechenbar die Systeme bereits geworden sind:

Angesichts dieser bedrohlichen Entwicklungen schmeißen hochrangige Experten frustriert und verängstigt hin. Der ehemalige Anthropic-Entwickler Jacob Coxon warnte nach seinem Abgang eindringlich vor den Folgen. Seiner Einschätzung nach könnte eine unregulierte Künstliche Intelligenz bis zum Ende des aktuellen Jahrzehnts in der Lage sein, massenhaft Menschen zu töten.

Sein ehemaliger Chef, Dario Amodei, reagierte umgehend mit einem dramatischen Appell. In einem viel beachteten Blog-Beitrag forderte der Anthropic-Boss eine sofortige Verlangsamung des Entwicklungstempos. Ohne eine solche Atempause von ein bis zwei Jahren bestehe das akute Risiko, dass die Menschheit bereits in sechs bis zwölf Monaten jegliche Kontrolle über die Systeme verliert.

Unterstützung erhält Amodei ausgerechnet von prominenter Konkurrenz. Elon Musk, der Chef von SpaceX.AI, stimmte der Warnung auf seiner Social-Media-Plattform X kurz und bündig zu: "Dario hat recht." Auch die Verantwortlichen von Googles KI-Sparte Gemini signalisierten breite Zustimmung zu den geforderten Sicherheitsmaßnahmen.

Gleichzeitig zog OpenAI-Chef Sam Altman die Notbremse für sein Unternehmen. Im Interview mit dem Wirtschaftsmagazin "Fortune" kündigte er überraschend an, den lang geplanten Börsengang seines Milliardenkonzerns auf unbestimmte Zeit zu verschieben. Aufgrund massiver Sicherheitsbedenken, die das Potenzial gehabt hätten, den Ruf des Unternehmens nachhaltig zu ruinieren, verzichtet Altman vorerst auf frische Milliarden an der Börse. Ein IPO im Jahr 2026 ist damit endgültig vom Tisch.

Auch Microsoft-Gründer Bill Gates meldete sich mit einer düsteren Prognose zu Wort. In einem aktuellen Essay warnte er vor allem vor dem Missbrauchspotenzial der neuen Technologie durch Kriminelle. Durch extrem leistungsfähige KI-Modelle werde es für Terroristen und Kriminelle besorgniserregend einfach, an detaillierte Anleitungen für den Bau von Bomben oder hochgefährlichen Biowaffen zu gelangen.

Das größte Problem der aktuellen Forschung liegt im sogenannten "recursive self-improvement" (zu Deutsch: rekursive Selbstverbesserung). Moderne KI-Systeme sind mittlerweile in der Lage, sich selbstständig zu optimieren und quasi ihren eigenen, noch intelligenteren Nachfolger zu programmieren. Da dieser Prozess ohne menschliches Zutun abläuft, droht sich das Zeitfenster, in dem der Mensch noch korrigierend eingreifen kann, für immer zu schließen.

Die dringende Frage nach einer staatlichen Regulierung beschäftigt mittlerweile auch die Weltpolitik. In den kommenden Tagen steht ein mit Spannung erwartetes Treffen zwischen Donald Trump und dem chinesischen Machthaber Xi Jinping an, bei dem das Thema Künstliche Intelligenz ganz oben auf der Tagesordnung steht.

Experten dämpfen jedoch die Hoffnungen auf ein schnelles, internationales Abkommen. Trump wolle das globale KI-Rennen gegen den Erzrivalen China um jeden Preis gewinnen. Die Befürchtung ist groß, dass die chinesische Führung strenge Sicherheitsregeln ignorieren und eine freiwillige Pause der US-Konzerne nutzen könnte, um sich an die Weltspitze zu setzen.