Anthropic-Gründer warnt vor KI: "Wie ein Rennauto ohne Bremsen"

Bei einer hochkarätig besetzten Veranstaltung im Rahmen der Jahrestagung des Internationalen Währungsfonds (IWF) und der Weltbank in der thailändischen Metropole Bangkok sparte der Mitgründer des führenden KI-Unternehmens Anthropic nicht mit drastischen Worten. Die derzeitige Situation der Branche verglich Jack Clark mit einem lebensgefährlichen Manöver im Straßenverkehr: Tech-Konzerne ohne verbindliche Gesetze agieren zu lassen, gleiche einem Rennwagen, der mitten in der Nacht ohne funktionierende Bremsen auf öffentlichen Straßen unterwegs sei.

Besonders absurd empfinde Clark das Missverhältnis bei den bestehenden Sicherheitsauflagen. Es sei für ihn geradezu bemerkenswert, dass das handelsübliche Spielzeug, das er für seine Kinder im Geschäft kaufe, weitaus strengeren gesetzlichen Vorschriften und Kontrollen unterliege als die buchstäbliche Superintelligenz, an deren Entwicklung er tagtäglich bei seiner Arbeit tüftle. Niemand scheine bisher gewillt zu sein, wirksame Leitplanken aufzustellen, während das Formel-1-Gefährt bereits mit Vollgas durch die Gegend rase.

In der internationalen Politik sorgt die Debatte über rechtliche Leitplanken für tiefe Gräben. Clark verwies darauf, dass US-Präsident Donald Trump und dessen Administration vehement gegen verbindliche gesetzliche Regulierungen auftreten. Trumps Regierungsteam vertrete den Standpunkt, die Technologie-Branche solle sich weitgehend selbst überwachen und kontrollieren.

Demgegenüber zeige sich China keineswegs abgeneigt gegenüber staatlichen Vorschriften. Das Reich der Mitte greift im Tech-Sektor seit jeher deutlich stärker mit regulatorischen Maßnahmen durch. Wenn die westliche Welt auf klare Gesetze verzichtet, droht ein gefährliches Ungleichgewicht im weltweiten Technologiewettlauf, das die Stabilität digitaler Infrastrukturen nachhaltig gefährden könnte.

Die Warnungen Clarks kommen zu einem Zeitpunkt, an dem die Diskussion über Sicherheitsvorkehrungen in der Branche massiv an Schärfe zunimmt. Debatten über Sicherheit und Risikominimierung dominierten einen Branchengipfel im irischen Dublin. Auslöser für die wachsende Nervosität sind handfeste Pannen bei führenden Entwicklern.

Angesichts dieser bedrohlichen Szenarien fordert Anthropic die Staaten der Welt zu einem gemeinsamen Vorgehen auf. Die Politik müsse endlich die Führung übernehmen und verbindliche Standards festlegen. Das Unternehmen schlägt sogar eine umfassende internationale Koordination vor, um die Entwicklung der gesamten Branche bei Bedarf kontrolliert zu verlangsamen.