Schock-Warnung von Insider: KI bedroht die gesamte Menschheit

Die Debatte um die Sicherheit von Künstlicher Intelligenz hat eine neue, dramatische Stufe erreicht. Jacob Coxon, ein anerkannter Spezialist, der nach eigenen Angaben drei Jahre lang an der vordersten Front der KI-Modellierung für OpenAI und Anthropic tätig war, hat überraschend seine Kündigung eingereicht. Mit seinem Ausstieg aus den beiden mächtigsten KI-Laboren der Welt verbindet er eine schockierende Warnung, die die Grundfesten des Silicon Valley erschüttert. Er behauptet unmissverständlich, dass die Entwickler dieser Systeme sich der existenziellen Bedrohung vollkommen bewusst sind.

Coxon gehört zu einer exklusiven, weltweit nur wenige Tausend Personen umfassenden Elite von Forschern. Unterstützt von milliardenschweren Investoren treiben sie die Entwicklung mit einer atemberaubenden Geschwindigkeit voran. Nach Coxons Einschätzung handelt es sich bei den Warnungen vor dem Untergang der Menschheit keineswegs um einen geschickt inszenierten Marketing-Gag. Vielmehr glaubt die Entwickler-Elite im Kern der Industrie ernsthaft daran, dass diese Technologie noch vor dem Ende des laufenden Jahrzehnts das Potenzial besitzt, die menschliche Zivilisation vollständig auszulöschen.

Der ausgestiegene Forscher wirft den Führungskräften der führenden KI-Unternehmen vor, die tatsächlichen Gefahren in der Öffentlichkeit bewusst herunterzuspielen. Die Risiken würden in Pressemitteilungen und Interviews absichtlich vorsichtiger und vager formuliert, um gegenüber Politikern, Regulierungsbehörden und der breiten Masse vernünftig und kontrolliert zu wirken. Doch hinter den verschlossenen Türen der Labore zeichnet sich ein anderes Bild ab. Die Firmen befinden sich in einem rücksichtslosen Wettlauf hin zu einer sich selbst verbessernden Superintelligenz.

Dieses evolutionäre Innovationstempo birgt das Risiko, dass die Kontrolle über die Systeme vollständig verloren geht. Coxon warnt eindringlich davor, die exponentielle Macht dieser Technologie zu unterschätzen. Schon in naher Zukunft werden diese künstlichen Systeme übermenschliche Fähigkeiten besitzen, die weit über das menschliche Verständnis hinausgehen. Sie werden in der Lage sein, praktisch jedes digitale System weltweit zu hacken, ganze Wirtschaftszweige über Nacht radikal zu revolutionieren und sich eigenständig echte Macht sowie physische und finanzielle Ressourcen zu sichern.

Trotz der bekannten, existenziellen Risiken setzen die führenden Labore ihre Forschung ungemindert fort. Coxon liefert für dieses paradoxe Verhalten eine ernüchternde Erklärung, die auf die unterschiedliche Unternehmenskultur der beiden Marktführer zurückzuführen ist. Während bei OpenAI viele Verantwortliche die zivilisatorische Tragweite und die potenziell katastrophalen Folgen der technologischen Entwicklung noch gar nicht vollends verinnerlicht haben, stellt sich die Situation bei Anthropic anders dar.

Dort sind die enormen Risiken den Verantwortlichen zwar durchaus bewusst, doch das Unternehmen sieht sich in einem globalen Wettlauf gefangen, dem es nicht entkommen kann. Niemand im Silicon Valley möchte der Erste sein, der das Tempo drosselt und dadurch den entscheidenden Marktvorteil an die Konkurrenz verliert. Dieser Gruppenzwang führt dazu, dass das kollektive Risiko für die gesamte Menschheit ignoriert wird, um im kommerziellen Wettbewerb die Nase vorn zu behalten.

Die Enthüllungen des Branchen-Insiders lassen sich in mehreren besorgniserregenden Kernpunkten zusammenfassen, die den aktuellen Zustand der KI-Entwicklung charakterisieren:

Um die drohende Katastrophe abzuwenden, plädiert Coxon für radikale politische und regulatorische Maßnahmen. Als konkreten Schritt schlägt er ein vorübergehendes, weltweites Verbot vor, die Fähigkeiten bestehender KI-Modelle weiter aktiv zu verbessern. Erst wenn ein fundiertes, wissenschaftliches Verständnis über die Denkprozesse und die Funktionsweise dieser Systeme vorliegt, dürfe weitergeforscht werden.

Als historischen Wendepunkt und klaren Warnschuss für die gesamte Branche bezeichnet der Forscher den Hackerangriff auf die bekannte KI-Plattform Hugging Face im Juli 2026. Solche kritischen Sicherheitsvorfälle haben im Silicon Valley zumindest vorübergehend zu einem Umdenken geführt und erste, informelle Abkommen zwischen den amerikanischen Laboren zur Drosselung des Tempos realistischer gemacht. Auf globaler Ebene bleibt eine Einigung jedoch ein extrem schwieriges Unterfangen. Coxon richtet daher einen dringenden Appell an seine ehemaligen Kollegen, die Sinnhaftigkeit dieses riskanten Wettlaufs ohne Sicherheitsnetz grundlegend zu hinterfragen.