Beim weltberühmten KI-Giganten OpenAI fliegen die Fetzen und die wichtigsten Sicherheits-Forscher laufen Sturm. Das Team, das uns vor einer unkontrollierbaren Super-Intelligenz schützen sollte, wurde komplett aufgelöst. oe24 berichtet über die Hintergründe.
Dramatischer Abgang der Top-Gehirne
Der ChatGPT-Schöpfer OpenAI hat sein wichtigstes Team für langfristige Sicherheitsfragen still und heimlich abgewickelt. Diese Abteilung war so etwas wie "die Lebensversicherung für die Menschheit", um sicherzustellen, dass uns eine zukünftige Super-KI nicht vernichtet oder sich gegen uns wendet.
Hinter den Kulissen des Silicon-Valley-Riesen tobt offenbar ein brutaler Machtkampf. Während die Führungsriege rund um Tech-Milliardär Sam Altman voll auf Kommerzialisierung, schnelles Geld und immer neue Produkte setzt, warnen Insider vor einem unkalkulierbaren Risiko. Der totale Verzicht auf ein eigenständiges Team zur Erforschung existentieller Bedrohungen sorgt weltweit für fassungsloses Kopfschütteln.
Ilya Sutskever sagt Adieu
Das Drama spitzte sich bereits in den vergangenen Wochen zu, als die beiden führenden Köpfe der Sicherheitsforschung ihren Hut nahmen. Ilya Sutskever, Mitgründer und genialer Chefwissenschaftler, kehrte dem Konzern den Rücken. Nur Stunden später reichte auch Jan Leike, der Co-Leiter des Teams für die sogenannte "Superalignment"-Sicherheit, seine Kündigung ein.
Leike rechnete danach öffentlich und unbarmherzig mit OpenAI ab. In einer emotionalen Abrechnung erklärte er, dass das Vertrauen in die Führung verloren gegangen sei. Die Sicherheit der Menschen habe bei den wichtigen Entscheidungen des Konzerns keine Rolle mehr gespielt. Es ging am Ende nur noch darum, glänzende Produkte auf den Markt zu werfen und der Konkurrenz von Google und Meta zuvorzukommen.
Auch interessant
Profitgeilheit statt Schutz der Menschheit?
Viele Beobachter sind sich einig: Der kommerzielle Druck ist schlichtweg zu groß geworden. Seit dem Einstieg von Microsoft mit Milliarden-Investitionen muss OpenAI Ergebnisse liefern. Die ursprüngliche Idee, eine gemeinnützige Organisation zum Wohle aller zu sein, ist längst Geschichte. Heute regiert der nackte Kapitalismus.
Die Kritiker schlagen nun lautstark Alarm. Wenn die klügsten Köpfe, die uns vor den Gefahren von künstlicher allgemeiner Intelligenz (AGI) warnen, das Handtuch werfen, wer passt dann noch auf? Es besteht die reale Angst, dass eine zukünftige, extrem mächtige KI außer Kontrolle geraten könnte, weil die Sicherheitsforschung aus Kostengründen oder wegen des enormen Zeitdrucks vernachlässigt wurde.
3 große Probleme
Nun stellen sich folgende 3 Fragen:
- Das Kontrollproblem: Wie zwingt man eine Maschine, die millionenfach klüger ist als ein Mensch, sich an unsere Regeln zu halten?
- Die Wertefrage: Wie stellt man sicher, dass eine KI die menschliche Existenz respektiert und schützt?
- Der Wettlauf gegen die Zeit: Wenn die Technologie schneller wächst als die Schutzmaßnahmen, droht uns der Kontrollverlust. Wie verhindert die Menschheit das?
Durch das Aus für die Spezialabteilung stehen diese existenziellen Fragen nun völlig im Raum. Die verbliebenen Forscher wurden auf andere Abteilungen verteilt, wo sie im täglichen Produktstress wohl kaum noch Gehör finden werden.
Um den massiven Imageschaden zu begrenzen, hat Sam Altman eilig die Gründung eines neuen Sicherheitsausschusses verkündet. Dieses Gremium soll die Einhaltung von Sicherheitsstandards bei allen Projekten überwachen. Doch in der Branche erntet dieser Schritt nur Hohn und Spott.