Seit Jahren warnen einige Forscher und Branchenvertreter vor möglichen existenziellen Risiken durch immer leistungsfähigere KI-Systeme. Andere halten solche Szenarien dagegen für übertrieben.
Juan Andrés Guerrero-Saade vom Cybersicherheitsunternehmen SentinelOne bezeichnet die Untergangsszenarien als Science-Fiction. Auf "techxplore.com" kritisiert er die Argumente als nicht stichhaltig.
Seiner Einschätzung nach könnten KI-Unternehmen die Warnungen auch nutzen, um die Bedeutung ihrer Arbeit hervorzuheben und bestimmte Fachkräfte für sich zu gewinnen.
Auch interessant
Doch die Skepsis gegenüber den Warnungen ist nicht überall groß. Jacob Coxon, ein ehemaliger Forscher beim KI-Entwickler Anthropic, verließ das Unternehmen nach eigenen Angaben aus Sorge über einen möglicherweise verantwortungslosen Umgang mit der KI-Entwicklung.
Szenario 1: KI löst einen Atomkrieg aus
Ein besonders drastisches Szenario dreht sich um Atomwaffen. Die Befürchtung: KI könnte in einer internationalen Krise Entscheidungen beeinflussen, die letztlich zu einem nuklearen Angriff führen.
Ein Bericht der RAND Corporation kam im vergangenen Jahr allerdings zu dem Ergebnis, dass KI derzeit keinen Einsatz von Atomwaffen auslösen könne. Grund dafür seien die bestehenden Sicherheitsvorkehrungen bei der Steuerung solcher Waffen.
Gleichzeitig warnen die Autoren davor, dass sich die Situation verändern könnte, sollte KI künftig stärker in Entscheidungen über Atomwaffen eingebunden werden oder auf anderem Weg Zugriff darauf erhalten.
Auch Forscher des King’s College London beschäftigten sich mit der Frage. Sie spielten 21 verschiedene Kriegsszenarien durch und ließen Chatbots dabei die Rolle von Staats- und Regierungschefs nuklear bewaffneter Großmächte übernehmen.
Das Ergebnis ihrer Untersuchung: In den simulierten Situationen entschied sich die KI häufig für den Einsatz von Atomwaffen, anstatt eine Eskalation zu vermeiden.
Szenario 2: KI hilft bei der Entwicklung gefährlicher Viren
KI kann bei der Suche nach neuen Medikamenten und Behandlungsmöglichkeiten helfen. Doch dieselben Fähigkeiten könnten theoretisch auch für gefährliche Zwecke missbraucht werden.
Anthropic erklärte Anfang des Monats, Versuche blockiert zu haben, seine KI Claude für die Entwicklung von Biowaffen einzusetzen.
Auch der Biologe und Genforscher Kevin Esvelt vom Massachusetts Institute of Technology (MIT) berichtet von problematischen Antworten. ChatGPT habe ihm demnach erklärt, wie ein Wetterballon genutzt werden könnte, um potenzielle Biowaffen über einer Stadt zu verteilen.
In einem weiteren Fall habe eine KI laut Esvelt ein Rezept für ein neuartiges Gift entwickelt, das einem Krebsmedikament ähnelte.
Szenario 3: Die Erde wird zur Büroklammer-Fabrik
Noch abstrakter ist das sogenannte "Büroklammer-Problem". Das Gedankenexperiment geht von einer extrem leistungsfähigen KI aus, die nur ein einziges Ziel verfolgt: möglichst viele Büroklammern herzustellen.
Ohne entsprechende Begrenzungen könnte ein solches System theoretisch immer mehr Ressourcen für dieses Ziel einsetzen. Im Extremfall würde es die vorhandenen Rohstoffe der Erde für die Produktion verwenden – und dabei keine Rücksicht auf menschliches Leben nehmen.
Das Szenario soll vor allem verdeutlichen, welches Risiko entstehen könnte, wenn ein sehr leistungsfähiges System ein Ziel konsequent verfolgt, ohne menschliche Werte und Grenzen ausreichend zu berücksichtigen.
Wie groß ist die Gefahr wirklich?
Ob solche Szenarien tatsächlich eintreten könnten, ist umstritten. Während einige Experten vor langfristigen und möglicherweise existenziellen Risiken warnen, halten andere die Vorstellungen für überzogen.
Klar ist jedoch: Die technischen Möglichkeiten künstlicher Intelligenz wachsen schnell. Welche Sicherheitsvorkehrungen notwendig sind und wie weit die Entwicklung gehen sollte, bleibt deshalb Gegenstand einer intensiven Debatte.