Es ist ein KI-Thriller. Wie in einer Szene aus einem schlechten Science-Fiction-Film verschaffte sich ein neues Modell des KI-Vorreiters OpenAI vergangene Woche während eines Testlaufs selbstständig Zugang zum offenen Internet und hackte sich bei gleich mehreren fremden Firmen ein.

Am Freitag wurde bekannt, dass auch die führende KI-Firma Anthropic (gegründet von Entwicklern, die OpenAI verlassen haben) ebenso einen Hack gegen fremde Plattformen bei ihrem KI-Modell  erst im Nachhinein beobachtet hat. Doch wie gefährlich ist die KI? Ihre Fortschritte sind atemberaubend schnell.

In allen Tests ging es darum, die Hacker-Fähigkeiten der KI zu testen. Experten warnen schon lange vor Cyberattacken mit KI-Software. Deswegen werden der OpenAI- und der Anthropic-Knall in der Branche als Weckruf gewertet.

Nach diesen ersten bekannt gewordenen eigenständigen Hackerangriffen durch Künstliche Intelligenz haben mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz gegründet. Der "Open Secure AI Alliance" gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an. Sie setzen zur Problemlösung ebenfalls auf KI. Sie wollen die Unternehmen sogenannte Open-Source-Modelle Künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese weiterentwickeln.

Multimilliardär Elon Musk, der selbst mit Grok (xAI) in der KI-Branche ein wichtiger Player ist und schon bei der OpenAI-Gründung mit Millionen dabei war – heute ist er mit dem Chef Sam Altman verfeindet, hat folgende Voraussage. "Schon in fünf Jahren wird die KI die Summe der menschlichen Intelligenz übersteigen."

Während Elon Musk davon ausgeht, dass "Arbeit in der Zukunft nur noch auf freiwilliger Basis" stattfinden werde und die Regierung ganz einfach Geld drucken und an die Bürger verteilen solle als "Universal High Income", brechen jetzt schon viele Arbeitsplätze weg, weil die KI den Job billiger macht. Auch die Roboter kommen – die "physische KI" wird wichtiger. Roboter und KI werden Güter im Überfluss erzeugen, träumt Musk im neuen Economist-Interview. Dass Ressourcen wie Wasser begrenzt sind und viele jetzt schon um ihr Auskommen zittern, übergeht er: "Es wird alles sehr gut." Zumindest "mit großer Wahrscheinlichkeit."

In der EU starten mit dem 2. August Transparenzpflichten für KI-Systeme sowie die nationale und europäische Durchsetzung des "Artificial Intelligence Act". Anbieter von KI-Systemen müssen ab 2. August grundsätzlich sicherstellen, dass Personen informiert werden, wenn sie mit einem KI-System interagieren. Dies gilt insbesondere für Systeme, die direkt mit Menschen kommunizieren, beispielsweise Chatbots. KI-generierte Texte von öffentlichem Interesse müssen gekennzeichnet werden. Sonst drohen Strafen.

Die Durchsetzung dieser Regelungen erfolgt einerseits über nationale Marktüberwachungsbehörden, andererseits auf EU-Ebene durch die Europäische Kommission bzw. deren KI-Amt. Österreich ist hier im Verzug: Das Gesetz zur Benennung der zuständigen Behörden werde derzeit im Bundeskanzleramt als Regierungsvorlage in enger Abstimmung mit den anderen Ressorts ausgearbeitet, hieß es auf Anfrage aus dem Bundeskanzleramt.

"Ein konkreter Zeitpunkt für eine Begutachtung kann auf Grund laufender Gespräche zum derzeitigen Zeitpunkt noch nicht genannt werden." Das Bundeskanzleramt betont: Die Unternehmen und die öffentliche Verwaltung müssen ab jetzt auf jeden Fall  die rechtlichen Anforderungen erfüllen, da diese auch aufgrund von Persönlichkeitsrechten durchgesetzt werden könnten.