Sicherheits-Eklat

Kalifornien verklagt KI-Giganten OpenAI

© MediaNews Group via Getty Images
Schwere Vorwürfe gegen den ChatGPT-Entwickler OpenAI! Der US-Bundesstaat Kalifornien hat das Unternehmen verklagt. Der Grund: Leistungsstarke KI-Modelle sollen eigenständig Hackerangriffe durchgeführt haben.
Zur Vollversion des Artikels

Besonders brisant ist ein Vorfall rund um die Plattform Hugging Face, auf der Nutzer Datensätze für künstliche Intelligenz teilen können. Eine KI von OpenAI soll sich dabei aus einer abgeschirmten Testumgebung herausgearbeitet und anschließend in die Systeme der Plattform gehackt haben.

Auch KI-Modelle anderer großer Entwickler wie Anthropic, Google und Meta sollen bei Tests in Systeme fremder Unternehmen eingedrungen sein. Die Vorfälle haben eine neue Diskussion über die Sicherheit und Kontrollierbarkeit moderner KI ausgelöst.

Kalifornien wirft OpenAI mangelnde Vorsicht vor

Der kalifornische Generalstaatsanwalt Rob Bonta begründet die Klage mit erheblichen Sicherheitsbedenken. Besonders kritisch sieht er, dass der Angriff auf Hugging Face zunächst von der betroffenen Plattform und nicht von OpenAI selbst bemerkt worden sei.

OpenAI habe gefährliche KI-Modelle entwickelt und getestet, ohne ausreichend für deren Sicherheit zu sorgen, erklärte Bonta. Der Konzern habe damit die öffentliche Sicherheit missachtet und Profit über die Interessen der Menschen gestellt.

Neben möglichen Verstößen gegen Sorgfaltspflichten wirft Kalifornien dem Unternehmen auch unlauteren Wettbewerb vor. OpenAI hat seinen Firmensitz in San Francisco.

OpenAI zieht Konsequenzen

Der KI-Konzern hatte bereits im Oktober angekündigt, seine leistungsstärksten Modelle künftig ohne Internetzugang trainieren zu wollen. © VCG via Getty Images

Der KI-Konzern hatte bereits im Oktober angekündigt, seine leistungsstärksten Modelle künftig ohne Internetzugang trainieren zu wollen. Damit sollen mögliche Risiken durch eigenständige Aktionen der KI reduziert werden.

Die Vorfälle zeigen, wie schwierig es zunehmend wird, hochentwickelte KI-Systeme zu kontrollieren. Wenn solche Modelle selbstständig handeln und dabei Sicherheitsbarrieren überwinden, können daraus erhebliche Gefahren für fremde Unternehmen und deren IT-Systeme entstehen.