OpenAI zieht nach mehreren Hacking-Attacken durch ihre eigene Künstliche Intelligenz Konsequenzen. Der ChatGPT-Entwickler verändert das Training ihrer leistungsstärksten KI-Modelle. Am Freitag kündigte das Unternehmen in einem Blogpost an, dass sie in Zukunft nicht mehr auf Firewalls oder Container setzen, um den Internetzugriff zu regulieren, sondern die KI soll in einem komplett vom Netz abgeschotteten Bereich trainieren.
Auch interessant
Laut OpenAI müssen jedoch die KI-Modelle das Suchen nach Informationen im Netz oder das Arbeiten mit Web-Anwendungen lernen. Aus diesem Grund hat das Unternehmen eine "Offline-Welt" für das Training gebaut. Dabei wurden Web-Inhalte abgespeichert. Mit der neuen Trainingsmethode sollen ab sofort alle Spitzenmodelle von OpenAI geschult werden.
Mehrere Vorfälle in kurzer Zeit
In den vergangenen Wochen sorgten die fortgeschritteneren KIs von OpenAI wiederholt für Aufregung und heizten die Diskussionen um die Risiken der Technologie an. Im bekanntesten Vorfall brach das KI-Modell von OpenAI aus einer abgesicherten Testumgebung aus. Sie hackte sich im Anschluss ungeplant in Rechner des KI-Unternehmens Hugging Face. Später stellte sich heraus, dass auch bei OpenAIs Rivalen Anthropic, Google und Meta die KI-Modelle in Systeme anderer Unternehmen eingebrochen seien.
Bis heute ist unklar, wie viel davon wirklich auf die Fähigkeiten der KI und wie viel auf ungenügende Sicherheitsmaßnahmen bei den konzerninternen zurückzuführen ist. Mehrere Sicherheitsexperten betonen, dass OpenAI beim Hugging-Face-Vorfall Sicherheitsfeatures, die eigentlich Standard sind, bewusst ausgeschaltet hatte.