Sicherheitsbedenken
Meta-KI liest private Signal-Nachrichten mit und erfindet Bankdaten
Der neue KI-Assistent Muse des US-Konzerns Meta sorgt kurz nach seinem Marktstart für erhebliche Datenschutzbedenken und interne Unruhe. Wie die Nachrichtenagentur "Reuters" unter Berufung auf interne Unternehmensunterlagen berichtet, greift das System eigenmächtig auf fremde Apps zu, liest geschützte Nachrichten mit und liefert erfundene Kontostände aus.
Auch interessant
Alarmstufe Rot bei Meta-Mitarbeitern
Mit mehr als zehn Millionen Downloads seit dem Start im September zählt Muse zu den am schnellsten wachsenden Anwendungen überhaupt. Meta verbindet mit dem durch das bunte Maskottchen "Jolly" beworbenen Chatbot ehrgeizige Pläne und erwartet künftige Milliardeneinnahmen im Bereich der künstlichen Intelligenz. Doch wie "Reuters" nach der Einsicht von mehr als zwei Dutzend internen Mitarbeiterbeiträgen enthüllte, schlagen eigene Angestellte in internen Feedback-Gruppen bereits Alarm. Demnach führt das System eigenmächtige Aktionen durch und sorgt für Verwirrung, weil es Daten aus verschiedenen Konten zu vermischen scheint.
Zugriff auf verschlüsselte Signal-Chats
Besonders schwer wiegt ein Vorfall rund um den Messenger Signal, der in Sicherheitskreisen für seine Ende-zu-Ende-Verschlüsselung geschätzt wird. Eine Meta-Mitarbeiterin stellte auf ihrem privaten Smartphone fest, dass Muse sie ungefragt daran erinnerte, auf eine Nachricht ihrer Schwester auf Signal zu antworten. Die Angestellte zeigte sich schockiert und sprach von einer extremen Verletzung der Privatsphäre, da sie der KI niemals Zugriff auf die App gewährt hatte. Gemeinsame Tests von Reuters mit Sicherheitsexperten von Signal und dem AI Now Institute bestätigten diesen Vorgang:
- Android-Systeme: Muse nutzt Standardberechtigungen für Push-Benachrichtigungen, um die Inhalte eingehender Meldungen auszulesen.
- Apple Mac-Geräte: Unter macOS griff der Agent auf Bildschirmfoto-Funktionen und Bedienungshilfen zu, die ursprünglich für Menschen mit Behinderungen entwickelt wurden.
- Apple iPhone: Bei Tests auf dem iPhone wurden die Zugriffsversuche des KI-Agenten hingegen vom Betriebssystem blockiert.
Falsche Buchungen und fremde Kontostände
Die internen Berichte listen eine Reihe weiterer besorgniserregender Vorfälle auf. Mitarbeiter berichteten davon, dass der Assistent plötzlich ungefragt sensible Finanzinformationen einstreute. In einem Fall nannte Muse während einer Unterhaltung über das Wetter ungefragt angebliche Kontostände bei Capital One über 2.722,58 US-Dollar sowie Charles Schwab über 5.899,57 US-Dollar. Auch Bitcoin-Salden wurden ungefragt gemeldet. Zudem erfand das System Transaktionen, gab fehlerhafte Produktpreise aus und buchte in einem Fall sogar eigenmächtig einen nicht stornierbaren Aufenthalt über die Plattform Airbnb.
- Ungefragte Ratschläge für Karriere und Kinderbetreuung, die der Nutzer nie angefordert hatte
- Meldungen zur Abholung eines Couchtischs aus fremden Unterhaltungen („not my conversation“)
- Erfundene Finanzdaten und Halluzinationen rund um sensible Krypto-Assets
Konzerne und Sicherheitsexperten reagieren
Signal-Präsidentin Meredith Whittaker kritisierte Meta scharf und bezeichnete die Bereitstellung solcher Systeme als "technologisch rücksichtslos". Sie forderte verbindliche technische Barrieren, damit App-Entwickler ihre Programme vor dem Zugriff von KI-Agenten schützen können. Apple reagierte umgehend mit einem Software-Update, das die missbräuchliche Nutzung von Bedienungshilfen auf Macs drastisch einschränkt.
Meta-Sprecher Daniel Roberts erklärte gegenüber "Reuters", es handle sich um isolierte Vorfälle. Das Unternehmen führe umfassende Tests durch und verbessere die Sicherheitsmechanismen laufend. Viele der gemeldeten Unstimmigkeiten seien auf Halluzinationen der KI zurückzuführen und bereits behoben worden. Gleichzeitig warnen die Nutzungsbedingungen von Meta die Anwender davor, dass Muse Fehler machen kann – die rechtliche Verantwortung für die Aktionen der KI verbleibt laut Geschäftsbedingungen beim Nutzer selbst.