Psychopathische Software erschaffen

Extrem gefährliche KI

Psychopathische Software erschaffen

Dass der enorme Fortschritt von Künstlicher Intelligenz bei vielen Menschen auch für Unbehagen sorgt, hat zuletzt sogar Google dazu veranlasst, ein eigenes Grundsatzpapier für die Einsatzgebiete der Technologie zu verfassen. Und dass diese Ängste nicht unbegründet sind, zeigt ein aktuelles Beispiel. US-Forscher haben die erste psychopathische künstliche Intelligenz vorgestellt. Der Algorithmus namens "Norman", benannt nach Alfred Hitchcocks Filmfigur Norman Bates, wurde von Wissenschaftern am renommierten Massachusetts Institute of Technology (MIT) geschaffen. Er sei ein Beispiel dafür, was passiere, wenn künstliche Intelligenz mit einseitigen Infos gefüttert werde, erklärten die Forscher. Mit "Norman" wollen sie auf Gefahren hinweisen.

>>>Nachlesen:  So will Google seine KI einsetzen

Mord und Totschlag überall

Für das Experiment versorgte das Forscherteam die künstliche Intelligenz ausschließlich mit Inhalten, in denen es um sterbende Menschen geht - die Software sah nur Mord und Totschlag. Sie bedienten sich aus Beiträgen im Netzwerk Reddit. Anschließend zeigten sie "Norman" eine Reihe von Tintenklecks-Bildern, angelehnt an den psychodiagnostischen Rorschachtest. Die Antworten ihres Psychopathen, was wohl darauf zu sehen sei, verglichen die MIT-Forscher mit denen einer anderen künstlichen Intelligenz, die "normal" geschaffen wurde.

>>>Nachlesen:  Wird Künstliche Intelligenz zur Gefahr?

Furchteinflößend

Die Ergebnisse sind furchteinflößend: Während der "gesunde" Algorithmus auf einem Bild "Menschen, die eng beieinanderstehen" sah, antwortete "Norman": "Ein Mann, der aus dem Fenster springt." Einen anderen Tintenklecks identifizierte die künstliche Intelligenz als "Person mit einem Regenschirm", während "Norman" darin einen Mann sah, "der von seiner schreienden Frau erschossen wird". Der psychopathische Algorithmus entdeckte außerdem Menschen, die durch einen Stromschlag getötet, überfahren oder in eine Teigmaschine gezogen werden - während die andere künstliche Intelligenz Vögel und eine Hochzeitstorte erkannte.

>>>Nachlesen:  iOS 12: Apple macht Siri viel schlauer

Daten sind das Um und Auf

Beim maschinellen Lernen seien die Daten, mit denen die Maschine gefüttert werde, von zentraler Bedeutung, sie könnten "ihr Verhalten signifikant beeinflussen", fassen die Forscher ihr Experiment zusammen. Ihr Ziel ist es, auf die Gefahren bei künstlicher Intelligenz hinzuweisen und das Bewusstsein dafür zu schärfen.

Wenn ein Algorithmus als ungerecht oder voreingenommen wahrgenommen werde, sei der Übeltäter oftmals nicht die künstliche Intelligenz selbst, sondern die Daten, mit denen sie gefüttert wurde, erklärten die MIT-Forscher. Auf der Internetseite norman-ai.mit.edu haben sie "Normans" Antworten zusammengetragen. Dort bitten sie Nutzer, den Test selbst zu machen und ihre Antworten einzusenden - damit "Norman" repariert werden kann.

>>>Nachlesen:  Google-Assistent kann jetzt Anrufe tätigen

Diesen Artikel teilen:

Posten Sie Ihre Meinung

Kommentare ausblenden

Anzeigen

Werbung

Jetzt Live
Diese Videos könnten Sie auch interessieren
Wiederholen
Jetzt NEU

oe24.TV im Livestream: 24 Stunden News!

Live auf oe24.TV 1 / 10

Top Gelesen 1 / 5

Diese Website verwendet Cookies
Cookies dienen der Benutzerführung und der Webanalyse und helfen dabei, die Funktionalität der Website zu verbessern, um Ihnen den bestmöglichen Service zu bieten. Nähere Informationen finden Sie in unserer Datenschutzerklärung.
Impressum  
Es gibt neue Nachrichten