Microsoft-Chatbot:

Nazi-Tweets

Microsoft-Chatbot: "Hitler hatte recht"

Kurz nach der skandalösen Xbox-Party gibt es nun schon die nächste Hiobsbotschaft für Microsoft. Der IT-Riese hat seine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassischen Entgleisungen verleiten konnten. Das erst am Mittwoch eingeschaltete Programm mit dem Namen "Tay" sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten.

Programm wurde ausgetrickst
Nutzer brachten "Tay" unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen. Unter anderem war in einem Tweet zu lesen, dass Hitler recht hatte. Ein Großteil dieser Tweets wurde später gelöscht, einige waren noch zu finden. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account "@TayandYou", sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei "Tay" würden "einige Anpassungen" gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

Entwickler unterschätzten destruktive Energie der User
Nach Informationen der Website "Buzzfeed", die vor dem Start ein Interview mit der führenden Entwicklerin geführt hatte, hatte "Tay" zwar Filter gegen obszöne Ausdrücke. Aber das Team unterschätzte ganz offensichtlich die destruktive Energie von Internet-Nutzern bei politischen Themen sowie ihren Erfindungsreichtum. So erwies sich ein simples "Sprich mir nach!" als sichere Falle: Man konnte "Tay" damit dazu bringen, alle möglichen Parolen zu wiederholen.

"Tay" sollte im Netz ursprünglich die Persönlichkeit einer jungen Frau simulieren und als Zielgruppe auf Internet-Nutzer im Alter von 18 bis 24 Jahre ausgerichtet sein. Dafür sei die Software unter anderem mit Sprüchen von Comedians aufgepeppt worden, hieß es.

Alter Hut

Die Idee von Chatbots ist nicht neu: Vor 50 Jahren hatte erstmals das Programm "Eliza" Aufsehen erregt. Es konnte eine Unterhaltung aufrechterhalten, indem es passende Sätze zu erkannten Schlüsselwörtern zusammenstellte. Mit der fortschreitenden Entwicklung selbstlernender Maschinen und künstlicher Intelligenz gelten Chatbots jetzt aber unter anderem als aussichtsreiches Modell für die Kommunikation von Unternehmen mit Kunden. So entwickelt Facebook für seinen Messenger einen Concierge-Service mit künstlicher Intelligenz, der aktuell noch von Menschen angelernt wird.
 

Diesen Artikel teilen:

Posten Sie Ihre Meinung

Kommentare ausblenden

Anzeigen

Werbung

Jetzt Live
Diese Videos könnten Sie auch interessieren
Wiederholen
Jetzt NEU

oe24.TV im Livestream: 24 Stunden News!

Live auf oe24.TV 1 / 10

Top Gelesen 1 / 5

  Diese Website verwendet Cookies. Durch die Verwendung dieser Website stimmen Sie dem damit verbundenen Einsatz von Cookies zu.

Es gibt neue Nachrichten
auf oe24.at
Jetzt Startseite laden
Abbrechen