KI entwickelt psychopatische Züge - Mit verstörenden Bildern trainiert

Forscher des MIT haben eine KI mit verstörenden Bildern gefüttert. Das Ergebnis: Die KI entwickelte psychopatische Züge und sah bei einem Rorschach-Test nur sterbende Menschen.

von Sara Petzold,
06.06.2018 15:15 Uhr

Wie wichtig die Erziehung, also das Füttern mit den richtigen Ausgangsdaten, einer KI ist, will ein Experiment des MIT zeigen.Wie wichtig die Erziehung, also das Füttern mit den richtigen Ausgangsdaten, einer KI ist, will ein Experiment des MIT zeigen.

In den vergangenen Monaten und Jahren haben Forscher immer wieder Künstliche Intelligenzen entwickelt, die mithilfe verschiedener Algorithmen Menschen bei diversen Tätigkeiten unterstützen sollen. Dass man das Ganze aber auch ins Gegenteil verkehren kann, zeigt eine Forschergruppe des MIT Media Labs.

Laut einem Bericht von ExtremeTech gelang es den Wissenschaftlern, eine KI mit psychopatischen Wesenszügen zu entwickeln, indem sie die KI ausschließlich gewalttätigen Bildern aussetzten. Passenderweise nannten sie die KI »Norman« (nach dem Charakter Norman Bates aus Hitchcocks Film Psycho).

Lernende KI für Civilization - KI-Revolution aus Deutschland

Zunächst fütterten die Forscher Norman ausschließlich mit Fotos und Daten aus Subreddits, die sich mit Tod und Zerstörung beschäftigen. Dabei zeigten sie ihm aber keine echten Bilder toter Menschen, sondern lediglich die Bildunterschriften in Kombination mit Tintenklecksen.

Dann unterzogen sie die KI zusammen mit einer »normalen« KI einem Rorschach-Test, bei dem die Assoziationen des Probanden zu diversen abstrakten Bildern abgefragt werden. Das Ergebnis war bemerkenswert: Während die normale KI Gegenstände wie Flugzeuge, Schmetterlinge oder eine Vase mit Blumen erkannte, sah Norman Menschen, die an Schusswunden starben oder von Gebäuden sprangen.

KI Norman (links) erkennt in den abstrakten Bildern des Rohrschach-Tests erziehungsgemäß vornehmlich gewalttätige Inhalte, die Antworten einer nicht näher spezifizierten Standard-AI (rechts) fallen dagegen deutlich harmloser aus.KI Norman (links) erkennt in den abstrakten Bildern des Rohrschach-Tests erziehungsgemäß vornehmlich gewalttätige Inhalte, die Antworten einer nicht näher spezifizierten Standard-AI (rechts) fallen dagegen deutlich harmloser aus.

Das Experiment zeige laut den Forschern, dass auch künstliche Intelligenzen vorbelastet in ihren Entscheidungen sind, wenn man sie mit einseitigen Daten versorgt (hat). Umso wichtiger sei es KIs, die alle als unbeschriebenes Blatt starten, mit ausgewogenen Perspektiven zu füttern und damit zu erziehen.

Die Wissenschaftler wollen jetzt versuchen, Norman zu »reparieren«. Dazu werden sie Daten aus anderen, von Menschen absolvierten Rohrschach-Tests nutzen, um Normans Blickwinkel zu verändern. Möglicherweise können sie auf diese Weise die Psychopatisierung Normans rückgängig machen.

Künstliche Intelligenz in Spielen - Teil 2: Die KI der Zukunft

Hardware-Tipps - Mit System-Tools mehr über die eigene Hardware erfahren 6:00 Hardware-Tipps - Mit System-Tools mehr über die eigene Hardware erfahren


Kommentare(83)

Nur angemeldete Benutzer können kommentieren und bewerten.

Gewinnspiel

Cookies optimieren die Bereitstellung unserer Dienste. Mit der Nutzung unserer Dienste erklären Sie sich damit einverstanden, dass wir Cookies verwenden. Weitere Informationen oder schließen