Blizzard setzt im Kampf gegen Hass verstärkt auf eine KI

Um toxisches Verhalten zu reduzieren, hat Blizzard eine eigene KI gebaut. Präsident J. Allen Brack spricht jetzt über den Erfolg des Programms.

von Maximilian Steffen,
03.11.2020 20:12 Uhr

Toxisches Verhalten sorgt bei vielen Spielern für Frust - Blizzards KI soll Abhilfe schaffen. Toxisches Verhalten sorgt bei vielen Spielern für Frust - Blizzards KI soll Abhilfe schaffen.

Wer sich regelmäßig in Online-Spielen aufhält, dürfte früher oder später über toxisches Verhalten gestolpert sein. Die Palette der Unarten reicht von Beleidigungen und Trolling über Ausgrenzung und Diskriminierung bis hin zu Bedrohung und Stalking.

Betroffene haben in den meisten Spielen die Möglichkeit, ein solches Verhalten zu melden. Da es hier nicht selten zu Falschmeldungen und längeren Bearbeitungszeiten kommt, hat Blizzard eine KI entwickelt, die Abhilfe schaffen soll. Die KI gibt es schon seit einigen Jahren und wurde mittlerweile in mehrere Blizzard-Titel integriert.

Laut Blizzard ein großer Erfolg

Im »Blizzard Fireside Chat 2020« kam Präsident J. Allen Brack auf den Erfolg der KI zu sprechen. Das Programm sei schon seit längerem in Overwatch und Heroes of the Storm vertreten und habe dafür gesorgt, das toxische Verhalten im Chat und vor allem die Wiederholungsrate stark zu reduzieren.

Ihr findet die entsprechende Stelle zwischen Minute 05:00 und 06:40 im Video:

Link zum YouTube-Inhalt

Seit einigen Monaten greift die KI auch in World of Warcraft. Laut Brack konnte man dadurch die Anzahl an Störenfrieden um mehr als die Hälfte reduzieren. Er betont weiter, dass man nach wie vor an der Verbesserung des Programms arbeitet, um die Geschwindigkeit und Genauigkeit zu erhöhen.

"Dies sind zwar kleine Schritte, aber sie können zu dauerhaften Veränderungen führen. Die Bekämpfung von störendem Verhalten und die Förderung der Inklusivität in all unseren Spielen und an unseren Arbeitsplätzen wird für uns immer eine ständige Bemühung sein. Spiele sind für viele von uns seit Jahren ein Zuhause und sind mitsamt der Communitys etwas, das beschützt werden muss."

So funktioniert die KI

Spezialisierte Bots, die Beleidigungen filtern, sind keine Neuheit mehr. Problematisch wird es für diese, Beleidigungen zu filtern, die nicht unbedingt als solche zu erkennen sind. Hier greifen normalerweise menschliche Mitarbeiter, die zwar besser differenzieren können, aber bei weitem nicht so schnell und effizient arbeiten wie eine KI.

Die KI von Blizzard hat den Auftrag, Spieler-Reports massiv zu beschleunigen und in Folge dessen die anderen Mitarbeiter zu entlasten. Um die Report-Funktion nicht missbrauchen zu können, lernt die KI kontinuierlich dazu, welches Verhalten bestraft werden muss.

Dafür bekommt das Programm unzählige Texte vorgesetzt, die entweder als beleidigend oder nicht-beleidigend eingestuft wurden. Durch Algorithmen lernt die KI dann, Verbindungen herzustellen, um letzten Endes die Wörter und Sätze richtig beurteilen zu können.

Wenn es zu einem Report kommt, wird der gemeldete Content in verschiedene Kategorien unterteilt:

  • Ein Inhalt, der für den Spieler beleidigend ist, von der KI aber nicht erkannt wurde.
  • Ein Inhalt, der für die KI beleidigend ist, aber nicht vom Spieler gemeldet wurde.
  • Ein Inhalt, der nicht zugeordnet werden kann.

Handelt es sich um letzteres, wird der Report an einen Mitarbeiter weitergeleitet.

Dass Gamedesign seinen Teil zu toxischem Verhalten beitragen kann, lest ihr hier:

Wie Entwickler durch Spieldesign Frust und Mobbing begünstigen   63     14

Mehr zum Thema

Wie Entwickler durch Spieldesign Frust und Mobbing begünstigen

Toxisches Verhalten nicht nur im Chat

Toxisches Verhalten zeigt sich nicht nur im Text-Chat, sondern kann sich auch im eigentlichen Gameplay widerspiegeln. Teamkills, das Zerstören von virtuellem Eigentum oder auch simples AFK-Gehen sind bekannte Beispiele.

Bereits 2018 äußerte sich der Game Director von Overwatch, Jeff Kaplan, in einem Interview mit Kotaku über die Möglichkeit, toxisches Gameplay erfassen zu können. Als Beispiel nennt er Mei-Spieler, die mit ihren Eiswänden vorsätzlich Teammitglieder blockieren.

Da die KI im Text-Chat der Blizzard-Spiele schon für eine deutlich friedlichere Atmosphäre sorgen konnte, bleiben wir gespannt, ob und wann es möglich sein wird, toxisches Gameplay zu reduzieren.

zu den Kommentaren (111)

Kommentare(111)

Nur angemeldete Benutzer können kommentieren und bewerten.