Counter Strike - Künstliche Intelligenz sperrt toxische Spieler

Künstliche Intelligenz soll den Chat von CS:GO sauber halten.

Im Chat von Counter-Strike: Global Offensive, kurz CS:GO, kommt es gerne mal zu Beleidigungen durch toxische Spieler. Faceit hat sich des Problems angenommen und zusammen mit Google eine mögliche Lösung entwickelt (via Golem).

Genauer gesagt geht es um de KI-Moderator namens Minerva, der den Chat analysiert und all jene Spieler bannt, die durch Rassismus, Hass, Beleidigungen und sonstige toxische Inhalte auffällig geworden sind. Eine Analyse der ersten Testläufe wurde auch schon veröffentlicht.

Künstliche Intelligenz in Spielen - Teil 1: Geist aus der Maschine

So habe es im September bereits 20 Prozent weniger auffällige Nachrichten gegeben, weil toxische Spieler gesperrt wurden. Nachdem im August 2.280.769 Nachrichten mit beleidigenden, rassistischen oder anderen toxischen Inhalten erkannt wurden, waren es im September 1.821.734 dieser Nachrichten.

Mehrere Monate wurde Minerva auf Basis neuronaler Netze darauf trainiert, so wenig Fehler bei der Erkennung problematische Nachrichten wie möglich zu machen. Knapp 200 Millionen Nachrichten wurden analysiert und sieben Millionen toxische Inhalte gefunden.

Nicht jeder Verstoß ein Ban

Faceit kümmert sich auch um Doppelaccounts bei CS:GO-Turnieren.

Ende August ist das KI-System nach Angaben von Faceit freigeschaltet worden. Faceit veranstaltet große CS:GO-Turniere und musste sich daher mit dem Thema auseinandersetzen. Minerva ist daraufhin in Zusammenarbeit mit Google Cloud und Jigsaw (Google Labs) entstanden.

Doch wer von Minerva als toxischer Spieler erkannt wurde, erhält nicht gleich eine Sperre. Je nach schwere des Verstoßes gibt es zu Beginn auch erstmal nur Verwarnungen. Bei Wiederholungstätern soll die Strafe schnell gesteigert werden.

Dadurch sei die Anzahl der toxischen Spieler bereits um knapp zehn Prozent zurückgegangen. Laut Faceit sind es »nur« noch 228.000. Doch nicht nur um toxische Spieler kümmert sich Faceit, auch doppelte Nutzerkonten hat das Unternehmen im Auge.

Steht ein gesperrter Spieler unter Verdacht, mit einem Zweitkonto erneut an den Turnieren teilnehmen zu wollen, muss er seine Telefonnummer angeben. Von bisher etwa einer Viertelmillion Spieler, die dies tun mussten, meldeten sich knapp 50.000 gar nicht erst zurück.

Faceit will das Paket aus KI-Moderation und SMS-Abfrage nicht nur weiter verbessern, sondern auf lange Sicht auch anderen Organisatoren von Turnieren zur Verfügung stellen.

Mehr zum Thema Counter-Strike Global Offensive: