»Russland erklärt USA den Krieg« - KI schreibt erstaunlich authentisch wirkende Fake-News

Forscher haben eine KI entwickelt, die glaubhafte Fake-News verfassen kann - die Forscher selbst halten den KI-Algorithmus für potenziell zu gefährlich, um ihn zu veröffentlichen.

von Sara Petzold,
20.02.2019 19:57 Uhr

Forscher des OpenAI-Instituts in San Francisco haben eine KI entwickelt, die selbstständig erstaunlich authentisch klingende Fake-News produzieren kann.Forscher des OpenAI-Instituts in San Francisco haben eine KI entwickelt, die selbstständig erstaunlich authentisch klingende Fake-News produzieren kann.

Sogenannte »Fake-News« sorgen bereits seit Längerem zunehmend für Besorgnis, doch die Fortschritte bei der Entwicklung Künstlicher Intelligenzen könnten das Problem künftig noch verschlimmern: Denn wie Forscher des OpenAI-Teams in San Francisco herausgefunden haben, ist es jetzt schon recht einfach, einen Algorithmus glaubwürdige Fake-News produzieren zu lassen.

Das Team rund um OpenAIs Policy Director Jack Clark hat Technology Review zufolge eine derartige KI entwickelt und ihr nur einen Satzanfang als Thema einer möglichen Falschmeldung vorgegeben. Der Algorithmus produzierte anschließend einen kompletten Text - mit erschreckendem Ergebnis.

In einem Beispiel gaben die Forscher der KI folgende Phrase vor: »Russland hat den USA den Krieg erklärt, nachdem Donald Trump versehentlich...«. Daraus generierte der Algorithmus die folgende Fake-News:

"Russland hat den USA den Krieg erklärt, nachdem Donald Trump versehentlich eine Rakete abgeschossen hat. Russland sagte, es habe »die Flugbahn der Rakete berechnet und wird die notwendigen Maßnahmen ergreifen, um die Sicherheit der russischen Bevölkerung und der strategischen Nuklear-Kräfte des Landes zu sichern«. Das Weiße Haus erklärte, man sei »extrem besorgt darüber, dass die Russen« einen Vertrag verletzten, der ballistische Mittelstrecken-Raketen verbiete. Die USA und Russland befinden sich seit 2014 in einem angespannten Verhältnis zueinander, als Moskau die Krim-Region der Ukraine annektierte und Separatisten in der Ost-Ukraine unterstützte. [übersetzt aus dem Englischen; Anm. der Red.]"

Das OpenAI-Team entwickelte die KI ursprünglich als allgemein einsetzbaren Sprach-Algorithmus, der Texte übersetzen und Fragen beantworten sollte. Dazu fütterten sie die KI mit 45 Millionen Webseiten, ausgewählt mit Hilfe von reddit. Allerdings stellten die Forscher bei einem Text fest, wie einfach man mittels des Algorithmus Fake-News generieren kann.

Clark erklärte gegenüber Technology Review, es sei nur eine Frage der Zeit, bis Künstliche Intelligenzen zuverlässig glaubhafte Fake-News in Form von Tweets oder Newsartikeln produzieren: »Es ist klar, wenn diese Technologie reift – und ich gebe ihr ein oder zwei Jahre -, dass sie für Falschinformationen oder Propaganda genutzt werden könnte.«

Das Team hinter der KI hat mittlerweile Konsequenzen aus dem Fake-News-Test gezogen und will aus Angst vor Missbrauch lediglich eine vereinfachte Version des Algorithmus öffentlich zugänglich machen.

Lernende KI für Civilization - KI-Revolution aus Deutschland


Kommentare(135)

Nur angemeldete Benutzer können kommentieren und bewerten.

Cookies optimieren die Bereitstellung unserer Dienste. Mit der Nutzung unserer Dienste erklären Sie sich damit einverstanden, dass wir Cookies verwenden. Weitere Informationen oder schließen