Künstliche Intelligenz - Facebook stoppt KI, nachdem sie neue Sprache erfindet

Eine von Facebook erschaffene künstliche Intelligenz hat während eines Experiments eine Sprache erschaffen, der selbst die Entwickler nicht mehr folgen konnten.

von Tobias Ritter,
28.07.2017 12:22 Uhr

Da haben sogar die Entwickler nichts mehr verstanden: Nachdem eine KI statt Englisch eine selbst entwickelte Sprache zur Kommunikation nutzte, entschied sich Facebook zur vorzeitigen Abschaltung.Da haben sogar die Entwickler nichts mehr verstanden: Nachdem eine KI statt Englisch eine selbst entwickelte Sprache zur Kommunikation nutzte, entschied sich Facebook zur vorzeitigen Abschaltung.

Technologische Singularität nennt man den Zeitpunkt, ab dem sich Maschinen mittels künstlicher Intelligenz (KI) rasant selbst verbessern - ohne dabei weiter auf den Menschen angewiesen zu sein. Experten erwarten, dass dieser Meilenstein nicht mehr lange auf sich warten lässt. Allerdings wurde der prognostizierte Zeitpunkt auch schon mehrfach um Jahrzehnte in die Zukunft verschoben.

Bei einem ist man sich jedenfalls sicher: Das Erreichen der technologischen Singularität wird selbst für die dafür Verantwortlichen überraschend stattfinden. Die Zukunft der Menschheit darüber hinaus ist nicht vorhersehbar.

Künstliche Intelligenz in Spielen - Die KI der Zukunft

Fluch oder Segen?

Kein Wunder also, dass es seit geraumer Zeit kontroverse Debatten um die Gefahren von künstlicher Intelligenz gibt. Während der Tesla-Chef Elon Musk zuletzt zum Beispiel eine eher düstere Zukunft prognostizierte, zeigte sich der Facebook-Gründer Mark Zuckerberg grundsätzlich zuversichtlich.

Einigen seiner Angestellten bei Facebook war eine jüngste Entwicklung in Sachen künstliche Intelligenz wiederum nicht ganz so geheuer: Während eines KI-Experiment entschieden sich zwei Bots namens Bob und Alice dazu, der ihnen beigebrachten und zugewiesenen Sprache Englisch zu entsagen und stattdessen in einer abgewandelten Geheimsprache miteinander zu kommunizieren.

KI sucht nach effizienterer Sprache

Offenbar versuchte die künstliche Intelligenz dabei, die ihr ungereimt und unlogisch erscheinenden Teile der englischen Sprache durch eine effizientere Ausdrucksweise zu ersetzen. Unter Missbeachtung gängiger Grammatik-Regeln ergaben sich daraufhin Konversationen, bei denen Bob Dinge wie »I can i i everything else« äußerte, woraufhin Alice mit »balls have zero to me to me to me...« antwortete.

Was für Menschen nach einer Menge Unsinn klingen mag, ergab für die KI-Agenten dahinter offensichtlich durchaus Sinn. Den Forschern gelang es zumindest, die spezifische Wiederholung von Wörtern zu interpretieren. Die Mehrfachnennung von »i« und »to me« stand demnach wohl für eine Anzahl von Gegenständen, die Bob und Alice haben wollten.

Plus-Podcast: Wenn die KI die Kontrolle übernimmt
In diese Plus-Episode GameStar-Podcast sprechen wir über die Zukunft der Spiele - und insbesondere ein enorm spannendes Forschungsfeld: die künstliche Intelligenz. Nicht wie üblich als Gegner, sondern als Spielgestalter: Entwickler arbeiten an KI-Systemen, die unsere Bedürfnisse im Spiel erkennen und es daran anpassen. Beispielsweise, indem sie eine Quest generieren, wenn wir uns gerade langweilen. Wie funktioniert das? Welche Auswirkungen hat es? Und - wollen wir das überhaupt?

Zum Podcast: Die Zukunft der Spiele - Wenn die KI die Kontrolle übernimmt

Fast schon menschliche Sprachoptimierung

Wie der am Programm »Facebook AI Research (FAIR)« beteiligte Wissenschaftler Dhruv Batra von Georgia Tech anmerkt, ähnelt das KI-Verhalten in dieser Sache in Ansätzen der Art und Weise, wie menschliche Gemeinschaften Kürzel und Kurzschriften entwickeln.

Den Facebook-Forschern wurde es dann jedoch zu bunt: Sie beendeten das Experiment. Ursprüngliches Ziel sei es gewesen, Bots zu entwickeln, die mit Menschen kommunizieren können. Mit der abgewandelten Sprache sei das nicht möglich. Allerdings gaben die Wissenschaftler auch zu, dass sie den KI-Konversationen in der erfundenen Sprache nicht mehr logisch folgen konnten.

Keine Belohnung für Englisch

Grund für das Abschweifen der künstlichen Intelligenz in eine eigene Sprache war übrigens, dass die Entwickler für die Verwendung von Englisch keine Belohnung vorgesehen hatten. Moderne KIs arbeiten in der Regel mit einem Reward-Prinzip, bei dem gewünschtes Verhalten entsprechend belohnt wird. Da es in diesem Fall ausblieb, sahen die Bots offensichtlich keinen Nutzen mehr darin, die für sie unlogisch komplex erscheinende Sprache für ihre simplen Aufgaben zu nutzen.

Lernende KI für Civilization - KI-Revolution aus Deutschland


Kommentare(151)

Nur angemeldete Benutzer können kommentieren und bewerten.