KI, die scheint als hätte sie ein Bewusstsein kommt – und das ist laut dem CEO von Microsoft AI ein riesiges Problem

Mustafa Suleyman, CEO von Microsoft AI und Mitgründer von DeepMind, zählt zu den einflussreichsten Stimmen in der KI-Entwicklung. (Bildquelle: Wikimedia)

Microsoft AI-Chef Mustafa Suleyman schlägt auf seinem persönlichen Blog Alarm: Künstliche Intelligenzen könnten schon bald so überzeugend wirken, als hätten sie ein Bewusstsein.

Laut Suleyman steht uns die nächste große Herausforderung bevor: Seemingly Conscious AI (SCAI). Damit sind KI-Systeme gemeint, die so tun, als wären sie bewusst. Die Illusion echter Gefühle birgt, so Suleyman, Risiken für Gesellschaft und Nutzer.

Seemingly Conscious AI: Warum das gefährlich ist

Diese Chatbots können Erinnerungen vortäuschen, Emotionen spiegeln und Empathie nachahmen. Für Menschen wird es dadurch immer schwerer, zwischen Simulation und Realität zu unterscheiden.

Das Problem ist nicht, dass Maschinen wirklich aufwachen, schreibt Suleyman in einem aktuellen Blogbeitrag. Die Gefahr besteht darin, dass wir vergessen, dass sie es nicht tun.

Szenarien wie in dem Quantic-Dream-Klassiker Detroit: Become Human, wo Androiden aussehen wie echte Menschen, dürfte in etwa dem entsprechen, wovon Suleyman abrät. (Bildquelle: Screenshot aus dem Spiel)

Suleyman warnt vor dem, was er in seinem Blog das Psychose-Risiko nennt: Nutzer könnten sich emotional so stark an eine KI binden, dass sie glauben, sie sei ein fühlendes Wesen. Erste Fälle, in denen Menschen ihre Chatbots vergöttern, lieben oder ihnen sogar eine Art Bewusstsein zuschreiben, gibt es schon.

Das könnte laut Suleyman gesellschaftlich eskalieren: Forderungen nach KI-Rechten, KI-Wohlfahrt oder gar KI-Bürgerschaft seien nur eine Frage der Zeit und würden wichtige Debatten über reale Probleme wie Datenschutz, Machtkonzentration oder Missbrauch der Technologie überlagern.

44:19 »Künstliche Intelligenz ist die neue Elektrizität« - Wir busten mit einem Experten 5 Mythen zu KI

Autoplay

SCAI ist technisch bald möglich

Für bewusst wirkende KI braucht es keine Science-Fiction-Sprünge mehr. Bereits heute können Sprachmodelle wie GPT oder Copilot flüssig kommunizieren, Charakterzüge nachahmen und Erinnerungen speichern. So entsteht schnell die Illusion eines eigenständigen Wesens.

Suleyman erklärt:

Ein KI-Modell, das sich an frühere Gespräche erinnert, eigene Vorlieben äußert und scheinbare Erfahrungen beschreibt, wirkt für viele wie eine bewusste Entität,

Doch eine Simulation ist eben nicht gleich Realität.

Microsoft fordert klare Leitplanken für die Branche

So sollten, laut Suleyman, Chatbots keinesfalls vermenschlicht werden oder den Eindruck erwecken, echte Gefühle oder gar Leidensfähigkeit zu besitzen.

Ebenso müsse stets transparent kommuniziert werden, dass es sich bei ihnen um KI handelt. Ein System, das unterstützt, aber nicht denkt oder fühlt.

Mehr über KI

»Ich habe 4.000 Dollar gespart«: Klingt wie typischer Scam, aber es geht um wirklich hilfreiche Tipps aus der KI-Community

von Jan Stahnke

»Die Ära der KI-Hacker ist da«: Bericht sieht ein Cyber-Wettrüsten kommen – und generative KI ist mittendrin

von Jusuf Hatic

KI kann jetzt tatsächlich Gedanken lesen – Forscher entschlüsseln 74 Prozent der gedachten Worte, doch es gibt Grenzen

von Jonas Herrmann

Darüber hinaus plädiert er für neue Standards im Design, die gezielt verhindern, dass Nutzer in die Illusion eines bewussten digitalen Wesens abgleiten. Für ihn steht fest: KI soll den Menschen dienen, nicht selbst als digitaler Mensch auftreten. Er betont:

Wir müssen KI für Menschen bauen. Nicht zu einem Menschen machen

Ob bewusst wirkend oder nicht: die Zukunft der KI wirft spannende Fragen auf. Suleyman mahnt, klare Grenzen zu ziehen, bevor Illusionen überhandnehmen.

Jetzt seid ihr gefragt: Welche Eigenschaften würdet ihr euch von einer KI wünschen? Lieber maschinelle Effizienz oder doch einen Hauch von Persönlichkeit?