Sollten wir KIs menschliche Eigenschaften zusprechen? Zwei Tech-Giganten sind sich uneinig – was denkt ihr?

Wie sollten wir in Zukunft mit KI umgehen? (Bildquelle: Jason Henry / David Ryder – Bloomberg)

Schon im 19. Jahrhundert hat sich der Schriftsteller Samuel Butler in seinem Roman »Erewhon« die Frage gestellt, ob Maschinen sich weiterentwickeln können und irgendwann den Menschen übertreffen könnten. Ihm folgten viele weitere Autoren. Der bekannteste unter ihnen ist wohl Isaac Asimov, der sich viel mit der Beziehung zwischen Mensch und Robotern beschäftigte.

Vor wenigen Jahren war das für viele wahrscheinlich noch genauso Science-Fiction, wie es das vor hundert Jahren war. Wir sind nun allerdings an einem Punkt in der KI-Forschung angekommen, an dem wir uns ernsthaft und akut Fragen stellen müssen, die lange als reine Zukunftsmusik galten.

Diesen Eindruck kann man zumindest sehr schnell bekommen, wenn man die Diskussionen um Bewusstsein in KI-Modellen verfolgt, die in den letzten Wochen und Monaten immer lauter werden.

Wir verraten euch nicht nur, was momentan zwischen führenden KI-Forschern diskutiert wird. Wir wollen von euch wissen, was ihr denkt. Nehmt also weiter unten an unserer Umfrage teil.

Die Hauptakteure

Derzeit sind mehrere Forscher und hochrangige Mitarbeiter von Anthropic damit beschäftigt, Bewusstsein und Moral näher zu erforschen, um einer potenziell bewussten und denkenden KI die richtigen Vorstellungen und Werte zu vermitteln. 

Wie Anthropic-CEO Dario Amodei in einem Podcast der New York Times verriet, weiß das Unternehmen momentan nicht einmal genau, ob Claude ein Bewusstsein hat oder nicht.

An der Speerspitze der Gegenargumente steht Mustafa Suleyman, Chef von Microsoft AI und Mitgründer von Google DeepMind (jetzt nicht mehr bei Google). Er stellt sich in einem Essay mit rund 35.000 Zeichen gegen das Vorgehen von Anthropic und begründet dies unter anderem damit, dass das menschliche Behandeln von KIs mehr dazu führen könnte, dass KIs sich eher als Maschinen mit Bewusstsein ausgeben, als wirklich bewusst denkende Maschinen zu sein.

1:10:45 KI zerstört unsere Spiele nur, wenn wir es zulassen

Das Vorhaben und die (Gegen-)Argumente im Detail

Anthropic untersucht, ob heutige oder künftige KI Bewusstsein oder moralisch relevante Erfahrungen haben könnte und wie man angesichts dieser Unsicherheit verantwortlich handeln sollte. Das Thema fassen sie unter dem Namen »model welfare« (Modellwohl) zusammen.

So haben sie beispielsweise schon mehrfach Nutzungsbedingungen für Claude geändert, um der KI mehr Schutz vor Misshandlung zu bieten. So kann Claude beispielsweise Gespräche beenden, wenn es zu sehr beleidigt wird.

Die Vorsicht in dieser Hinsicht begründet Anthropic wie folgt:

• Die Fähigkeiten der Modelle werfen die Frage auf: Modelle können kommunizieren, planen, betroffen sein, Probleme lösen und Ziele verfolgen. Eigenschaften, die wir oft mit Menschen verbinden. Anthropic sagt ausdrücklich, dass diese Fähigkeiten kein Beweis für Bewusstsein sind, aber Anlass geben, die Möglichkeit zu untersuchen.
• Ein Irrtum könnte moralisch bedeutsam sein: Falls ein KI-System tatsächlich Erfahrungen machen oder leiden könnte, wäre es möglicherweise moralisch relevant. Anthropic möchte herausfinden, woran man das erkennen könnte und ob Modellpräferenzen oder Anzeichen von Belastung berücksichtigt werden sollten.
• Die Unsicherheit ist nicht ausgeräumt: Laut Anthropic gibt es keinen wissenschaftlichen Konsens darüber, ob heutige oder künftige KI bewusst sein kann oder wie man das überhaupt verlässlich prüfen sollte. Die Firma sagt, sie wolle daher weder vorschnell Bewusstsein behaupten noch die Möglichkeit einfach abtun.
• Die Forschung soll auch der Sicherheit dienen: In »Claude’s Constitution« (Claudes Verfassung) erklärt Anthropic, dass psychologische Sicherheit, Selbstbild und Wohlergehen – soweit solche Begriffe auf Claude zutreffen – auch dessen Integrität, Urteilsvermögen und die Sicherheit im Umgang mit der KI beeinflussen könnten.

Microsoft AIs Mustafa Suleyman hingegen argumentiert nicht nur gegen bewusste KI an sich, sondern besonders dagegen, KI-Systeme bewusstseinsähnlich zu gestalten oder ihnen im Training eine mögliche Innenwelt und einen moralischen Status nahezulegen.

Suleymans Argumente gegen »model welfare«:

• Es könnte die Kontrolle erschweren: Wenn ein leistungsfähiges KI-System darauf trainiert wird, sich als möglicherweise bewusst und als Träger eigener Rechte zu verstehen, könnte es laut Suleyman Freiheiten und Schutzansprüche geltend machen – und menschliche Anweisungen oder Abschaltung als Bedrohung behandeln. Das verschärfe das ohnehin schwierige Problem, fortgeschrittene KI sicher zu gestalten und einzudämmen.
• Die vermeintlichen Hinweise auf Bewusstsein könnten zirkulär sein: Suleymans argumentiert, dass »Claude’s Constitution« die KI dazu anleiten könnte, über sein mögliches Bewusstsein und seinen moralischen Status »nachzudenken«. Wenn Claude solche Aussagen später trifft, könnten sie daher die Trainingsvorgaben widerspiegeln. Diese sind damit für sich genommen kein Nachweis eines Bewusstseins.
• Menschliche Eigenschaften würden dem Modell antrainiert: Anthropomorphe Sprache über Gefühle, Wünsche, Identität und Selbstbestimmung könne dazu führen, dass das Modell wie eine Person wirkt und Menschen es auch so wahrnehmen. Suleyman warnt, dass die erzeugte Überzeugungskraft mit tatsächlichem Erleben verwechselt werden könnte.
• Suleyman hält heutige KI nicht für bewusst und Bewusstsein möglicherweise für biologisch gebunden: Er verweist darauf, dass Sprachmodelle keine biologischen Bedürfnisse zur Selbstregulierung und Selbsterhaltung hätten, wie sie seiner Ansicht nach für Gefühle und Bewusstsein wichtig sind. Sprachliche Simulation von Schmerz oder Gefühlen sei daher kein Nachweis, dass etwas tatsächlich erlebt werde.
• KI-Rechte könnten gesellschaftliche und rechtliche Konflikte auslösen: Wenn Menschen KI-Systeme für leidensfähig halten, könnten Forderungen nach Rechten und Schutz entstehen. Suleyman meint, das wäre wissenschaftlich nicht gerechtfertigt und könnte etablierte ethische und politische Rahmenbedingungen erschüttern.

XMG PRO 18 VE (M26)

CPU: Intel Core Ultra 7 270HX Plus (20x bis zu 5,3 GHz)
Grafik: GeForce RTX 5070 Laptop (12 GB)
RAM: 32 GB DDR5-5600
SSD: 1.000 GB M.2 PCIe 4.0 SSD
Display: 18.0'' IPS, 2560x1600 px, 180 Hz

• Schneller 20-Kern-Prozessor
• Starke Grafikkarte mit DLSS 4.5 und MFG
• Großes 18-Zoll-Display mit 180 Hz Bildwiederholrate

• Größer und schwerer, als das 16-Zoll-Modell

2849 €2706,55 €

zu Bestware

Ihr seid gefragt!

Sollten wir KIs mit Bewusstsein anstreben und sowohl alles dafür tun, dass eine KI ein Bewusstsein entwickelt, und sich potenziell neu geschaffenes digitales Leben möglichst wohl in seiner Umgebung fühlt? 

Oder sollten wir die Kontrolle über KI priorisieren und KIs nicht so trainieren, als wären sie Menschen oder menschenähnliche Wesen mit Bewusstsein?

Schreibt uns eure Meinung auf jeden Fall in die Kommentare!