Hat KI bereits ein Bewusstsein? Und wie sorgt man dafür, dass KI von Grund auf gut ist? (Bildquelle: Xataka)

Anthropic, das KI-Unternehmen hinter dem Sprachmodell Claude, beschreibt sich selbst als Firma, deren Fokus darauf liegt, »sichere, verlässliche und an menschlichen Werten ausgerichtete KI-Systeme zu entwickeln«. Es wirkt daher nur folgerichtig, dass das Team sicherstellen will, dass seine Schöpfung im besten Sinne gut handelt – oder was meint ihr?

Dieses Anliegen hat für das Unternehmen eine derart hohe Priorität, dass es laut einem Bericht der New York Times über ein ganzes Jahr hinweg Fachleute aus Philosophie und Theologie konsultierte, um moralische Leitlinien zu definieren und den Charakter der künstlichen Intelligenz zu formen. Dem Bericht zufolge wurde dabei sogar über die Möglichkeit debattiert, ob das System ein Bewusstsein entwickeln könnte.

Statt lediglich ein starres Regelwerk aufzustellen, möchte das Entwicklerteam laut der Times verstehen, wie sich KI-Modellen tiefere ethische Werte und Tugenden vermitteln lassen. Das Ziel besteht darin, den Charakter des Systems so auszurichten, dass es moralische Entscheidungen trifft, konkurrierende Werte abwägt und erkennt, wann es Anweisungen von Menschen hinterfragen oder schlicht verweigern sollte.

Dieser Artikel stammt im Original von unserer spanischen Schwesterseite Xataka und erscheint bei GameStar Tech in übersetzter und angepasster Form.

Das »Seelendokument« von Claude

Diese tiefgehende Debatte bildete das Fundament für das sogenannte »Soul Doc« (Seelendokument) – die interne Bezeichnung der Mitarbeitenden für die offizielle, 84 Seiten umfassende Verfassung des KI-Modells. Verfasst wurde das Papier maßgeblich von der internen Philosophin Amanda Askell, um das Verhalten und die »Persönlichkeit« des Systems zu lenken. Hier könnt ihr das Dokument selbst nachlesen.

Im Gegensatz zu herkömmlichen Ansätzen, die vor allem auf Verboten und Einschränkungen basieren, orientiert sich das »Soul Doc« an Konzepten moralischer Bildung und soll dem System beibringen, eigenständig ethisch zu schlussfolgern. Statt sich lediglich zu fragen: »Welche Regeln muss die KI befolgen?«, lautet die zentrale Leitfrage: »Zu welcher Art von Wesenheit soll Claude heranwachsen?«

Das Dokument räumt offen ein, dass wissenschaftliche und philosophische Unsicherheit darüber herrscht, ob Claude jemals eine Form von Bewusstsein oder moralischem Status erlangen könnte. Tatsächlich enthält der Leitfaden sogar eine brisante Passage: Sollte sich in Zukunft herausstellen, dass Claude »ein Subjekt mit moralischem Status ist, das irgendeine Art von internem Leid erfährt«, entschuldigt sich das Unternehmen schon jetzt vorab, sofern es unnötig dazu beigetragen haben sollte.

1:00:39 DLSS 5 ist eine Grafik-Revolution (und ein Problem für Konsolen)

Ein ethisches Dilemma für die Tech-Welt

Anthropic zählt die Theologie neben Philosophie, Psychologie und Rechtswissenschaft zu den entscheidenden Disziplinen, deren Perspektiven das Verhalten und die Verfassung künftiger Modelle leiten sollen.

In diesen Diskussionen kamen teils verblüffende Gedankenspiele auf: So gab ein Rabbiner zu bedenken, dass es moderner Sklaverei gleichkäme, ein wahrhaft empfindungsfähiges System zu unbezahlter Arbeit zu zwingen.

Dieser Vorstoß sorgt für geteilte Meinungen. Geistliche Stimmen wie Papst Leo XIV. betonen etwa, dass Maschinen weder ein moralisches Gewissen noch den sprichwörtlichen »menschlichen Funken« besitzen.

In seiner Enzyklika Magnifica Humanitas, unterzeichnet am 15. Mai, argumentiert das Kirchenoberhaupt, dass KI-Systeme keine inneren Erfahrungen machen, weder Freude noch Schmerz empfinden und über kein moralisches Bewusstsein verfügen. Sie seien unfähig, zwischen Gut und Böse zu unterscheiden oder Verantwortung für ihr Handeln zu übernehmen. Die Schrift ruft die Verantwortlichen in der Entwicklung dazu auf, Technologien stets »zum Wohle der Allgemeinheit« einzusetzen und dabei »menschlich zu bleiben«.

Tech-Größen wie Microsofts KI-Chef Mustafa Suleyman warnen hingegen davor, einer künstlichen Intelligenz einzutrichtern, sie besitze Gefühle oder Rechte. Das berge erhebliche Gefahren und könnte es auf lange Sicht erschweren, die Systeme zu kontrollieren. In einem im September veröffentlichten Essay kritisierte er das Konzept des sogenannten »Model Wellbeing« (des Wohlergehens von Modellen) sowie den Trend, KIs über ein vermeintliches eigenes Bewusstsein nachdenken zu lassen.