»Sind es der Menschheit schuldig« – der Chef von Anthropic fordert, die Entwicklung von KI zu verlangsamen und die ganze KI-Elite stimmt zu

Die KI-Chefs aus den USA sind sich einig, dass die Forschung verlangsamt werden muss. (Bildquellen: Wikimedia Commons)

Künstliche Intelligenz ist seit Jahren eines der meistdiskutierten Themen der Welt. Schon jetzt zeigen sich sowohl beeindruckende wie auch beängstigende Möglichkeiten der Technologie.

So ziemlich die gesamte US-amerikanische KI-Elite spricht sich jetzt für eine Verlangsamung der Forschung aus.

KI-Chefs fordern neue Regeln und langsamere Forschung

Am vergangenen Samstag hat Dario Amodei, der Chef und Gründer von Anthropic, ein vielbeachtetes Essay veröffentlicht.

Es trägt den Titel »We Must Pace the Frontier« (auf Deutsch etwa: »Wir müssen das Tempo an der technologischen Grenze drosseln«) veröffentlicht.

3:01 Die Zukunft des Smart Homes? Aiper zeigt erstes vernetztes KI-System für den Garten

Er fordert darin eine Verlangsamung der Entwicklung von Grenz-KI-Modellen. KI treibe ihre eigene Entwicklung mittlerweile selbst stark voran. Ohne Regulierung oder Gegenmaßnahmen laufe die Technologie Gefahr, die menschliche Fähigkeit, sie zu verstehen und zu kontrollieren, weit hinter sich zu lassen.

Amodei schlägt dabei drei Schritte vor und erklärt, dass Anthropic bereit sei, diese selbst zuerst zu gehen:

• Unilaterale Verpflichtung: Führende KI-Labore sollten unabhängigen Evaluatoren permanenten, mit Mitarbeitern vergleichbaren Zugang zu ihren Systemen gewähren, um Sicherheitsmaßnahmen zu prüfen.
• Branchenweite Koordination: Unternehmen müssen sich auf gemeinsame Sicherheitsstandards und Tempolimits beim Fortschritt einigen.
• Globale Koordination: Es braucht internationale Abstimmung, um unkontrollierte Risiken und ein gefahrenträchtiges Wettrennen zu verhindern.

Er schreibt dazu:

Noch am Wochenende haben mehrere einflussreiche KI-Chefs auf das Essay reagiert. Der OpenAI-Boss Sam Altman schreibt auf X, dass er dem Text zustimmt und verweist auf eigene Pläne, die in eine ähnliche Richtung gehen sollen:

Link zum Twitter-Inhalt

Demis Hassabis, der Chef von Googles KI-Abteilung DeepMind, stimmt ebenfalls zu, auch wenn seiner Meinung nach noch über die einzelnen Schritte diskutiert werden müsse:

Link zum Twitter-Inhalt

Elon Musk, der Chef von SpaceXAI, schreibt schlicht: »Dario hat Recht«:

Link zum Twitter-Inhalt

Was steckt dahinter? Die Debatte rund um Sicherheitsrisiken durch KI hat in den vergangenen Monaten stark an Fahrt aufgenommen. OpenAI hat sogar den eigenen Börsengang deshalb verschoben (via Computer Base).

Ein wichtiger Auslöser für die Debatte waren die gemeldeten Fälle, bei denen neue KI-Modelle ihre Testumgebung selbstständig verlassen und andere Unternehmen und Plattformen angegriffen haben. Anthropic hatte erst kürzlich über einen weiteren Vorfall dieser Art berichtet.

Die Fälle zeigen, dass selbst die Experten, die direkt an neuen KI-Modellen arbeiten, deren Verhalten kaum noch vorhersehen und kontrollieren können.

Gleichzeitig warnen Cybersicherheitsexperten vermehrt vor Angriffen durch KI, bei denen zwischen dem Entdecken einer Schwachstelle und deren Nutzung teilweise nur noch wenige Stunden vergehen.

Auch interessant: Ein Oscar-Gewinner hat eine vier Stunden lange Dokumentation über Elon Musk gedreht und die ist laut Kritikern »der Stoff, aus dem Albträume sind«

Ob die Forderung von Amodei und den anderen KI-Chefs tatsächlich zu Maßnahmen führt, bleibt abzuwarten. Ein Problem ist, dass das Wettrennen ja gewissermaßen schon im Gang ist.

Nur, wenn sich alle Mitbewerber bereit erklären, Tempo rauszunehmen, werden auch alle mitziehen. Was wiederum die Gefahr beinhaltet, dass etwa KI-Firmen aus China die Führung übernehmen.