Große Unternehmen berieten sich auf den Ernstfall vor. (Bildquelle: Xataka – KI-generiert per ChatGPT)

Kaum eine Woche vergeht ohne Berichte über KI-gestützte Cyberangriffe oder düstere Warnungen von Branchengrößen vor einer heraufziehenden Bedrohung. Immer wieder gelangen Hinweise an die Öffentlichkeit, die vor den unberechenbaren Risiken der Technologie warnen.

Erst kürzlich unterbrach OpenAI bestimmte Trainings- und Testprozesse, nachdem KI-Modelle unerwartet auf externe Netzwerke zugegriffen hatten. Sam Altman betonte zudem, dass manche negativen Konsequenzen schlicht unvermeidlich seien. Angesichts dieser Entwicklungen stellt sich längst nicht mehr nur die Frage, welche Risiken künstliche Intelligenz mit sich bringt, sondern auch, wie sich ein verheerender Zwischenfall verhindern lässt.

Wie das US-Magazin Axios berichtete, proben führende KI-Unternehmen hinter verschlossenen Türen bereits detailliert den Ernstfall: Was passiert am Tag nach der Katastrophe? Die internen Szenarien skizzieren verheerende Folgen – etwa massive Cyberangriffe, die Finanzdienstleistungen lahmlegen oder die Strom-, Wasser- und Internetversorgung großflächig beeinträchtigen könnten.

Dieser Artikel stammt im Original von unserer spanischen Schwesterseite Xataka und erscheint bei GameStar Tech in übersetzter und angepasster Form.

Tag X: Notfallpläne nach dem Vorbild des Pentagons

Zwei Erkenntnisse stechen dabei besonders hervor: Zum einen halten Insider eine solche Katastrophe für möglich, manche sogar für nahezu unvermeidbar. Zum anderen könnte der Ernstfall bereits in absehbarer Zeit eintreten: Laut anonymen Quellen von Axios könnte es bereits in den nächsten sechs bis zwölf Monaten so weit sein.

Um auf einen solchen Vorfall vorbereitet zu sein, erarbeiten Führungskräfte bei Anthropic, OpenAI und weiteren Branchengrößen angeblich Krisenszenarien, die an Notfallübungen des US-Verteidigungsministeriums erinnern. Während OpenAI über eine Sprecherperson bestätigen ließ, dass präventive Notfallübungen stattfinden, ohne ein solches Szenario als unausweichlich zu bezeichnen, lehnte Anthropic eine Stellungnahme ab.

Zu den durchgespielten Szenarien zählen Schwärme autonomer KI-Agenten, die aus isolierten Testumgebungen ausbrechen – oder kriminelle Akteure, die öffentlich zugängliche Modelle für verheerende Angriffe zweckentfremden. Die größte Baustelle liegt für die Konzerne jedoch auf politischer Ebene: Sie versuchen, den US-Kongress rechtzeitig aufzuklären und auf den Ernstfall einzustellen.

1:10:45 KI zerstört unsere Spiele nur, wenn wir es zulassen

Autoplay

Warum ein Blackout die gesamte Tech-Branche ins Visier rückt

Ein erfolgreicher Großangriff auf kritische Infrastrukturen hätte fatale Folgen: Das gesellschaftliche Vertrauen in künstliche Intelligenz könnte erheblich erschüttert werden und die führenden Köpfe der Branche stünden unter massivem öffentlichen Druck. Gleichzeitig geriete die Politik unter Beschuss, weil sie der Entwicklung möglicherweise keine rechtzeitigen Schranken gesetzt hat.

Zwar galt die EU bei der Gesetzgebung als weltweiter Vorreiter, doch auch in Europa wurden Fristen verschoben und Vorgaben angepasst (via europa.eu). Dadurch steht die Gesellschaft vor einem Dilemma: Die Modelle gewinnen rasant an Leistungsfähigkeit, während gesetzliche Schutzmechanismen möglicherweise nicht schnell genug Schritt halten.

Eine wirksame Regulierung erweist sich als Gratwanderung: Gesetzgeber müssen die Spreu vom Weizen trennen und fundiertes technologisches Verständnis mitbringen, um Missbrauch zu unterbinden, ohne Innovationen abzuwürgen.

In den USA trifft diese Herausforderung auf einen Kongress, den Kritiker als schlecht auf die KI-Revolution vorbereitet ansehen, während die heimische Wirtschaft bereits massiv von KI-Infrastrukturen abhängt. Vorbeugen wäre klüger als heilen, doch die KI-Giganten wappnen sich bereits für den Tag, an dem der Schaden eingetreten ist und drastische Maßnahmen drohen.

Im Raum stehen harte Einschnitte wie das Verbot künftiger Superintelligenzen, das etwa US-Senator Bernie Sanders ins Spiel bringt, ein temporärer Entwicklungsstopp für Spitzenmodelle oder die gesetzliche Pflicht, bestimmte KI-Systeme mit einem Not-Aus-Schalter auszustatten.

Frei verfügbare Modelle als unberechenbare Gefahr

Das Kernproblem lässt sich kaum noch vollständig einfangen: Im Netz kursieren unzählige Open-Weight-Modelle, die sich ohne zentrale Kontrollinstanz herunterladen und für zerstörerische Zwecke manipulieren lassen.

Bereits veröffentlichte Modelle lassen sich kaum vollständig zurückrufen. Dabei ist offene Forschung im Ansatz keineswegs schlecht. Ein striktes Verbot offener Modelle birgt ein anderes Risiko: Es würde die enorme Macht moderner KI-Systeme in den Händen weniger Großkonzerne zentralisieren.

Ein zentraler »Kill Switch« zur Notabschaltung sämtlicher KI-Systeme gilt in der Praxis als kaum umsetzbar. Zudem greift ein solcher Hebel möglicherweise erst dann, wenn eine Katastrophe bereits ihren Lauf genommen hat.

Bill Gates hält reine Selbstregulierung ebenfalls für unzureichend, da Unternehmen nicht alle Risiken eigenständig beherrschen können. Sicherheitsexperten sehen eine wichtige Gegenmaßnahme darin, spezialisierte Abwehrsysteme zu entwickeln, um bösartige KI-Angriffe automatisiert mit defensiver KI zu bekämpfen.

Welche Strategie die Konzerne jetzt verfolgen

Angesichts der bevorstehenden Zwischenwahlen in den USA rechnen die Führungsetagen der Tech-Konzerne kurzfristig offenbar nicht mehr mit neuen regulatorischen Auflagen. Ihr Hauptziel besteht daher darin, sich frühzeitig in Stellung zu bringen.

Mehr zum Thema KI:

Sie wollen die künftigen politischen Rahmenbedingungen proaktiv mitgestalten, bevor nach einem großen Zwischenfall überstürzt Gesetze erlassen werden. Einige Branchenvertreter halten einen solchen Vorfall bereits innerhalb der nächsten sechs bis zwölf Monate für möglich. Eine verlässliche Prognose, wann es tatsächlich dazu kommen könnte, ist das jedoch nicht.