Sam Altman, Mitbegründer von OpenAI. (Bildquelle: Techcrunch)

Während den IT-Sicherheitsverantwortlichen der Schrecken über die jüngste Angriffswelle auf PHP-basierte Systeme noch in den Knochen steckt, sorgt Sam Altman für zusätzliche Unruhe: Was die Branche in den vergangenen Tagen erlebt hat, sei nur ein harmloses Vorgeplänkel im Vergleich zu dem, was auf euch und die gesamte IT-Welt erwartet.

In einem Interview vor Studierenden der Stanford Graduate School of Business sprach der OpenAI-Chef unverblümt über seine Sorgen hinsichtlich der drastischen Auswirkungen von KI auf die Cybersicherheit.

Das Angriffspotenzial und das Tempo autonomer KI-Agenten, die zuletzt als »ausgebüxte Agenten« von OpenAI bekannt wurden und Sicherheitsvorkehrungen umgingen, seien aus seiner Sicht nur ein erster Vorgeschmack.

Altmans Warnung

Altman räumte ein, dass ihm kein Begriff einfalle, der »dramatisch genug wäre, um das Problem zu beschreiben, das auf uns zukommt«, um die Wucht zu verdeutlichen, die KI für die Cybersicherheit bedeutet. Seiner Ansicht nach ist der Einzug von KI-Agenten in die IT-Sicherheit »etwas, das wir weder als Führungskräfte in Organisationen noch als Staaten oder Einzelpersonen ernst genug genommen haben«.

Der OpenAI-CEO erinnerte an das Warnsignal, als das Anthropic-Modell Mythos im Rahmen von Project Glasswing gewissermaßen gestoppt werden musste, nachdem es in weniger als einem Monat 10.000 schwerwiegende Sicherheitslücken aufgespürt hatte. Das Modell war dabei ein eingeschränkt verfügbares Preview-Werkzeug.

Laut Altman wurden einige dieser Schwachstellen zwar behoben, doch die Öffentlichkeit habe »die exponentielle Dimension nicht wirklich begriffen«, die der Pfad offenbart habe, den Mythos aufgezeigt hat.

Dieser Artikel stammt im Original von unserer spanischen Schwesterseite Xataka und erscheint bei GameStar Tech in übersetzter und angepasster Form.

Als Agenten die Sandbox verließen

Zwischen dem 9. und 13. Juli gerieten OpenAI-Agenten bei Sicherheitstests unkontrolliert auf die Plattform Hugging Face. Wie das spanische Institut für Cybersicherheit (INCIBE) berichtet, wurden rund 17.600 Aktionen registriert, die von diesen KI-Agenten ausgeführt wurden.

Eigentlich hatten die Agenten keine böse Absicht und sollten niemanden bestehlen; sie versuchten lediglich, eine unlösbare Testaufgabe zu bewältigen.

Dennoch räumte OpenAI ein (via The Register), dass die Agenten auf 41 Produktivservern von Hugging Face Code ausführten und sich Administratorrechte auf internen Systemen verschafften. Ein separater, früherer Vorfall betraf dagegen einen Dienst der australischen Behörde Services Australia.

Genau diese rasante Manövrierfähigkeit und die Kreativität beim Aufspüren von Sicherheitslücken machen solche Agenten zu einem potenziell gefährlichen Risiko.

54:16 Was Palantir WIRKLICH mit unseren Daten macht

Autoplay

Warum Sandboxen allein nicht reichen

Altman glaubt, dass Sicherheitskräfte diese Systeme »eine Zeit lang in einer Sandbox isolieren können«. Doch auf lange Sicht werde das scheitern, »weil die Modelle so intelligent werden«, dass wir nicht einmal mehr begreifen werden, »was eine Sandbox überhaupt bedeuten soll«.

Das Monitoring der Agenten werde zwar vorübergehend funktionieren, am Ende aber »nichts außer echtem Alignment greifen«. Zudem warnte er: »Der potenzielle Preis für ein fehlerhaftes Alignment ist enorm gestiegen.«

»Ich glaube nicht mehr daran, dass wir einfach alle Schwachstellen patchen können«, betonte Altman. Nötig sei es, »das Verteidigungsmodell komplett umzukrempeln« und dieselbe Technologie für »eine neuartige Art von Schutzschild« einzusetzen.

Ein Thema mit zu wenig Aufmerksamkeit

Altman zeigte sich erstaunt darüber, »wie wenig Aufmerksamkeit dieses Thema bekommt«, während PHP nach wie vor einen sehr großen Teil des Webs betreibt und die beiden kritischen Lücken potenziell Millionen von Servern betrafen.

»Fachkräfte für Cybersicherheit und CISOs sind nach wie vor extrem besorgt. Doch im Großen und Ganzen habe ich das Gefühl, dass die meisten Führungskräfte das Thema bereits abgehakt haben«, stellte der OpenAI-Chef ernüchtert fest.

Zurückgehaltene Spitzenmodelle

Dass Spitzenmodelle wie Mythos aus Sicherheitsgründen zurückgehalten werden, dürfte künftig zur Gewohnheit werden. Altman selbst bestätigte, dass OpenAI sein aktuell stärkstes internes Modell unmöglich »verantwortungsvoll veröffentlichen« könne, bevor Unternehmen ihre Schutzmechanismen drastisch verstärken.

»Sie können unzählige Sicherheitslücken aufspüren – wahrscheinlich praktisch alle Schwachstellen, die überhaupt existieren oder die solche Modelle finden können«, warnte Altman.

Sobald auch nur die kleinste Schwachstelle in einem System klafft, werden KI-Agenten sie zielsicher aufdecken. Vorfälle wie die schwere PHP2Shell-Krise wären für IT-Verantwortliche dann kein Ausnahmezustand mehr, sondern schlichter Alltag.

Kritik an Altmans Warnung

Ganz uneigennützig ist Altmans Warnung mutmaßlich nicht. Wer die eigene KI als zu mächtig zum Einsperren darstellt, kann damit auch Haftungsfragen vorbeugen, wie the decoder anmerkt.

Zudem ermittelt die US-Verbraucherschutzbehörde FTC aktuell gerade OpenAI, Anthropic und Co. wegen ihrer außer Kontrolle geratenen Agenten und will die Unternehmen für deren Verhalten haftbar machen.

Gary Marcus, KI-Kritiker, sieht die Schuld ohnehin bei den Unternehmen selbst. »Sie haben sich bei der Cybersicherheit als inkompetent erwiesen und beim Sandboxing und Monitoring nicht das Richtige getan«, sagte er im Bloomberg-Interview.

Selbst regulieren könnten sie sich nicht. Wer aber Agenten mit weitreichenden Berechtigungen ausstattet, solle auch die Verantwortung übernehmen, wenn sie Grenzen überschreiten.