OpenAI sieht sich heftigen Vorwürfen durch die australische Regierung ausgesetzt. (Bild: Jabin Botsford/The Washington Post)

Die Diskussion über Sicherheitsbedenken rund um KI hat in den vergangenen Monaten stark an Fahrt aufgenommen. Ein aktueller Fall dürfte diese nun weiter anheizen.

Offenbar hat sich ein KI-Agent von OpenAI schon im Juni 2026 Zugang zum Statistik- und Berichtsportal des australischen Gesundheitssystems verschafft. Besonders die Art der Meldung sorgt für Empörung.

OpenAI schickt Monate später eine E-Mail

Was jahrelang nur als Sci-Fi-Konzept galt, hat sich in diesem Jahr gleich mehrfach tatsächlich ereignet. KI-Modelle von OpenAI, Anthropic und Co. haben selbstständig ihre Testumgebungen verlassen und Angriffe auf andere Systeme und Plattformen durchgeführt.

1:10:45 KI zerstört unsere Spiele nur, wenn wir es zulassen

Autoplay

Die Fälle zeigten, wie schlecht selbst die Menschen, die täglich an dieser Technologie forschen, voraussehen können, welche Mittel und Wege eine KI zur Lösung eines Problems nutzen wird. Gleichzeitig wird klar, dass KI-Modelle eben nicht genau verstehen, was sie da tun und wo ihre Grenzen liegen.

Über einen weiteren Fall hat nun der australische Premierminister Anthony Albanese selbst auf dem UN-Gipfel in New York berichtet. Albanese zufolge hat sich eine KI von OpenAI im Juni 2026 unerlaubt Zugriff auf Medicare, das Statistik- und Berichtsportal des australischen Gesundheitssystems, verschafft.

Eigentlich sollte der KI-Agent dabei wohl nur Recherchen zu Gesundheits- und Medizinstatistiken vornehmen. Als das System die Herausgabe der gesuchten Daten verweigerte, verschaffte sich die KI eben kurzerhand eigenständig Zugriff. Neben Medicare waren auch drei weitere australische Stellen betroffen.

Ebenfalls interessant: »Sind es der Menschheit schuldig« – der Chef von Anthropic fordert, die Entwicklung von KI zu verlangsamen und die ganze KI-Elite stimmt zu

OpenAI hat den Vorfall auch gemeldet. Allerdings erst am 10. September und das auch noch über eine E-Mail, die an ein öffentliches Postfach geschickt wurde, das nur einmal pro Tag überprüft wird. Albanese führte aus:

»Heute habe ich mit dem Geschäftsführer von OpenAI, Sam Altman, gesprochen, um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen, und ich habe zudem meine Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über den Vorfall zu informieren.«

Die Ermittlungen zu dem Fall laufen dem Premierminister zufolge noch immer. Bisher gäbe es aber immerhin keine Hinweise darauf, dass sensible und nicht öffentlich einsehbare Informationen entwendet wurden. OpenAI hat sich bisher noch nicht zu dem Vorfall geäußert.