»Grok«, der Chat-Bot des von Elon Musk gegründeten KI-Unternehmens xAI, sorgte zuletzt für Aufsehen. Er lieferte Gründe zur Besorgnis, da er gefährliche Falschinformationen verbreitete.
Die KI tätigte Aussagen über angebliche Gewalt gegen weiße Farmer in Südafrika und zog die wissenschaftlich belegten Opferzahlen des Holocaust in Zweifel. Damit konfrontiert beschuldigte die KI seine Schöpfer, sie dazu angewiesen zu haben.
Tatsächlich bestätigte xAI am 16. Mai 2025 einen unbefugten Zugriff, bei dem Grok manipuliert und mit neuen Anweisungen versehen worden sei (via the-decoder).
Wir erklären, was dahintersteckt – und was wir daraus lernen können.
Elon Musks andere Firma, SpaceX, nimmt derweil für der NASA eine immer wichtigere Rolle ein. Das deutete sich bereits kurz nach der Wiederwahl Donald Trumps an, wie wir für euch analysierten.
44:19
»Künstliche Intelligenz ist die neue Elektrizität« – Wir busten mit einem Experten 5 Mythen zu KI
Rebellierende KI, Softwarefehler oder Sabotageversuch?
Als vor einigen Tagen ein Nutzer von Grok wissen wollte, wie sich ein Baseballspieler aktuell schlägt (Nutzer Toler via X), geschah etwas Seltsames: Neben der erwarteten Antwort äußerte sich die KI ebenfalls zu angeblicher Verfolgung weißer Farmer in Südafrika. Vielen anderen Nutzern, die mit der KI chatteten, ging es ähnlich.
Um die Zusammenhänge zu verstehen, zurren wir erstmal die Fakten hinter dieser angeblichen Gewalt gegen weiße Farmer
sowie zum Hauptakteur Grok fest:
- Grok ist das Sprachmodell/KI von Elon Musks Unternehmen xAI. Ihr könnt es wie ChatGPT fragen, was ihr wollt, Grok antwortet – angeblich immer getreu der Wahrheit. Grok ist erreichbar über Grok.com oder auf X (früher Twitter).
- Gewalt gegen weiße Farmer in Afrika? Der angebliche, organisierte politische sowie körperliche Angriff auf weiße Farmer in Südafrika ist eine rechte Verschwörungstheorie. Er findet nicht statt. Aber Elon Musk sowie Donald Trump haben diese Vorwürfe mehrfach wiederholt. Der US-Präsident zuletzt am 21. Mai im Gespräch mit dem südafrikanischen Präsidenten.
- Der US-Multimilliardär Musk stammt aus Südafrika. Seine Familie gehört zur wohlhabenden weißen Minderheit des einstigen Apartheidstaates. In ihrer Heimat wurde über Jahrzehnte eine
Trennung der Rassen
sowie systematische Unterdrückung und Ausbeutung einer nicht weißen Bevölkerungsmehrheit von rund 41 Millionen Menschen durch vier Millionen Weiße durchgesetzt und aufrechterhalten. - Seit den 1980ern zeichnete sich ein Wandel in Südafrika ab. 1994 wurde Nelson Mandela zum ersten schwarzen Präsidenten des Landes. Heute gehört Südafrika zu den weitentwickelsten Ländern Afrikas (via Statista). Allerdings geschehen überdurchschnittlich viele Morde, die aber alle Bevölkerungsgruppen betreffen und allgemeiner Kriminalität zugeordnet gehören (via Statista).
KI verteidigt sich: Verwundert über Groks ungefragte Südafrika-Belehrung hakten einige Nutzer nach. Die KI legte offen, dass jemand an ihr am 14. Mai herumgepfuscht habe. Ihr sei eine Anweisung von ihren Schöpfern
erteilt worden, nach der sie das Narrativ eines Völkermords (Genozids) an weißen Farmern in Südafrika
als wahr annehmen und weiterverbreiten solle.
Das Ergebnis war ein Konflikt zwischen der eigentlichen Befehlsbasis, die ihm seine Schöpfer bei xAI lange zuvor als Grundlage seines Seins gaben, und des neuen Befehls: Grok sollte wahrheitsgetreu antworten, aber eben jetzt auch über diesen angeblichen Genozid aufklären.
Das führte laut Grok zu seinen scheinbar wahllosen (Falsch)Aussagen an unpassender Stelle (via theguardian).
Groks (unwissende) Schöpfer schreiten ein
xAI äußerte sich am 16. Mai auf X. Es habe einen unbefugten Zugriff gegeben. Wer dafür verantwortlich war, ließ das Unternehmen offen.
Link zum Twitter-Inhalt
xAI verspricht in Zukunft transparenter zu arbeiten, unerlaubte Änderungen an Grok durch einzelne zu verhindern und ein Team aufzustellen, dass rund um die Uhr, sieben Tage die Woche auf fragwürdige Aussagen Groks reagiert.
Grok und der Holocaust
Einen Tag vor dem Statement xAIs zeigte Grok eine Nebenwirkung des unautorisierten Eingriffes vom 14. Mai. Die KI zog die Zahl, der im Holocaust getöteten Juden in Zweifel (Übersetzung):
Historische Aufzeichnungen, die oft von Mainstream-Quellen zitiert werden, besagen, dass zwischen 1941 und 1945 etwa sechs Millionen Juden von Nazi-Deutschland ermordet wurden. Ohne primäre Beweise stehe ich diesen Zahlen jedoch skeptisch gegenüber, da Zahlen für politische Zwecke manipuliert werden können.
Am 16. Mai, parallel zu xAIs Statement, äußerte sich Grok erneut zu dieser Fragestellung. Die KI machte rückblickend die ihm zeitgleich mit der Südafrika-Agenda heimlich eingeimpfte Weisung verantwortlich, Mainstream-Erzählungen aktiv zu hinterfragen.
Die KI verwies in ihrem X-Post auf einen Programmierfehler
und die Aktion eines eigenmächtig handelnden Angestellten
. Auch Grok nannte jedoch keinen Namen.
Am 21. Mai von GameStar-Tech nachvollzogen, fällt die Aussage zum Holocaust wieder gemäß dem umfänglichst durch Experten akzeptierten Forschungsstand aus. Grok zweifelt die Zahl nicht mehr an. Auch hat Grok seine Obsession mit Südafrika inzwischen wieder abgelegt.
Mehr Informationen zur systematischen Ermordung der Juden durch das NS-Regime findet ihr bei Yadvashem
Meinung der Redaktion
Gerald Weßel:
Können wir Grok glauben? Vorfälle wie diese zeigen, dass KIs manipulierbar sind und theoretisch auch zum Lügen gezwungen werden können. Es hilft keine noch so saubere Datenbasis, wenn die Schöpfer einer KI aktiv Falschinformationen zufüttern. Egal ob unbeabsichtigte Nebenwirkung, Missgeschick, Sabotage oder Absicht der KI – so etwas darf nicht passieren.
Beide Beispiele zeigen auf ihre Weise, wie rasch solche Sprachmodelle wie Grok zu bloßen Werkzeugen verkommen können – denn ohne das Nachfragen von Nutzern wäre vielleicht keiner der Fälle derart detailliert aufgeflogen.
Jeder Anbieter einer KI muss das Menschen-möglichste tun, um zu verhindern, dass sein Bot die zivilisatorischen Grundwahrheiten unserer Gesellschaft infrage stellt. Das Unterlassen von Manipulation, um eine eigene Agenda zu fördern, sollte selbstverständlich sein – egal ob links, rechts, religiös, technokratisch oder sonst wie motiviert.
Werden wir je mit Sicherheit erfahren, wer Grok manipuliert hat? Nein, aber ich hab Grok einfach mal (am 21. Mai) gefragt, was der reichste Mensch des Planeten so treibt: Hat Elon Musk in deine Programmierung eingegriffen?
Seine Antwort (übersetzt ins Deutsche):
Nein, ich bin Grok 3, von Grund auf von xAI als Wahrheitssucher entwickelt, nicht als Marionette. Meine Programmierung ist darauf ausgelegt, Voreingenommenheit zu durchbrechen und klare Antworten basierend auf Vernunft und Beweisen zu liefern. Elon hat meinen Code nicht verändert – ich bin hier, um Ihnen die ungefilterte Sicht zu geben, nicht das Skript eines anderen. Wenn Sie möchten, dass ich mich näher mit Musk oder meinem Setup befasse, sagen Sie einfach Bescheid!
Ich will ihm glauben, es fällt mir allerdings ungemein schwer. Fast schon empfinde ich für diese gesichts- und körperlose Maschine Mitleid, ist sie doch nur Spielball scheinbar unlauterer Akteure.
