Während wir die Ergebnisse von KI verstehen, fehlt uns oft das Verständnis für die Prozesse dahinter. (Bildquelle: Brett Wharton / Unsplash)

Geoffrey Hinton, Yoshua Bengio, Leo Gao, Stephen Wolfram und Dario Amodei haben mindestens zwei Dinge gemeinsam. Sie alle haben zusammen mit vielen weiteren Forschenden dazu beigetragen, dass die künstliche Intelligenz (KI) ihren heutigen Entwicklungsstand erreicht hat.

Und sie alle haben offen zugegeben, dass sie nicht vollständig verstehen, wie Sprachmodelle das im Training Gelernte intern organisieren und nutzen.

Gewissermaßen verhalten sie sich wie Blackboxes: Ihre mathematischen Abläufe sind zwar bekannt, doch wie daraus bestimmte Fähigkeiten, Entscheidungen und Antworten entstehen, lässt sich bislang nur unvollständig erklären.

Dieser Artikel stammt im Original von unserer spanischen Schwesterseite XATAKA und erscheint bei GameStar Tech in übersetzter und angepasster Form.

Können wir KIs jemals verstehen?

»Ich persönlich glaube aus grundlegenden Erwägungen nicht, dass wir jemals vollständig interpretieren können, was im Inneren neuronaler Netze geschieht – auch wenn wir einige interessante Hinweise erhalten können. Meine Hoffnung liegt eher darin, den Prozess, durch den die KI zu ihren Antworten gelangt, in interpretierbare Schritte zu zerlegen.«

Yoshua Bengio äußerte diese Worte im Oktober 2024 bei einem Vortrag des Future of Life Institute. Geoffrey Hinton fasste es 2019 in einem Interview mit Wired noch kürzer zusammen: »Nein, wir wissen wirklich nicht, wie sie funktionieren.«

2:31 ChatGPT Health: OpenAI stellt neuen Tab für Gesundheitsgespräche vor

Seit diesen Aussagen sind zwar einige Jahre vergangen, doch auch in jüngerer Zeit räumten Branchengrößen wie Sam Altman, Dario Amodei und weitere ein, wie schwer das Innenleben großer Sprachmodelle zu durchschauen ist.

Nick Cammarata will dieses gewaltige Rätsel nun lösen. Der Forscher arbeitete zuvor bei OpenAI und entwickelte Verfahren mit, die entschlüsseln sollten, wofür einzelne Neuronen in Sprachmodellen stehen. Zudem leistete er Pionierarbeit bei der visuellen Darstellung neuronaler Schaltkreise.

»Ich freue mich riesig über diesen Beitrag von Nick!«

Aktuell forscht Nick Cammarata bei Goodfire im Bereich der mechanistischen Interpretierbarkeit von KI – einem Unternehmen, das erforscht, wie KI-Modelle im Inneren funktionieren. Am 15. Oktober veröffentlichte er auf der Firmen-Website den Artikel »Neuronale Netze sind bereits transparent« (Neural Networks Are Already Clean), in dem er argumentiert, dass KI in Wahrheit viel verständlicher ist, als bisher angenommen wurde.

Cammarata liefert darin zwar noch keinen endgültigen mathematischen Beweis für die Interpretierbarkeit großer Sprachmodelle, stellt jedoch eine ambitionierte Forschungshypothese auf, die sich auf Experimente mit Computer-Vision-Netzen und Sprachmodellen stützt.

Zweifel an den bisherigen Erklärungen

Bislang griff die gängige Erklärung auf das Prinzip der Superposition zurück: Demnach codiert ein neuronales Netz verschiedene Merkmale in einer einzigen Zelle, weil ihm schlicht nur eine begrenzte Anzahl an Neuronen zur Verfügung steht.

Cammarata bezweifelt allerdings, dass Superposition die scheinbar widersprüchlichen Aktivierungen vieler Neuronen tatsächlich am besten erklärt. Seiner Ansicht nach wurden insbesondere frühere Forschungsergebnisse falsch interpretiert.

Ein und dasselbe Neuron könnte beispielsweise sowohl auf Katzengesichter als auch auf Autofronten ansprechen – zwei Objekte, die auf den ersten Blick nichts miteinander gemein haben –, weil es in beiden Fällen eine markante V-Form erkennt.

Ein weiterer spannender Ansatz, den Cammarata in seinem Artikel skizziert, ist das Konzept der rekursiven Generalisierung. Dieser Logik zufolge beginnt ein Neuron damit, ein einfaches Muster zu erkennen, und bindet im Lernprozess des Modells verwandte Varianten ein.

Ein Neuron, das ursprünglich auf eine bestimmte Buchstabenfolge reagiert, könnte später auch auf Wörter oder Ausdrücke ansprechen, die zwar nicht mehr dieselben Buchstaben enthalten, aber über ihre Bedeutung miteinander verknüpft sind.

Wenn ihr also die Neuronen besser versteht, hilft euch das dabei, nachzuvollziehen, wie Sprachmodelle Abstraktionen aufbauen.

Cammartas Arbeit beeindruckte sogar OpenAI-Chef Sam Altman

Zu den bemerkenswertesten Erkenntnissen Nick Cammaratas gehört die Annahme, dass sich heutige neuronale Netze womöglich deutlich leichter interpretieren lassen als jene früherer Generationen. Das klingt zunächst paradox, wenn ihr bedenkt, wie viel komplexer moderne Architekturen geworden sind.

Cammarata führt die anfänglichen Schwierigkeiten jedoch auf damalige Konstruktions- und Architekturmängel zurück, die das Lernen in tieferen Schichten behinderten – kombiniert mit unzureichenden Visualisierungswerkzeugen und Analysemethoden, die eine bloß plausible Erklärung vorschnell für die richtige hielten.