Um zukünftig Fehler zu vermeiden: OpenAI möchte führende Mathematiker konsultieren

Neun Fields-Medaillisten und MacArthur-Preisträger sollen OpenAI künftig bei mathematischer Forschung beraten.

OpenAI hatte zuletzt einen schwierigen Sommer mit der Mathematik-Community. Falls ihr die einzelnen Streitfälle nicht verfolgt habt, ist hier der Schnelldurchlauf:

• NYU-Mathematiker Tristan Buckmaster wirft dem Unternehmen vor, eine Navier-Stokes-Lösung teilweise auf unveröffentlichter Arbeit eines Kollegen aufgebaut zu haben.
• Der Dresdner Gruppentheoretiker Andreas Thom vermutet unabhängig davon, sein zwanzig Jahre altes Forschungsprojekt zu nichtsofischen Gruppen sei ungefragt in Astras Training gelandet.
• Am 10. September zog OpenAI außerdem sein Sponsoring vom Caltech-»Mathathon« zurück, nachdem 771 Mathematiker protestiert hatten (via Business Insider).
• Am Tag darauf unterschrieben 25 Fields-Medaillen-Träger einen offenen Brief, der an die im Juni veröffentlichte Leidener Erklärung zu KI und Mathematik anknüpft.

Quasi als Antwort darauf stellte OpenAI ein neues, unabhängiges Gremium aus Mathematikern vor, das den ChatGPT-Entwicklern und andere KI-Firmen helfen soll, wenn es um mathematische Forschung geht – etwa dabei, neue Ergebnisse einzuordnen und ihre Veröffentlichung zu koordinieren. Die »Advisory Group on Mathematics and Artificial Intelligence« (AGMAI) findet sich ab sofort am Institute for Advanced Study in Princeton wieder.

1:10:45 KI zerstört unsere Spiele nur, wenn wir es zulassen

Gegenwind für die Neugründung

Die neun Mitglieder kommen von Stanford, Harvard, Oxford und Cambridge; mehrere haben eine im Mathematik-Bereich höchst renommierte Fields-Medaille oder ein MacArthur-Stipendium erhalten.

Laut der OpenAI-Mitteilung arbeitet die Gruppe unabhängig, kann unaufgefordert Ratschläge geben, sich öffentlich äußern und erhält frühen Zugriff auf OpenAIs Forschung. Bezahlt wird hierfür indes niemand.

Zur Auswahl der neun Mitglieder verrät die schlichte Website der Gruppe lediglich, dass man nach einer Anfrage von OpenAI über externe Beratung zusammengekommen sei, sich dann aber für ein unabhängiges Gremium entschieden habe. Potenziell dieser Aspekt sorgt auch für den Gegenwind, der nach der Ankündigung weht:

• Simon Machado von der ETH Zürich nannte die Gründung gegenüber The Verge etwa »von Rätseln umgeben«.
• Francesco Fournier-Facio von der Heriot-Watt University sprach hingegen von einem »Elfenbeinturm« und bezweifelte, dass die Gruppe wirklich die Community vertritt, deren Arbeit und Lebensunterhalt durch OpenAIs Jagd nach mathematischen Trophäen auf dem Spiel steht.

»Vom eigenen GPT-Hype aufgefressen«: OpenAI erntet Spott für falschen Mathe-Durchbruch

Neue Ergebnisse in der Warteschlange

AGMAI-Mitglied Martin Hairer widersprach wiederum in einem eigenen Blogeintrag einem »Sturm an Fehlinformationen« rund um die Gründung.

• Nicht alle Mitglieder seien demnach von OpenAI kontaktiert worden und niemand habe einschränkende Vereinbarungen unterschrieben.
• Er rechnet aber damit, dass die PR-Abteilungen der KI-Labore versuchen werden, die Aussagen der Gruppe in ihrem Sinne umzudeuten.

Zur gleichen Zeit teilte OpenAI mit, dass sein noch unveröffentlichtes Modell mehr als 100 weitere offene Probleme in der Mathematik gelöst habe. Die Bearbeitung des Rückstaus an unveröffentlichten Ergebnissen ist laut AGMAI entsprechend die erste Aufgabe des Gremiums – noch vor dem Rückgewinn des verlorenen gegangenen Vertrauens der Matheforscher.