Vor fast genau zwei Monaten präsentierte OpenAI in Kooperation mit Broadcom seinen ersten eigenen KI-Prozessor. Der Jalapeño genannte Inferenz-Chip soll dabei insbesondere auf die Anforderungen großer Sprachmodelle zugeschnitten sein.

Konkrete Benchmarks reichte OpenAI nun zur Hot-Chips-Konferenz nach: Jalapeño soll dabei Nvidia mehr als nur die Stirn bieten – wobei solche Aussagen von Herstellern natürlich immer mit etwas Argwohn betrachtet gehören.

1:10:45 KI zerstört unsere Spiele nur, wenn wir es zulassen

Autoplay

Drei Modelle, drei Siege ...

Den nackten Zahlen des offiziellen OpenAI-Eintrags sowie der zugehörigen SemiAnalysis-Analyse nach zu urteilen, sollte sich aber Nvidia tatsächlich in Acht nehmen.

Der auf KI-Inferenz ausgelegte Chip schlägt sich im Vergleich zum (noch) aktuellen Blackwell GB300 von Nvidia nämlich mehr als nur passabel: Mit seiner TDP von 700 Watt erzielte demnach eine 1,5- bis 1,9-fache höhere Durchsatzleistung pro Kilowatt – gegenüber den mit 1.200 bzw. 1.400 Watt bestückten GB200 und GB300.

Auch bei der End-to-End-Latenz kann OpenAI Geschwindigkeitsvorteile mit einem Faktor von 1,7 bis 3,6 vorweisen; in Tests mit extrem niedrigen Latenzen soll der Effizienzfaktor auf bis zu 100-fache ansteigen.
OpenAI weist zudem daraufhin, dass die dauerhafte gemessene Leistungsaufnahme bei 550 Watt lag, währnd sämtliche Vergleichs-GPUs auf Basis der offiziellen TDP-Werte normiert wurden.

Dabei gab es zumindest keine offensichtliche Bevorzugung hauseigener Modelle: Getestet wurden sowohl GPT-OSS 120B, DeepSeek R1 670B als auch Kimi K2.5 – und in allen Metriken soll Jalapeño vorne liegen.

... mit zwei Einschränkungen

Allerdings sind diese Ergebnisse aus zweierlei Gründen – selbst von komplettem Wahrheitsgehalt ausgehend – kein Weltuntergang für Nvidia, AMD oder Google. Jalapeño versteht sich zunächst als reiner Inferenz-Chip; gemeint ist also die Phase, in der ein bereits fertig trainiertes Modell auf Nutzeranfragen antwortet.

Genau dieses Training ist jedoch deutlich rechenintensiver (und für manche wichtiger in der Gegenüberstellung von Chips), sodass etwa Nvidias GB300-Chip in diesem Kontext weiter der Krösus bleibt.
Zudem steht der GB300 selbst kurz davor, aus dem eigenen Haus abgelöst zu werden: GB400 alias Vera Rubin soll zum Jahresende in den Startlöchern stehen, wird in den OpenAI-Benchmarks aber mit keinem Wort erwähnt.

An der Entwicklung des KI-Chips Jalapeño war – wie soll es anders sein – zumindest teilweise auch eine KI beteiligt.

Das macht den Vergleich allein dadurch schon etwas unfair, dass Nvidia GB300 nur auf das langsamere HBM3e setzt; Jalapeño und das kommende Vera Rubin indes auf HBM4. Entsprechend ist abzuwarten, wie weit die OpenAI sich tatsächlich gegen die Nvidia-Flaggschiffe durchsetzen kann – ein vielversprechender Start für OpenAI dürfte so aber allemal in Aussicht stehen.