3 Kilometer Kabel, über 30 Kilogramm schwer und 3 Mio. US-Dollar: So sieht Nvidias neuer Superchip mitsamt NVLink aus

Nvidia-CEO Jensen Huang präsentiert stolz den GB200-Superchip.

Der GB200 Grace Blackwell Superchip stellt Nvidias neuesten Meilenstein im Bereich der Künstlichen Intelligenz dar.

Das System kombiniert eine Grace-CPU mit 72 ARM Neoverse-V2-Kernen und zwei Blackwell-GPUs auf einer einzigen Platine. Für genug Speicher ist ebenfalls gesorgt: GB200 Grace Blackwell lässt sich mit bis zu 372 GByte an HBM3e-Speicher bei einer Bandbreite von 16 TB/s ausstatten.

Diese Architektur wurde speziell für das Training und die Inferenz von Large Language Models (LLMs) mit Billionen von Parametern entwickelt. Aus diesen Eckdaten lässt sich aber nur schwer die Dimension des Superchips erfassen. Hier schafft Dr. Moritz Lehmann Klarheit, der als GPU-Softwareingenieur bei Intel arbeitet und auf Reddit auch unter dem Pseudonym »ProjectPhysX« bekannt ist.

Link zum Reddit-Inhalt

• Genaue Maßangaben gibt es hier zwar nicht, doch ist (mutmaßlich) Lehmanns Hand mit stilechtem Vulkanier-Gruß zu sehen, die einen ungefähren Vergleich zu der Größe des GB200-Monsters ergibt.
• Laut Lehmann kostet ein NVL72-Rack mit 18 dieser Nodes schlappe drei Millionen US-Dollar.

Grace Blackwell: Auch die »Wirbelsäule« hat es in sich

Ebenfalls auf der Bilderstrecke enthalten: Der NVLink-Spine, der die gesamten Nodes miteinander verbindet. Allein dieses Element bringt ein Gewicht von rund 32 Kilogramm auf die Waage. Das Gewicht kommt nicht von ungefähr: NVLink greift auf rund 5.000 Kabel zurück, die eine Gesamtlänge von rund drei Kilometern aufweisen.

9:21 Mindseye im Test: Diese Open World ist einfach nur zum Glotzen

• Hier kommt eine Bandbreite von 130 Terabyte pro Sekunde zum Einsatz. Laut Nvidia-CEO Jensen Huang ist das genug, um »mehr Verkehr als das gesamte Internet zu bewegen«.
• Die Performance fällt dementsprechend exorbitant aus. Ein einzelner B200-Chip ist im Kontext der VRAM-Bandbreite bereits drei Mal so schnell wie die Geforce RTX 5090 - das gesamte Rack kommt mit seinen 36 B200-Chips also auf die 36-fache Bandbreite.

An Crysis wird der Grace Blackwell Superchip dennoch scheitern: Rendering- und Raytracing-Einheiten fehlen, sodass klassisches Spielerendern gar nicht möglich ist.