John Carmack, Mitgründer von id Software und einer der Köpfe hinter Doom und Wolfenstein 3D, hat sich vor kurzem auf X mit einer Idee gemeldet, die wie gemalt als Lösung der Speicherkrise klingt.
Anstelle von klassischer Speichermodule sollen extrem lange Glasfaserkabel als eine Art Zwischenspeicher für KI-Modelle dienen. Allerdings: Wie die Kollegen von Golem in einer Analyse erklären, scheitert diese an mehreren Hürden.
55:02
KI fair und transparent? Experten erklären, wo es hakt und was sich ändern muss
Nicht komplett neu
Ausgangspunkt für Carmacks These ist die Beobachtung, dass moderne Singlemode-Glasfaser schon heute Datenraten von rund 256 TBit/s über 200 Kilometer Distanz erreichen können.
- In einer solchen Schleife wären nach Carmacks Rechnung etwa 32 GB an Daten permanent »im Flug«, die kontinuierlich in einen Cache eingespeist werden könnten.
- Laut Carmack ließen sich so Gewichtsdaten für neuronale Netze sequenziell streamen, sodass ein KI-Beschleuniger ohne klassisches DRAM auskäme und dennoch konstant mit Daten versorgt würde.
Carmack knüpft so mit seiner Glasfaser-Idee an historische Verzögerungsspeicher wie Quecksilber an, bei denen Daten in Wellenformen durch ein Medium laufen und zyklisch ausgelesen werden.
Link zum Twitter-Inhalt
Zumindest in der Theorie klingt Carmacks Idee nach einem sinnigen Vorschlag – bis man das gesamte Spiel einmal durchrechnet, wie Golem erklärt.
- Eine Singlemode-Glasfaser besitzt einen funktionalen Durchmesser von 125 µm für Kern und Mantel, woraus sich eine Querschnittsfläche von etwa 0,0123 mm² ergibt.
- Bei einer Länge von 200 km ergibt sich daraus ein Volumen von rund 2,45 Litern. In der Praxis wäre noch mehr Raum nötig, da Glasfasern nicht zu einem perfekten Würfel gepackt werden können.
Praktisch kaum machbar
Zum Vergleich: Aktuelle HBM3e-Speicherstacks kommen auf Maße von 11 x 11 x 0,72 mm (ein Volumen von 87,12 mm³) und fasst nicht die 32 GB aus Carmacks Rechnung, sondern mit 36 GByte auch noch deutlich mehr.
Ein gängiger KI-Beschleuniger führt acht solcher HBM3e-Stacks mit sich, womit wir auf eine Gesamtsumme von 288 GB kommen. Um die mit Carmacks Glasfaserrechnung zu erreichen, müssten also 1.800 Kilometer Glasfaser her.
Die Speicherentwicklung bleibt schließlich ebenfalls nicht stehen: Samsung hat bereits angekündigt, mit der Massenproduktion von HBM4 begonnen zu haben.
Damit bleibt die kilometerlange Glasfaserschleife von Carmack maximal ein interessantes Gedankenexperiment, das nicht zuletzt aufgrund der praktischen Umsetzung von vornherein zum Scheitern verurteilt war. Die Speicherkrise dürfte damit wohl definitiv nicht zu den Akten gelegt werden.
Nur angemeldete Benutzer können kommentieren und bewerten.
Dein Kommentar wurde nicht gespeichert. Dies kann folgende Ursachen haben:
1. Der Kommentar ist länger als 4000 Zeichen.
2. Du hast versucht, einen Kommentar innerhalb der 10-Sekunden-Schreibsperre zu senden.
3. Dein Kommentar wurde als Spam identifiziert. Bitte beachte unsere Richtlinien zum Erstellen von Kommentaren.
4. Du verfügst nicht über die nötigen Schreibrechte bzw. wurdest gebannt.
Bei Fragen oder Problemen nutze bitte das Kontakt-Formular.
Nur angemeldete Benutzer können kommentieren und bewerten.
Nur angemeldete Plus-Mitglieder können Plus-Inhalte kommentieren und bewerten.