Ein Experiment mit einem Prozessor von 1998 zeigt, dass man 27 Jahre später nur 128 MB RAM benötigt, um KI zu nutzen [Best of GameStar]

Selbst unter Windows 98 und mit sehr alter Hardware kann KI auf Basis eines Large-Language-Modells laufen. (Bild: stock.adobe.com - Carsten Reisinger)

Künstliche Intelligenz ist mittlerweile seit Jahren in aller Munde und Hersteller wie Nvidia verdienen sehr viel Geld mit darauf ausgelegter Hardware.

So kostet der neueste Chip Blackwell B200 für das KI-Training Kunden wohl ungefähr 30.000 bis 40.000 Dollar, wie Computerbase trotz gewisser Relativierung durch Nvidia-CEO Jensen Huang annimmt.

Geht es stattdessen um das lokale Berechnen von KI-Anfragen, hat nun ein Forscher-Team der Universität Oxford einen bemerkenswerten Erfolg mit sehr alter und langsamer Hardware erzielt (via Techspot).

Das ist passiert:

• Die Organisation EXO Labs, die von den besagten Oxford-Forschern gegründet wurde, hat bei X ein Video geteilt. Es zeigt einen PC mit Pentium II mit 350 MHz, 128 MByte RAM und Windows 98, auf dem erfolgreich ein KI-Modell läuft.
• Es handelt sich laut Techspot um ein leistungsstarkes KI-Sprachmodell auf Basis von LLama2.c-Code. In diesem Fall erzählt es auf die sehr knappe Anfrage Sleepy Joe said eine kurze, einigermaßen kohärente (wenn auch nicht wirklich sinnvolle) Geschichte, und das ziemlich schnell.
• Das Modell besteht aus insgesamt 260.000 Parametern, die von dem alten PC mit einer Geschwindigkeit von 39,31 Token pro Sekunde berechnet wurden. Kommt ein Modell mit einer Milliarde Parametern zum Einsatz, sind es dagegen nur noch 0,0093 Token pro Sekunde.

44:19 »Künstliche Intelligenz ist die neue Elektrizität« - Wir busten mit einem Experten 5 Mythen zu KI

Im Folgenden findet ihr den genauen (englischen) Wortlaut des Textes, den die KI auf dem Windows-98-PC erstellt hat:

Sicher nichts, mit dem ein aktueller KI-Anbieter hausieren gehen würde. In Anbetracht der arg begrenzten Hardware-Ressourcen, die hier zum Einsatz kamen, ist es aber dennoch beachtlich.

The Singularity Is Nearer: When We Merge with AI

von Ray Kurzweil

In diesem Buch beleuchtet Ray Kurzweil die Fortschritte auf dem Weg zur Singularität aus einer neuen Perspektive: Er bewertet seine Vorhersage aus dem Jahr 1999, dass KI bis 2029 die menschliche Intelligenz erreichen wird, und untersucht das exponentielle Wachstum der Technologie.

14,79 €

zu Amazon

Welches Ziel verfolgen die Forscher?

Laut Techspot möchte EXO Labs den Zugang zu KI demokratisieren. Vergleichsweise geringe Hardware-Anforderungen könnten dazu einen wichtigen Beitrag leisten.

Grundsätzlich sind dabei zwei verschiedene, aber eng zusammenhängende Bereiche zu betrachten:

1. Einerseits das Trainieren passender KI-Modelle, um die nötige Basis für Anfragen an eine KI zu schaffen.
2. Andererseits das Bearbeiten entsprechender User-Anfragen mit Hilfe dieser KI-Modelle.

Auch interessant: Warum heißt das 1. Laufwerk unter Windows immer C?

In beiden Fällen sind möglichst niedrige Hardware-Voraussetzungen wünschenswert, sowohl für geringe Einstiegshürden als auch mit Blick auf den erforderlichen Energiebedarf.

Inwieweit die weitere Forschung von EXO Labs dazu einen entscheidenden Beitrag leisten kann, bleibt allerdings abzuwarten.