Microsofts Hybrid-KI hat einen Haken: Der größte Vorteil lokaler KI könnte verloren gehen

(Bildquelle: Microsoft | Jan Stahnke – GameStar Tech)

Microsoft hat auf ihrem gestrigen Event neben einem neuen Surface-Modell, das dem MacBook Pro Konkurrenz machen soll, angekündigt, dass Windows künftig nicht mehr nur auf die Rechenleistung eures PCs oder der Cloud setzt, sondern beides miteinander verbindet.

Auf Copilot+-PCs soll Copilot künftig lokale KI-Modelle verwenden, auf Dateien und andere Inhalte auf eurem Rechner zugreifen und Aktionen direkt in Windows ausführen können. Reicht die Leistung des lokalen Modells nicht aus, soll zusätzlich Cloud-Intelligenz zum Einsatz kommen. Microsoft nennt das »Hybrid Intelligence«.

Auf den ersten Blick klingt das nach einer ziemlich guten Idee. Die einfachen Aufgaben erledigt mein Rechner selbst und wenn es komplizierter wird, bekommt die KI Unterstützung aus der Cloud. Ich muss mich also nicht darum kümmern, welches Modell für welche Aufgabe geeignet ist.

Trotzdem hat die Sache für mich einen Haken.

Jan Stahnke

Seit August 2022 ist Jan ein Teil der Tech-Nerds von Gamestar Tech. Nach drei Jahren Ausbildung zum Informatikkaufmann hat er Informatik – Game Engineering studiert, bis er, drei Semester später, festgestellt hat, dass er doch lieber berichtet als entwickelt. Nach einem dreijährigen Exkurs als Radiomoderator und Redakteur schreibt er jetzt über KI, PC-Gaming und alles, was das Tech-Herz begehrt.

Warum lokale KI für mich interessant ist

Ich brauche nicht unbedingt eine KI, die immer auf meinem PC läuft. Aber wenn ich mich für ein lokales Modell entscheide, gibt es dafür einen ziemlich guten Grund: Meine Daten müssen für die Verarbeitung nicht zu einem KI-Anbieter geschickt werden.

Das kann beispielsweise bei persönlichen Dokumenten interessant sein. Läuft die KI vollständig auf meinem Rechner, kann deren Inhalt dort verarbeitet werden, ohne dass dafür ein Cloud-Dienst benötigt wird.

Das ist für mich einer der wichtigsten Vorteile lokaler KI.

Dabei sollte man allerdings eine Sache nicht durcheinanderbringen: Nur weil eine KI lokal läuft, bedeutet das nicht automatisch, dass Microsoft keinerlei Daten von Windows erhält. Das Betriebssystem übermittelt je nach Einstellungen weiterhin Diagnose- und andere Dienstdaten. Lokale KI macht Windows also nicht plötzlich zu einem vollständig abgeschotteten System. Für die konkrete KI-Aufgabe besteht aber trotzdem ein wichtiger Unterschied:

Eine lokale Inferenz kann ohne Übertragung der Eingabedaten an den KI-Anbieter auskommen.

Und genau diese Grenze wird durch Microsofts Hybrid-Ansatz weniger eindeutig.

1:10:45 KI zerstört unsere Spiele nur, wenn wir es zulassen

Wann verlässt meine Aufgabe den PC?

Microsoft sagt, dass lokale Modelle mit Cloud-Intelligenz kombiniert werden können, wenn diese benötigt wird. Gleichzeitig betont das Unternehmen, dass Nutzer »bei jedem Schritt die Kontrolle« behalten sollen.

Das klingt zunächst beruhigend. Für mich ist aber entscheidend, wie diese Kontrolle konkret aussieht.

Nehmen wir an, ich gebe Copilot Zugriff auf mehrere persönliche Dokumente und lasse daraus eine Zusammenfassung erstellen. Ein lokales Modell könnte diese Aufgabe grundsätzlich auf meinem Rechner erledigen.

Was passiert aber, wenn Copilot für einen Teil der Aufgabe ein leistungsfähigeres Cloud-Modell benötigt?

Welche Daten werden dann übertragen?

Mehr zu KI

Playground: Googles KI-Spielebaukasten startet in den USA und will euch vom Prompt zum fertigen Spiel führen

von Jusuf Hatic

Nur meine eigentliche Anfrage? Die relevanten Ausschnitte aus meinen Dokumenten? Weiterer Kontext, den Copilot während der Bearbeitung gesammelt hat? Oder noch mehr Daten, die theoretisch gebraucht werden könnten?

Gerade bei einem Agenten ist das keine nebensächliche Frage. Ein Agent kann nicht nur einen einzelnen Prompt beantworten, sondern Dateien durchsuchen, Informationen sammeln und anschließend Aktionen ausführen. Wenn während dieses Prozesses ein Cloud-Modell hinzukommt, möchte ich nachvollziehen können, welche Informationen meinen Rechner verlassen.

Und noch wichtiger: Kann ich diesen Schritt verhindern?

Wenn ich sage, dass eine Aufgabe ausschließlich lokal verarbeitet werden soll, sollte Windows das respektieren. Falls mein PC dafür nicht leistungsfähig genug ist, wäre es für mich völlig in Ordnung, wenn die Aufgabe länger dauert oder gar nicht ausgeführt werden kann.

Was ich nicht möchte, ist eine Situation, in der ich zwar ein lokales KI-Modell ausgewählt habe, aber im Hintergrund irgendwann doch ein Cloud-Modell übernimmt, weil Windows es für sinnvoll hält.

Microsoft muss deshalb noch zeigen, wie diese Kontrolle in der Praxis aussieht.

XMG PRO 18 VE (M26)

Intel Core Ultra 7 270HX Plus
GeForce RTX 5070 Laptop (12 GB)
32 GB DDR5-5600
1.000 GB M.2 PCIe 4.0 SSD

• Schneller 20-Kern-Prozessor
• Starke Grafikkarte mit DLSS 4.5 und MFG
• Großes 18-Zoll-Display mit 180 Hz Bildwiederholrate

• Größer und schwerer, als das 16-Zoll-Modell

2849 €2706,55 €

zu Bestware

Eine einfache Option wie »Diese Aufgabe niemals in der Cloud verarbeiten« wäre für mich wichtiger als die Frage, ob Windows möglichst clever zwischen verschiedenen Modellen wechseln kann.

Denn genau darin liegt für mich der eigentliche Wert lokaler KI: Ich kann selbst entscheiden, wo meine Daten verarbeitet werden.

Mehr zum Thema KI:

• Einst verschwanden diese Grafikkarten für das Mining vom Markt, jetzt haucht KI ihnen für 35 Dollar neues Leben ein
• Anthropic will Claude eine »Seele« einhauchen: KI-Hersteller befragt Theologen und Philosophen zur Moral

Wenn Microsoft lokale und Cloud-KI künftig nahtlos miteinander verbindet, darf dieser Vorteil nicht einfach hinter einer möglichst komfortablen Automatik verschwinden.

Microsofts Hybrid-Ansatz könnte die Nutzung von KI auf Windows deutlich angenehmer machen. Aber bevor ich meine persönlichen Daten einem solchen System anvertraue, möchte ich eine ziemlich einfache Frage beantwortet haben:

Wer entscheidet eigentlich, wann meine Daten meinen PC verlassen – Windows oder ich?