Microsofts KI „Mu“: Lokale Intelligenz für Copilot+ PCs

Microsoft rüstet seine neuen Copilot+ PCs mit einer neuen KI namens „Mu“ aus. Statt auf die Cloud zu setzen, verlagert Microsoft die Intelligenz direkt auf den Computer des Nutzers. Das kleine Sprachmodell agiert dort demnach als stiller, aber fähiger Helfer direkt im Betriebssystem.
Mit seinen 330 Millionen Parametern gehört Mu zur Klasse der „Small Language Models“ (SLMs). Diese schlanke Basis ist die Voraussetzung dafür, dass die KI vollständig auf der lokalen NPU der Copilot+ PCs laufen kann. Der direkte Draht zur Hardware erlaubt eine Verarbeitung ohne Umwege über das Internet. Microsoft spricht von über 100 generierten Tokens pro Sekunde. Für den Nutzer bedeutet das eine quasi verzögerungsfreie Interaktion.

Ihren ersten Auftritt hat die KI im Einstellungsmenü von Windows, das für Insider bereits testbar ist. Eine Anweisung wie „Stell den Nachtmodus ein“ wird nicht an einen Server gesendet, sondern direkt auf dem Gerät verstanden und umgesetzt.
Microsoft setzt bei Mu auf eine Encoder-Decoder-Architektur. Die Arbeitsteilung der Prozesse ist für spezifische Aufgaben wie die Steuerung von Systemeinstellungen deutlich effizienter als die bei großen Chat-Modellen üblichen Decoder-only-Strukturen. Zusätzlich wurde das Modell in Zusammenarbeit mit den Chip-Herstellern AMD, Intel und Qualcomm optimiert. Durch spezielle Anpassungen, sogenannte Quantisierungstechniken, wird die Software demnach perfekt auf die Silizium-Architektur der NPUs abgestimmt.
Wann genau die Funktion über den Kreis der Windows Insider hinaus für alle Besitzer von Copilot+ PCs verfügbar sein wird, hat Microsoft noch nicht kommuniziert.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Muss man dafür einen neuen PC mit NPU kaufen oder kann man dafür eine RTX 5000er GraKa benutzen?
Zufall oder sieht der abgebildete Chip genau so aus wie die Chipfragmente des T-800 in Terminator 2?
Der Chip wird für Skynet (nicht „Mu“ oder „MuMu“) benötigt. Natürlich hergestellt von Cyberdyne Systems.
War das nicht von Anfang an das Versprechen dieser Copilot+ PCs? Also lokale Ausführung statt in der Cloud?