Apple: Forschungspapier zeigt ReALM

Apple hat ein Forschunspapier veröffentlicht. In ihm wird ein neues System namens ReALM (Reference Resolution As Language Modeling) vorgestellt, das Sprachassistenten, wie Siri, helfen soll, Zusammenhänge in Gesprächen besser zu verstehen. Virtuelle Assistenten müssen oft Bezüge in Gesprächen richtig deuten. Wenn wir zum Beispiel sagen „Ruf ihn an“, muss der Assistent wissen, wen wir meinen. ReALM löst solche Bezüge nun viel besser auf als bisherige Systeme. Dazu gehören auch Verweise auf dem Bildschirm. Wenn dort eine Adresse angezeigt wird und jemand sagt „Navigiere mich dorthin“, weiß ReALM, was gemeint ist. Dafür wandelt es die Adresse in Text um. So können die Sprachmodelle im Hintergrund den Bezug herstellen, ohne das Bild selbst zu verarbeiten.

In den Tests der Forscher hat sich gezeigt, dass ReALM deutlich besser funktioniert als andere Ansätze. Es erreicht sogar fast die Leistung von GPT-4, hat dabei aber wahrscheinlich deutlich weniger Parameter. Die kleinste Version von ReALM verfügt über etwa 80 Millionen Parameter. Zum Vergleich: GPT-4 wird auf über 1,8 Billionen Parameter geschätzt, die mit wahrscheinlich unzähligen Billionen Token trainiert wurden.

Damit einher kommt ReALMs größter Vorteil: Es ist so ressourcenschonend, dass es lokal auf Endgeräten laufen kann. Welche Apple-Produkte letztlich von diesem Modell profitieren werden, bleibt abzuwarten – iOS 18 soll aber das größte Update seit Langem sein, vielleicht sehen wir hier Siri 2.0.

Verbesserungspotenzial sieht die Forschungsgruppe auch noch. So lasse sich die Lokalisierung der Informationen auf dem Bildschirm mit Rastern noch genauer darstellen.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.