Apple veröffentlicht acht Open-Source-LLMs
von Mike Leitner | 10 Kommentare
Apple hat acht Modelle seiner OpenELM-Familie (Open-source Efficient Language Models) veröffentlicht. Sie sind Open Source und auf Hugging Face verfügbar. Die acht Modelle wurden mithilfe Apples eigener CoreNet-Bibliothek trainiert und vier von ihnen sind auf Instruktionen trainiert. Apple hat den gesamten Code und Trainingsprotokolle der Modelle veröffentlicht.
Es ist bisher nicht klar, ob und wie Apple die LLMs einsetzen wird. In den eigenen Benchmarks von Apple schneidet das Modell ziemlich durchschnittlich ab, zumindest die 3B-Token-Version. Auf dem Open-LLM-Leaderboard würde es dort nicht die Top-Plätze einnehmen. Die kleinen Modelle wirken aber sehr vielversprechend, sollen sie ja lokal laufen. Mal abwarten, was Apple noch bringt. Offen gesagt glaube ich nicht, dass das die Modelle sind, die wir in iOS 18 sehen werden.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Vermutlich möchte Apple nur von der Open Source Community Hilfe oder Ideen, an denen sie sich dann bedient, wenn es um iOS 18 geht. Ich glaube aber, dass Apple das Thema ohnehin verschlafen hat, denn sonst wäre Siri längst in diese Richtung erweitert und entwickelt worden. Wenn sie echt ChatGPT oder Google Gemini etc. lizenzieren müssen und kein eigenes Modell anbieten, ist das, wieder einmal, sehr schwach von Apple was Innovationen und Zukunftsvisionen angeht.
Naja, Apple ist ja immer mal wieder Open Source unterwegs. Die entwickeln ja in alle Himmelsrichtungen.
Auch bei Matter haben sie mitgewrikt. Das kann auch zu deren Vorteil sein, aber da Apple auch nicht in die Zukunft sehen kann, ist das eben nur eine Hoffnung von denen.
Bei Siri haben die das leider komplett verpennt und ich hoffe, dass die jetzt nochmal gas geben und Siri mehr Beachtung schenken und einfach mehr Optionen einbauen.
Was heißt verpennt?
Ich kenne keine einzige ChatGPT Anwendung die aktuell einen wirklichen Nutzen bietet.
Echt nicht? Ich schon. Wenn du einen Mac hast, kannst du dir bspw. mit der App aiMenu des japanischen Entwicklers Satoshi Matsumoto aus jeder textbasierten Anwendung heraus einen Direktzugriff auf ChatGPT schaffen (für den Einmalkauf der App + die überschaubare Gebühr für die OpenAI API Key Nutzung).
Die App ist vielleicht nicht ganz so hochglanzpoliert, wie man es beim Mac erwarten könnte, aber darauf kommt es hier nicht an. Sie funktioniert nämlich super. Ich nutze sie in erster Linie für Textzusammenfassungen und Übersetzungen. Abhängig vom Text kann es nämlich sein, dass ChatGPT sogar besser übersetzt als DeepL (meist führe ich aber eine ChatGPT- und eine DeepL-Übersetzung zusammen).
aiMenu spielt das Ergebnis je nach Bedarf und Einrichtung auch direkt in deine Text-Applikation zurück. Für Übersetzungen und redaktionelle Zusammenfassungen eignen sich dabei vollautomatisierte Prompts (man markiert dann nur noch bspw. den zu übersetzenden Text, drückt eine Tastenkombination und schon kriegt man den übersetzten Text zurück). Zumindest ich hatte solche Möglichkeiten vorher nicht. Und die Zusammenfassungen selbst von technischen Fachtexten sind ziemlich gut (vorausgesetzt man übt ein wenig und sendet neben dem richtigen Prompt auch geeignete Absatzlängen an die KI).
> Zumindest ich hatte solche Möglichkeiten vorher nicht.
Natürlich hattest du die. Selber machen. Aber heute wird ja jeder 08/15 Kommentar zu irgendwelchen Kreisligaspielen von einer KI zusammen halluziniert. Schöne neue Welt. Nicht.
> Naja, Apple ist ja immer mal wieder Open Source unterwegs.
Aber auch nur, weil sie es müssen, sprich die Lizenz sie dazu zwingt. Sie nutzen Software, die unter einer freien Lizenz steht, daher müssen sie ihre Anpassungen daran veröffentlichen.
Hätte Apple wirklich ernsthaft Interesse an freier Software, würden sie macOS und iOS unter einer freien Lizenz veröffentlichen.
Finde es missverständlich wenn man von Benchmark/Performance eines LLMs spricht aber die Qualität der Antworten meint.
Bei Performance geht es ja immer um Geschwindigkeit der Berechnung und da werden die Apple LLMs ziemlich performant sein wie im Artikel erwähnt.
Nicht zwingend. Performance ist laut Merriam Webster „the ability to perform“, wobei „perform“ hier „fulfill“ bedeutet. Also wie gut etwas eine Aufgabe erfüllen kann. Bei Wikipedia steht extra für Computerprogramme „accuracy, efficiency and speed of executing computer program instructions“. Bei den LLMs bezieht sich die Performance vor allem auf die accuracy. Der Benchmark ist dann die Messung der Performance.
Ja, da hast du Recht. Von der offiziellen Definition passt das schon aber in der IT-Welt ist der Begriff Performance halt schon mit einer anderen Bedeutung besetzt.
Wie würdest du es jetzt formulieren wenn du sagen möchtest, dass der Output eines LLMs besonders schnell berechnet werden kann?
Bisher sind alle Firmen die LLMs entwickeln gigantische Geldverbrennungsmaschinen. Kein Wunder, dass Apple den Ball noch flach hält. Lass‘ doch die anderen erstmal machen, die Grundlagen entwickeln, Geschäftsmodelle entwickeln, Marktakzeptanz schaffen usw… KI-Funktionen im iPhone anzubieten wird schon bald so easy sein, dank der Vorarbeit und Investitionen der ganzen anderen, dass sie es einfach mal eben implementieren. Vielleicht ist ihre Lösung dann bisschen schlechter als die des Marktführers, aber das hat Apple ja noch nie aufgehalten.