Mistral veröffentlicht sein Mistral Large 2 LLM

Mistral veröffentlicht sein Mistral Large 2 LLM

Quelle: Mistral

Schlag auf Schlag geht es weiter bei den LLMs und nach Llama 3.1 folgt Mistral mit seinem Modell Mistral Large 2(2407). Es hat eine Kontextgröße von 128.000 und 123 Milliarden Parameter. Es soll effizient und schnell sein, ist aber mit ca. 5 €/Million Token nicht billig. Mistral zeigt in seinem Blogbeitrag auch Benchmarks und offenbart einige interessante Aspekte, wie die Mehrsprachigkeit und die Fähigkeit, Anweisungen zu folgen. In beiden Bereichen schneidet Mistral Large 2 gut ab und kommt an GPT-4o oder Claude 3.5 Sonnet heran.

Mistral veröffentlicht sein Mistral Large 2 LLM

Quelle: Mistral

Besonderer Wert soll auf die Vermeidung von „Halluzinationen“ gelegt worden sein. Das Modell soll sogar darauf trainiert worden sein, vorsichtig und genau zu antworten und gegebenenfalls zuzugeben, wenn es eine Frage nicht beantworten kann.

Mistral veröffentlicht sein Mistral Large 2 LLM

Quelle: Mistral

Auch dieses Modell habe ich kurz getestet und muss sagen, dass es sich teilweise besser schlägt als Llama 3.1-405B. Eine Schwäche der Llama-Modelle zeigt sich hier besonders, sie sind nicht besonders gut im Folgen von Anweisungen. Dafür ist Large-2 aber auch nicht so gut im Reasoning und hat bei meinen Tests auch einfach Dinge übersetzt, die nicht übersetzt werden sollten (Funktion in TypeScript). Im Moment ist aber Claude 3.5 Sonnet mein Favorit, es ist einfach zuverlässig in der Ausgabe und vergleichsweise günstig. Was ist euer Favorit?

Apple 11" iPad Air (M2): Liquid Retina Display, 128 GB, 12 MP Querformat Frontkamera/12 MP Rückkamera, WLAN 6E und...
  • WARUM IPAD AIR − Das iPad Air ist leistungsstark, vielseitig und in zwei Größen erhältlich. Es kommt...
  • 11" LIQUID RETINA DISPLAY – Das fantastische Liquid Retina Display kommt mit fortschrittlichen...
  • PERFORMANCE UND SPEICHERPLATZ – Der M2 Chip ermöglicht flüssiges Multitasking zwischen...
Apple 2022 10,9'' iPad (Wi-Fi + Cellular, 64 GB) - Pink (10. Generation)
  • Beeindruckendes 10,9" Liquid Retina Display mit True Tone
  • A14 Bionic Chip mit 6 Core CPU und 4 Core GPU
  • 12 MP Weitwinkel-Rückkamera
Apple 11" iPad Pro (M4): Ultra Retina XDR Display, 256 GB, 12 MP Querformat Frontkamera/12 MP Rückkamera, LiDAR...
  • WARUM IPAD PRO − Das iPad Pro ist das ultimative iPad Erlebnis in einem unglaublich dünnen und...
  • 11" ULTRA RETINA XDR DISPLAY − Das Ultra Retina XDR liefert extreme Helligkeit und Kontrast...
  • PERFORMANCE UND SPEICHERPLATZ – Mit bis zu 10Core CPU im M4 Chip liefert es eine leistungsstarke...

Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision - ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.

Fehler im Artikel entdeckt? Hier melden.
Avatar-Foto

Als ehrenamtlicher First-Level-Support und quasi Apple-Jünger, der gerne seine Lebenszeit in Tech-Blogs verbrennt, stehe ich auch gerne für hitzige Diskussionen zur Verfügung.

5 Kommentare

  1. Ich teste immer das Modell, von dem ich denke, dass es mir am meisten nützen könnte. Am liebsten jedoch Claude Sonnet 3.5, GPT-4o und das Mini-Modell davon, wenn es schnell gehen muss und nichts kosten soll.
    Ach ja, ich nutze das alles über einen Multi-LLM-Anbieter namens Straico, habe dort mal günstig eine Lifetime-Lizenz erworben. Für meine Arbeit ist das wunderbar, ständig Updates, ich kann mich nicht beklagen.

  2. Derzeit habe ich keinen Favoriten und meine Spielphase ist auch vorbei.
    Davon abgesehen ist die Frage wie lange das noch so weitergeht.
    Denn das „nicht billig“ ist wohl nach der Meldung https://www.heise.de/news/OpenAI-drohen-Miese-in-Hoehe-von-5-Milliarden-US-Dollar-9813052.html immer noch viel zu billig.
    Die AI Firmen verdienen kein Geld, sie verbrennen es massiv und der Nutzen ist immer noch kaum gegeben.
    Der einzige der derzeit gut verdient ist der Verleiher der Schaufeln, also NVIDIA.
    Also wird AI in Zukunft entweder massiv teurer oder geht unter.
    Spätestens wenn die ersten Investoren Geld sehen wollen.

  3. LLMs? Entschuldigung, worum geht es in diesem Artikel?
    Wir haben jetzt einen ChatGPT-Zugang von unserem Arbeitgeber zum Testen bekommen, aber niemandem will etwas dienstliches einfallen…

  4. https://www.faz.net/pro/d-economy/kuenstliche-intelligenz/generative-ki-bringt-aktuell-mehr-produktivitaet-aber-kaum-umsatzzuwachs-19874375.html

    Ja, jedes Hypethema nordet sich ein.

    Sei es, daß man jetzt feststellt, daß Microservices oft zu OverEngineering führen, die Cloud gerne 100-150% Mehrkosten erzeugt bei Lift&Shift, etc. pp.

Moin! Lass uns respektvoll diskutieren.

Wir freuen uns auf sachliche, konstruktive und gerne humorvolle Beiträge. Da wir hier wie mit real anwesenden Personen umgehen möchten, löschen wir Kommentare, die nur herabwürdigen oder völlig am Thema vorbeigehen. Ein Recht auf Veröffentlichung besteht nicht. Mit dem Absenden stimmst du unserer Datenschutzerklärung und der Speicherung deiner Daten zu.