Golden Gate Claude: Anthropic veröffentlicht Forschungsmodell

Golden Gate Claude: Anthropic veröffentlicht Forschungsmodell
Anthropic hat ein neues Forschungspapier veröffentlicht. Das Unternehmen versucht dabei mehr zu untersuchen, wie sein eigenes Modell Sonnet „denkt“. Die Studie zeigt, dass das Modell Millionen von "Features" – spezifische Konzepte, die innerhalb von Claudes neuronalem Netzwerk aktiviert werden, wenn es auf relevante Texte oder Bilder stößt.

Anthropic kann diese Features verstärken und abschwächen, so kann man etwa das "Golden Gate Bridge"-Feature verstärken. Claude fixiert sich dann auf dieses „ikonische Wahrzeichen von San Francisco“ und webt es in fast jede Antwort ein, obwohl es nicht direkt relevant ist. Die Demo eines solchen Modells hat Anthropic jetzt über Claude.ai der Öffentlichkeit zur Verfügung gestellt. Ihr könnt es mithilfe des Golden-Gate-Symbols oben rechts auf der Website aktivieren. Es basiert auf Sonnet und hat natürlich viele Halluzinationen. Mit einem ähnlichen Ansatz will das Unternehmen aber die Sicherheit seiner Modelle erhöhen, und bestimmte „Features“ abschwächen. Da es kein Prompt oder Fine-Tuning nutzt, wahrscheinlich auch tatsächlich sicherer als bisherige Ansätze.

Apple 11" iPad Air (M2): Liquid Retina Display, 128 GB, 12 MP Querformat Frontkamera/12 MP Rückkamera, WLAN 6E und...
  • WARUM IPAD AIR − Das iPad Air ist leistungsstark, vielseitig und in zwei Größen erhältlich. Es kommt...
  • 11" LIQUID RETINA DISPLAY – Das fantastische Liquid Retina Display kommt mit fortschrittlichen...
  • PERFORMANCE UND SPEICHERPLATZ – Der M2 Chip ermöglicht flüssiges Multitasking zwischen...
Apple 2022 10,9'' iPad (Wi-Fi + Cellular, 64 GB) - Pink (10. Generation)
  • Beeindruckendes 10,9" Liquid Retina Display mit True Tone
  • A14 Bionic Chip mit 6 Core CPU und 4 Core GPU
  • 12 MP Weitwinkel-Rückkamera
Apple 11" iPad Pro (M4): Ultra Retina XDR Display, 256 GB, 12 MP Querformat Frontkamera/12 MP Rückkamera, LiDAR...
  • WARUM IPAD PRO − Das iPad Pro ist das ultimative iPad Erlebnis in einem unglaublich dünnen und...
  • 11" ULTRA RETINA XDR DISPLAY − Das Ultra Retina XDR liefert extreme Helligkeit und Kontrast...
  • PERFORMANCE UND SPEICHERPLATZ – Mit bis zu 10Core CPU im M4 Chip liefert es eine leistungsstarke...

Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision - ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.

Fehler im Artikel entdeckt? Hier melden.
Avatar-Foto

Als ehrenamtlicher First-Level-Support und quasi Apple-Jünger, der gerne seine Lebenszeit in Tech-Blogs verbrennt, stehe ich auch gerne für hitzige Diskussionen zur Verfügung.

2 Kommentare

  1. Mike Leitner sagt:

    Leider bereits offline

  2. Falls du glaubst nicht durch AI ersetzbar zu sein, habe ich mal ChatGpt nach fehlern in deiner Einleitung gefragt:
    https://chatgpt.com/share/718e2044-6ab1-4195-bf3d-2549849ca140

Moin! Lass uns respektvoll diskutieren.

Wir freuen uns auf sachliche, konstruktive und gerne humorvolle Beiträge. Da wir hier wie mit real anwesenden Personen umgehen möchten, löschen wir Kommentare, die nur herabwürdigen oder völlig am Thema vorbeigehen. Ein Recht auf Veröffentlichung besteht nicht. Mit dem Absenden stimmst du unserer Datenschutzerklärung und der Speicherung deiner Daten zu.