Golden Gate Claude: Anthropic veröffentlicht Forschungsmodell

Anthropic hat ein neues Forschungspapier veröffentlicht. Das Unternehmen versucht dabei mehr zu untersuchen, wie sein eigenes Modell Sonnet „denkt“. Die Studie zeigt, dass das Modell Millionen von „Features“ – spezifische Konzepte, die innerhalb von Claudes neuronalem Netzwerk aktiviert werden, wenn es auf relevante Texte oder Bilder stößt.

Anthropic kann diese Features verstärken und abschwächen, so kann man etwa das „Golden Gate Bridge“-Feature verstärken. Claude fixiert sich dann auf dieses „ikonische Wahrzeichen von San Francisco“ und webt es in fast jede Antwort ein, obwohl es nicht direkt relevant ist. Die Demo eines solchen Modells hat Anthropic jetzt über Claude.ai der Öffentlichkeit zur Verfügung gestellt. Ihr könnt es mithilfe des Golden-Gate-Symbols oben rechts auf der Website aktivieren. Es basiert auf Sonnet und hat natürlich viele Halluzinationen. Mit einem ähnlichen Ansatz will das Unternehmen aber die Sicherheit seiner Modelle erhöhen, und bestimmte „Features“ abschwächen. Da es kein Prompt oder Fine-Tuning nutzt, wahrscheinlich auch tatsächlich sicherer als bisherige Ansätze.

Apple 11" iPad Air (M2): Liquid Retina Display, 128 GB, 12 MP Querformat...

861,02 EUR

Angebot

Apple 2022 10,9" iPad (Wi-Fi + Cellular, 64 GB) - Pink (10. Generation)

Beeindruckendes 10,9" Liquid Retina Display mit True Tone; A14 Bionic Chip mit 6 Core CPU und 4 Core GPU

−35,00 EUR 564,00 EUR

Angebot

Apple 11" iPad Pro (M4): Ultra Retina XDR Display, 256 GB, 12 MP Querformat...

−83,58 EUR 1.365,42 EUR

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.