Anthropic verschärft Sicherheitsmaßnahmen für Claude Opus 4

Die KI-Entwicklung schreitet mit großen Schritten voran, und damit wachsen auch die Sicherheitsbedenken. Anthropic hat nun für sein neuestes Sprachmodell Claude Opus 4 die Sicherheitsstufe auf Level 3 (ASL-3) angehoben.

Die verschärften Sicherheitsvorkehrungen zielen besonders darauf ab, den Missbrauch der KI für die Entwicklung von chemischen, biologischen, radiologischen und nuklearen Waffen zu verhindern. Gleichzeitig sollen die Modellgewichte – quasi das „Gehirn“ der KI – besser vor Diebstahl geschützt werden.

Interessant ist, dass Anthropic diese Maßnahmen vorsorglich einführt, ohne dass bisher eindeutig feststeht, ob Claude Opus 4 tatsächlich diese Schutzstufe benötigt. Das Unternehmen geht damit einen pragmatischen Weg: Lieber früher absichern als zu spät reagieren. Die Implementation erfolgt dabei gezielt und eng fokussiert, sodass normale Nutzeranfragen kaum eingeschränkt werden, so die Entwickler.

Zu den konkreten Schutzmaßnahmen gehören verschiedene Klassifikatoren, die in Echtzeit die Eingaben und Ausgaben des Systems überwachen. Auch ein Bug-Bounty-Programm wurde eingerichtet, um potenzielle Schwachstellen aufzudecken. Erwähnenswert sind auch die neuen Bandbreitenbeschränkungen für ausgehende Daten, die das Kopieren der Modellgewichte erheblich erschweren sollen.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.