Anthropic setzt Fable 5 und Mythos 5 aus, nachdem die US-Regierung eine Exportkontrolldirektive erlassen hat

TLDR:

• Die US-Regierung hat eine Exportkontrollanweisung erlassen und Anthropic angewiesen, den weltweiten Zugang zu Fable 5 und Mythos 5 zu sperren.
• Anthropic hat den Jailbreak-Bericht geprüft und festgestellt, dass die entsprechenden Fähigkeiten bereits in Modellen wie OpenAIs GPT-5.5 verfügbar sind.
• Der gemeldete Jailbreak bestand im Wesentlichen darin, Fable 5 aufzufordern, eine Codebasis zu lesen und Softwarefehler zu identifizieren, ohne dass ein schädliches Ergebnis offengelegt wurde.
• Anthropic warnte, dass der Rückruf-Standard, wenn er branchenweit angewendet würde, effektiv alle Deployments von KI-Frontier-Modellen zum Stillstand bringen würde.

Anthropic hat nach einer Exportkontrollanweisung der US-Regierung den weltweiten Zugang zu Fable 5 und Mythos 5 deaktiviert.

Die um 23:21 Uhr MEZ eingegangene Anweisung beruft sich auf nationale Sicherheitsbedenken im Zusammenhang mit einer gemeldeten Jailbreak-Methode. Alle anderen Anthropic-Modelle bleiben weiterhin verfügbar.

Das Unternehmen erklärt, dass es der Anweisung Folge leistet, die technische Grundlage der Entscheidung jedoch bestreitet.

Regierungsanweisung zielt auf gemeldete Jailbreak-Methode ab

Die US-Regierung hat die Anweisung erteilt, ohne spezifische nationale Sicherheitsdetails schriftlich offenzulegen. Beamte teilten mündlich mit, dass sie von einer Methode erfahren hatten, die in der Lage ist, die Sicherheitsmechanismen von Fable 5 zu umgehen.

Anthropic prüfte eine Demonstration dieser Technik und stellte fest, dass dabei nur geringfügige, bereits bekannte Schwachstellen aufgedeckt wurden.

Das Unternehmen prüfte, was es für den Bericht hinter der Entscheidung der Regierung hält. Anthropic erklärte, dass das gezeigte Leistungsniveau „in anderen Modellen, einschließlich OpenAIs GPT-5.5, weit verbreitet verfügbar ist und täglich von Verteidigern genutzt wird, die Systeme sicher halten." Die Prüfung ergab kein Fable-spezifisches Potenzial in den Ergebnissen.

Der gemeldete Jailbreak bestand im Wesentlichen darin, das Modell aufzufordern, eine Codebasis zu lesen und Softwarefehler zu identifizieren. Anthropic bestätigte, dass es „noch nicht einmal eine Offenlegung eines besorgniserregenden, nicht universellen potenziellen Jailbreaks erhalten hat, der zu einem schädlichen Ergebnis geführt hat." Die offengelegten potenziellen Jailbreaks waren entweder völlig harmlos oder wurden als geringfügige Befunde eingestuft.

Die Anweisung verlangt die Sperrung des Zugangs für alle ausländischen Staatsangehörigen, einschließlich Anthropic-Mitarbeiter mit ausländischem Staatsangehörigkeitsstatus, sowohl innerhalb als auch außerhalb der Vereinigten Staaten. Das Unternehmen erklärte, dass die Einhaltung bedeutete, die Modelle für alle Kunden zu deaktivieren, um jeden Verstoß gegen die Anweisung zu vermeiden.

Anthropic bestreitet den auf kommerzielle Modelle angewandten Standard

Anthropic hat Fable 5 mit einer Defense-in-Depth-Strategie eingeführt, die enge Jailbreak-Resistenz mit Echtzeit-Monitoring und obligatorischer 30-tägiger Datenspeicherung kombiniert.

Das Unternehmen räumte beim Launch ein, dass „eine perfekte Jailbreak-Resistenz für keinen Modellanbieter derzeit möglich ist."

Die 30-tägige Datenspeicherrichtlinie war ein bewusster Kompromiss. Sie stieß bei Kunden auf Widerstand, ermöglichte es Anthropic jedoch, Jailbreak-Versuche schnell zu erkennen, zu untersuchen und darauf zu reagieren.

Anthropic beschrieb dies als eine Maßnahme, die Jailbreaks „entweder eng begrenzt oder sehr kostspielig in der Herstellung" macht und das Risikoniveau vergleichbar mit anderen in der Branche eingesetzten Modellen hält.

Zur Handlungsbefugnis der Regierung erklärte Anthropic, es „glaubt, dass die Regierung die Möglichkeit haben sollte, unsichere Deployments zu blockieren, als Teil eines gesetzlichen Prozesses, der transparent, fair, klar und auf technischen Fakten basiert." Das Unternehmen argumentierte, dass diese Anweisung diese Standards nicht erfülle.

Anthropic warnte, dass die breite Anwendung dieses Rückruf-Standards „im Wesentlichen alle neuen Modell-Deployments für alle Frontier-Modellanbieter zum Stillstand bringen würde."

Das Unternehmen verpflichtete sich, innerhalb von 24 Stunden zusätzliche technische Details zu veröffentlichen, und bestätigte, dass alle anderen Modelle in seinem Angebot weiterhin ohne Einschränkung betrieben werden.

Der Beitrag „Anthropic sperrt Fable 5 und Mythos 5 nach Exportkontrollanweisung der US-Regierung" erschien zuerst auf Blockonomi.