Anthropic zawiesza Fable 5 i Mythos 5 po wydaniu dyrektywy kontroli eksportu przez rząd USA

TLDR:

• Rząd USA wydał dyrektywę kontroli eksportu nakazującą Anthropic globalne zawieszenie dostępu do Fable 5 i Mythos 5.
• Anthropic przeanalizował raport o jailbreaku i stwierdził, że opisane możliwości są już dostępne w modelach takich jak GPT-5.5 firmy OpenAI.
• Zgłoszony jailbreak polegał na poproszeniu Fable 5 o odczytanie bazy kodu i wskazanie błędów w oprogramowaniu, bez ujawnienia żadnego szkodliwego wyniku.
• Anthropic ostrzegł, że zastosowanie tego standardu wycofania w całej branży skutecznie wstrzymałoby wdrożenia wszystkich najnowocześniejszych modeli AI.

Anthropic wyłączył globalny dostęp do Fable 5 i Mythos 5 w następstwie dyrektywy kontroli eksportu wydanej przez rząd USA.

Nakaz, otrzymany o godzinie 23:21 czasu środkowoeuropejskiego, powołuje się na obawy dotyczące bezpieczeństwa narodowego związane ze zgłoszoną metodą jailbreaku. Wszystkie pozostałe modele Anthropic pozostają dostępne.

Firma oświadczyła, że stosuje się do dyrektywy, jednocześnie kwestionując techniczne podstawy tej decyzji.

Dyrektywa rządowa wymierzona w zgłoszoną metodę jailbreaku

Rząd USA wydał dyrektywę bez ujawnienia szczegółowych informacji dotyczących bezpieczeństwa narodowego na piśmie. Urzędnicy przekazali ustnie, że dowiedzieli się o metodzie zdolnej do obejścia zabezpieczeń Fable 5.

Anthropic zapoznał się z demonstracją tej techniki i stwierdził, że ujawnia ona jedynie drobne, wcześniej znane luki.

Firma przeanalizowała to, co uważa za raport stojący za decyzją rządu. Anthropic stwierdził, że poziom zaprezentowanych możliwości „jest powszechnie dostępny w innych modelach, w tym w GPT-5.5 firmy OpenAI, i jest codziennie wykorzystywany przez osoby odpowiedzialne za bezpieczeństwo systemów." Analiza nie wykazała żadnych ulepszeń specyficznych dla Fable w ustaleniach.

Zgłoszony jailbreak polegał zasadniczo na poproszeniu modelu o odczytanie bazy kodu i zidentyfikowanie błędów w oprogramowaniu. Anthropic potwierdził, że „nie otrzymał nawet ujawnienia niepokojącego, nieuniwersalnego potencjalnego jailbreaku, który doprowadził do szkodliwego wyniku." Ujawnione potencjalne jailbreaki były albo całkowicie nieszkodliwe, albo sklasyfikowane jako drobne ustalenia.

Dyrektywa wymaga zawieszenia dostępu dla wszystkich obcokrajowców, w tym pracowników Anthropic posiadających status obcokrajowca, zarówno w Stanach Zjednoczonych, jak i poza nimi. Firma stwierdziła, że zastosowanie się do nakazu oznaczało wyłączenie modeli dla wszystkich klientów, aby uniknąć jakiegokolwiek naruszenia dyrektywy.

Anthropic kwestionuje standard stosowany do modeli komercyjnych

Anthropic wprowadził Fable 5 ze strategią obrony w głąb, łącząc ograniczoną odporność na jailbreak z monitorowaniem w czasie rzeczywistym i obowiązkowym 30-dniowym przechowywaniem danych.

Firma przyznała podczas premiery, że „doskonała odporność na jailbreak nie jest obecnie możliwa dla żadnego dostawcy modeli."

Polityka 30-dniowego przechowywania danych była świadomym kompromisem. Spotkała się ze sprzeciwem ze strony klientów, ale pozwoliła Anthropic szybko wykrywać, badać i reagować na próby jailbreaku.

Anthropic opisał to jako sprawianie, że jailbreaki są „albo wąskie, albo bardzo kosztowne w produkcji", utrzymując poziomy ryzyka porównywalne z innymi wdrożonymi modelami w branży.

W kwestii uprawnień rządu do działania Anthropic stwierdził, że „uważa, iż rząd powinien mieć możliwość blokowania niebezpiecznych wdrożeń, w ramach ustawowego procesu, który jest przejrzysty, sprawiedliwy, jasny i oparty na faktach technicznych." Firma argumentowała, że niniejsza dyrektywa nie spełnia tych standardów.

Anthropic ostrzegł, że szerokie zastosowanie tego standardu wycofania „skutecznie wstrzymałoby wszystkie nowe wdrożenia modeli dla wszystkich dostawców modeli frontierowych."

Firma zobowiązała się do udostępnienia dodatkowych szczegółów technicznych w ciągu 24 godzin i potwierdziła, że wszystkie pozostałe modele w jej ofercie nadal działają bez ograniczeń.

Wpis Anthropic zawiesza Fable 5 i Mythos 5 po wydaniu przez rząd USA dyrektywy kontroli eksportu pojawił się jako pierwszy w serwisie Blockonomi.