Mit AI Mythos firmy Anthropic uznanej za „zbyt niebezpieczną” zhakowany pierwszego dnia, podczas gdy Biały Dom planuje wdrożenie

Mała grupa nieuprawnionych użytkowników uzyskała dostęp do Claude Mythos Preview firmy Anthropic tego samego dnia, w którym spółka ogłosiła kontrolowane udostępnienie — poinformował Bloomberg.

To wydarzenie rodzi pytania o zdolność Anthropic do zabezpieczenia modelu uznanego za zbyt niebezpieczny dla szerokiego udostępnienia.

Jak grupa z Discorda zdobyła dostęp do Mythos

Członkowie prywatnego kanału Discorda, zajmującego się poszukiwaniem nieudostępnionych modeli AI, trafnie odgadli adres URL endpointu Mythos.

Według osoby zaznajomionej ze sprawą, cytowanej przez Bloomberg, odtworzyli oni schematy nazewnictwa Anthropic wykorzystując dane wyciekłe przy incydencie Mercor trzy tygodnie wcześniej (źródło).

Jeden z członków grupy miał też prawidłowe dane do oceny modeli dzięki umowie z dostawcą Anthropic. Połączenie tych danych z odgadniętym adresem zapewniło im stały dostęp.

Podobno od tego czasu regularnie korzystają z Mythos. Unikali jednak zapytań związanych z cyberbezpieczeństwem i wykorzystywali model do neutralnych celów, np. tworzenia prostych stron internetowych.

Anthropic potwierdził rozpoczęcie śledztwa w tej sprawie, ale zapewnił, że brak dowodów na wyjście dostępu poza środowisko dostawcy.

Anthropic deklaruje, że Mythos potrafi wykryć i wykorzystać podatności typu zero-day w każdym głównym systemie operacyjnym i przeglądarce.

W ramach Projektu Glasswing firma ograniczyła dostęp do około 40 zatwierdzonych organizacji, w tym Apple, Amazon i Cisco, wyłącznie do defensywnego testowania bezpieczeństwa.

Biały Dom naciska na federalny dostęp mimo zakazu Pentagonu

Do naruszenia doszło, gdy Biały Dom zamierza rozszerzyć dostęp do Mythos dla cywilnych agencji federalnych. 15 kwietnia Biuro Zarządzania i Budżetu wysłało maila do ministrów, opisując plan na chronioną wersję modelu.

To zmiana stanowiska z początku roku — wtedy Pentagon uznał Anthropic za “ryzyko dla łańcucha dostaw“, po odmowie usunięcia zabezpieczeń na potrzeby wojska.

Później federalny sędzia wstrzymał większy zakaz po pozwie Anthropic.

17 kwietnia CEO Anthropic Dario Amodei spotkał się z przedstawicielami Białego Domu. Obie strony uznały rozmowy za “owocne”.

Według Axios, NSA już korzysta z Mythos do skanowania podatności, mimo czarnej listy Pentagonu.

BeInCrypto Polska - Mit AI Mythos firmy Anthropic uznanej za „zbyt niebezpieczną” zhakowany pierwszego dnia, podczas gdy Biały Dom planuje wdrożenie