Пауелл, Бессент попереджають банки про ризики безпеки від Mythos AI компанії Anthropic: Bloomberg

Міністр фінансів США Скотт Бессент та голова Федеральної резервної системи Джером Пауелл скликали зустріч з генеральними директорами банків Уолл-стріт на початку цього тижня, щоб попередити про ризики кібербезпеки, пов'язані з новою моделлю штучного інтелекту від Anthropic.

Згідно зі звітом Bloomberg, зустріч включала керівників Citigroup, Bank of America, Wells Fargo, Morgan Stanley та Goldman Sachs. Посадовці обговорили нову ШІ-модель Anthropic Mythos, яка нещодавно викликала широке занепокоєння через її очевидні передові можливості кібербезпеки.

Посадовці скликали зустріч, щоб переконатися, що банки розуміють ризики, які становлять системи, здатні ідентифікувати та використовувати вразливості програмного забезпечення в операційних системах та веб-браузерах, а також заохотити установи посилити захист від потенційних кібератак за допомогою ШІ на фінансову інфраструктуру.

Дослідники з питань безпеки попереджали, що інструменти, здатні автоматично виявляти вразливості, можуть прискорити як захисну роботу з безпеки, так і зловмисне злом у разі неправильного використання.

Модель Mythos від Anthropic вперше з'явилася в мережі в березні після того, як чернетки матеріалів про систему потрапили в мережу, розкриваючи те, що компанія описала як свою найздатнішу ШІ-модель на сьогодні. Під час тестування система нібито виявила тисячі раніше невідомих вразливостей програмного забезпечення, включаючи вразливості нульового дня в основних операційних системах та веб-браузерах.

Дослідники Anthropic повідомили у звіті на початку цього тижня, що можливості Mythos Preview щодо виявлення вразливостей не були навмисно навчені, а натомість виникли з ширших покращень у кодуванні, міркуванні та автономності моделі.

"Ті самі покращення, які роблять модель значно ефективнішою у виправленні вразливостей, також роблять її значно ефективнішою у їх використанні," написала компанія.

Через ці можливості Anthropic обмежила доступ до невеликої групи організацій з кібербезпеки.

"Враховуючи силу її можливостей, ми обережні щодо того, як ми її випускаємо," заявила Anthropic. "Як стандартна практика в галузі, ми працюємо з невеликою групою клієнтів раннього доступу, щоб протестувати модель. Ми вважаємо цю модель кроком вперед і найздатнішою, яку ми створили на сьогодні."

Щоб вирішити цей ризик, Anthropic тестує Mythos через Project Glasswing, співпрацю з великими технологічними компаніями та компаніями з кібербезпеки, яка використовує модель для виявлення та виправлення вразливостей у критично важливому програмному забезпеченні до того, як зловмисники зможуть їх використати.

"Project Glasswing - це початкова точка. Жодна організація не може вирішити ці проблеми кібербезпеки сама," заявила компанія. "Передові розробники ШІ, інші програмні компанії, дослідники з питань безпеки, супроводжувачі відкритого коду та уряди по всьому світу мають важливі ролі."

Anthropic не відразу відповіла на запит Decrypt про коментар.