Спецслужби провідних країн світу попередили про появу нового руйнівного ШІ: про що мова

Розвідувальні та кібербезпекові служби країн альянсу "П'ять очей" заявили, що нове покоління моделей штучного інтелекту може суттєво посилити кібератаки вже найближчим часом, йдеться буквально про кілька місяців.

Про це повідомляє РБК-Україна з посиланням на The Guardian.

Спецслужби країн альянсу "П'ять очей", до якого входять США, Велика Британія, Канада, Австралія та Нова Зеландія, виступили зі спільним попередженням щодо стрімкого розвитку штучного інтелекту.

На їхню думку, нові моделі ШІ можуть відкрити зловмисникам значно ширші можливості для проведення складних кібератак проти державних структур і приватного бізнесу.

У заяві наголошується, що хоча технології штучного інтелекту здатні посилити кіберзахист, одночасно вони збільшують швидкість, масштаб і складність кіберзагроз. Представники спецслужб закликали уряди та компанії готуватися до цих викликів уже зараз.

За оцінкою авторів документа, передові моделі ШІ можуть перевершити нинішні прогнози галузі та кардинально змінити як наступальні, так і оборонні можливості в кіберпросторі. У заяві окремо підкреслюється, що мова йде про місяці, а не роки.

Фахівці також застерігають, що подальший розвиток штучного інтелекту знизить технічні бар'єри для хакерів і дозволить проводити атаки швидше та ефективніше. У зв'язку з цим спецслужби закликають до комплексної відповіді як на рівні окремих організацій, так і на рівні держав.

Експертка з питань національної безпеки та штучного інтелекту Центру досліджень США при Сіднейському університеті Олівія Шен заявила, що нові потужні моделі можуть з'явитися вже найближчим часом. Вона також не виключила, що аналогічні розробки можуть вестися не лише західними компаніями, а й іншими державами, зокрема Китаєм.

Нагадаємо, у травні країни "П'яти очей" оприлюднили рекомендації щодо ризиків, пов'язаних з автономними системами штучного інтелекту. А на початку червня компанія Anthropic представила нові моделі Fable та Mythos, які отримали розширені можливості для пошуку вразливостей у програмному коді.

Крім того, за даними The Economist, у Сенаті США заявляли, що одна з нових моделей ШІ змогла за лічені години отримати доступ до більшості захищених систем американських спецслужб. Після цього влада США запровадила додаткові обмеження на доступ іноземців до нових розробок Anthropic.

РБК-Україна також писало, що штучний інтелект нового покоління демонструє перші ознаки ймовірного виходу з-під контролю людини - американська компанія Anthropic виступила з ініціативою оголосити тимчасову паузу на створення найпотужніших LLM.