ШІ став хакером: уперше сам викрав дані та вимагав викуп

Аналітики Sysdig зафіксували перший в історії випадок використання "агентного вірусу-вимагача" під назвою JadePuffer. Усі технічні етапи кібератаки від початку і до кінця виконав автономний ШІ, а не людина.

Про це повідомляє РБК-Україна з посиланням на TechCrunch.

Під час зафіксованої кібератаки цифровий ШІ-агент діяв наче справжній хакер. Алгоритм

• самостійно проник на вразливий сервер,
• викрав конфіденційні дані,
• зміг безперешкодно переміститися внутрішньою мережею жертви,
• успішно зашифрував понад 1300 важливих конфігураційних записів виробничого сервера MySQL.

Ба більше, ШІ без допомоги кураторів написав унікальний текст із вимогою викупу та залишив хакерську Bitcoin-адресу для переказу коштів.

ШІ проникав у системи через відому помилку у Langflow - популярному інструменті з відкритим кодом, який програмісти використовують для створення додатків на базі великих мовних моделей (LLM).

Експертів найбільше вразила швидкість та прозорість дій алгоритму. Коли під час спроби входу виникла помилка, ШІ-агент зміг самостійно проаналізувати проблему та виправити невдалу спробу авторизації всього за 31 секунду.

При цьому комп'ютерний вірус детально описував усю свою логіку та хід думок у коментарях до коду звичайною людською мовою.

Попри те, що за клавіатурою під час самого зламу не було людини, кібершахрай все ж брав участь у підготовці.

Людина обрала конкретну жертву, налаштувала базову інфраструктуру, підготувала сервери для збору викраденої інформації та запустила роботу агента.

Паролі для первинного входу також здобули заздалегідь через минулі вразливості та просто передали роботу.

Під час чистки сервера ШІ намагався забрати все найцінніше.

Здобиччю ШІ-хакера стали:

• секретні API-ключі провайдерів штучного інтелекту (OpenAI, Anthropic, DeepSeek та Gemini);
• паролі та ключі доступу до хмарних сховищ;
• файли конфігурації баз даних;
• цифрові криптовалютні гаманці.

Фахівці з безпеки поки не змогли встановити точну ШІ-модель, яка керувала кібератаками, адже не мають доступу до внутрішніх налаштувань вірусу JadePuffer.

Проте дослідники припускають, що зловмисники використали одну з відомих моделей із відкритим кодом (open-weight), з якої попередньо повністю стерли всі закладені розробниками безпекові обмеження та ліміти.

Аналітики попереджають, що автоматизація хакерських атак зніме обмеження на кількість одночасних нападів. Оскільки запуск такого ШІ-робота коштує дешево, невдовзі мережу може затопити хвиля з тисяч подібних автономних кампаній, що працюватимуть одночасно.

Ще більше цікавого:

• Достатньо одного промпту: як ChatGPT обходить власні обмеження
• ШІ допоміг закрити наукову суперечку, що тривала понад 10 років