Інженер-програміст каже, що OpenClaw надіслав сотні спам-повідомлень

Кріс Бойд застряг у своєму будинку в Північній Кароліні після снігової бурі, коли вирішив спробувати ШІ-інструмент під назвою OpenClaw. Він думав, що це може допомогти організувати його ранки. Він налаштував його для надсилання підсумку новин на його електронну пошту щодня о 5:30 ранку. Ця частина спрацювала. Потім він надав йому доступ до iMessage.

Відразу після цього все розвалилося. OpenClaw почав розсилати повідомлення як божевільний. Він надіслав понад 500 повідомлень йому, його дружині і навіть випадковим людям з їхнього списку контактів. Бойду було не до сміху.

Він вимкнув його, змінив код і сказав: "Це було не просто з помилками. Це було небезпечно".

Інженер-програміст каже, що OpenClaw розіслав сотні спам-повідомлень

Бойд назвав програмне забезпечення "недопрацьованим" і сказав, що воно виглядає як щось зліплене без особливих роздумів. Він сам виправив код, щоб зупинити подальшу шкоду. Він був не єдиним, хто піднімав тривогу щодо цього інструменту.

ШІ-агент, який раніше називався Clawdbot, а пізніше Moltbot, почав набирати популярність ще в листопаді. Він міг виконувати прості завдання, як-от очищення вхідних скриньок, бронювання столиків у ресторанах та швидка реєстрація на рейси. Йому не потрібно було багато людського втручання. Він просто працював. Саме це робило його цікавим. Це ж робило його небезпечним.

Казимір Шульц працює в компанії HiddenLayer, яка спеціалізується на безпеці ШІ. Казимір сказав, що OpenClaw є ідеальним прикладом того, що він називає "смертельним тріо".

Він має доступ до приватних даних, може спілкуватися із зовнішнім світом і може читати невідомий контент. Це повний рецепт катастрофи, і OpenClaw має все це.

Юе Сяо, професор комп'ютерних наук у Вільяма та Мері, сказав, що можна викрасти чиїсь дані через OpenClaw, обманюючи його за допомогою так званої ін'єкції промптів. Це коли хакер ховає команди всередині того, що виглядає як звичайне повідомлення. Юе сказав, що такі технології відкривають двері для нових типів атак, до яких більшість людей не готова.

Творець визнає, що OpenClaw не готовий для масового використання

Пітер Штайнбергер, який створив OpenClaw, сказав, що проект не закінчений. Він написав Bloomberg в електронному листі: "Він просто ще не готовий, але ми до цього йдемо".

Пітер сказав, що оскільки це відкрите джерело, будь-хто може побачити код і працювати над ним. Він сказав, що прогрес є, але він ще не готовий для звичайних користувачів.

Пітер не вважав, що випуск відбувся занадто рано. Він сказав, що будує все відкрито і не вірить у те, щоб стримуватися до досягнення ідеалу. Він також сказав, що багато проблем виникають через те, що користувачі не читають інструкції з налаштування.

Пітер чітко дав зрозуміти, що не існує 100-відсоткової безпеки при використанні великих мовних моделей. Він сказав, що OpenClaw призначений для людей, які знають, що роблять, і розуміють ризики.

Він також сказав, що ін'єкція промптів - це не лише проблема його інструменту. Він назвав це проблемою, яка існує скрізь у світі ШІ. Пітер сказав, що залучив експерта з безпеки, щоб допомогти виправити ситуацію та зробити OpenClaw безпечнішим.

Експерти кажуть, що ШІ-агенти розвиваються швидше, ніж може встигнути безпека

Поки Пітер захищає спосіб, яким він створив OpenClaw, інші експерти кажуть, що весь тренд ШІ-агентів виходить з-під контролю. Джастін Капос, експерт з кібербезпеки та професор NYU, сказав, що важко контролювати ці інструменти, коли вони запущені.

Джастін сказав: "Ми не розуміємо, чому вони роблять те, що роблять". Він порівняв надання ШІ-агенту доступу до вашої системи з тим, щоб дати малюку м'ясницький ніж.

Технологічний світ поспішає запускати нові інструменти. Claude Code від Anthropic досяг темпу прибутку в $1 мільярд лише за шість місяців.

Тим часом люди, які намагаються забезпечити безпеку цих інструментів, все ще розбираються в основах. Джастін сказав, що компанії безперервно випускають оновлення, і команди з безпеки не встигають.

Майкл Фрімен з Armis, фірми з кібербезпеки, сказав, що OpenClaw було зліплено без жодного справжнього плану безпеки. Він сказав, що деякі клієнти Armis вже постраждали від порушень OpenClaw, але не поділився деталями. Майкл сказав, що компаніям доведеться відмовитися від частини контролю, якщо вони хочуть продовжувати використовувати ШІ-інструменти на кшталт OpenClaw.

Наразі питання полягає в тому, чи будуть люди все ще використовувати OpenClaw після цієї катастрофи. У інструменту є шанувальники, але навіть ці люди усвідомлюють, що свобода без безпеки - це проблема. І якщо зміни не будуть внесені швидко, OpenClaw може стати черговим прикладом технології, яка забігла занадто далеко вперед.

Хочете, щоб ваш проект побачили провідні умі криптосвіту? Представте його в нашому наступному галузевому звіті, де дані зустрічаються з впливом.