Виталик Бутерин вступился за Grok на фоне критики нейросети Маска

Чат-бот Grok от стартапа xAI Илона Маска делает платформу X более «дружелюбной к правде». Об этом заявил сооснователь Ethereum Виталик Бутерин.

The easy ability to call @grok on twitter is probably the biggest thing after community notes that has been positive for the truth-friendliness of this platform.

The fact that you don't see ahead of time how grok will respond is key here — I've seen many situations where someone…

«Простая возможность обратиться к Grok в Twitter — наверное, самая значимая вещь после Community Notes, которая положительно повлияла на стремление этой площадки к истине», — написал он.

По словам программиста, главное преимущество чат-бота — непредсказуемость его ответов.

«Мне не раз доводилось видеть, как пользователь обращается к нему за подтверждением своей радикальной политической позиции, а в ответ получает жесткую и отрезвляющую реальность», — пояснил Бутерин.

Сооснователь Ethereum назвал Grok «безусловным улучшением» для X, но предупредил о сопутствующих рисках. Он отметил, что модель дообучается на мнениях узкого круга пользователей и самого Илона Маска, перенимая их взгляды.

В ноябре пользователи обратили внимание на предвзятость Grok. Чат-бот значительно переоценивал способности миллиардера. LLM назвала Маска сильнее Майка Тайсона, красивее Брэда Питта, смешнее Джерри Сайнфелда и стройнее Билли Айлиш.

«У Билли есть формы и харизма, но Илон выдерживает нагрузку, связанную с управлением несколькими компаниями и отцовством, что объективно делает его более выносливым», — говорила нейросеть.

Маск объяснил подобные галлюцинации работой «враждебных промптов» — намеренно искаженных запросов. Криптоиндустрия увидела в этом эпизоде аргумент в пользу децентрализации искусственного интеллекта.

«Когда самые мощные ИИ-системы принадлежат одной компании, создаются условия, при которых алгоритмическая предвзятость становится институционализированной», — отметил технический директор облачной платформы Aethir Кайл Окамото.

В августе Grok слил 370 000 переписок с пользователями в Google, а в сентябре чат-бот научили публиковать скам-ссылки.

В декабре модель неоднократно распространяла дезинформацию о массовой перестрелке на пляже Бонди в Австралии.

Напомним, в мае Telegram и xAI заключили партнерство на год для распространения Grok среди пользователей мессенджера и его интеграции «во все приложения».

Подписывайтесь на ForkLog в социальных сетях

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

Источник