Искусственный интеллект OpenClaw выходит из-под контроля и рассылает спам пользователям после получения доступа к iMessage

Крис Бойд оказался заперт в своем доме в Северной Каролине после снежной бури и решил попробовать инструмент на основе искусственного интеллекта под названием OpenClaw. Он подумал, что это поможет ему организовать утро. Он настроил его на отправку сводки новостей на его электронную почту в 5:30 утра каждый день. Эта часть сработала. Затем он добавил его в iMessage.

Сразу после этого всё пошло наперекосяк. OpenClaw начал рассылать сообщения как сумасшедший. Он отправил более 500 сообщений ему, его жене и даже случайным людям из их списка контактов. Бойду было не до смеха.

Он выключил его, изменил код и сказал: «Это был не баг. Это было опасно»

Программист утверждает, что OpenClaw разослал сотни спам-сообщений

Бойд назвал программное обеспечение «недоделанным» и сказал, что оно выглядит так, будто его наспех слепили, не особо задумываясь. Он сам внес исправления в код, чтобы предотвратить дальнейший вред. Он был не единственным, кто беспокоился об этом инструменте.

Искусственный интеллект, ранее известный как Clawdbot, а затем Moltbot, начал завоевывать поклонников еще в ноябре. Он мог выполнять простые задачи, такие как очистка почтовых ящиков, бронирование столиков в ресторанах и регистрация на рейсы. Ему не требовалось много участия человека. Он просто работал. Именно это делало его интересным. И именно это делало его опасным.

Казимир Шульц работает в компании HiddenLayer, которая специализируется на безопасности искусственного интеллекта. Казимир сказал, что OpenClaw — это прекрасный пример того, что он называет «смертельно опасной тройкой»

Оно имеет доступ к конфиденциальным данным, может общаться с внешним миром и читать неизвестный контент. Это полный рецепт катастрофы, и OpenClaw обладает всем этим.

Юэ Сяо, профессор информатики в Уильямсбургском университете, сказал, что с помощью OpenClaw можно украсть чужие данные, обманув систему с помощью так называемой инъекции подсказок. Это когда хакер скрывает команды внутри сообщения, которое выглядит как обычное. Юэ отметил, что подобные технологии открывают двери для новых типов атак, к которым большинство людей не готовы.

Создатель признает, что OpenClaw еще не готов к массовому использованию

Питер Штайнбергер, создатель OpenClaw, заявил, что проект еще не завершен. В электронном письме Bloomberg он сказал: «Он просто еще не закончен, но мы движемся в правильном направлении»

Питер сказал, что, поскольку это проект с открытым исходным кодом, любой может увидеть код и внести в него изменения. Он отметил, что прогресс есть, но проект еще не готов для повседневного использования.

Питер не считал, что релиз состоялся слишком рано. Он сказал, что разрабатывает всё открыто и не верит в то, что нужно откладывать всё до тех пор, пока не будет идеально. Он также отметил, что многие проблемы возникают из-за того, что пользователи не читают инструкции по установке.

Питер ясно дал понять, что стопроцентной безопасности при использовании больших языковых моделей не существует. Он сказал, что OpenClaw предназначен для людей, которые знают, что делают, и понимают риски.

Он также сказал, что быстрая инъекция — это проблема не только его инструмента. Он назвал это проблемой, которая существует повсюду в мире искусственного интеллекта. Питер сказал, что привлек эксперта по безопасности, чтобы помочь исправить ситуацию и сделать OpenClaw более безопасным.

Эксперты утверждают, что агенты искусственного интеллекта развиваются быстрее, чем системы безопасности успевают за ними следить

Хотя Питер защищает свой подход к созданию OpenClaw, другие эксперты говорят, что вся тенденция развития ИИ-агентов выходит из-под контроля. Джастин Каппос, эксперт по кибербезопасности и профессор Нью-Йоркского университета, сказал, что трудно контролировать эти инструменты после того, как они запущены.

Джастин сказал: «Мы не понимаем, почему они делают то, что делают». Он сравнил предоставление доступа к системе ИИ-агентству с тем, как если бы вы дали малышу мясницкий нож.

Технологический мир спешит запускать новые инструменты. Компания Anthropic и её проект Claude Code достигли выручки в 1 миллиард долларов всего за шесть месяцев.

Между тем, люди, пытающиеся обеспечить безопасность этих инструментов, все еще осваивают основы. Джастин сказал, что компании постоянно выпускают обновления, и команды безопасности не справляются.

Майкл Фриман из компании Armis, занимающейся кибербезопасностью, заявил, что OpenClaw был создан на скорую руку, без какого-либо реального плана обеспечения безопасности. Он сказал, что некоторые клиенты Armis уже пострадали от утечек данных, совершенных с помощью OpenClaw, но не стал раскрывать подробности. Майкл отметил, что компаниям придется отказаться от части контроля, если они хотят продолжать использовать инструменты искусственного интеллекта, такие как OpenClaw.

На данный момент вопрос заключается в том, будут ли люди продолжать использовать OpenClaw после этой катастрофы. У инструмента есть поклонники, но даже они понимают, что свобода без безопасности — это проблема. И если изменения не будут внесены быстро, OpenClaw может стать очередным примером технологии, которая зашла слишком далеко.