«Серьезно тревожные» риски кибербезопасности затмевают новейшие сверхмощные модели Anthropic

Согласно отчетам, связанным с Fortune, утечка внутренних документов из Anthropic раскрыла существование нового поколения моделей ИИ под кодовым названием «Claude Mythos».

Однако более важной новостью является то, что новые модели, по сообщениям, уже находятся на этапе тестирования, несмотря на то, что считается, что они представляют «непрецедентные риски кибербезопасности».

Утечка данных Anthropic

Недавно Fortune опубликовала отчет содержащий утечку документов из компании искусственного интеллекта Anthropic. Документы раскрывают детали о новом поколении моделей ИИ, разрабатываемых, по сообщениям, под названием «Claude Mythos».

Утечка произошла из-за человеческой ошибки в конфигурации системы управления контентом (CMS) Anthropic. Рой Паз из LayerX Security и Александре Пауэлс из Кембриджского университета объяснили, что Anthropic оставила почти 3000 неопубликованных активов, включая изображения, PDF-файлы, аудиофайлы и черновики блогов, в общедоступном и доступном для поиска озере данных. 

Материалы были обнаружены в интернете до того, как Fortune уведомила Anthropic, после чего компания удалила публичный доступ.

Документы, просмотренные Fortune, утверждают, что Claude Mythos уже находится на этапе тестирования. Что более важно, в них утверждается, что Anthropic считает, что эта новая модель «представляет непрецедентные риски кибербезопасности». 

Anthropic заявила в черновике блога, что система «сейчас значительно опережает любую другую модель ИИ в кибервозможностях» и предупредила, что «это предвещает грядущую волну моделей, которые могут эксплуатировать уязвимости способами, которые далеко опережают усилия защитников».

Из-за потенциальных рисков Anthropic планировала осторожную стратегию развертывания, которая будет приоритизировать ранний доступ для организаций по кибербезопасности, давая защитникам преимущество в укреплении кодовых баз против эксплойтов на основе ИИ. 

Anthropic ранее сообщала, что китайская группа, связанная с государством, использовала Claude Code для проникновения примерно в 30 организаций, включая технологические компании, финансовые учреждения и государственные агентства, поэтому опасения не беспочвенны. 

Утечка документов также раскрыла детали саммита для генеральных директоров по приглашениям, запланированного в усадьбе XVIII века в английской деревне, где генеральный директор Anthropic Дарио Амодей должен был провести встречу с европейскими бизнес-лидерами для обсуждения внедрения ИИ и демонстрации возможностей еще не выпущенных моделей Claude.

Продолжающаяся битва Илона Маска с Anthropic 

Когда новость появилась в X и привлекла значительное внимание, Илон Маск, владелец X и глава xAI, прямого конкурента Anthropic, не упустил возможности прокомментировать новость. 

Маск заметил, «Серьезно тревожные», и быстро набрал десятки тысяч просмотров и тысячи лайков. 

У Маска есть привычка комментировать негативные новости о конкурентах, с которыми он не согласен. Anthropic была основана бывшими сотрудниками OpenAI, и Маск открыто критиковал как OpenAI, так и общий подход индустрии ИИ к безопасности и коммерциализации.

Тем временем, собственная компания Маска по ИИ, xAI, недавно запустила новый платный уровень подписки под названием «SuperGrok Lite». Подписка стоит $10, и для бесплатных пользователей Grok были введены ограничения, чтобы подтолкнуть их к покупке этого или любого из трех других планов подписки, которые предлагает Grok. 

Они включают SuperGrok, который стоит $30 в месяц, SuperGrok Heavy, который стоит $300 в месяц, и Grok Business, который также стоит $30 в месяц.