«Серьезно тревожные» риски в сфере кибербезопасности омрачают новейшиеtronмодели Anthropic

Согласно сообщениям, опубликованным в журнале Fortune, просочившиеся внутренние документы компании Anthropic раскрыли существование нового поколения моделей искусственного интеллекта под кодовым названием «Claude Mythos»

Однако главная новость заключается в том, что новые модели, как сообщается, уже находятся на стадии тестирования, несмотря на то, что, по мнению разработчиков, они представляют «dentриски в области кибербезопасности»

Утечка данных Anthropic

Журнал Fortune недавно опубликовал отчет, содержащий утечку документов из компании Anthropic, занимающейся разработкой искусственного интеллекта. Документы раскрывают подробности о новом поколении разрабатываемых моделей ИИ, предположительно получивших название «Claude Mythos».

Утечка произошла из-за человеческой ошибки в конфигурации системы управления контентом (CMS) Anthropic. Рой Паз из LayerX Security и Александр Пауэлс из Кембриджского университета объяснили, что Anthropic оставила около 3000 неопубликованных ресурсов, включая изображения, PDF-файлы, аудиофайлы и черновики сообщений в блоге, в общедоступном и доступном для поиска хранилище данных. 

Материал был доступен в интернете до того, как журнал Fortune уведомил компанию Anthropic, после чего компания закрыла к нему публичный доступ.

Документы, с которыми ознакомилось издание Fortune, утверждают, что Claude Mythos уже находится на этапе тестирования. Что еще более важно, в них говорится, что Anthropic считает, что эта новая модель «представляетdentриски в области кибербезопасности» 

В черновике статьи в блоге компания Anthropic заявила, что система «в настоящее время значительно опережает любую другую модель ИИ в области кибербезопасности», и предупредила, что «она предвещает грядущую волну моделей, которые смогут использовать уязвимости способами, значительно превосходящими усилия защитников»

Ввиду потенциальных рисков компания Anthropic разработала осторожную стратегию внедрения, которая предусматривала приоритетный ранний доступ для организаций, занимающихся кибербезопасностью, что давало бы специалистам по защите от киберугроз преимущество в укреплении кодовых баз против эксплойтов, созданных с помощью ИИ. 

Ранее издание Anthropic сообщало, что спонсируемая китайским государством группа использовала «Код Клода» для внедрения в около 30 организаций, включая технологические компании, финансовые учреждения и правительственные агентства, поэтому опасения небезосновательны. 

Утекшие документы также раскрыли подробности закрытого саммита руководителей компаний, запланированного в поместье XVIII века в английской сельской местности, где генеральный директор Anthropic Дарио Амодей должен был принять европейских бизнес-лидеров для обсуждения внедрения ИИ и демонстрации еще не выпущенных возможностей модели Клода.

Продолжающаяся борьба Илона Маска с компанией Anthropic 

После того как новость о компании X получила широкое распространение и привлекла значительное внимание, Илон Маск, владелец X и глава xAI, прямого конкурента Anthropic, не упустил возможности прокомментировать эту новость. 

Маск прокомментировал: «Это действительно тревожно», и пост быстро набрал десятки тысяч просмотров и тысячи лайков. 

У Маска есть привычка комментировать негативные новости о конкурентах, с которыми он не согласен. Компания Anthropic была основана бывшими сотрудниками OpenAI, и Маск открыто критиковал как OpenAI, так и подход индустрии ИИ в целом к ​​безопасности и коммерциализации.

Тем временем собственная компания Маска, занимающаяся искусственным интеллектом, xAI, недавно запустила новый платный тарифный план под названием «SuperGrok Lite». Стоимость подписки составляет 10 долларов, и для бесплатных пользователей Grok установлены ограничения, чтобы подтолкнуть их к покупке этого или любого другого из трех предлагаемых Grok тарифных планов. 

В их число входят SuperGrok, стоимость которого составляет 30 долларов в месяц, SuperGrok Heavy, стоимость которого составляет 300 долларов в месяц, и Grok Business, стоимость которого также составляет 30 долларов в месяц.