Компания Anthropic запускает кибер-ИИ, ограничивая его использование общественностью

В среду компания Anthropic запустила Claude Mythos Preview, новую модель кибер-искусственного интеллекта, но использовать ее для широкой публики невозможно.

В своем сообщении в блоге компания заявила: «Модели искусственного интеллекта достигли такого уровня мастерства в программировании, что могут превзойти всех, кроме самых опытных людей, в поиске и использовании уязвимостей программного обеспечения»

Компания, занимающаяся разработкой искусственного интеллекта, заявила, что, по ее оценкам, глобальные потери от киберпреступности составляют около 500 миллиардов долларов в год.

По данным Anthropic, в группу, занимающуюся запуском Mythos Preview, входят Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks.

Доступ получили и более 40 других организаций, которые разрабатывают или поддерживают критически важное программное обеспечение. Компания Anthropic заявила, что предоставит до 100 миллионов долларов в виде кредитов на использование и 4 миллиона долларов прямой поддержки группам, занимающимся вопросами безопасности открытого исходного кода.

В своем пресс-релизе компания Anthropic утверждает, что в Mythos Preview якобы обнаружены тысячи серьезных уязвимостей во всех основных операционных системах и веб-браузерах.

В качестве примера можно привести уязвимость в OpenBSD, существовавшую 27 лет, которая позволяла злоумышленнику удаленно вызвать сбой в работе машины, просто подключившись к ней. Другой пример — уязвимость в FFmpeg, существовавшая 16 лет и скрывавшаяся в коде, которую автоматизированные инструменты обнаружили пять миллионов раз, так и не выявив проблему.

Модель также обнаружила и связала воедино несколько уязвимостей в ядре Linux, позволяющих злоумышленнику перейти от обычного доступа пользователя к полному контролю над машиной.

Компания Anthropic заявила, что в отношении других уязвимостей планирует опубликовать криптографические хеши сейчас и раскроет больше информации после того, как будут внесены исправления, поскольку модель обнаружила почти все эти уязвимости и самостоятельно разработала множество связанных с ними эксплойтов.

На платформе CyberGym Mythos Preview показал 83,1% при воспроизведении уязвимости, по сравнению с 66,6% у Claude Opus 4.6. VentureBeat отдельно сообщила о 93,9% по результатам проверки SWE-bench Verified против 80,8% у Opus 4.6.

Затем компания Anthropic объяснила, что в современных передовых системах удалось снизить затраты, усилия и квалификацию, необходимые для обнаружения и использования уязвимостей в системе безопасности.

Glasswing дает партнерам преимущество в более быстрой кибервойне

В рамках проекта Glasswing партнеры будут использовать Mythos Preview для защиты внутренних систем и открытого исходного кода.

Компания Anthropic заявила, что работа будет включать в себя локальное обнаружение уязвимостей, тестирование бинарных файлов методом «черного ящика», защиту конечных точек и тестирование на проникновение.

После предварительного ознакомления с исследованием участники смогут получить доступ к модели через API Claude, Amazon Bedrock, Google Cloud Vertex AI и Microsoft Foundry по цене 25 долларов за миллион входных токенов и 125 долларов за миллион выходных токенов.

Компания также сообщила, что выделила 2,5 миллиона долларов организациям Alpha-Omega и OpenSSF через фонд Linux Foundation, а также 1,5 миллиона долларов фонду Apache Software Foundation.

AWS заявила, что анализирует более 400 триллионов сетевых потоков в день, Microsoft сообщила, что модель продемонстрировала улучшение показателей на базе CTI-REALM, CrowdStrike заявила, что разрыв между обнаружением уязвимости и ее эксплуатацией сократился, а Google заявила, что предоставит модель через Vertex AI, в то время как Palo Alto Networks заявила, что специалистам по защите необходимы эти инструменты до того, как их получат злоумышленники.

Газета New York Times сообщила в конце прошлого года, что компания Anthropic заявила, что поддерживаемые государством китайские хакеры использовали ее искусственный интеллект для атак примерно на 30 компаний и правительственных учреждений, при этом операторы-люди выполняли лишь 10-20% работы.

В отчете также говорится, что злоумышленники уже используют ИИ для составления фишинговых писем, написания записок с требованием выкупа, сортировки украденных данных и ускорения продаж утечек.