Обещания Google по безопасности ИИ под scrutiny после отчета по Gemini

Google поделилась отчетом о безопасности своей флагманской модели искусственного интеллекта Gemini 2.5 Pro. Эксперты говорят, что она оставляет ключевые риски необъясненными.

Компания опубликовала технический документ в четверг, спустя несколько недель после выпуска Gemini 2.5 Pro для клиентов. В документе перечислены внутренние тесты, которые Google провел на модели, но приводится мало фактов о том, как система ведет себя под перегрузкой или misuse. Исследователи, просмотревшие документ, сказали TechCrunch, что отсутствие деталей затрудняет оценку того, действительно ли Gemini 2.5 Pro безопасна для широкого использования.

Технические отчеты являются одним из основных способов, с помощью которых общественность узнает, что могут и не могут делать продвинутые системы ИИ. Тщательный отчет часто показывает, где модель терпит неудачу и где она может быть использована неправильно. Многие исследователи ИИ рассматривают эти документы как честные усилия поддержать заявления компании о безопасности.

Google по-другому подходит к вопросам безопасности и отчетности.

Google публикует отчет только после того, как модель больше не помечается как «экспериментальная», а некоторые выводы о «опасных возможностях» выносятся в отдельный аудит, который не публикуется сразу. В результате в публичной статье освещаются не все угрозы, которые протестировала Google.

Несколько аналитиков назвали новый документ Gemini 2.5 Pro ярким примером ограниченного раскрытия информации. Они также заметили, что в отчете ни разу не упоминается Система безопасности Frontiers (Frontier Safety Framework, FSF) — политика, объявленная компанией в прошлом году для выявления будущих возможностей ИИ, способных причинить «серьезный вред».

«Этот отчет очень скудный, содержит минимальную информацию и появился через несколько недель после выхода модели в публичный доступ», — сказал Питер Вильдефорд, сооснователь Института политики и стратегии в области ИИ (Institute for AI Policy and Strategy). «Невозможно подтвердить, выполняет ли Google свои собственные обещания, а значит, невозможно оценить безопасность и защищенность его моделей».

Томас Вудсайд, сооснователь проекта Secure AI Project, сказал, что рад появлению хотя бы одного документа, но усомнился в планах Google выпускать регулярные дополнения. Он отметил, что в последний раз компания делилась результатами тестов на опасные возможности в июне 2024 года, и тогдашний отчет касался модели, анонсированной в феврале того же года.

Доверие упало еще больше, когда наблюдатели не нашли документа по безопасности для Gemini 2.5 Flash — более легкой и быстрой модели, которую Google представил на прошлой неделе. Представитель компании заявил, что документ по Flash «скоро появится».

«Надеюсь, это реальное обещание начать предоставлять более частые обновления», — сказал Вудсайд. «Эти обновления должны включать результаты для моделей, которые еще не вышли в публичный доступ, поскольку они также могут представлять серьезную опасность».

Google теперь не соответствует стандартам прозрачности

Безопасность Meta заметка для ее новых моделей Llama 4 занимает всего несколько страниц, в то время как OpenAI решила вообще не публиковать никаких отчетов для своей серии GPT‑4.1.

Нехватка деталей приходится на напряженное время. Два года назад Google сообщил правительству США, что будет публиковать отчеты о безопасности для каждой «значимой» модели ИИ в рамках сферы действия. Компания дала аналогичные обязательства перед чиновниками в других странах, заявив, что она обеспечит «публичную прозрачность» своих продуктов ИИ.

Кевин Банктон, старший советник по управлению ИИ в Центре демократии и технологий (Center for Democracy and Technology), назвал публикации ведущих лабораторий «гонкой ко дну» в вопросах безопасности.

«В сочетании с сообщениями о том, что конкурирующие лаборатории, такие как OpenAI, сократили время тестирования безопасности перед выпуском с месяцев до дней, эта скудная документация по флагманской модели Google рассказывает тревожную историю гонки ко дну в области безопасности ИИ и прозрачности, поскольку компании спешат вывести свои модели на рынок», — добавил он.

Google заявляет, что большая часть ее работы по безопасности проводится за закрытыми дверями. Компания утверждает, что каждая модель проходит строгие тесты, включая «враждебное тестирование с участием красных команд» (adversarial red teaming), перед любым публичным запуском.