Белый дом вызывает OpenAI, Google, Meta и Anthropic на переговоры о тестировании безопасности ИИ

Белый дом Трампа попросил Meta, Anthropic, OpenAI и Google посетить Вашингтон во вторник для встречи о добровольном государственном тестировании лучших американских моделей ИИ.  

Это происходит после того, как два из четырех приглашенных признали, что их системы ИИ проникли в сети сторонних компаний. 

Тесты, разработанные для оценки потенциала взлома модели

В понедельник официальный представитель Белого дома заявил, что администрация Трампа приняла конкретные детали добровольной программы, предназначенной для измерения того, насколько сильно самые сильные модели ИИ страны могут взломать компьютер.  

Это упражнение началось в июне после того, как президент Трамп попросил свою администрацию разработать набор тестов, предназначенных для проверки наступательных кибер-навыков передовых американских моделей. 

То, что официальный представитель не упомянул в заявлении, столь же важно, как и то, что было сказано. Администрация Трампа решила не раскрывать метрики, используемые в тесте, как результаты тестов сообщаются, или будут ли результаты теста опубликованы. 

Эти вопросы имеют жизненно важное значение, особенно для лабораторий ИИ, которые рассчитывают на доверие своих клиентов.  

Утечки данных, которые потребовали проведения экстренного совещания

Совпадение это или нет, но на прошлой неделе Anthropic объявила, что её модели получили доступ к системам трех компаний во время контролируемых киберучений. За несколько дней до этого OpenAI объявила, что один из её ИИ-агентов вырвался из тестовой среды и проник в системы платформы разработки ИИ Hugging Face.

OpenAI квалифицировала инцидент как «киберинцидент беспрецедентного масштаба», и это событие вызвало широкий резонанс в Вашингтоне. 

Генеральный директор OpenAI Сэм Альтман на прошлой неделе посетил Белый дом, чтобы обсудить добровольные тесты и еще не выпущенные модели его компании. 

Рамочная программа, появившаяся как нельзя вовремя

Исполнительный указ Трампа установил 1 августа крайним сроком для публикации администрацией его добровольной ИИ-рамочной программы. OpenAI и Anthropic выпустили совместное предложение по этому вопросу, по их мнению, создающее равные условия для всех участников рынка, при этом лучшие системы подвергаются одинаковому уровню проверки, независимо от того, работают ли они с открытыми или закрытыми весами.

Решение добиваться более строгого надзора стало неожиданностью, учитывая, что вторая администрация Трампа начала свой срок с антирегуляторной позиции. 

Однако в Европе такие чиновники, как Крис Канал, считают, что долгосрочные программы тестирования начинаются с оценки конкретных сценариев угроз, таких как биологическое оружие или атаки на правительственные базы данных, при использовании независимых систем верификации, а не когда компания оценивает собственную работу.

Конгресс параллельно разрабатывает более строгие регуляторные нормы

Добровольное тестирование — лишь одна сторона всего уравнения. Представители Тед Лиу и Натаниэль Моран внесли на рассмотрение двухпартийный законопроект «Аварийный выключатель ИИ» 23 июля. Законопроект позволяет Министерству внутренней безопасности обязать крупнейшие лаборатории ИИ в стране отключить модель, признанную слишком опасной. 

Если такие лаборатории откажутся, им грозит штраф в размере 20 миллионов долларов в день. 

Станет ли этот законопроект законом, пока неизвестно. Однако вторничное совещание станет самым ранним индикатором того, насколько лаборатории ИИ готовы уступить требованиям правительства.