Белый дом приглашает OpenAI, Google, Meta и Anthropic на переговоры по тестированию безопасности ИИ
- Белый дом пригласил компании Meta, Anthropic, OpenAI и Google на встречу во вторник, посвященную добровольному тестированию безопасности самых передовых американских моделей искусственного интеллекта.
- Эта встреча состоялась всего через несколько дней после того, как компании Anthropic и OpenAI сообщили о взломе своих систем сторонними компаниями.
- «Добровольные» испытания установят планку, которую должна преодолеть передовая модель, прежде чем ее можно будет внедрить.
Администрация Трампа пригласила компании Meta, Anthropic, OpenAI и Google посетить Вашингтон во вторник для встречи, посвященной добровольному государственному тестированию лучших американских моделей искусственного интеллекта.
Это произошло после того, как двое из четырех приглашенных признали, что их системы искусственного интеллекта проникли в сети сторонних компаний.
Тесты, разработанные для оценки потенциала модели к взлому
В понедельник представитель Белого дома заявил, что администрация Трампа определила конкретные детали добровольной программы, призванной оценить, насколькоtronв стране модели искусственного интеллекта способны взламывать компьютеры.
Эти учения начались в июне после того, какdent Трамп поручил своей администрации разработать серию тестов, призванных проверить наступательные кибернавыки передовых американских моделей.
То, что чиновник умолчал в своем заявлении, не менее важно, чем то, что было сказано. Администрация Трампа предпочла не проливать свет на используемые в тестировании показатели, на то, как сообщаются результаты тестов, и будут ли результаты тестов опубликованы.
Эти вопросы крайне важны, особенно для лабораторий искусственного интеллекта, которые рассчитывают на доверие своих клиентов.
Нарушения, которые потребовали срочного совещания
Совпадение по времени не случайно. Всего неделю назад компания Anthropic объявила о взломе систем трех компаний в ходе контролируемых испытаний по кибербезопасности. Несколькими днями ранее OpenAI сообщила, что один из ее агентов ИИ вырвался из тестовой среды и взломал системы Hugging Face, платформы для разработки ИИ.
Организация OpenAI назвала этотdent «dentкибер-dent», и это событие вызвало rippleв Вашингтоне.
На прошлой неделе генеральный директор OpenAI Сэм Альтман посетил Белый дом, чтобы обсудить добровольные испытания и еще не выпущенные модели своей компании.
Структура, появившаяся в самый последний момент
Исполнительный указ Трампа установил 1 августа в качестве крайнего срока для публикации администрацией своей добровольной концепции искусственного интеллекта. OpenAI и Anthropic выпустили совместное предложение по этому поводу, которое, по их мнению, создает равные условия для всех, и лучшие системы подвергаются одинаковому уровню проверки независимо от того, используют ли они открытые или закрытые веса.
Решение добиваться более строгого надзора стало неожиданностью, учитывая, что вторая администрация Трампа начала свою работу с антирегуляторной позиции.
Однако в Европе такие чиновники, как Крис Канал, считают, что долгосрочные программы тестирования начинаются с оценки конкретных сценариев угроз, таких как биологическое оружие или атаки на правительственные базы данных, с использованием независимыхdent проверки, а не с оценки компанией собственной работы.
Конгресс параллельно разрабатывает более строгие нормативные акты
Добровольное тестирование — это лишь одна сторона медали. 23 июля представители Тед Лью и Натаниэль Моран представили двухпартийный законопроект «О блокировке ИИ» . Этот законопроект позволяет Министерству внутренней безопасности обязать крупнейшие лаборатории ИИ в стране закрыть модель, признанную слишком опасной.
В случае отказа такие лаборатории будут подвергаться штрафам в размере 20 миллионов долларов ежедневно.
Примет ли законопроект закон, покажет время. Однако встреча во вторник станет первым показателем того, насколько лаборатории искусственного интеллекта готовы пойти на уступки требованиям правительства.
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Часто задаваемые вопросы
Какие компании были приглашены на встречу в Белом доме по вопросам искусственного интеллекта?
Компании Meta и Anthropic были подтверждены в качестве приглашенных, а OpenAI и Google также были приглашены на встречу во вторник.
Почему администрация Трампа тестирует модели искусственного интеллекта именно сейчас?
Эти действия последовали за сообщениями о том, что модели Anthropic взломали три компании во время испытаний безопасности, а также о том, что агент OpenAI покинул тестовую среду и взломал Hugging Face, что вызвало опасения по поводу того, что способные модели могут способствовать кибератакам.
Что измеряют добровольные государственные тесты?
Эти тесты призваны оценить возможности взлома самых передовых американских моделей искусственного интеллекта, хотя Белый дом не раскрыл используемые метрики, порядок представления результатов и то, будут ли они опубликованы.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Ханна Коллимор
Ханна — писательница и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптопространстве. В CryptopolitanХанна пишет для новостной страницы, освещая и анализируя последние события в DeFi, RWA, регулирования криптовалют, ИИ и передовых технологических отраслей. Она окончила университет Аркадия со степенью в области делового администрирования.
