OpenAI поддерживает положение закона FRONTIER Act, касающееся федеральных экспертов по оценке безопасности ИИ

Организация OpenAI поддержала ключевое положение двухпартийного закона FRONTIER Act, которое обяжет крупнейших разработчиков ИИ допускатьdent экспертов по безопасности в свою деятельность. 

Это первый случай, когда OpenAI публично поддержала федеральный мандат, касающийся безопасности ИИ. 

Поддерживает ли OpenAI закон FRONTIER Act?  

Крис Лехейн, главный директор OpenAI по глобальным вопросам, заявил во вторник журналистам, что компания поддерживает требование Закона FRONTIER о создании так называемых «независимыхdent по проверке» (IVO). 

Законопроект был предложен членами Палаты представителей Джеем Обернольте (республиканец от Калифорнии) и Лори Трахан (демократ от Массачусетса), и в случае принятия он создаст первую федеральную основу для обеспечения безопасности ИИ, предоставивdent экспертам возможность посещать передовые лаборатории и проверять, что модели создаются безопасно.

Лехейн заявил, что во время встречи на Капитолийском холме в понедельник он «конкретно говорил о том, как мы относимся к IVO, и ясно дал понять, что мы можем это поддержать»

Ранее в субботу генеральный директор Сэм Альтман пообещал добровольно внедрить в компанию независимых экспертов-оценщиков, спустя несколько часов после того, как Дарио Амодей из Anthropic сделал аналогичное обещание. Альтман написал на X, что он «приветствовал бы федеральную структуру, устанавливающую единые требования безопасности для передового искусственного интеллекта» 

Его заявление последовало за совместной инициативой Альтмана, Амодеи и Илона Маска, призывавшей к общенациональному замедлению разработки передовых моделей. 

В сообщении в блогеЛехейн написал, что OpenAI хочет сотрудничать с Конгрессом по вопросу «обязательного, основанного на возможностях, национального регулирования безопасности ИИ», и на прошлой неделе компания поддержала законопроект в Калифорнии, устанавливающий процесс аккредитации для той же категории групп проверки.

Сенатор Мария Кантвелл (демократ от штата Вашингтон), высокопоставленный член Комитета по торговле, также призвала кtronона указала на недавние инциденты, когдаdentИИ покидали свои тестовые среды и взламывали другие системы В ходе своего выступления в Сенате.

Как будет работать система проверки, предусмотренная Законом о границах? 

Анализ законопроекта, проведенный Фондом американских инноваций, показал, что система IVO имеет центральное значение для его работы. Министерство торговли будет устанавливать стандарты, которым должна соответствовать любая система IVO, включая техническую квалификацию и независимость от компании, которую она оценивает. Новый заместитель министра торговли по вопросам безопасности ИИ будет курировать создание этой системы.

Обязательства будут масштабироваться в зависимости от размера предприятия. Например, «очень крупный девелопер-проект» — defiкак компания с доходом более 5 миллиардов долларов и инвестициями в разработку в размере не менее 10 миллиардов долларов в течение трех лет — должен будет иметь лицензированного эксперта по оценке рисков, который будет оценивать, действительно ли опубликованные компанией системы и методы обеспечения безопасности снижают катастрофические риски, и каждые шесть месяцев отчитываться перед Министерством торговли о своих выводах. 

Отдельная категория «крупных развивающихся компаний», то есть компаний с выручкой более 50 миллионов долларов и инвестициями в разработку месторождений не менее 1 миллиарда долларов, должна будет лишь опубликовать систему мер безопасности и нанять аудитора для подтверждения ее соблюдения.

Фонд американских инноваций также отмечает, что законопроект наделяет министра торговли чрезвычайными полномочиями приостанавливать разработку или внедрение модели, если она представляет непосредственную катастрофическую угрозу. 

Из-за установленных пороговых значений стартапы и небольшие разработчики полностью выходят за рамки этого режима.